В статье "Buffer Overflow Attacks and Their Countermeasures" описано при каких условиях возникают уязвимости вида "переполнение буфера".