> а SIGSEGV - обычный юниксвей

ну, в целом, да - с тех самых пор как sbrk() заменили на mmap() из /dev/zero.
Нет, это именно в FreeBSD так. А что тебе не так с segfault на fork ? fork, by design, умеет вернуть только два состояния - pid потомка или информацию что ты и есть потомок. Все, что может в этом случае сделать система - это потомка, которому не хватает наследства, прибить, пока он не записался в разбойники. Родитель может потом пытаться это как-то пережить.

> То есть случайный. Не процесс с утечкой, не самый ненужный,

ну вот за этим тебе как раз в линукс. Там есть прекрасный oom-killer, который пытается угадать, где процесс с утечкой и кто тут ненужный. Почему-то никто ему не рад ;-)

Там еще и непосредственно на *alloc() такой же интересный угадав - то есть он может вернуть NULL, когда-то, иногда. Если _подумает_, что тебе, наверное, памяти не хватит ;-)