>> memset(in, 1, 30000000);
>Это первые 30Мб из 120Мб.... прикольно ;-)
>memset заполняет байты а не инты

ну и что?? при вызове free не смотрит что заполнено, а что нет.

попробуй заюзать calloc.
в принципе это может быть связано со sleep. попробуй их заменить на операции ввода. scanf...
и проследить ситуацию, пока будет ожидаться ввод.