>> При выключеном kea удается запустить несколько инстансов dnsmasq с такими параметрами:
>> dnsmasq -h -d -p 0 -i ppp0 -z ...
>> dnsmasq -h -d -p 0 -i ppp1 -z ...
> похоже всетаки придется разводить их по разным хостам

Вы после запуска dnsmasq проверте где и что появилось, кроме того проверять желательно и 68 порт тоже вместе с 53-им

и можно попробовать наоборот стартануть, сначала dnsmasq, потом kea