> Из недавнего вспоминается реакция на "п0рно" в "уп0рно продолжают/не замечают" (s/0/o/g),
> на .ru в ссылках на вики или сам опеннет,
> на "шк0л" в совершенно безобидном контексте упоминания школ.

Школа, порно, .ru - это всё информационные срабатывания, они вообще никак не влияют на работу бота, но в логе модерирования отражаются. Сообщения с этими ключами мне в отдельной колонке показываются, но как правило я её очень бегло просматриваю или вообще пропускаю. Гораздо больший вес имеет смесь регистров, например написание "шк0л"  вместо "школ".

> УДАЛЕНО.WARNBOT, Реакция: bot ENG,
> Индикатор нарушения: "httpswwwfre"

Это сообщение было удалено не за содержимое, а как ответ в удалённой подветке с троллингом про гамма-версии. В логе модерирования нити не всегда верно отображаются, поэтому это не заметно.
Для подобных удалённых заодно сообщений явно нужен какой-то индикатор. Хуже то, что эти сообщения создают помехи при обучении бота, с этим тоже что-то нужно делать.

> Я так понимаю, что warnbot не удаляет, а дает знать модератору --
> который (возможно, из-за тонн флуда) однако не слишком и вникает в
> написаное, а просто жмет delete. Что вкупе с излишне чувстительными фильтрами
> выдает довольно частый "false positive".

По ошибке конечно бывают удаления, банально случается не под тем сообщением кнопку нажать. Бывает вне контекста удаляется ответ, а остаётся незамеченным сообщение с провокацией и более жестким нарушением. Но главный критерий удаления как и раньше - оскорбления и неуважительное отношение.