Устанавливается он элементарно apxs -cia mod_security.c (см документацию, правда, для его работы в наиболее удобном, "Concurrent", режиме логгирования, нужен модуль unique_id. После установи модуля следует добавить следующую секцию в httpd.conf:

   <IfModule mod_security.c>
       SecAuditEngine On

   # У mod_security есть два механизма логгирования, Concurrent - более быстрый и продвинутый.
       SecAuditLogType Concurrent

   # Здесь будет храниться индекс - файл, по структуре похожий на    access_log + идентификаторы, 
   # по которым можно найти полную информацию в StorageDir
       SecAuditLog /var/log/www/audit/index

   # Тут хранятся все данные запросов. Каждый запрос в отдельном файле. 
   # Запросы разнесены по каталогам (вместе все запросы одной транзакции, вместе все транзакции одного дня)
       SecAuditLogStorageDir /var/log/www/audit/data/

   # Наиболее полное логгирование (man)
       SecAuditLogParts ABCDEFGHZ

   # Добавить обработку POST данных. 
       SecFilterScanPOST On
       SecFilterEngine On

   # Следующие строки нужны для сохранения загруженных на сервер файлов:
       SecUploadDir /var/log/www/audit/upload
       SecUploadKeepFiles On

   </IfModule>

Включать это имеет смысл при подозрении, что кто-то пытается использовать вашу систему не по назначению, теперь любой шаг проходимца будет записан.

p.s. Работоспособность конфига проверялась в apache 1.3.37, mod_security 1.9.4, но работать должно и в 2.0/2.0