Посмотрел, R5 Kaveri и R5 Topaz, как я понял Kaveri это то что в составе APU а Topaz это дополнительная дискретка. Все должно работать с radeonsi.
То что вы тут описали "начинает ругаться на несовместимость библиотек/исполняемых файлов" это никак не связанно с свободными дравами, а последствия установки бинарников из левого репозитария, либо проприетарых дров заведомо не совместимых с дистрибутивом.
Вот если бы при загрузке ядра был kernel panic то да, это была бы проблема дров. Как я понял, вы попытались сплеча решить проблему, не разбираясь, ну и отгребли, а потом сами же и обиделись.
NVidia конечно молодцы, они делают хорошие бинарные блобы (судя по отзывам), но есть нюансы... С бинарными блобами много боли испытывают пользователей rolling release дистрибутивов, банально обновление иксов или ядра может порушить планы на продуктивный день. Никаких экспериментов с wayland и mir, да и иксами дрова nvidia регулярно порождает некоторые мелкие но неприятные вещи типа тиринга, где-то видно архитектура или слой совместимости выстреливает.