> Есть какие-нибудь книги статьи которые объясняют как графический стек работает в линуксе?
> Что-то кажется неохваченная тема вообще.На саммом концептуальном уровне:
Нижний уровень: kernel. Он управляет аллокацией памяти, видеорежимами, вгрузки шейдеров (если есть вычислялки) и чего там еще кернелу уместно делать. Это базовые примитивы для работы с GPU. Это называется KMS (kernel modesetting) и DRM (Direct Rendering Manager). Еще GBM рядом - менеджмент памяти GPU.
К этому добру интерфейсится libdrm - вывешивающий более юзермодовым вещам (клиентам DRM/KMS) это добро.
Над этим - клиенты DRM/KMS. Wayland, Xorg, OpenGL, Vulkan - это клиенты к вон тому апи, поверх libdrm как правило. Есть ряд иных программ которые могут что-то эдакое без Xorg/Wayland. Например GLMark2 умеет рисовать 3D "в консоли" - будучи клиентом KMS и апи GL без задействования xorg или wayland. Или некоторые видеоплееры - тоже умеют через KMS/DRM рисовать. Без вон тех.
Для KMS/DRM есть отображалки и есть считалки. Типовая видеокарта - это и то и другое. Но есть видеокарты без видеовыхода, тогда от них только compute вывешен. Или есть безмозглые контроллеры дисплея - умеющие только долбить RAM на экран. Или произвольная комбинация вот этого всего, что более-менее покрывает все существующие варианты хардвара, даже эмбедовку и прочиа странные штуки.