> При сабсэмплинге плавного градиента не будет по определению.

Эм, это неправда. Разумеется, нужно правильно интерполировать, а не дублировать цветность между пикселями.

> 16-bit RGB -> 8-bit YUV -> 16-bit RGB

Где взять 16 bit RGB?

Проблема не в формате RGB и точности вычислений, а в том, что (с очень большими допущениями, которые делают это утверждение некорректным, но это не относится к теме :) - 8-bit RGB теряет много информации при переводе в 8-bit YUV, и не так много при переводе в 10-bit YUV. Поэтому второе - лучше.
(на всякий случай, основные допущения тут - это слишком абстрактно, в реальности нужно говорить не про YUV, а конкретный формат, напр. 4:2:2 Y'Cb'Cr с конкретным цветовым форматом, напр. RGB стандарта sRGB и YUV стандарта BT.709; также нужно понимать, что в видео используется ограниченный диапазон, уровень яркости 16 при переводе в RGB будет "черным", а 240 "белым". Но в YUV представимы 16 уровней "темнее черного" и 16 "светлее белого", эта информация будет потеряна при переводе в RGB)

Но с некоторой точки зрения можно сказать, что 8-ми битный RGB содержит более точный цвет, чем даже 10-ти битный YUV. Поэтому не нужен какой-то специальный монитор с выводом 10-bit RGB, чтобы увидеть преимущество 10-bit YUV перед 8-bit YUV. Последний точнее даже при преобразовании к 8-bit RGB.

> ИМХО если переводить 8-bit YUV -> 8-bit RGB + dithering, то визуально мы много не потеряем.

Хорошим dithering'ом можно убрать плохие градиенты. Но хороший - это дорого. Это *очень* дорого делать в реальном времени. 10-ти битное декодирование намного дешевле.

> В любом случае основной проблемой остается не количество бит на канал и не цветовые модели, а битрейт. ИМХО без использования lossless кодеков все эти факторы несущественны.

Видео - это очень сложная штука, алгоритмы нынче продвинутые, на ключевые кадры может идти очень большой битрейт, и качество практически loseless. Во всяком случае, сохраняется больше информации, чем у JPEG'а с его 4:2:0 кодированием.

Что касается 10-ти бит, в том-то и дело, что они позволяют сохранить идеальность градиентов с битрейтом на 20-30% меньше, чем требуется у 8-ми битного кодирования. Да, и там, и там можно сделать качественный результат. Но с 10-ти битным - экономичнее.

Надо понимать, что например 1-битная ошибка в 8-ми битных данных эквивалентна 3-х битной ошибке в 10-ти битных, поэтому нужно сильно более жесткое квантование, чтобы исказить 10-ти битный сигнал до того же визуального непотребства, как и 8-ми битный.