Квадраты появляются на сценах с большой детализацией. Т.е. там где очень много разных объектов. Это связано с принципом кодирования (видео разбивается на квадраты и каждый квадрат отдельно кодируется).
Если посмотреть внимательно на видео, то очень заметна перекрученная четкость (sharpness) у изображения. Что дает большую детализацию (создаёт шум на изображении), даже, казалось бы, на одноцветном объекте (очень заметно на деревьях и снеге). Соответственно, чтобы все эти детали закодировать, нужен большой битрейт. Или, как вариант, менее детализированная картинка, что мы и наблюдаем на скриншоте от каркама q4. Там видео нечеткое, как-бы размытое слегка. Четкость там явно снижена, а возможно и применено легкое размытие (blur).
Вывод.
У 500 слишком сильно накручена четкость, что создает шум на изображении. Для кодирования этого шума нужен большой битрейт.
У каркама слегка размыто изображение (возможно даже применен blur). И лишний шум ему кодировать ненужно. Поэтому ему достаточно меньшего битрейта.
Как-то так.