Родился 6 января 1835 года в городе Вильна (современный Вильнюс). Его отец, Антон Леонардович Кюи, выходец из Франции, служил в наполеоновской армии. Раненный в 1812 году под Смоленском во время Отечественной войны 1812 года, обмороженный, он не вернулся с остатками разбитых войск Наполеона во Францию, а остался навсегда в России. В Вильне Антон Кюи, женившийся на Юлии Гуцевич, дочери знаменитого литовского архитектора Лауринаса Гуцявичюса, преподавал французский язык в местной гимназии. С отцом Цезарь Кюи общался на французском, с другими членами семьи на литовском либо на польском, а с братьями-гимназистами с 5 лет общался на русском. Старший брат Цезаря, Александр (1824—1909), стал впоследствии известным архитектором.
Золотая булла Римини (26 марта 1226 года) — разрешение, которое император Священной Римской империи Фридрих II выдал Тевтонскому ордену для свободы действий в Пруссии, куда устремились крестовые походы немецких рыцарей. Булла предоставила автономию рыцарям Ордена, передав им в собственность все осуществлённые или потенциальные завоевания на землях пруссов. «Золотая булла» императора была подписана в итальянском городе Римини и была скреплена золотой печатью, откуда и получила своё название.
Золотая булла была, своего рода, гарантией дальнейшей свободы действий ордена в Прибалтике, где уже развернул активные действия Орден меченосцев, являясь своеобразной подстраховкой наученному горьким опытом Тевтонскому ордену. Орден однажды уже неосторожно усилился в самом начале XIII века в венгерском Семиградье (Трансильвания), куда немецкие рыцари были приглашены венгерским королём Андрашем II на поселение для защиты страны от набегов половцев и сдерживания влияния православных валахов. Но немецкие рыцари быстро открыли свои истинные захватнические намерения, обратившись с просьбой о признании своих прав к папе Гонорию III, который незамедлительно объявил колонизованные Орденом территории собственностью Римского престола, фактически контролировавшегося Священной Римской империей. Венгерский король был вне себя от такой дерзости и в 1225 году все рыцари Ордена были изгнаны из страны с последующей конфискацией имущества.