Народився у м. Нарва (Естонія). Навчався в Казанській гімназії, потім у Казанському університеті, який закінчив у 1826 році. В університеті Карл Карлович вивчав східні мови. У 1826–1828 роках був викладачем перської мови в гімназії м. Казань.

З 1828 року — помічником бібліотекаря Казанського університету. У 1833 році призначений лектором німецької мови і літератури в університеті. У 1834 році після захисту дисертації на тему «Исторический взгляд на сатиру у знатнейших древних и новых народов» отримав ступінь магістра, а в 1838 році після захисту дисертації на тему «Об историческом значении эпопей у древних и новых народов» отримав ступінь доктора філософії.

З 1838 року був екстраординарним, а з 1842 року — ординарним професором російської словесності на кафедрі історії російської мови і літератури. Деякий час був деканом історико-філологічного факультету, з 1845 року — проректором Казанського університету. У листопаді 1852 року призначений ректором Харківського університету; у 1859 році став помічником попечителя Харківського навчального округу; у 1863 році — попечителем. У 1867 році переведений до Петербурга членом Ради Міністра народної освіти й головою Вченого комітету міністерства.

Був почесним членом університету з 1867 року, нагороджений орденами Св. Анни ІІ, ІІІ ступенів; Св. Володимира ІІІ ступеня.