Autorem projektu raně barokní budovy byl významný stavitel jezuitských budov, italský architekt narozený ve Vídni, Giovanni Domenico Orsi. Z částečně dochovaných plánů je patrné, že zvolil půdorys písmene E a současný půdorys ve tvaru písmene F je důsledkem toho, že projekt nebyl nikdy naplněn. Po Orsiho smrti v dostavbě pokračoval Carlo Lurago a kolej byla kompletně dokončena až v roce 1750.

Impozantní palác s barokní fasádou, který tvoří dominantu Palackého náměstí, pamatuje nejdávnější počátky města. Archeologické nálezy dokládají, že v závěru 13. století zde stál věžový dům, jehož gotická věž sloužila k bydlení, ale také k obranným účelům, neboť v areálu domu se nacházel výrobní objekt, kde se zřejmě hutnilo stříbro. Později byly k tomuto „základu“ připojeny ještě další objekty.

Zámek Kačina patří mezi nejvýznamnější stavby empírové architektury v České republice. Je to příklad klasicistní nebo-li empírové architektury a vystavěn je v naprosto čistém stylu. Od dob svého vzniku nedoznal zámek žádných architektonických změn. V areálu zámku sídlí Národní zemědělské muzeum, které je prezentováno expozicí „Království včel“, „Příběh dřeva“ nebo „Modely lidových staveb“.