Das heute zu sehende Gebäude im späten Barokstil und frühem Klassizismus, enstand auf die Initiative von Herzog Peter Biron von Kurland und Semgallen nach Plänen des dänischen Architekten Severin Jensen an der Stelle, an der sich das Schloss der Herzogin Anna befunden hatte. 1775 wurde hier die erste lettische Hochschule gegründet, die Academia Petrina, und 1782 wurde das erste Observatorium errichtet. Zur Zeit des russischen Imperiums befand sich hier ein Gymnasium. Zu dessen Absolventen gehören Krišjānis Barons (der berühmte lettische Volksliedersammler), Juris Alunāns (der Begründer der lettischen Sprachwissenschaft), Jānis Čakste (der erste Präsident des neugegründeten lettischen Staates), Antanas Smetona (litauischer Staatspresident) und andere mehr. 1952 wurde in diesem Haus das Museum für Geschichte und Kunst Jelgava eingerichtet, 1975 erhielt es den Namen des Malers Ģederts Eliass (1887-1975). Die Sammlung des Museums zeigt die Geschichte der Stadt und ihrer Umgebung zur Zeit des Herzogtums Kurland und Semgallen und danach. Neben dem eindrucksvollen Gebäude sind vier Kanonen aus der Zeit des Herzogtums Kurland aufgestellt, ein Denkmal, das Ģederts Eliass gewidmet ist, (1987. Künstler: Jānis Zariņš), sowie eine Skulptur des Bildhauers Kārlis Jansons (restauriert durch dessen Sohn Andrejs Jansons), das den Befreiern der Stadt Jelgava gewidmet ist. Es stellt ein Fragment aus einem lettischen Heldenepos dar und trägt den Namen “Lāčplēsis und der schwarze Ritter”.