1891年，清政府在膠澳設(shè)防，這是青島建置之始。1892年，登州總兵章高元率2000人駐兵青島，并選址建造總兵衙門。

　　總兵衙門，整組建筑依照自然的地勢(shì)面南而建，建筑屋頂均采用莊重的中國(guó)傳統(tǒng)灰色筒瓦，圍墻為花崗巖砌筑，周邊以青磚包飾。官衙后院為章高元內(nèi)眷的住所，正廳三間開，東西廂房各兩間，房屋的外檐下建木制回廊，院中天井設(shè)花壇，內(nèi)植松柏、修竹等花木。建筑一層飛檐，上覆灰色筒瓦,正門高盈丈余。

　　總兵衙門建筑風(fēng)格采用中國(guó)古典形式，結(jié)構(gòu)是梁架體系，磚木結(jié)構(gòu)。材料選用花崗石砌墻，周邊為青磚鑲嵌，建筑一層飛檐，上覆灰色筒瓦，正門高盈丈余。依舊例，總兵衙門前為轅門，座北面南，門前設(shè)一長(zhǎng)15米的影壁，門外置木制旗桿，上懸清廷大龍旗，轅門內(nèi)正院分前后三進(jìn)，東西還有若干跨院。衙門前的濱海街道稱為“衙門街”。

　　英國(guó)人F·帕墨在《青島(1898-1910)》一書中?，詳細(xì)寫到大衙門：大衙門是中國(guó)人統(tǒng)治時(shí)期建造的，德國(guó)占領(lǐng)期間，這里仍然是中國(guó)官員的行政管理機(jī)構(gòu)所在地，也曾是首任總督魯紳達(dá)爾海軍上校以及耶施克的辦公府邸。1898年德國(guó)巡洋艦艦隊(duì)來青時(shí)，艦隊(duì)司令、普魯士亨利王子殿下也曾在此處下榻。從那以后，這所建筑物被擴(kuò)建并翻修了。其主要入口處在它的南側(cè)。入口處和其他各地的中國(guó)衙門一樣，有一座影壁，在向衙門的一面上畫著一只類似蜥蜴的巨獸——“談”，瞪著大眼，張著大口，身上長(zhǎng)著密密的鱗片和牛一樣的尾巴，頭部的前方是一輪正在升起的太陽。這只獸作為貪婪的象征，警告每天路過此處的官員們不可過于貪婪。

　　在德占時(shí)期，總兵衙門和天后宮這兩個(gè)代表青島之根的建筑，在一群紅瓦的德式建筑中，是一種象征。青島市民稱總兵衙門為“老衙門”，這個(gè)稱呼，顯然昭示著青島的歷史與變遷。