张作霖1914年秋天开始动工修建这座三进四合套院和西院北部的两组四合院，吸收奉天城清朝各王府建筑持点，遵循家乡辽南的生活习俗而建起的，“前政后寝”的建筑功能表现地非常鲜明。
帅府启用后不久，张家开始筹建位于东院的大青楼和小青楼，开始走西方建筑风格。其中，小青楼于1918年建成，位于张氏帅府的东院，地处张氏帅府花园的中心，又有“园中花厅”的美誉，是一座中西合璧式的二层砖木结构小楼，因其采用青砖青瓦建筑而成，俗称小青楼。它是张作霖为他最宠爱的五夫人寿氏专门修建的。1928年6月4日，在皇姑屯事件中被炸成重伤的张作霖就是在这里走完了一生。
大青楼于1918年到1922年，历时五年建成，为仿罗马式建筑，采用青砖建造，故称大青楼。顶层有观光平台，是民国时期奉天城的最高点。整体建筑规模宏大，外部立体浮雕和内部主要房间的壁画装饰都具有较高艺术价值，堪称民国时期东北建筑的经典之作。
大青楼是张氏帅府的核心之地，也是张氏主政东北鼎盛之时的官邸。大青楼内有张学良主政东北的东北政务委员会办公室、处决杨常等人的老虎厅等重要场所。
位于西院的红楼建筑群，是1930年由张学良帅规划兴建。张学良主政后，鉴于张氏帅府已有建筑不敷使用，遂决定将其父所修的西院卫队营部、两套四合院及网球场拆除，在此基础上修建红楼群。红楼群是张氏帅府规模最大、房屋最多的建筑，其中有厢楼2幢，正楼4幢，大楼以北欧古典主义风格为主要特点，属于英国都铎式和哥特式的设计风格。西院红楼群的建成，标志着张氏帅府园区这一庞大建筑群正式形成。但遗憾的是，红楼建筑群于1931年九一八事变之后才正式竣工，因此少帅及家人并没有使用上。如今，这里已成为沈阳博物院。
此外，张氏帅府建筑还有一个编外成员，就是位于张氏帅府东墙外的赵一荻故居，又称“赵四小姐楼”，1928年至1930年间，张学良将军的红粉知己赵一荻（赵四小姐）曾在此居住而得名。这是一座二层中西合璧式建筑，既有中国传统风格的描金彩绘，又有雕刻廊柱等欧式建筑艺术的特色，其室内陈设以法式家具为主。