啟用於1935年的組立工場，為台北機廠最具代表性的核心建築物，是由一低一高的兩棟建物共構。北側較高者為組立工場，南側為機器工場，1970年代又於南側增建電一工場及工機工場。
為容納鐵道車輛檢修所需空間，工場之建築界線須考量車輛尺寸、吊掛高度及維修機具的擺放位置等，因此造就大跨距的廠房。在組立工場的部分，建築寬度達24公尺，長向共有28跨，每跨相隔6公尺，總長約168公尺；鋼筋混凝土屋頂版高13.8公尺，中央的太子樓更挑高至20.4公尺，寬敞無落柱的工場，成為台北機廠最亮眼的建築風景。
考量建築防火、耐震需求，廠房採用鋼骨鋼筋混凝土結構，使用角鋼、鋼鈑與鉚釘結合成的鋼組合柱及屋頂桁架，再以鋼筋混凝土澆置牆體及屋頂版，屬於當時台灣較先進的構造工法。後來因應電一工場及工機工場的興建，原南棟機器工場立面變為內牆，部分牆面被拆除，部分則改為圓孔花格磚牆。
為了在廠房運作時提供良好採光，組立工場各立面皆安裝大面積玻璃窗，對提升檢修作業效率有極大幫助，亦可降低能源損耗。建廠之初採用的是鑄鐵鑲嵌玻璃窗，但北側立面歷經二戰轟炸及戰後設備變遷等整修歷程，現已改為鋁窗或百葉窗。目前僅南側與電一工場相接處，仍保留原始鑄鐵窗。
組立工場及機器工場的屋頂中央軸部特別突出挑高，設置「太子樓」，一般兼具採光及通風雙重功能，但組立工場已有大面積採光窗，因此太子樓南北側採用鐵製百葉窗，以通風為主要目的，採光效果為次要。機器工場則因採光較不足，太子樓兩側現為固定式的玻璃窗，部分則裝設風扇，提供良好的採光及通風。
機器工場
南棟較低矮的機器工場，在台北鐵道工場時期為「旋盤職場」，是蒸汽機車車輪鏇削的場域，可說是組立工場的重要後勤單位。機器工場與組立工場平行排列，長度相同，跨距寬為15公尺，太子樓挑高13.8公尺，由於僅東、西側窗及太子樓具有採光效果，光線較為不足，因此於建築中段增設照明系統。當車輛有需要修理的大型零件，便可透過橫向的運輸路線送至機器工場，完成後再送回組立工場組裝。
電一工場及工機工場
機器工場南側的電一工場及工機工場均為二層樓建築，是1970年代增建的廠房。其中電一工場主要負責電力車輛的電子設備維修，並於二樓設置電子室以維修較精密的電路面板等配件。電力車輛的集電弓、電磁閥等電子配件拆卸後，便直接送來電一工場維修或更換備品。工機工場的業務雖然與車輛維修無直接關係，卻是維護台北機廠運作的重要場域之一，負責全廠機械及機電設備的修復，包含天車、管線、水龍頭及燈管等。