黄明远被任命为河北道行台尚书令之后，立刻着手建立行台。实际上黄明远已经有大将军幕府，二者有很大的重合性，
黄明远于是表九原郡太守李子孝为行台尚书左丞兼领吏曹侍郎；
涿郡太守陈远兼领行台尚书右丞；
原幽州总管府司马温彦博为礼曹侍郎；
大将军幕府长史夏安恂兼领行台民曹侍郎；
大将军幕府司马张季珣兼领台兵曹侍郎；
刑部比部郎陈孝意为刑曹侍郎；
宗室杨师道为工曹侍郎。
行台尚书令的两个副手行台尚书左右仆射杨义臣、李景二人皆是在统兵剿匪，行台真正的负责人是尚书左右丞，而以李子孝、陈远分领二职，行台便完全为黄明远掌握。
实际上在尚书左仆射之下，还有正三品的行台诸曹尚书，这才是行台的超规模设置标准。但黄明远以“身领行台，已经万分惶恐，若行台再如尚书省一般设置六曹尚书，则战战兢兢，更不敢领之。”坚决请辞。
杨广也拗不过黄明远，这时裴蕴提议，行台仍设六曹，但不置尚书，只以侍郎领之。如此既不误事，也比尚书省的规格低了一筹。
黄明远这才勉强同意。
黄明远不愿设六曹尚书，树大招风这些影响还是小事，主要是他身边亲信，能担任者太少。若设此职，则六曹势必为朝中重臣分领，则行台将多了一群掣肘之人。黄明远可不愿平乱之前，先费一番功夫去和这群人争权。
现在六曹侍郎，职务低了一重，但权利不减一分。李子孝、夏安恂、张季珣各兼领一曹，再加上温彦博和陈孝意，也只有杨师道算得上天子的一颗钉子。但他身处最末的工曹，对于大事实在是无能为力。
行台既设，六曹分立，下面的属官则从各地抽调，基本上以丰州和辽东、幽州出身的属吏为主。
黄明远又以剿匪的名义，从京中各馆阁中，调出了大批的舆图、律令、图书、民册等。