由於東突厥之肆虐北邊，太宗對武將極為重視，常引眾位將士兵卒習射於顯德殿庭。其又親自為諸將士之師，每日教兵士數百人習射於殿庭，並親自為諸將士加以考試。
丁未，上引諸衛將卒習射於顯德殿庭，諭之曰：「戎狄侵盜，自古有之，患在邊境少安，則人主逸游忘戰，是以寇來莫之能御。今朕不使汝曹穿池築苑，專習弓矢，居閒無事，則為汝師，突厥入寇，則為汝將，庶幾中國之民可以少安乎！」於是日引數百人教射於殿庭，上親臨試，中多者賞以弓、刀、帛，其將帥亦加上考。（資治通鑑卷一百九十二）
對於太宗的做法，雖有不少大臣不滿，加以諫阻，但太宗態度依舊，其對武將之重視並未因此而有所改變。
群臣多諫曰：「於律，以兵刃至御在所者絞。今使卑碎之人張弓挾矢於軒陛之側，陛下親在其間，萬一有狂夫竊發，出於不意，非所以重社稷也。」韓州刺史封同人詐乘驛馬入朝切諫。上皆不聽，曰：「王者視四海如一家，封域之內，皆朕赤子，朕一一推心置其腹中，奈何宿衛之士亦加猜忌乎！」由是人思自勵，數年之間，悉為精銳。（資治通鑑卷一百九十二）
由於太宗對將領士卒加以悉心的培訓，唐室因此得以建立起一支驍勇善戰的部隊。日後唐室在對外戰爭的成功，太宗的栽培實居功至偉。
太宗之所以願意和武將共處，且親自為將士們授業，此主要源於太宗自己對行軍佈陣實有一番心得。其希望將此心得與他人分享。
上嘗言：「吾自少經略四方，頗知用兵之要，每觀敵陳，則知其強弱，常以吾弱當其強，強當其弱。彼乘吾弱，逐奔不過數十百步，吾乘其弱，必出其陳後反擊之，無不潰敗，所以取勝，多在此也。」（資治通鑑卷一百九十二）
即使是到了貞觀十五年（辛丑，公元六四一年）十二月，太宗仍自信於其武功之事，常對侍臣們談及。
上嘗臨朝謂侍臣曰：「朕為人主，常兼將相之事。」給事中張行成退而上書，以為：「禹不矜伐而天下莫與之爭。陛下撥亂反正，群臣誠不足望清光；然不必臨朝言之。以萬乘之尊，乃與群臣校功爭能，臣竊為陛下不取。」上甚善之。（資治通鑑卷一百九十六）
然而，太宗並未偏私。此在他不只用秦府舊兵為宿衛一事可見。
或上言秦府舊兵，宜盡除武職，追入宿衛。上謂之曰：「朕以天下為家，惟賢是與，豈舊兵之外皆無可信者乎！汝之此意，非所以廣朕德於天下也。」（資治通鑑卷一百九十二）
貞觀十年（丙申，公元六三六年），太宗又完善府兵制。其改統軍為折衝都尉，別將為果毅都尉。另外，他又在全國各地置六百三十四個折衝府。上府有兵一千二百人，中府一千人，下府八百人。三百人為團，團有校尉；五十人為隊，隊有正；十人為火，火有長。
是歲，更命統軍為折衝都尉，別將為果毅都尉。凡十道，置府六百三十四，而關內二百六十一，皆隸諸衛及東宮六率。凡上府兵千二百人，中府千人，下府八百人。三百人為團，團有校尉；五十人為隊，隊有正；十人為火，火有長。（資治通鑑卷一百九十四）
府兵需自備兵甲糧食。成丁二十為兵，六十而免。其能騎射者為越騎，其餘為步兵。士卒平時進行軍事訓練，戰時則被徵調作戰。又當宿衛者需番上，一月而更。
每人兵甲糧裝各有數，皆自備，輸之庫，有征行則給之。年二十為兵，六十而免。其能騎射者為越騎，其餘為步兵。每歲季冬，折衝都尉帥其屬教戰，當給馬者官予其直市之。凡當宿衛者番上，兵部以遠近給番，遠疏、近數，皆一月而更。（資治通鑑卷一百九十四）
貞觀十二年（戊戌，公元六三八年）十一月，太宗於玄武門設置左、右屯營飛騎。其又揀選飛騎中的驍健、善射者為百騎，隨其遊幸。
十一月，丁未，初置左、右屯營飛騎於玄武門，以諸將軍領之。又簡飛騎才力驍健、善騎射者，號百騎，衣五色袍，乘駿馬，以虎皮為韉，凡游幸則從焉。（資治通鑑卷一百九十五）
