据晋阳，实在是由于饥荒太过严重，无法组织起足够规模的军事行动。一旦气候转暖，胡人的牲畜就可得到牧草、顺利地产羔育幼，而他们的军队也可采摘野麦、野果为食。晋阳城下立刻就会成为两军争衡的战场。
故此，虽然某些习惯了松散生活的将士对于陆遥的安排颇有微词，但最终每个军官都热火朝天地投入到永嘉元年初的这场大练兵之中。
练兵想要有效，首先训练的套路须得其法，必须立足于实战；其次是将领必须赏罚严明，得到军心拥戴。这二者对于陆遥来说，都不是问题。
邓刚是个很不错的军需官，他带着部下们往山林里钻了两趟，便搜集齐了陆遥所需的数百根木杆，小心处理过后接上枪头，制成一丈二尺长的长枪。之所以不用丈六或是丈八的形制，主要是考虑到并州山地居多、林木茂密；在复杂地形作战时，太长的枪杆反而是累赘。
郭欢教授士卒的枪法虽不是什么秘传的绝技，却最是适合战阵杀敌。只需掌握基本的扎刺拨拦等招数，经每日上千次的重复动作之后，就能熟极而流，应手而发。除了每日早操的枪法习练之外，午晚二操则安排了队列和配合作战的技能，包括了二人、三人、一伍、一什、一队的互相配合，乃至三百人的完整长枪兵叠阵战法。
这一次的练兵要求极严、极苦，短短的三五天里，就有十余名将士累得生病、或是在激烈的训练中受伤。不少士卒们渐渐有了怨言，甚至还出现了消极对抗训练和士卒逃亡的现象。
这样的局面早在陆遥的预料之中。他整日整夜都投身在军营之中，一方面严格军法，明确逃亡者皆斩的铁律，几天里处死了六名逃亡被抓回的士卒，震慑全军；乘此机会，他进一步加强军纪，将原有军法稍作变通，形成更简明的十几条律令，要求每一名士卒熟记在心。另一方面，陆遥以身作则亲自参与训练，食宿一同于普通士卒，特别是对于生病、受伤的士卒加以无微不至的照顾。
他又深入士卒之中，不断为将士加油打气，努力地煽动士卒们对于胡虏的仇恨，又把剿灭胡人以后的幸福生活吹得天花乱坠一般。除此之外，陆遥还遣人在晋阳城外的山林中大肆捕杀野兽，每日里都为将士们提供獐子、黄羊、野猪、野兔等等大量的野味加餐，补充体力。
自古以来治军都是如此，树立目标和愿景、组织起志同道合的同伴、再加以军法的约束和适当的待遇，自然就能形成上下齐心的坚强团体。这样的团体，施以严格的训练、配备有效的装备之后，立刻就可成为一支