在这之外，吕晨还跟刘豹签订了同盟协议，针对的不是袁绍，而是南匈奴。原来，自从上任单于之后，匈奴内部纷争不断，便没有设立单于，本该继承单于位置的於夫罗却成为了左贤王，备受排挤。而在於夫罗死后，於夫罗的弟弟呼厨泉却成为了单于，而於夫罗的长子刘豹依旧被排斥在权力核心之外，只混到个左贤王，势力也只有屠各一族。并且，刘豹还时刻面临匈奴单于庭的压力，诸多贵族准备吞掉他的部族，所以他一直流连在河东西河两郡不敢北上。
确定了路线之后，便开始转移。
一开始是张杨领着的一千河内兵、张辽的八百龙骧铁骑，以及高顺的两百陷阵营。三部共两千人，全部骑马，在两千屠各骑兵的掩护之下，奔袭雁门而去。
七日之后，三部到达雁门马邑。马邑守兵不足五百，两百陷阵只用了半个时辰便登上城楼，马邑降。随后，又下阴馆楼烦。
两千屠各骑兵在雁门之南的汾阳流窜，威胁晋阳，数量本就不多的晋阳守军也就不敢支援雁门。
在张辽率兵占据雁门的同时，张顾曹性等人护送这辎重队和家眷北上，另有一千屠各骑兵在游弋，保障道路安全。
吕晨是最后离开河内的，他领着五百虎贲断后。其实也没什么后路好断，徐晃史涣的人马很礼貌地目送吕晨离开，甚至还送了些礼物，友好极了。
本来吕晨就料定，现在取雁门没有任何难度，护送辎重队北上也不会有什么危险。
但是，当他刚刚率军踏入河东地界的时候，就收到了一个紧急军情：不到三百步兵护卫的家眷队，被两千黑山黄巾军给围住了，吕布吕绮以及三位娘亲都在那里。
吕晨听了禀报差点从马上摔下来，暴怒不已，领着五百虎贲就追了上去，心道：又是黑山黄巾，竟敢打劫到老子头上来了！早晚灭了你们。