建武二十四年春，八部大人一道商量立比为呼韩邪单于，由于比的祖父曾经归顺汉得以安宁，所以打算袭用呼韩邪单于的名号。于是比来到五原塞，表示愿意做汉的屏障，抵御北部的敌虏。皇帝采纳五宫中郎将耿国的意见，就同意了。逭年冬天，比自立为呼韩邪单于。
二十五年春，单于派弟弟左贤王莫率领一万多兵力攻打北单于的弟弟奠鞑左贤王，活捉了奠鞑左贤王；又打败了北单于帐下的军队，合并了北单于部众一万多人，获得七千匹马、一万头牛羊。北单于很惊恐，后退了一千里。起初，皇帝制造战车，可以用几头牛驾车，车上造有望楼，放在塞上，用以抵挡匈奴。当时见到战车的人相互谈论说“谶语说汉第九代时将会使北狄退却千里，难道说的就是这件事情吗？”到这时候，果然开拓了疆域。北部的奠鞑骨都侯与右骨都侯率领三万多部众前来投奔南单于，南单于再次派使者到朝廷，以藩国之礼称臣，献上国内的珍宝，请求派使者督察保护，派儿子到朝廷侍奉，缔结从前的盟约。
二十六年，皇帝派中郎将段郴、副校尉王郁出使南单于，立于南单于庭，这裹距五原西部边塞八十里远。单于于是延请迎接汉使者。使者说“单于应当趴在地上拜接诏书。”拜完以后，单于要翻译晓谕使者说“单于刚刚即位，在手下人面前实在感到羞惭，希望使者不要当着众人的面让单于屈尊。”骨都侯等人见此情形，都流下眼泪。段郴等人回来覆命，皇帝下韶书听随南单于住进云中。单于派使者上书，献来两头骆驼、十匹毛色有纹彩的马。
正月初一朝廷举行朝拜庆贺，在拜祭陵墓和宗庙以后，汉就打发单于使者回去，命令谒者护送，赐给单于一千匹彩色丝帛，四端锦帛，十斤金，还有太官为皇帝制作的酱以及橙子、橘子、龙眼和荔枝；赐给单于的母亲和各位辟氏、单于的儿子和左右贤王、左右谷蠡王、骨都侯中有功德的人各种彩色丝帛，合起来有一万匹。
匈奴习俗，每年有三次龙祠，一般在正月、五月、九月的戊曰祭祀天神。南单于既然归顺汉，就同时祭祀汉皇帝，藉此机会召集各部，商量国家事务，举行赛马和赛骆驼，以此为乐。匈奴大臣中尊贵的是左贤王，其次是左谷蠡王，其次是右贤王，其次是右谷蠡王，这称为“四角”；其次是左右日逐王，其次是左右温禺千王，其次是左右渐将王，这称为“六角”他们都是单于的儿子兄弟，按照顺序将要当单于的人。异姓大臣有左右骨都侯，其次是左右尸逐骨都侯，其他又有日逐、且渠、当产各种官号，各以权力的大小、部众的多少确定职位高低和次序。单于姓虚连题。异姓有呼衍氏、须卜氏、丘林氏、兰氏四个姓，他们是匈奴国内名族，经常与单于通婚。呼衔氏为左，兰氏、须卜氏为右，他们负责判决案件，受理诉讼，他们将判决的轻重，口头告诉单于，那裹没有文书和记事的簿册。
二十六年冬，以前叛变的五位骨都侯的儿子又率部众三千人投奔南部，北单于派骑兵追击，将他们全部俘获。南单于派军队抵御，迎战不利。朝廷于是又下韶书要单于迁到西河美稷居住，并派中郎将段郴和副校尉王郁留在西河保护单于，为单于设置官府、从事、掾史。又命令西河长生每年率领二千骑兵，五百被解除枷锁的刑徒，帮助中郎将护卫单于，冬天驻守，夏天撤销，自此以后作为常例。又免去沿边八个郡的全部租税和劳役。
南单于住进西河以后，也设置各部侯王，帮助汉抵御戍边。南单于派韩氏骨都侯驻守北地，右贤王驻守朔方，当于骨都侯驻守五原，呼衍骨都侯驻守云中，郎氏骨都侯驻守定襄，左南将军驻守雁门，栗籍骨都侯驻守代郡，他们都统领部众替郡县当耳目侦察动静。北单于很惶恐，送还了被掳掠去的许多汉人，以表示友好。他们出来抄掠的军队每次经过南部附近，或回头经过漠兵侦察敌情的岗亭，总