登基即位之后，忽必烈在中央设中书省，在各地分设十路宣抚司
由于蒙哥麾下的怯薛军在带着他的灵柩北归后，都留在了漠北，所以忽必烈便在他的潜邸宿卫的基础上迅速扩充、重建大汗的怯薛军
为了防范阿里不哥，忽必烈还下令将大量的粮食、马匹运到了漠南沿线，扼守大漠南缘，伺机渡漠远征的战前部署
同时，忽必烈还对南宋保持克制的态度，以集中力量先解决阿里不哥
1260年，阿里不哥得知忽必烈抢先召开了忽里勒台后，便只能匆忙在5月召集留守漠北份地的诸王宗戚召开大会
大会上，阿里不哥被拥立为大汗
如此，有趣的一幕出现了，蒙古出现了两位大汗相互抗衡的局面
听到这里，铁木真的眉头就是一皱。
忽必烈先是缓和了与支持阿里不哥的诸王关系
然后以汉地丰富的人力物力为依托，与阿里不哥展开了斗争
首先，忽必烈成功抵御了阿里不哥南下的大军，迫使其撤出和林，回到了他的封地
随后，忽必烈派军击杀了在陕甘一带，手握重兵的阿里不哥支持者浑都海、阿蓝答儿，稳定了陕甘一带的局势
公元1261年初，忽必烈在开平召开集会，调整行政中枢
同年，阿里不哥率兵攻打忽必烈，结果被忽必烈击败
10月，忽必烈北征，与阿里不哥大战，双方僵持不下后，各自引军后退，在大碛南缘对峙
公元1262年，漠北发生饥荒，忽必烈禁绝了粮道，阿里不哥由于缺乏粮草而西迁，忽必烈再次收回和林
公元1264年，阿里不哥因为驻地出现饥荒，军心涣散，只得向忽必烈投降
至此，蒙古内部长达五年的汗位争夺战方才结束
忽必烈击败阿里不哥而夺得汗位后，积极谋划新一轮的对宋战争
同年8月，忽必烈下诏燕京扔改为中都，作建都准备
公元1268年，忽必烈任用南宋降将刘整的策略，命阿术、刘整率军围困南宋重镇襄阳、樊城
公元1270年，刘整奉命在襄樊前线建造战舰，操练水军。南宋数次派兵破围，但是未能成功
公元1271年，忽必烈根据《易经》当中“大哉乾元”之义，将蒙古国改为“大元”
由此，蒙古皇帝变为大元皇帝，“大元”国号正式出现，忽必烈成为元朝首任皇帝
公元1272年2月，忽必烈改中都为大都，宣布建都于此
公元1273年，大都宫殿建成
同年，樊城被攻破，不久后襄阳守将吕文焕举城投降
公元1274年正月，忽必烈在正殿接受朝贺
另外，忽必烈在地方上建行省，开创了华夏当代省制的开端
为了加强对边疆地区的管理，忽必烈又下令在各地建立驿站
同年，阿术回朝觐见忽必烈，请求出兵江南。忽必烈最终接纳了大臣们的建议
3月，忽必烈开始调兵，分三路攻打南宋
同年，忽必烈以早已归顺的高丽为基础，派出蒙古及高丽联军两万多人，船只900艘，攻打日本的镰仓幕府
但登陆后刚与倭军对战，便因遭遇台风来袭而撤退，最终半数的士兵淹没在海中
公元1275年2月，元军在丁家洲大败由南宋宰相贾似道率领的大军
随后，元军一路收取多州
秋天，阿术又率军击败了南宋大将张世杰的水师。此战后，南宋失去了与元朝正面作战的能力
公元1275年，忽必烈因为征调财赋，将安童调离相位，阿合马得以独当国柄