蒙哥继位后，蒙哥让忽必烈治理漠南军国事务，忽必烈离开漠北，开府于金莲川，现在内蒙蓝旗滦河上游一带。忽必烈从此有了用武之地，他利用从儒臣那里学到和积累的汉法运用到实际中。再加上那些忠心于他的儒臣，忽必烈在蒙古和汉地之间建立了自己的威信，笼络人心。但更重要的是，忽必烈远离漠北，避开了蒙古内部权力之争。

忽必烈治理漠南时，再次征召名士，其中有金朝进士赵良弼。1252年，张德辉、元好问建议忽必烈为儒教大宗师，此时忽必烈手下云集一批能臣。再加上最早的廉希贤等人，忽必烈为将来登顶大位已经奠定了人才优势。

忽必烈治理漠南取得了成效，此时姚枢建议“今天下土地之广，人民之殷，财赋之阜，有加汉地者乎？军民吾尽有之，天子何为？异时廷臣间之，必悔而见夺，不若惟持兵权，供亿之需取之有司，则势顺理安。”忽必烈同意。

蒙灭金后，漠南之地管理很混乱，百姓流亡甚重。但在忽必烈手下刘秉忠、张文谦建议刘肃、李简治理，很快流民复业，户口大增。忽必烈看到儒臣能力，从而更加重视儒士。后来忽必烈又在治理河南上取得大功，解决了蒙古军粮之需。

此后忽必烈又受命征云南，刘秉忠、姚枢等人跟随，忽必烈曾问“汝昨夕言曹彬不*者，吾能为之，吾能为之。”效仿宋太祖时的大将曹彬取南唐不妄*人。忽必烈到了大理城，桃枢裂帛为旗，书止*之令，未曾妄*一人，于是民户得以保存，这与刘秉忠、姚枢功劳分不天。

1253年，蒙哥让忽必烈在汴京与陕西北京间自选一地，忽必烈接受姚枢建议，选择了关中，忽必烈分遣各将令驻守兴元诸州，同时把河东、解州、盐池分开以供应军食，屯田于风翔，严惩扰民的残暴行为，关陇实现了治理。而忽必烈还印钞，为忽必烈提供源源不断的财富。他还以姚枢为劝农使，督导农耕，许衡为提学使，兴办教育。同时，忽必烈还建立开平府，成为联系南北的一个理想城市 。

忽必烈用汉臣治理汉地收到了成效，忽必烈的实力与名望也不断增强。但此时忽必烈却遭到了蒙古贵族保守势力的阻挠。

蒙哥继位后，他的思维与能力比不上忽必烈，他还依旧按传统的管理方式治理蒙古，靠军事征伐开疆拓土。此时蒙古同倍矛盾斗争不断，蒙哥并没有意识到，还以为自己是大汗，只要在漠北就能控制四方。

当忽必烈的威望提高后，蒙哥也意识到这位兄弟的威胁。由于忽必烈的汉法治理，使蒙古贵族和色目人的特权受到限制，因此他们必然要打压忽必烈。因此一些蒙古贵族向蒙哥告忽必烈“王府得中土心”，“王府诸臣鑫擅权为奸利事”。

蒙哥立即解除了忽必烈的兵权，甚至蒙哥南征南宋时，也不让忽必烈随征。蒙哥还派亲信阿兰答儿为行省随想，刘太平为参知政事，带领一帮人到陕西和河南两地调查财赋。这些人的特权很大，可以不用请示蒙哥就可以定一些人的罪行，甚至处死。此时忽必烈治理的两地中，出现了互相告状问题，一些汉人被处死。

阿兰答儿调查的目的就是打击忽必烈的政治势力，破坏他的改革计划。面对打压，忽必烈选择隐忍，甚至一些儒臣为了缓和蒙哥与忽必烈矛盾，甘愿当牺牲品。廉希贤等人便是此时为保住忽必烈而甘愿受死。姚枢建议忽必烈晋见蒙哥，解除蒙哥的疑心。他对忽必烈说：“帝，君也，兄也；大为皇弟，臣也，远将受祸。莫若尽王府妃主自归进行，为久居谋，疑将自释。”姚枢这个办法既有风险，也是良策。忽必烈同意了，忽必烈见蒙哥后，果然让蒙哥解除了疑团，蒙哥下令罢钩考局。而此时，塔察儿东路军失利，忽必烈请求率军南征，得到准许。

1258年，忽必烈从开平起兵，1259年到达邢州，他以杨惟忠为淮荆襄湖南北等路宣抚使，郝经为副从行。在用兵中，忽必烈还征召了宋子贞、李昶等人充当谋士，这两人为忽必烈定下征南宋的策略以及用兵之道。使忽必烈得以顺利征伐，还得到了民心。当忽必烈进攻鄂州时，他得到蒙哥战死于四川合川的消息，他采纳了郝经的《班师议》，与南宋密和，然后返回争夺汗位。