在推翻王莽新朝的过程中，绿林军是主力军，公元23年，绿林军拥刘玄为帝，恢复汉朝国号。王莽派王寻、王邑率大军四十多万进攻绿林军驻守的昆阳（今河南叶县），昆阳之战爆发。刘秀率十三骑突出重围调集援军，绿林军内外夹击，以少胜多大败新军。昆阳之战是刘秀成名之战，为其日后称帝打下坚实的基础。

新朝灭亡后，刘秀兄长刘縯无故被更始帝所*，公元25年刘秀同更始帝决裂，在河北鄗县（今河北省邢台市柏乡县）千秋亭称帝，建立东汉，以洛阳为都。更始帝则屡被赤眉军击败，请降后获封长沙王，之后又被赤眉缢*。

刘秀根据当时的形势，制定了先关东、后陇蜀，由近及远、各个击破的战略方针，先集中力量消灭威胁最大的关东割据势力。公元26年起，刘秀在四年内先后打败刘永、刘玄余部、董䜣、邓奉、秦丰、田戎、彭宠、董宪、张步等割据势力，统一了关东地区。

扫平关东地区以后，刘秀派大将耿弇等人从陇西攻蜀，隗嚣派兵阻止，双方爆发持续数年的大战。公元33年，隗嚣病死后其子隗纯继位，不久投降，至此陇西被东汉平定。