俄罗斯人进入中国境内最早就可以追溯到蒙古人统治的这段时间。《元史》卷123《捏古刺》传的主人公就基本可以肯定是来自于金帐汗国治下的俄罗斯地区。事实上“捏古刺”这个名字用现代方法翻译过来就是尼古拉（一个典型的不能再典型的俄罗斯人名字）。元文宗时期曾征调一万俄罗斯人进入大都做扈卫亲军，后来又招募了一部分俄罗斯人到当时的辽阳行省屯田。

辽宁省义县出土的一个元代官印上面写着汉文：宣忠斡罗思扈卫亲军都指挥使司百户印。这基本上可以肯定是元朝在当地屯田的俄罗斯士兵的遗物。不过元朝的这批俄罗斯人后来逐渐都融入到了其他民族之中，所以他们中国如今的俄罗斯族并没太大的渊源。蒙古人统治俄罗斯的两百余年里将自己的统治中心定在南俄草原，而北方的森林地带则仍维持罗斯诸公国的半独立地位。

莫斯科大公国利用了蒙古人这种统治模式极力在蒙古人面前塑造自己恭顺臣服的姿态，因此逐渐获得蒙古大汗的莫斯科大公国被赋予了为蒙古人征收贡赋、协助蒙古大汗征伐不听号令的公国等特权。莫斯科大公国在这一过程中积攒了巨额的财富，军事实力也日益强大。公元1380年9月8日莫斯科大公季米特里·伊凡诺维奇在顿河畔首次战胜蒙古钦察汗的军队，此后莫斯科大公国从蒙古钦察汗国的统治下独立出来。

然而钦察汗国的脱脱迷失在1383年再次入侵莫斯科大公国。公元1480年莫斯科大公国的伊凡三世陈兵乌格拉河与蒙古军隔河对峙。蒙古军因天寒缺粮、都城萨莱又受到克里米亚汗的袭击而被迫撤军。莫斯科大公国就这样在这场对峙中不战而胜，以此为标志蒙古人对罗斯公国长达238年的统治画上句号。到16世纪初莫斯科大公国已兼并了特维尔、普斯科夫和里亚赞等罗斯公国，又从立陶宛人手中收复了斯摩棱斯克。