还在蒙古西征时期，蒙古人就开始同西欧有所接触。基督教的一个支派——景教虽于9世纪在中国内地被禁，但在西北少数民族地区仍有所活动。蒙古诸部崛起时，一些部落就信奉景教。后来通过联姻关系，不少蒙古王公贵族、后妃皇亲也纷纷皈依。如成吉思汗长子术赤和四子拖雷的王妃，以及一位女婿都是景教教徒。元朝统一中国后，景教自然成为全国流行的宗教之一。正是在这种情况下，罗马教廷企图用基督教的力量影响蒙古人，于1245年派意大利人普兰·迦尔宾出使蒙古。继迦尔宾东来的，是教皇使节、意大利人阿西林。他奉命出使伊儿汗国，于1247年5月到达伊儿汗国统帅拜住的营帐，呈交了教皇的信件。但仅获得拜住的一封言词傲慢的回书。

除罗马教廷外，西欧主要的基督教王国——法国统治者也试图通好蒙古。1248年，法王路易九世率领西方第八次十字军东征时，在塞浦路斯派人出使伊儿汗国，使臣是安德烈·朗久木。此时的伊儿汗国统帅伊治加台是一位景教徒。他派使臣大卫和马克等前去见法国国王，要求法国出兵埃及，配合蒙古军进攻巴格达的计划，双方协同对穆斯林作战。安德烈·朗久木便随着大卫、马克一起往见蒙古大汗。不巧正值贵由汗病死，执政的皇后海迷失接见了他们。1253年，法国又派教士卢布鲁克以传教士的名义前往和林。这位法国方济各会的教士从地中海东岸的阿克拉城(今巴勒斯坦海法北)出发，渡过里海，先到伏尔加河畔谒见了拔都。拔都命其去见蒙古大汗蒙哥。1253年底，卢布鲁克抵达了蒙哥设在汪吉河(今蒙古翁金河)附近的冬季营帐，并于次年年初随蒙哥来到蒙古都城和林。他在那里居住了五个多月，见到了许多在大汗宫廷中供职的法国人、俄国人、英国人和匈牙利人，随后带着蒙哥给路易九世的复信返回欧洲。卢布鲁克的使命虽未完成，但他根据自己的见闻撰写的《东方行纪》却是又一部关于蒙古和中亚的重要资料。他比意大利人马可·波罗早半个世纪向欧洲提供了关于中国的信息。

欧洲使者不断东来，蒙古也派使者西去。他们当中最早和最有成就的，当推列班·扫马。列班，是叙利亚语“教师”的意思，是景教教士的称号，扫马则是他的名字。列班·扫马是元大都(今北京)人，出身于一个维吾尔景教教徒家庭。他20多岁时弃家修行，先隐居在北京附近的山里，后来和另一个景教徒马可斯一起，结伴去耶路撒冷朝圣。1278年，他们从大都出发，随商队西行，一路经宁夏、和阗、喀什等地，抵达伊儿汗国蔑剌拉城(今伊朗阿塞拜疆马腊格)，谒见了景教教长马·腆合。因当时叙利亚北部道路上多有匪患、战乱，无法前往圣城耶路撒冷，只得留居巴格达。后来，马可斯被任命为景教的主教、总主教。扫马也被任命为教会巡视总监。1287年，伊儿汗国想联合欧洲基督教国家共同攻打耶路撒冷和叙利亚，所以派遣精通拉丁语的扫马出使欧洲。扫马经君士坦丁堡、那不勒斯，到达罗马。恰逢教皇去世，于是继续西行，抵达巴黎，向法国国王腓力四世递交了伊儿汗国统治者阿鲁浑的书信与礼物，受到法王的隆重接待。法王表示愿意应援伊儿汗国。此后，扫马又去拜见了英国国王爱德华一世，英王也允诺同伊儿汗国结盟。完成上述使命后，扫马在归途中再访罗马，谒见了新教皇尼古拉四世，呈上国书，得到了教皇的厚赐。出使欧洲归来后，扫马著有《旅行记》。书中生动地记载了欧洲的风土人情。

扫马的出使，使罗马教廷认为在中国广泛传教的时机已经成熟。1289年，方济各会教士约翰·孟高维诺奉命携带教皇致蒙古诸汗的书信，前来中国传教。孟高维诺先到伊儿汗国都城，然后转道印度，从海路来到中国。成为第一位正式出使元朝的欧洲使者。1294年，孟高维诺到达大都，向元成宗呈交了教皇的书信，获准在大都传教。他在皇宫附近建立了中国第一座罗马天主教的教堂，先后为数千人洗礼。1307年，被教皇任命为中国教区第一任总主教。当时，教皇克莱孟五世还派了七名教士前来中国协助孟高维诺。其中三人到达大都，后来相继到泉州分教区担任主教。

与孟高维诺同时，另一位意大利传教士鄂多立克于14世纪初也来华传教。鄂多立克取道君士坦丁堡、大不里士、印度，再经海道历斯里兰卡、苏门答腊、爪哇等地到达广州。此后，他到泉州、福州，经仙霞岭到金华，再沿钱塘江去杭州，然后由南京、扬州溯运河北上大都。在大都留居了三年以后，鄂多立克取道山西、陕西，游历了青藏地区，再由今阿富汗的喀布尔到大不里士，一路返回威尼斯。回到故乡以后，鄂多立克将自己的广泛见闻整理出来，写成了《东游录》一书。其中，对他所访问过的中国各个都市备加称赞。

元代中国同罗马教廷的友好关系，一直维持到元朝末年。元顺帝时，派泉州主教安德烈一行16人出使教廷。他们于1338年到达教皇当时居留的法国阿维农，受到优厚款待。元顺帝致书教皇，表示愿意交好，并请求教皇为他购得西方良马和珍宝。教皇于是派遣约翰·马黎诺里等数十人组成庞大使团前来中国。使团自阿维农出发，取道君士坦丁堡，渡过黑海，先到钦察汗国都城会见了钦察汗，又到察哈台汗国都城阿力麻里，从那里经哈密前往大都。当使团于1342年8月到达大都时，元朝安排了盛大仪式，给予隆重接待。马黎诺里等向元顺帝呈上教皇的复信和西方骏马一匹。这匹马当时被赞为“天马”。元顺帝大喜，命画工作《天马图》，文臣作《天马赞》。马黎诺里在大都居留四年，然后经泉州走海路到印度、斯里兰卡，再经巴格达、耶路撒冷、塞浦路斯回到意大利，于1353年返回阿维农。他带给教皇元顺帝的书信，信中表示尊重基督教，并要求教皇继续派传教士前往中国传教。马黎诺里后来著有三卷《波希米亚史》，将他在中国的见闻也包括在书中。