汉朝经过六十多年的休养生息，到汉武帝时开始进入全盛时期。面对匈奴人多次南下的入侵，汉武帝决心一改对匈奴的守势，转为主动反击。他无意中从匈奴降者得知河西走廊原有强盛的游牧部落大
汉武帝想，大月氏既然在匈奴西边。汉朝如果能跟大月氏联合起来，切断匈奴跟西域各国的联系，这不是等于切断了匈奴的右胳膊吗？
于是，他下了一道诏书，征求能干的人出使大月氏。张
公元前138年，也就是汉武帝建元三年，张骞被任命为出使大月氏国的使者，带着一百多人的队伍，从长安出发了。
但是到大月氏，一定要经过匈奴占领的地界。不久，他们就进了匈奴人的活动范围。张骞带领手下人正想迅速通过时，不料被匈奴士兵发现了。这一百多人怎么能是匈奴大军的对手！匈奴单于听说抓到了一个汉朝使臣，就问张骞：“你要到哪个国家去呀？”张骞回答说：“我们要到大月氏国去。”单于并没有想到汉使是去联络大月氏国打匈奴的，但他不允许汉使通过自己的地盘。单于把张骞留下作人质，给他找了一个匈奴妻子，让他和手下随从去给右贤王牧羊。
张骞不甘心失败，一直想逃走。有一天，他和甘父等几个人商量好，趁匈奴看守放松警惕的时候，偷了几匹骆驼和骏马，向西逃去。大沙漠一望无边，没有食物和水，张骞等人又渴又饿，一连走了十几天，累得都走不动了，才终于到达一个有水、有草而且有很多鸟儿和野兽的地方。这时候，甘父使出看家本领，箭无虚发，射中很多鸟兽，大家就生吃了。
翻过葱岭，他们来到了大宛国，这儿的风景很好，与汉朝可大不一样。这儿的人也都是高鼻梁、蓝眼睛、大胡子，而且非常热情。听说张骞从汉朝来，都非常羡慕：“汉朝又大又美丽，有很多人，是吧？”他们一边询问，一边拿出酒肉招待贵宾。
大宛国王也早就听说东方有一个神奇的国家，金银财宝多得用不完，早就想和汉朝来往，一听说汉使来了，当然很高兴。张骞举着使节，对大宛王说：“我奉汉朝皇帝的命令，出使大月氏国，中途被匈奴人扣留，现在来到贵国，如果大王能派人把我们送到大月氏国去，我们汉朝皇帝一定会重重地感谢您的。”
大宛国王说：“当然可以。这儿到大月氏国，还要经过康居国，汉使尽可放心，我派骑兵和翻译把你们送去就是了。”
张骞等人到了康居后，康居王也很热情，又派人把他们送到大月氏。再说大月氏人，自从被匈奴打败后，向西逃到葱岭以西，联合大夏国建立了一个国家，叫做大月氏国。这些年来，他们无忧无虑，种地放羊，生活很富裕，时间长了，就把报仇的事给忘了。张骞见到大月氏国王后，就表明自己的来意，劝他和汉朝联合对付匈奴。可是，他总是借口路太远了，力量不够来岔开话题，张骞感到很失望。
过了一年多，张骞看到还是不能达到目的，就决定回长安。可路上又被匈奴人抓住了。不过这次匈奴人内部发生了叛乱，单于死了，这给了张骞和甘父一个好机会，他俩又逃了出来，终于回到了汉朝。
这次出使，张骞吃了不少苦，回来的时候也老了许多，并且原来的一百多人也只剩下他和甘父两个人了。
十三年前的使团终于回来了，汉武帝非常高兴，尽管张骞这次没能完成任务，武帝还是重赏了他们。
公元前123年，张骞以校尉的身份随大将军卫青出征匈奴，因有功，被封为博望侯。公元前121年，张骞为卫尉，与李广共击匈奴，但因延误军期该当斩首，后经人说情，免去死罪，贬为平民。
公元前119年，汉王朝为了进一步联络乌孙，断“匈奴右臂”，便派张骞再次出使西域。这次，张骞带了三百多人，顺利地到达了乌孙。此时，匈奴势力已被逐出河西走廊，道路畅通。到达乌孙后，他请乌孙东返故地。乌孙王年老，不能做主，大臣都惧怕匈奴，又认为汉朝太远，不想移徙。张骞派遣副使分别赴大宛、康居、大月氏、安息、身毒、于阗、弥（今新疆于田克里雅河东）等国展开外交活动，足迹遍及中亚、西南亚各地，最远的使者到达地中海沿岸的罗马帝国和北非。公元前115年，乌孙王配备了翻译和向导，护送张骞回国，同行的还有数十名乌孙使者。这是西域人第一次来到中原。乌孙王送给汉武帝数十匹好马，深得武帝欢心。武帝令张骞负责接待各国使者和宾客。第二年，张骞去世。他所派遣的副使以后也陆续带了各国使者来到长安，汉朝和西域诸国建立了友好关系。从此，汉朝的使者不断往来于西域诸国，多则一年十几次，少则一年五六次，都用博望侯的名义，以获得各国的信任。乌孙国见汉朝军威远播，财力雄厚，于是重视与汉朝的关系，要求和亲。武帝将江都王刘建之女细君公主嫁给乌孙王昆莫。细君死后，武帝又把解忧公主嫁给乌孙王岑陬，两国长期通婚友好。
张骞通西域之后，丝绸大量西传，其他如养蚕、漆器、铁器和冶铁术、井渠法及其他工艺品、农产品相继向西传播，而汉使从西域引进了葡萄、苜蓿及胡桃（核桃）、石榴、胡麻（芝麻）、胡瓜（黄瓜）、胡豆（蚕豆）、胡蒜（大蒜）、胡萝卜等农产品和毛皮织品、珍禽异兽，以及西方的音乐、舞蹈、绘画、雕塑、杂技等，这对我国古代的文化艺术也产生了积极的影响。