汉武帝初年，匈奴人多次南下入侵汉朝。汉武帝从投降的匈奴人口中了解到了西域的一些情况。西域有一个月氏国，被匈奴打败。月氏人恨死了匈奴人，但无力反抗，只好向西逃走，不过他们一直都想报仇。
汉武帝想，月氏国在西，如果汉朝能联合月民国，两边夹攻匈奴，那匈奴人就无处可逃了。于是，他发了一条告示，在全国范围内招募有胆量、能吃苦的使者。有一个年轻的郎中名叫张骞，他看到告示后，认为出使月氏国很有意义，于是就报了名。随后还有许多勇敢的人也都纷纷应征。
公元前138年，张骞被任命为出使月氏国的使者，他带着一百多人的队伍，从长安出发了。汉使团不久就进了匈奴人的活动范围。张骞带领手下人小心地走了几天，但还是被匈奴士兵发现了。当时，匈奴和汉朝表面上关系还不错。单于就把张骞留下，给他找了一个匈奴妻子，让他和手下的随从去给右贤王牧羊。
张骞不甘心失败，一直想逃走有一天，他和几个人商量好，趁匈奴看守放松警惕的时候，偷了几匹骆驼和骏马，向西逃去。大伙翻山越岭，来到了大宛国。
大宛国王早就想和汉朝来往，一听说汉使来了，当然很高兴。张骞举着节杖，对大宛王说：“我奉汉朝皇帝的命令，出使月氏国，中途被匈奴人扣留，现在来到贵国，如果大王能派人把我们送到月氏国去，我们汉朝皇帝一定会重重地感谢您。”大宛国王说：“当然可以。汉使尽可放心，我派骑兵和翻译把你们送去就是了。”
张骞等人到了月氏。月氏人自从被匈奴打败后，逃到葱岭以西，联合大夏国建立了一个国家，叫做大月氏国。这些年来他们无忧无虑，种地放羊，生活很富裕，已无兴兵之意。张骞感到很失望。过了一年多，张骞看到还是不能达到目的，就决定返回长安。
十三年前的使团终于回来了，汉武帝非常高兴。尽管张骞没能完成任务，但这次西行还是有很大收获的。张骞到了许多国家，知道了西域的风土人情，特别是了解到西域许多国家和人民都非常想和汉朝来往。张骞把这些情况都告诉了汉武帝。汉武帝认为张骞立了大功，封他为太中大夫。
公元前119年，汉武帝再次派遣张骞去交往西域各国。张骞带着三百多人的使团到了乌孙，乌孙王亲自迎接。张骞送上汉朝的礼物，建议两国结为亲戚，共同抵御匈奴。
乌孙王非常高兴，他还想再了解一下汉朝的情况，于是派了使者和张骞来到长安。汉武帝热情地招待了他，乌孙使者看到汉朝兵强马壮，经济繁荣，就回去报告了乌孙王。乌孙王于是下定决心，和汉朝建立了友好关系。张骞在乌孙国时还派出了许多副使，分别去联络大宛、康居等国。不久，西域其他国家也派了使者，并且像乌孙一样，和汉朝发展了友好的关系。
从此以后，汉朝和西亚及欧洲的经济、文化交流得到了极大发展。汉武帝每年都派使节去访问西域各国，西域派来的使节和商人也络绎不绝。中国的丝和丝织品，经过西域运到西亚，又运到了欧洲，后来人们便把这条路称为“丝绸之路”。