退还侵鲁之地）必会重新上演，如此便可立功赎罪了，这也是我初降时夙夜所思，一直念念不忘的。可惜啊，人算不如天算。先帝为贼臣所蒙蔽，不听良言，不辨贤愚，族灭我的全家，令我身败名裂，为世人所耻笑，既如此，那我还如何顾得上立功归汉的宿愿呢？唉，算了吧，一切都已过去了。子卿，我说这么多，只想让你知道我真实的心意罢了。如今我已成了异国之人，这一别咱们就永远隔绝了。”苏武也叹息不已。
李陵起身，拔出宝剑，翩翩起舞，放声歌唱：“径万里兮度(渡)沙幕(漠)，为君将兮奋匈奴。路穷绝兮矢刃摧，士众灭兮名已（颓）。老母已死，虽欲报恩将安归！”不觉泪流满面。苏武不知该如何劝慰自己的老友，也是泪下数行，深情地凝视着他。不久，两人依依不舍地惜别了。
单于召集苏武及其以前的部属，除去已归降和逝世的，先前的百余人，如今总共只剩下了十人。单于也感叹不已，劝慰一番，又赞苏武乃国士无双。苏武坦然一笑，起身致谢，便领着九人回国了。
始元六年（公元前81年）春，苏武等人回到长安。京师震动，男女老少，纷纷出动，争相一睹这些传奇人物。自霍光以下的朝臣也纷纷投来赞许的目光。昭帝也很敬重他们，令苏武备齐一牛、一豕、一羊等太牢，拜谒武帝园庙。苏武又痛哭了一番，言自己虽历经坎坷，但总算是不辱使命。
归来后，昭帝升任苏武为典属国（掌管少数民族事务），秩中二千石，赐钱二百万，公田二顷，住宅一处。常惠、徐圣、赵终根等皆拜为中郎，赐帛各二百匹。其余六人因年老而返乡，各赐钱十万，终身免除徭役。
元凤元年（公元前80年）鄂邑长公主，燕王刘旦，左将军上官桀、其子骠骑将军上官安，御史大夫桑弘羊等人谋反，皆被诛杀。苏武之子苏元与上官安交情不错，免不了牵涉其中，因而也被处死了。
当初后元二年（公元前87年）的时候，武帝病危，临终之前，指定大司马、大将军霍光领尚书事，车骑将军金日磾、左将军上官桀、御史大夫桑弘羊等为其助手，共同辅佐刘弗陵、时年方八岁的汉昭帝。