“雁行”与“鱼贯”本来都是我国传统词汇。“雁行”指像大雁飞行一样排列成行，语出《诗经·郑风·大叔于田》：“两骖雁行。”(“骖”是驾车时在两旁拉套的马。)“鱼贯”指像游鱼一样，一个接着一个，语出《三国志·邓艾传》：“将士皆攀木缘崖，鱼贯而进。”

    《大慈恩寺三藏法师传》第10卷里面，有这样的记载：玄奘在印度获得了极高的声誉，“声振葱岭，名流八国”，很多其他教派的人不服气，纷纷前来与他辩论，“雁行鱼贯，毂驾肩随”——像大雁飞行一样，像群鱼游动一样，一个接着一个驾着车到来。

    成语“雁行鱼贯”就是由此产生的，将“雁行”与“鱼贯”二词并列，用来比喻：排列成行，一个接着一个，接连不断。