相传达摩来到中国讲法，与梁武帝因为对于佛学的主张不同，每次谈论起佛事，二人总是不投机。达摩于是告辞，希望渡江北上传法。

    当时有个高僧神光正在南京雨花台上讲经说法，达摩于是过去听讲，听到有些地方的时候摇摇头。神光发现了达摩摇头，于是与达摩谈论佛法，但是二人对佛学的认识也有分歧意见，达摩便主动让步，离开雨花台渡江北上去了。

    达摩来到江边，抽取一棵芦苇，把芦苇放在江面上，只见一朵芦苇花，昂首高扬，五片芦叶，平展伸开，达摩双脚踏于芦苇之上，飘飘然渡过了长江。神光思量过后，追寻到江边，看到达摩一苇渡江，神光感到了达摩佛法的精深，惭叹不已，懊悔而归。

    还有一首赞美的诗歌：路行跨水复逢着，独自凄凄暗渡江。日下可怜双象马，二株嫩桂久昌昌。

    现在普遍认为一苇渡江讲述的只是一个传说，达摩一苇渡江的故事应该是传述达摩佛法无边的一种工具。