在南北朝的时候，佛教禅宗第五祖弘忍大师，在湖北的黄梅开坛讲学，手下有弟子五百余人，其中翘楚者当属大弟子神秀大师。神秀也是众僧公认的禅宗衣钵的继承人。弘忍渐渐的老了，于是他要在弟子中寻找一个继承人，所以他就对徒弟们说，大家都做一首偈子(有禅意的诗)，看谁做得好就传衣钵给谁。这时神秀很想继承衣钵，但又怕因为出于继承衣钵的目的而去做这个偈子，所以他就在半夜起来，在院墙上写了一首偈子：
身是菩提树，心为明镜台。
时时勤拂拭，勿使惹尘埃。
这首偈子的意思是，要时时刻刻去擦拭自己的心灵和心境，通过不断的修行来抗拒外面的诱惑及种种邪魔，是一种入世的心态。强调修行的作用。而这种理解与禅宗大乘教派的顿悟是不太吻合的。当天早上大家看到这个偈子都说好，而且都猜到是神秀作的，很是佩服。可是五祖弘忍法师看后没有做任何的评价，因为他知道神秀还没有顿悟。
正当庙里的和尚们都在谈论这首偈子的时候，被厨房里的一个火头僧—惠能禅师听到了。惠能当时就叫别人带他去看这个偈子。这里需要说明的一点是，惠能是个文盲，他不识字。他听别人说了这个偈子，当时就说这个人还没有领悟到真谛啊。于是他自己又做了一个偈子，央求别人写在了神秀的偈子的旁边：
菩提本无树，明镜亦非台。
本来无一物，何处惹尘埃。
从这首偈子可以看出惠能是个有大智慧的人，他这个偈子很契合禅宗的顿悟的理念，是一种出世的心态。主要意思是，世上本来就是空的，看世间万物无不是一个空字，心本来就是空的话，就无所谓抗拒外面的诱惑，任何事物从心而过，不留痕迹。这是禅宗的一种很高的境界，领略到这层境界的人，就是所谓的开悟了。
弘忍看到这个偈子以后，问身边的人是谁写的，边上的人说是惠能写的，于是他叫来了惠能，当着他和其他僧人的面说：写得乱七八糟，胡言乱语，并亲自擦掉了这个偈子。然后在惠能的头上打了三下就走了。这时只有惠能理解五祖的意思，于是他在晚上三更的时候去了弘忍的禅房。在那里弘忍向他讲解了《金刚经》这部佛教最重要的经典之一，并传了衣钵给他。然后为了防止神秀的人伤害惠能，让惠能连夜逃走。于是惠能连夜远走南方，隐居10年之后在莆田少林寺创立了禅宗的南宗。而神秀在第二天知道了这件事以后，曾派人去追惠能，但没有追到。