有一天，达摩向他的师傅求教说：“我得到佛法以后，应到何地传化？”般若多罗说：“你应该去震旦（即中国）”。又说：“你到震旦以后，不要住在南方，那里的君主喜好功业，不能领悟佛理”。达摩遵照师父的嘱咐，准备好行李，驾起一叶扁舟，乘风破浪，飘洋过海，用了三年时间，历尽艰难曲折，来到了中国。达摩到中国以后，广州刺史得知此事，急忙禀报金陵，梁武帝萧衍立即派使臣把达摩接到京都，为其接风洗尘，宾客相待。
达摩漂洋过海来到中国，得知梁武帝笃信佛教，先去了建康（今南京）找梁武帝聊佛法，达摩是禅宗大乘派，普渡众生。而梁武帝信奉小乘佛教，主张自我修行。由于他们的主张不同，每谈论起佛事，二人总是不投机。武帝不能理解，，这时达摩感到南京不是久留活动的地方，于是便告辞萧衍，渡江北上入魏。
据说，当他来到洛阳时，看到永宁寺内十分精美的宝塔， 自云：“年一百五十岁，历游诸国”，从未见到过， “极佛境界，亦未有此！”因而“口唱南无，合掌连日”。后到嵩山少林寺， “面壁而坐，终日默然，人莫之测，谓之壁观婆罗门”。在此期间，收弟子慧可，有慧可“立雪断臂”的故事流行于世。
北魏孝昌三年，达摩抵达少林寺，达摩抵达少林寺后便在少林寺旁不远的嵩山西麓五乳峰的中峰上部、离绝顶不远的一孔天然石洞中面壁九年。他就在这个石洞里，面对石壁，端端正正的坐在那里，两腿曲盘，两手作弥陀印，双目下视，五心朝天入定。开定后，他就站起身来，作一些径行活动，锻炼一下身体，待倦怠恢复后，又是坐禅入定。就这样进行了长达九年的修性坐禅。
最终悟出了一样能让中原人们接受的佛法：东土禅宗。禅宗不需要言语文字来阐述，只要了解自己的心性，就可以悟道成佛。
所以有些大师虽然一个字也不认识，也毫不妨碍成为大师。比如后来的禅宗六祖慧能大师，就不识字，但是他吟出了一首堪称禅宗高度总结的诗：
菩提本无树，明镜亦非台；
本来无一物，何处惹尘埃。
他用“顿悟”来讲述禅宗，随时随地，讲究的是内心的理解和明净。
