南少林寺原名林泉院，始建于南朝陈永定元年即公元557年。林泉院的习武之风，缘起于唐初，传说唐太宗李世民登基后，辅公部将路得才聚众东南沿海沦为强盗，夜集明散，弄得民不聊生。唐太宗命已敕封为大将军的少林寺方丈昙宗率僧兵惩治海盗。昙宗派十三棍僧之一的道广和尚和僧广、僧满三人带五百僧兵入闽平暴。他们在当地收下不少禅宗弟子，沿海人民挽留这些救难的活菩萨。道广也感到盛情难却，就回嵩山少林祖庭禀告昙宗方丈，昙宗方丈送一首偈语让其在福建找一处同嵩山九顶莲花山相似的地方建一座南少林寺：一则示不忘祖庭；二则在沿海传播大乘禅宗。偈语是"傍海平盗日月久，九莲山下有宿头;南北少林同一寺，大乘禅在心中留"。为此，道广和尚回到福建就按照方丈偈语所说，同师兄弟们找到了当时就有名气，且酷似嵩山的林泉院扩寺定居，同嵩山少林寺一样养僧兵，参政事，林泉院也就成为江南的少林分寺。