당 후기에 달마선이 쇠퇴하는 가운데 경전 공부를 소홀히 하며, 경론 인용을 통한 해설식 법문보다는 짤막한 선문답 식의 법문을 위주로 하는 경향이 확산되어 갔다. 소동파가 당시의 정황을 다음과 같이 크게 한탄하였다.
"요즈음의 배우는 사람들은 각기 그 스승을 종으로 삼아 간편함에만 힘써 따른다. 일구일게(一句一偈)를 얻고는 스스로 자신이 증득하였다고 말한다. 심지어 부인이나 어린애에 이르기까지 기분 좋게 웃으면서 선열(禪悅)이 어떻다느니 하면서 다투어 말한다. 위에 있는 이들은 명예를 위하여, 아래에 있는 자들은 이익을 위해서 그러하며, 그밖의 말류들은 이리저리 쫓아다니지 않음이 없어 불법이 쇠미하게 되었다."
이런 변화 양상은 북송 남송기에 걸쳐 문자선과 간화선이 나오게 되면서 초기 선종의 모습과는 거의 딴판이 되었다. 경론을 인용하고 그 논법에 의거하는 것은 아래 단계 법문으로 인식하였고, 교를 통해 전해진 법 밖에 따로 더 기특한 최상의 법이 이심전심(以心傳心)으로 전해져 왔다는 설을 내세웠고, 경론의 여래선(如來禪) 위에 조사선(祖師禪)이 있다는 설을 새로 만들었다. 『능가경』의 여래선이란 여래만이 행할 수 있는 선으로 그 위에 어떠한 선법도 있을 수 없다. 앙산이 아직 법상의 분별을 넘지 못하고 있는 향엄을 일깨우기 위하여 향엄이 여래선에 있지만, 조사선에 이르지 못했다고 평했다. 하지만, 향엄이 법상의 분별에 있는 것을 여래선이라고 폄하한 것은 앙산의 왜곡이며, '후인들을 오해하게 만들었다. 앙산의 잘못된 용어 사용으로 후대에는 여래가 갖가지 법상을 세워 중생을 이끈 때의 법문에 의거한 선을 여래선으로 지칭하게 되었다. 이후 선사들은 가능한 자신의 명리를 위해 경론의 법문을 인용하는 것을 회피하게 된 것이다.
대승경론의 도처에서 언어 분별을 넘어선 자리를 이해하고, 깨닫고 수긍할 수 있도록 갖가지 법문을 통해 설파하고 있다. 그 뜻을 깊이 이해하고 자심에서 깨달아 구현하게 되면 성취하는 것이고, 이것이 달마선(능가선)의 근간이다. 깨달음, 해탈, 열반, 진여, 불성, 심성이 자심 밖에 따로 있는 것이 아니고, 자심에 본래 갖추어져 있다. 그래서 이를 얻으려고 함은 본래 갖추어져 있다는 뜻에 어긋난다. 단지 본래 갖추어져 있음을 알 뿐이다. 본래 갖추어져 있고 일체 모든 것이 본래 마음뿐이라 자심 밖에 다른 것이 없으니 그것은 인식의 대상도 아니다. 지금 당처에 항상 구현되고 있을 뿐이다.
『능가경』에 「분별 떠남이 진여(眞如)다」고 하였다. 일체가 오직 마음일 뿐이다(一切唯心) 하였으니 마음 밖에 다른 것이 없어 마음이라 분별할 다른 것도 없고, 유심이라는 법도 얻을 바 없다. 마음 아닌 다른 것이 있어야 마음이라고 분별될 것인데 마음 아닌 다른 것이 없기 때문에 마음도 분별될 것이 아니다. 마음은 본래 인식의 대상이 되는 것이 아니다. 그래서 유심이라 함은 '분별 떠남'을 뜻한다. 모든 경론에서의 법문들은 일단 분별의 법이로되 그 법문을 깊이 이해하면 그 법문에 걸리거나 집착함을 넘어서게 되어 있다. 언어 분별로 설해진 교를 통해 그 언어 분별의 교법을 넘어서게 되어있는 것 불법이다.
갈수록 짤막한 선문답이나 선어록이 유행하면서 선사를 만나 언하에 바로 깨닫는다는 이른바 言下便悟의 명구가 유행하게 되었다. 그러나 『육조단경』에 분명히 설하였거니와 언하변오言下便悟는 경론의 법문으로 이러한 자리에 들지 못하였을 때 선지식을 찾아 친절한 가르침을 청하여 그 말을 듣고 깨우쳐야 한다고 한 말이다. 그런데 이 말은 후대에 크게 잘못 이해되어, 단지 선사들을 찾아서 그 말을 듣고 바로 깨우쳐야 진실하고 궁극의 깨우침인 양 오해되었다. 그리하여 경론으로 차분히 理/二入과 行入을 통해 불심을 전등할 수 있는 길을 버리고, 그저 몇 마디 선어록으로 언제 느닷없이 큰 깨달음이나 오지 않나 하고 일생을 보내는 경우가 매우 많게 되었다. 그러나 대승경론을 통한 이입이 제대로 되어 있지 않다면 거의 진전을 보기 어렵다. 선지식의 가르침도 결국 질문하는 이가 경론의 뜻을 현실에 구현시키지 못하고 있는 부분과 놓치고 있는 사항을 알아채서 그곳을 터주고 지적해주는 것일 뿐이다.!
당 후기에 갖가지 선어록, 선시의 뜻을 풀이한다 하여 다양한 방식의 해설들이 양산되고, 그 선어록 해석을 논리적 설명 없이 풀이하다 보니 그 해석이 더욱 알쏭달쏭하여 후인들로 하여금 뜬구름 잡듯 더욱 헤매게 만들었다. 이를 '문자선(文字禪)' 이라 하고, 이러한 풍조에서 '구두선(口頭禪)'이라는 유행어도 나오게 되었다.
당 후기 들어 선사들의 법문이나 제자를 제접하는 방식으로 사事를 통한 짤막한 문답과 기봉(機鋒, 선승의 예리한 말이나 동작)이 넘치는 선문답이 유행처럼 양산되었고, 이렇게 쌓인 선사들의 언행이 당 후기에 '공안(公案)'이라 칭해졌다. 황룡혜남은 언구에 의해 이해로 이끄는 것은 '사구死句'라 하고, 사상事象으로 제시된 것은 '활구活句'라고 주장한 이후, 선사들의 법문은 사상의 인용을 통한 법문이 주종을 이루었다. 이치를 바로 드러내어 이해할 수 있도록 하는 법문은 자칫 '사구'로 폄하되었기 때문이다. 그래서 갈수록 그 뜻을 파악하기 어려운 기이하고 기발한 사상으로 선지를 드러내고 학인을 제접한다는 풍조가 만연하였다.
문자선의 말미를 크게 장식한 원오극근의 「벽암록」은 설두중현의 『頌古百則』을 번쇄(煩瑣 너저분하고 구질구질함)할 정도로 여러 해설로 풀이하였지만 전술한 문자선의 한계를 벗어나지 못하였다. 원오극근의 제자인 대혜종고가 창도한 간화선은 오로지 화두를 의문의 명제로 삼아 이를 참구하는 것인데, 화두(話頭)란 문답으로 된 공안에서 단지 하나의 중심 어구만 가리켜 말한 것이다. 대혜가 가장 많이 추천한 화두는 조주스님이 문답 가운데 '개에 불성이 없다'고 한 공안에서 없다는 '무(無)' 자를 화두로 드는 것이다.
"망상으로 전도된 마음, 사량분별하는 마음, 생을 좋아하고 죽음을 싫어하는 마음, 지견으로 이해하는 마음, 고요함을 좋아하고 시끄러움을 싫어하는 마음을 일시에 놓아버리고, 단지 놓아버린 곳에서 화두를 간한다.“ 어느 스님이 조주스님에게 물었다. "개에서 불성이 있습니까?" 조주스님이 말하였다. "없다." 이 한 글자 무(無)'가 바로 허다한 나쁜 지각을 멸해버리는 무기이다.
유와 무의 지견을 지어 통하려 하지 말고, 도리를 지어 통하려 하지 말며, 의근에 향하여 사량하고 헤아리지 말고, 눈썹을 치켜뜨고 눈을 깜빡이는 것에 향하여 의근을 쌓아가지 말며, 어로상에서 활로를 도모하지 말고, 일없이 앉아 있는 곳에서 날아오르려(깨달으려) 하지 말며, 화두를 들어 일으킨 곳에서 어떻게 하려 하지 말고, 문자로 향하여 인증하지 말라. 단지 하루의 사위의(행주좌와) 가운데 때때로 화두를 일으켜 들고, 때때로 화두를 들어 각지한다. "개에 불성이 있습니까?" 이른다. "없다." 여기에 떠나지 않고 일용하면서 이와 같이 공부하여 간하면 한 달 10일에 바로 스스로 견득할 수 있다.
여기에서 8종의 '하지 말라(不得)는 대부분 송고, 평창, 기봉, 구변을 위주로 하는 문자선을 비판한 것이고, '일없이 앉아 있는 곳에서 날아오르려 하지 말라'라 한 것은 묵조선을 비판한 것이다.
대혜종고의 간화선 제창은 주로 사대부 거사들에게 보낸 편지에서 이루어지고 있다. 그가 간화선을 권할 때는 거의 대부분 먼저 종래 익히 전해져 온 달마선 선지의 중심어구들을 간단히 나열한 후 이것도 지해(知解, 알음알이)의 병에 떨어지게 하는 것이니 이마저 버리고 화두를 참구하라고 한다. 그러나 먼저 들고 있는 달마선의 '불용심不用心', '불사不思', '절관絶觀', '무심無心', '심불기心不起', '무념無念' 등의 선지를 뚜렷이 알았다면 화두를 들래야 들 수가 없게 된다. 그는 '불용심不用心'을 들기도 하였는데, 어찌 마음으로 화두를 간하거나 참구하는 마음 쓰는 행을 할 수 있을까. 초기 선종 이래의 선지로 지해에 떨어지는 것이 아니라 이 선지를 통하여 어느 법상에도 의지함이 없게 되어 법상을 넘어서게 된다. 즉, 일체의 지해를 넘어서게 되는 것이다. 그런데 대혜종고는 그것을 버리고 화두를 간하게 함으로써 화두 드는 것이 마치 달마 이래의 선법보다 더 뛰어난 것인 양 후인들을 착각하게 하였다. 이제 화두 드는 것이 조사선인 것으로까지 오인되었다.
간화선이 유행하면서 충분한 교법을 연찬하는 경우가 매우 드물게 되었고, 화두를 깨우치면 백천 삼매가 성취된다는 등 마치 성불이라도 하는 것인 양 선전하였고, 그러한 말에 대부분 넘어갔다. 무자 화두를 참구하는 간화선을 처음 창도한 분이 황벽희운 선사인 양 위조하여 간화선의 정통성을 확보하고 권위를 높이고자 하였다.
굉지정각(1091~1157)은 단하자순의 '공겁(空劫) 전의 자기(自己)'라는 일구에 증오하였다고 한다. 모든 것은 심지상의 망상 연영(緣影: 대상으로 비친 그림자)이며,'공겁 전의 일'은 곧 본심이라 하고, '시방법계가 일심으로부터 일어난 것이니 일심이 적멸하게 될 때 모든 상이 다 멸진한다'고 하였다. 그래서 공겁 전의 본연, 즉 '본래시절'에 들기 위해서 묵조의 행을 닦아야 한다고 하였다.
"전지(田地: 본연의 심지)가 텅 비고 확 트여 있나니 이것은 본래 갖추고 있는 것이다. 응당 말끔히 다듬고 다듬어 모든 망연(妄緣)의 환습(幻習)을 제거하면 저절로 맑고 밝은 원명한 곳에 이르게 되어 텅 비고 텅 비어 무상(無象)하고, 홀로 우뚝하여 의지할 바가 없이 오직 확연히 본진(本眞)을 비출 뿐이고, 바깥 경계 사라진다."
이 묵조행에서 우선 본연의 허명하고 확 트인 심지가 본래 갖추어 있음을 알아야 한다. 그는 「전지(田地 : 본연의 심지)를 쉬고 쉬면 마땅히 알지니 당처에서 멸진한다. 이로부터 건립되어 바로 당처에서 생사를 넘는다」고 하였다. 즉 본연의 심지가 적멸 허명하니 마음을 쉬고 쉬어 고요하고 허명하게 하는 행이 '묵默'이고, 그 가운데 드러나게 되는 텅 비고 의지할 바 없는 본진(本眞)이 드러나 ‘조照'의 공용이 있게 된다. 그는 묵默하는 곳에 조照의 공이 있어 어떠한 작의(作意)의 공부도 요하지 않는다고 하였다. 그래서「묵묵의 공부에 심용(心用)이 스스로 경작된다.」, 「함묵의 행이 묘하니 본광이 스스로 비춘다」고 하였다. 묵조가에서는 특정의 관조하는 대상이 없다. 묵조에서의 조는 어떤 특정 대상을 비추는 행이 아니라 본연의 심지에서 저절로 비추어지는 행이다. 때문에 묵조선이 행해지기 위해서는 먼저 본연의 심지를 요지해야 한다. 디만 아직 요지하지 못한 상태일지라도 본연의 심지(불심, 일심)를 본래 자심에 갖추고 있다는 뜻에 의하여 무엇을 구하고자 하지 않고, 분별함을 쉬고 쉬면 본연의 심지가 자연히 드러나게 되어 있다는 것이다.
"묵묵히 자재하고, 여여如如하여 연緣을 떠난다. 확 트여 티끌 경계 없게 되니 직하下에 꿰뚫어 해탈한다. 본래의 자리에 이른 것이니 금일에야 새로 이르게 된 자리가 아니다. 광대겁 이전의 옛집에서부터 뚜렷하여 미혹되지 아니하고, 영묘하게 홀로 빛난다. 이렇게 묵묵히 있지만 이렇게 하지 않을 수 없네."
묵조선의 요체는 이와 같이 본심本心(심지心地)의 뜻을 먼저 요지한 자리에서 행해진다.
대혜종고는 묵조선에 대해 아직 자신의 눈을 뜨지 못한 선사의 삿된 선법이며, 일종의 삭발한 외도라고 매도하였다. 쉬고 쉬는 행으로는 성취할 수 없으며, 마음을 미혹하게 하고 어둡게 할 뿐이라고 하였다.
묵조선의 본심의 자리를 요지한 바탕으로 이루어지는 행이며, 본심의 자리를 요지함이 아직 미진한 경우는 쉬고 쉬는 적정의 행이 수단의 뜻을 갖는 면이 있다. 그러나 온전하지 않더라도 어느 정도 요지하게 되면 이미 돈법의 자리에 드는 것이다. 그 요지함이 점차 증대되고 깊어지며, 뚜렷해지면서 행주좌와 어느 자리에서든 적정의 행이 저절로 이루어진다. 대혜종고는 적정을 구하여 시끄러움을 피하는 것으로는 시끄러움을 진정으로 극복할 수 없다고 하고 일상의 동정과 사량분별처에서 공적한 마음을 관찰해야 한다고 하였다. 그러나 이런 가르침은 초기 선종 법문뿐만 아니라 대승경전 도처에 설해진 내용이다. 이러한 법문을 굉지정각이 몰랐을 리가 없다. 묵조선에 의하면 이미 공적한 심지를 견증(한자리에서 그 뜻이 그대로 구현되는 것일 뿐이다.
고요한 곳이나 고요함만을 추구하는 병폐를 논하였으나, 묵조선은 무시 이래 본연의 고요한 자리가 본래 항상 갖추어져 있음을 먼저 요지하고, 그 뜻에 따르는 행인지라 고요한 자리를 취착하는 행이 아니다. 또한 일단 고요하고 한적한 곳에서 수선하는 것은 부처님 당시부터 행해온 전통이기도 하였다. 묵조선에서는 무엇을 구함이 없다. 고요함을 구하는 행이 아니라 본래 갖추어진 고요한 성품에 따르는 것일 뿐이며, 고요함을 취하는 행이 아니라 분별을 떠날 뿐이다. 고요함을 취하면 이 또한 분별경계에 있는 것이 된다. 분별에서 떠나는 것은 동시에 고요함을 취하는 것에서도 떠나는 것이다. 달마선 내지 대승경론의 선지를 요지하였다면 쉬고 또 쉴 수밖에 없는 것이다. 보통 수행한다고 이리저리 마음을 쓰게 되기 쉬운데, 그러한 작의의 행은 달마선의 부작의, 불용선지에서 벗어난다. 달마선의 선지를 요지하였다면 쉬고 또 쉴 수밖에 없다. 그렇지 않고, 무슨 행을 한다고 마음을 쓰면 곧 수많은 병폐가 쌓인다.
'무심의 체에서 무심의 도를 얻는다'고 하였다. 즉 본래 갖추어진 것을 얻음이니 얻는다 할 바도 없는 것이다. 이러한 진실의 뜻을 일건대 무엇을 얻으려고 애쓰는 행을 하지 않는다. 세속이든 어디에 있든 단지 분별 가운데 자재할 뿐이거늘 어찌 무엇을 참구해야 한다고 하는가! 뜻을 요지한 자리에서는 화두참구의 행은 행해지지도 아니하고, 행할 필요도 없게 된다. 묵조가에서는 화두하는 이들을 '똥지게를 지고 가는 사람들'이라고 비판하였다. 머나먼 구도의 길에 화두라는 의심덩어리를 지고 가니 그렇게 말한 것이다.
대혜는 묵조선을 사선(邪禪)이라고 거짓 선전하며 매도하였지만, 초기 선종의 선리에 의하면 오히려 묵조선이 전통을 올바로 계승하고 있다. 이에 비하면 간화선과 같은 선법은 대혜 이전에 없었으며, 초기 선종의 선리에 어긋나기 때문에 간화선이 사선이고 정통성이 없다.
굉지정각과 대혜종고가 활동하던 무렵에는 그 형세가 비슷하였다고 한다. 이후 남송말까지 묵조선이 쇠퇴하는 가운데 간화선이 비교적 우위를 차지하였다. 간화선 계통은 남송 정부와 긴밀한 관계가 이어져 그 지원을 받은 바 있고, 대혜의 사법제자 84인 대부분 강남의 주요 사찰을 주지하게 되었다. 또한 대혜의 치밀하고 저돌적인 공격적 발언이 간화선 융성에 크게 작용을 하였다. 그 왜곡된 선전에 대중은 대부분 속아 넘어갔다.