양명학이 조선사회에 수용되는 초기의 전래과정을 보면, 1521년 중종 때 박상(朴祥)과 김세필(金世弼)이 왕양명(왕수인, 王守仁, 1472-1528)의 『전습록(傳習錄)』(1518 초간)을 비판하는 언급을 하고 있는 사실을 볼 수 있다. 이러한 사실은 『전습록』의 초간본이 간행된 직후 벌써 조선사회가 양명학에 대한 비판적 인식을 하고 있음을 보여 준다. 유성룡(柳成龍)이 소년기에 왕양명의 문집인 『양명집(陽明集)』을 구해 보고 1558년에 발문을 지었는데, 이를 통해 양명학이 일찍부터 전래되었으며, 이와 동시에 곧바로 비판이 제기되었음을 알 수 있다. 이러한 비판이 가능한 근거는 이미 육상산의 심학에 대한 주자의 비판에 따라 도학전통에서 지속적으로 육상산을 비판해 왔었기에 도학의 체계 속에서 양명학을 비판할 수 있는 이론체계가 이미 정립되어 있었기 때문이다.
조선사회에서 양명학이 전래되면서 수용적 입장과 비판적 입장이 일찍부터 나누어지고 있었다. 수용적 입장으로는 서경덕의 문인 남언경(南彦經, 동강 東岡)과 남언경의 문인 이요(李瑤)를 비롯하여, 조선 후기에는 장유(張維, 계곡 谿谷), 최명길(崔鳴吉, 지천 遲川), 양득중(梁得中, 덕촌 德村), 강화학파의 창시한 정제두(鄭齊斗, 하곡 霞谷) 등을 들 수 있다. 그러나 이 흐름은 당시 도학이 주도하는 학계에 표면화되지 못하고 상당한 기간 동안 표면 아래의 저류(底流)로 흘러 왔다. 조선사회는 도학의 정통의식에 따라 노장사상이나 불교 등을 이단으로 배척하였을 뿐만 아니라 육상산 · 왕양명의 학풍도 이학(異學)으로 규정하여 정통에서 벗어나는 것으로 엄격하게 비판하였기 때문에 양명학-심학을 공개적으로 내세우지 못하고 친한 사이에서만 논의되었다. 특히 양명학-심학에 대한 비판의식을 결정적으로 정립한 것은 퇴계의 양명학 비판이었다.
퇴계의 「전습록논변(傳習錄論辯)」은 왕양명의 『전습록』에 대한 단편적인 이해수준을 넘어서 핵심의 기본이론을 비판한 저술이다. 퇴계의 「전습록논변」은 1566년 이전의 저술로 왕양명의 기본이론을 비판하는 논점은 네 가지로 구분해 볼 수 있다. 곧 ‘친민설(親民說)’에 대한 비판, ‘심즉리설(心卽理說)’에 대한 비판, ‘배우(분희자, 分戱子)의 비유’에 대한 비판, ‘지행합일설(知行合一說)’에 대한 비판 등이다.
첫번째로, 『대학』의 원문에는 본래 ‘친민(親民)’이었지만 정자(程子)가 ‘신민(新民)’이라 고치고 주자가 이를 계승하였는데, 왕양명은 고쳐서는 안 되며 원래대로 ‘친민’이 옳다고 주장하였다. 이에 대해 퇴계는 『대학』의 기본성격은 ‘학문의 도’요 기본주제가 배움으로써 덕을 밝히고, 그 배움을 백성에까지 미루어 나가 백성을 새롭게 하는 것이기 때문에 정감적 인간관계인 ‘친민’의 뜻이 없다 하여 ‘신민설’을 확립하고 ‘친민설’을 배격하였다.
두 번째로 왕양명이 마음 바깥에 이치가 없다 하고 오직 마음에서만 이치를 찾을 것을 요구하는 ‘심즉리설’을 주장한 데 대해 퇴계는 ‘심즉리’의 명제에 대한 언급이 없이 왕양명의 입장을 본래는 궁리(窮理)공부를 논하는 것이었는데, 뒤집어 실천효과에 나아가 뒤섞어 말하는 것이라 비판하였다. 그것은 의례의 절도를 밝히는 대상적 인식의 문제를 망각하고, 인식의 과정과 실천의 효과를 바꾸고 뒤섞어 놓은 것이라 비판하는 것이다.
세 번째로 배우의 비유는 왕양명이 의례의 외형적 형식절차에서 마땅함을 구하는 것을 지선(至善)이라 하는 것은 배우가 의례절차에 맞추어 꾸민 행위를 지선이라 하는 것과 같다고 언급한 것과 연관된다. 왕양명은 효도라는 것도 인간의 마음에 있는 것이요 배우가 효자의 역할을 완벽하게 연기한다고 할 때 그것을 효도라고 볼 수 없는 것처럼 효도는 형식의 문제가 아니라 그 마음의 진실성에 있는 것이라고 강조하면서 예법의 정신은 마음에 있는 것이라 주장하였다.
이에 대해 퇴계는 우선 마음에 근본을 두지 않고 외형만 강구하는 것은 배우와 다름이 없다는 왕양명의 말을 시인한다. 그러나 내면의 심성과 대상의 법칙이 모두 지극한 이치임을 지적하여 대상적 사물의 이치를 찾는 일을 거부한 양명의 심학적 전제를 비판하였다. 따라서 퇴계는 왕양명이 극단적 유심론에 빠져 모든 외형적 절도를 제거해 버리거나 마음 속에 끌어들여 혼동시키고 있는 것이라 비판하였다.
네 번째로 ‘지행합일설’에 대해 퇴계는 가장 자세한 비판을 하여 깊은 관심을 보여 주고 있다. 퇴계는 선지후행(先知後行)을 내세우는 도학의 주지적(主知的) 학문방법이 실천을 결여하고 있다는 왕양명의 비판에 대해 말단적 학문의 폐단을 절실하게 지적한 것으로 일단 인정하면서도 왕양명의 ‘지행합일론’을 두 가지 논점에서 근본적으로 잘못된 것이라 비판하였다. 그 하나는 사람의 마음이 형기(形氣)에서 발동하는 것과 의리(義理)에서 발동하는 것을 구분한다.
곧 형기에서 발동한 마음은 배우지 않고도 저절로 알고 힘쓰지 않고도 저절로 행할 수 있는 것이지만 의리에서 발동하는 마음은 배우지 않으면 알 수 없고 힘쓰지 않으면 행할 수 없는 것이요, 지 · 행이 서로 병진(竝進)하는 것이지 일치한다고 볼 수는 없는 것이라 밝혀 왕양명의 ‘지행합일설’이 형기의 경우에만 성립하는 것으로 한정짓고 있다. 다른 하나는 왕양명의 주관적 방법과 주객을 관통하는 성인의 학문을 대비시킨다. 곧 털끝만큼도 바깥 사물에 간섭하기를 두려워하여 오직 본심에서 지와 행을 하나로 뒤섞어 말하는 것이라 왕양명을 규정하여, 마음과 사물이 관통하고 지와 행이 일관하는 성인(聖人)의 학문에 어긋나는 것이라 비판한다.
나아가 퇴계는 「전습록논변」에서 양명학의 핵심 문제의 하나인 ‘격물치지(格物致知)’와 ‘치양지(致良知)’의 문제에 대해 직접 언급하지 않고 있다. 그러나 퇴계의 비판논리에 따르면 궁리공부를 통해 실천공효로 나가지 않고, 궁리공부와 실천공효를 뒤섞어 혼동하는 것이라 지적할 수 있을 것이다.