튜링 테스트는 틀렸다, 존 설의 중국어 방 사고실험

컴퓨터, IT에 관해 단 1도 모르는 ㄹㅇ 바보멍텅구리라도 

(출처: https://upload.wikimedia.org/wikipedia/commons/a/a1/Alan_Turing_Aged_16.jpg)

20세기 천재 과학자 앨런 튜링(Alan Turing)이란 이름은 들어봤을것이다.

컴퓨터과학쪽에서 정말 어마어마한 업적을 가진 인물인데 

튜링은 1950년 논문 

Computing machinery and Intelligence에서 튜링테스트를 처음 언급한다. 

앨런 튜링은 컴퓨터와 대화를 할때 컴퓨터의 반응을 인간의 반응과 구분할수 없다면 그건 컴퓨터가 인간처럼 지능이 있다고 간주해야한다고 생각했다. 

그리고 가까운 미래에는 70% 이하만이 대화하는게 컴퓨터라는걸 알아차릴수 있을것이다 라고 주장했고, 튜링테스트는 그의 생각을 바탕으로해 30%가 넘는 판정단이 인간으로 생각하면 튜링테스트를 패스했다고 받아들인다. 

허나 튜링의 이러한 주장이 맘에 들지 않았던 사람이 있었는데 그가 바로

(사진 출처:https://commons.wikimedia.org/wiki/File:John_Searle_speaking_at_Google_3.jpg)

영국의 철학자 존 설(John Searle) 이다. 

존 설은 튜링테스트 로는 컴퓨터가 인간처럼 지능을 가지고 있는지 판단할수 없다고 생각했다.

그리고 그는 중국어 방 이라는 사고실험을 하나 생각하는데,

중국어 방을 설명하기전에 컴퓨터의 구조를 한번 생각해보자.

(출처:https://upload.wikimedia.org/wikipedia/commons/b/b5/Inside_armadnigenerals_computer.jpg)

컴퓨터 본체를 뜯어보면 CPU, 하드디스크 같은 안에 정말 많은 하드웨어들이 있다. 

컴퓨터가 사용자에서부터  데이터를 받으면 안에 하드웨어들이 열심히 일을해 그걸 아웃풋으로 내보는데 

존 설은 컴퓨터의 이러한 점을 중국어 방에 비유했다.

(사진 출처: https://upload.wikimedia.org/wikipedia/commons/thumb/b/b6/2-chinese-room.jpg/325px-2-chinese-room.jpg)

중국어 방 사고실험 내용은 다음과 같다.

어떤 방 안에 중국어를 전혀 못 하는 사람이 들어가있고 방 밖에선 중국어를 할줄 아는 사람이 중국어로 적힌 쪽지를 벽에 있는 구멍을 통해 방 안으로 건넨다. 

그러면 방 안에 있는 사람은 방 안에 있는 필기도구와 문법등 중국어 대답이 적힌 책을 보고 열심히 답을 적어 방의 반대쪽에 있는 사람에게 전해준다.

참고로 밖에 있는 사람들은 안에 있는 사람이 중국어를 못하는 사람인지 잘 하는 사람인지 모르는 상황이다.

물론 여기서 중국어 방은 컴퓨터 본체를 말하는 것이며 안에 있는 사람, 필기도구 이런 것들은 다 컴퓨터 하드웨어들이다. 반대로 밖에서 인풋을 주고 아웃풋을 받는 중국어를 잘 하는 사람들은 사용자다. 

과연 사람이라는 하드웨어가 중국어 책이라는 데이터베이스를 보고 적은 답이 말이 되는 답이라면 과연 컴퓨터가 질문과 답을 이해해서 제대로 썼다고 할수있을까? 

존 설의 실험에 의하면 밖에 있는 사람은 안에 있는 사람이 중국어를 이해하고 답변한건지 알수가 없다. 
 

튜링테스트도 마찬가지다. 

(사진 출처:https://image5jvqbd.fmkorea.com/files/attach/new2/20210310/486616/1105423413/3443849380/3bfb7995e593ca28cda63381325aa205.jpg)

튜링테스트에서 질의자는 상대방과 대화를 하는데 이때 질의자는 상대방이 컴퓨터인지 인간인지 전혀 모르는 상태에서 진행된다. 

만약에 사람이라면 중국어를 진짜 잘해서 중국어로 완벽하게 답하겠지만 컴퓨터라면 하드웨어들이 이리저리 으쌰으쌰해서 답을 할건데,

과연 컴퓨터가 답을 사람처럼 잘 했다고 지능이 있다고 할수 있을까? 라는게 

튜링테스트를 비판하는 존 설의 사고실험 중국어 방 실험이다.

요즘날의 수많은 AI들은 이 존 설의 비판을 바탕으로 한다. 시리나 알파고도 엄청나게 많은 데이터를 학습해 그 학습된 데이터를 토대로 답/행동을 하는것이다. 

그런데 이 중국어 방 실험도 여러 반박이 존재하는데 그중 가장 유명한게

(사진 출처:https://www.scientificamerican.com/article/rethink-your-thoughts-about-thinking/)

미래학자 레이 커즈와일의 시스템 논변(Systems reply) 이다.

레이커즈와일은 중국어 방을 컴퓨터 본체로 비교한게 아닌 인간의 뇌로 비교했다. 

뇌안의 뉴런들, 즉 사람, 필기도구, 책은 당연히 쪽지 안에 적힌 중국어를 이해하지 못한다. 

허나 이 수많은 뉴런들로 이루어진 뇌로 우리는 생각하고 판단한다. 

즉 중국어 방 안에 있는 부품들 자체(뉴런)는 중국어를 이해를 못했지만 그 부품들로 이루어진 중국어 방 이라는 시스템(뇌)는 중국어를 이해했다고 봐야한다는게 그의 주장이다. 

그럼 과연 중국어 방 실험은 옳다고 해야할까? 사실 컴퓨터가 그걸 이해했든 안했든 지가 할일 잘 하기만 하면 상관없다는게 AI분야에 종사하는 사람들 생각이라고 한다.