(번역) John Searle - The Failures of Computationalism

중국어 방의 힘

존 설과 스티븐 하나드는 중국어 방 논변이 강한 인공지능에 치명타를 가한다는 데 동의하지만, 그 이상의 점에 대해서는 거의 아무것도 동의하지 않는다. 그러니 중국어 방의 함의를 숙고하는 것부터 시작해보자. 중국어 방은 한 시스템, 예를 들어 내가 중국어 이해에 대한 튜링 테스트를 통과할 수 있고 원하는 어떤 프로그램이든 구현할 수 있지만 여전히 중국어를 한 마디도 이해하지 못할 수 있음을 보여준다. 이제 왜 그런가? 진정한 중국어 화자가 가진 것 중 중국어 방의 내가 갖지 못한 것은 무엇인가? 답은 명백하다. 나는 중국어 방에서 형식적 기호들을 조작하고 있을 뿐이지만, 중국어 화자는 기호 이상의 것을 가지고 있다. 그는 그것들이 무엇을 의미하는지 안다. 즉, 중국어의 구문 외에도, 진정한 중국어 화자는 의미, 이해, 일반적인 정신 내용의 형태로 의미론을 가지고 있다.

 

하지만 다시 한 번, 왜? 왜 나는 중국어 방에서 의미론도 가질 수 없는가? 내가 가진 것은 프로그램과 기호들뿐이고, 프로그램은 기호 조작의 관점에서 구문론적으로 정의되기 때문이다. 중국어 방은 우리가 늘 알고 있었어야 할 것을 보여준다: 구문론 자체만으로는 의미론에 충분하지 않다. (이 점을 누군가 실제로 부인하는가? 내 말은, 솔직히 말해서 형식적 기호라는 의미의 구문론이 의미, 사고 내용, 이해 등의 의미의 의미론적 내용과 정말로 같다고 생각한다고 말하는 사람이 있는가?)

왜 옛날 계산주의자들은 그렇게 명백한 실수를 했는가? 그 답의 일부는 그들이 인식론과 존재론을 혼동했다는 것이다. 그들은 "우리가 어떻게 아는가?"와 "우리가 알 때 아는 것이 무엇인가?"를 혼동했다. 이 실수는 튜링 테스트(TT)에 각인되어 있다. 실제로 이 실수는 인지과학의 역사를 따라다녔지만, 인지과학의 본질적인 기초 질문은 존재론적인 것임을 분명히 하는 것이 중요하다: "인지는 무엇으로 구성되는가?" 이지, 인식론적인 다른 마음의 문제인 "다른 시스템이 인지를 가지고 있다는 것을 어떻게 아는가?"가 아니다.

 

하나드가 가장 매력을 느끼는 중국어 방의 특징은 실험자가 전체 시스템이 될 수 있게 함으로써 "다른 마음의 문제"를 제거한다는 점이다. 내가 오직 프로그램을 구현하고 TT를 통과하는 것만으로는 중국어를 이해하지 못한다는 것을 알기 때문에, 나는 따라서 그러한 조건들이 그 자체로는 인지에 충분하지 않다는 것을 안다. 이는 그러한 조건을 만족시키는 다른 시스템들이 인지를 가진 것처럼 행동할 수 있다는 사실과 무관하다.

 

나는 이것이 중국어 방의 가장 중요한 특징이라고 생각하지 않지만, 지금까지는 하나드와 내 사이에 실제 의견 차이가 없다. 의견 차이는 중국어 방이 우리에게 준 통찰을 어떻게 해석하느냐에서 온다. 하나드는 중국어 방이 제거하려고 설계된 같은 조사 노선을 고수하고 이 논변에 면역인 마음의 컴퓨터 이론의 어떤 버전을 찾을 수 있는지 보려고 한다. 간단히 말해, 그는 인식론과 계산을 계속하고 싶어 한다. 그는 TT의 더 나은 버전, TTT를 얻고 싶어 한다. 하나드는 다른 마음의 문제를 진지하게 받아들인다. 그는 시스템 답변을 진지하게 받아들이고, 실험자가 전체 시스템이 될 수 없는 경우를 발명함으로써 중국어 방 논변에 답하고 싶어 한다. 계산의 다중 실현 가능성에 의존하기 때문에, 그는 다중 실현 가능하지 않은 특징, 변환을 계산에 추가함으로써 그것에 답할 수 있다고 생각한다. 하지만 이 움직임은 뇌가 어떻게 인지를 일으키는지에 대한 독립적인 연구에 기반하지 않는다. 오히려 그것은 임시방편이고 동기가 부족하다. 나는 나중에 이에 대해 논증할 것이다.

 

반대로 나는 우리가 TT를 개선하거나 계산주의의 개선된 버전을 얻으려 해서는 안 된다고 생각한다. TT는 처음부터 외부 행동의 동일성을 내부 과정의 동일성과 혼동했기 때문에 희망이 없었다. 전기 엔진이 가스 엔진과 같은 출력을 낸다고 해서 내부 상태가 같아야 한다고 생각하는 사람은 없다. 뇌와 컴퓨터에 대해서는 왜 다르게 생각해야 하는가? 중국어 방에서 찾을 수 있는 진정한 메시지는 이 전체 조사 노선이 원칙적으로 잘못되었다는 것이며, 나는 이제 그 이유를 말하고자 한다. 시간과 공간이 짧고 스티븐과의 논쟁이 친구들 간의 대화이기 때문에, 나는 통상적인 학문적 헤지와 한정을 생략하고 그냥 내 결론을 진술하겠다. (자세한 논증은 독자가 『정신의 재발견』(1992)을 참고해야 할 것이다.)

 

1. 다른 마음의 문제는 인지과학에 특별한 관련성이나 관심사가 없다. 그것은 일반적인 회의주의를 예시하는 철학자들의 문제일 뿐이며 인지과학의 특별한 문제가 아니다. 따라서 우리는 다른 마음의 문제를 다루는 TT, TTT와 같은 테스트를 찾느라 시간을 낭비해서는 안 된다. 등

인지과학은 인간이 인지를 가지고 있고 바위는 그렇지 않다는 사실에서 시작한다. 인지과학자들은 물리학자들이 외부 세계가 존재한다는 것을 증명할 필요가 없거나 천문학자들이 태양이 동쪽에서 뜨는 이유를 설명하기 전에 흄의 귀납 문제를 해결할 필요가 없는 것처럼 이것을 증명할 필요가 없다. TT, TTT 등과 같은 "다른 마음의 문제를 해결할" 어떤 테스트를 찾으려고 하는 것은 실수다. 왜냐하면 처음부터 인지과학 내에 그런 문제가 없기 때문이다.

 

2. 인식론적 문제들은 과학의 실제 실행에서 그다지 관심을 끌지 않는다. 왜냐하면 그것들은 항상 같은 해결책을 가지기 때문이다: 손에 들어오는 어떤 무기든 사용하고 작동하는 어떤 무기든 고수하라. 인지과학의 주제는 바위나 컴퓨터가 아닌 인간에 관한 것이며, 우리는 인간이 무엇을 생각하고, 느끼고, 알고 있는지 알아내기 위한 다양한 방법을 가지고 있다.
3. 정신의 존재론 - 인식론과 대조적으로 - 에 관한 한, 행동은 무관하다. 중국어 방 논변이 이 점을 입증했다. 인지과학이 어떻게든 본질적으로 지능적 행동과 관련있다고 생각하는 것은 물리학이 본질적으로 계기 읽기의 과학이라고 생각하는 것과 같다. (촘스키의 예시) 따라서 우리는 TT와 TTT 등을 잊을 수 있다. 외부 행동은 여러 인식적 장치 중 하나일 뿐이다. 그 이상도 이하도 아니다.
4. 계산은 인지과학에서 다른 어떤 과학에서와 같은 역할을 한다. 그것은 우리가 연구하고 있는 실제 영역의 특징들을 시뮬레이션하는 데 유용한 장치일 뿐이다. 그 이상도 이하도 아니다.

그것이 그 이상일 수 있다는 생각은 경험적 혼란과 개념적 혼란의 혼합이다. (다시 한 번, 자세한 내용은 『정신의 재발견』을 참조하라.)

 

5. 우리가 연구하고 있는 실제 영역은 지각, 사고, 기억, 학습, 말하기, 이해 등과 같은 실제적이고 내재적인 정신 상태와 과정의 사례들을 포함한다. 이들 모두는 정신적 내용을 가지고 있다. 인지과학의 문제는 기호 접지가 아니라 일반적인 기호 의미와 기호 내용이다. 인지과학은 실제 인간이 가지고 있는 실제 사고 내용, 의미 내용, 경험 등에 관심이 있다. 하나드의 "접지"는 "내용"과 동의어로 받아들여져야 하는가? 그렇다면 왜 접지라는 개념을 사용하는가? 아니라면 그것은 무관하다.

이 모든 정신 과정 - 사고, 말하기, 학습 등 - 은 의식적이거나 잠재적으로 그럴 수 있다. 인지과학을 모든 다양성의 의식의 과학으로 생각하는 것이 가장 좋다.

 

6. 모든 인지 상태와 과정은 뇌의 더 낮은 수준의 신경 과정에 의해 야기된다. 이 점의 엄격한 논리적 결과는 인지를 야기할 수 있는 어떤 인공 시스템도 뇌와 동등한 관련 인과적 힘을 가져야 한다는 것이다. 인공 뇌는 다른 매체, 예를 들어 탄소 기반이 아닌 분자 시스템을 사용하여 그 일을 할 수 있을 것이다. 하지만 어떤 매체를 사용하든, 그것은 신경이 야기하는 것을 야기할 수 있어야 한다. (비교: 비행기는 날기 위해 깃털을 가질 필요는 없지만, 지구 대기에서 중력의 힘을 극복하기 위해 새의 인과적 힘을 복제해야 한다.)

따라서 인공 뇌를 만드는 데 있어 우리는 두 가지 문제를 가지고 있다. 첫째, 그 일을 하는 어떤 것이든 실제 뇌의 관련 인과적 힘을 복제해야 하며 단순히 시뮬레이션하는 것이 아니어야 한다(이는 뇌가 그것을 인과적으로 한다는 사실의 사소한 결과이다). 둘째, 구문론 자체만으로는 그 일을 하기에 충분하지 않다(이는 우리가 중국어 방에서 알게 된 것이다).

뇌가 실제로 어떻게 작동하는지에 대해 우리가 현재 너무 적게 알고 있기 때문에, 지금 당장 실제 뇌의 관련 인과적 힘을 복제할 인공 뇌를 만들려고 시도하는 것은 아마도 시간 낭비일 것이다. 우리는 거의 필연적으로 중요한 것이 행동적 출력(예를 들어 "로봇 능력")이나 다른 무관한 것이라고 생각하게 될 것이며, 나는 이것이 하나드의 TTT의 한 원천이라고 생각한다.

 

7. 일단 외부 행동이 인지의 존재론과 무관하다는 것을 알게 되면, 하나드의 TTT 제안은 추측성 신경생리학의 한 조각에 불과하다. 그는 우리가 특정 종류의 아날로그 변환기만 가지고 있다면, 그것들과 계산 및 연결주의 네트워크를 합치면 실제 뇌의 인과적 힘과 동등할 것이라고 생각한다. 하지만 하나드는 왜 그렇게 생각하는가? 뇌에 대해 조금이라도 안다면, 그 주장은 말 그대로 믿기 어려울 것이다. 추측성 신경생리학 자체에는 본질적으로 잘못된 것이 없지만, 그것은 목적이 있어야 한다. 일단 뇌가 매우 특정한 종류의 생물학적 기관이며, 유기체의 외부 행동이 내부 인지 작용을 구성하는 방식이 아니라는 것을 깨닫게 되면, TTT가 예시하는 종류의 추측성 신경생리학에는 거의 의미가 없어 보인다.

하나드는 TTT가 중국어 방에 의해 반박되지 않는다고 주장하는 데 매우 열심이다. 그럴지도 모르지만, 누가 신경 쓰는가? 만약 그것이 동기가 없고 신경생물학적으로 개연성이 없다면 어떤 의미가 있는가? 그것의 유일한 동기는 TT에 암묵적으로 있었던 일종의 행동주의의 확장인 것 같다. 즉, 하나드는 어떻게든 행동(로봇 능력)이 인식론적으로가 아니라 존재론적으로 관련이 있다고 계속 가정하고 있다.

 

8. 내게는 신비로운 이유로, 하나드는 시스템 답변을 진지하게 받아들인다. 그는 내가 전체 시스템을 구현하지 않는 경우에는 "중국어 체육관에서처럼 시스템 답변이 옳을 것"이라고 말한다. 하지만 그는 어떻게 그것이 가능하게 옳을 수 있는지 우리에게 말해주지 않는다. 시스템 답변에 따르면, 비록 내가 중국어 방에서 중국어를 이해하거나 시각적 경험을 하지 않지만, 전체 시스템은 중국어를 이해하고, 시각적 경험을 하는 등의 일을 한다. 하지만 시스템 답변에 대한 결정적인 반론은 내가 1980년에 제기한 것이다: 만약 내가 중국어 방에서 구문론에서 의미론으로 갈 방법이 없다면 전체 방도 그럴 수 없다. 이는 방이 내가 가지고 있지 않은 중국인 뇌의 특정 인과적 힘을 복제할 추가적인 방법을 가지고 있지 않기 때문이다. 그리고 방에 해당하는 것은 로봇에도 해당한다.

시스템 답변을 정당화하기 위해서는 다음을 보여주어야 한다:

a. 시스템이 어떻게 구문론에서 의미론으로 가는지.

 

그리고 그것을 보여주기 위해서는 다음을 보여주어야 한다:

b. 시스템이 어떻게 뇌의 관련된 특정 내부 인과적 힘을 가지는지.

 

이 두 조건이 충족될 때까지 시스템 답변은 그저 손짓에 불과하다.

 

나는 시스템 답변의 유일한 그럴듯함이 잘못된 유추에서 온다고 믿는다. 요소들로 만들어진 시스템이 개별 요소들의 특징이 아닌 요소들의 행동에 의해 야기된 특징을 가질 수 있다는 것은 익숙한 지점이다. 따라서 H2O 분자들의 행동은 그 분자들로 구성된 시스템이 액체 상태에 있게 하지만 개별 분자는 액체가 아니다. 더 중요한 점은, 뉴런의 행동이 그 뉴런들로 만들어진 시스템이 의식을 갖게 할 수 있지만 개별 뉴런은 의식이 없다. 그렇다면 왜 계산 시스템에서도 마찬가지일 수 없는가? 유추는 중요한 지점에서 깨진다. 다른 경우들에서는 요소들의 행동이 시스템의 더 높은 수준의 특징을 야기한다. 하지만 강한 인공지능의 주장은 프로그램 요소들이 어떤 더 높은 수준의 특징을 야기한다는 것이 아니라, TT를 통과하는 올바른 프로그램이 인지를 구성한다는 것이다. 그것은 부산물로서 인지를 야기하지 않는다. 실제로 구현된 프로그램의 기호들은 구현 매체의 것 외에 추가적인 인과적 힘을 가지지 않는다. 계산 시스템과 실제로 창발적 속성을 가진 다른 시스템들 사이의 유추의 실패는 진정한 창발적 속성이 더 낮은 수준의 요소들과 더 높은 수준의 창발적 속성 사이의 인과 관계를 요구한다는 사실에서 온다. 그리고 이러한 인과적 힘은 정의상 계산 모델에서는 정확히 결여되어 있다.

연결주의가 구원책일까?

연결주의가 하나드의 설명에서 큰 비중을 차지하고 있고, 최근에 많은 주목을 받았기 때문에, 나는 이에 대해 별도의 섹션을 할애하겠다.

 

우리가 연결주의를 어떻게 평가해야 하는지는 어떤 네트워크의 어떤 특징들이 논의 중이고 어떤 주장이 제기되고 있는지에 달려 있다. 만약 주장이 우리가 연결주의 네트워크에서 뇌의 몇 가지 흥미로운 속성들을 시뮬레이션할 수 있지만 복제할 수는 없다는 것이라면, 중국어 방 스타일의 반론이 있을 수 없을 것이다. 그러한 주장은 약한 인공지능의 연결주의 버전일 것이다. 하지만 강한 인공지능의 연결주의 버전은 어떤가? 실제로 인지를 가지고 단순히 시뮬레이션하지 않는 네트워크를 만들 수 있는가?

 

여기서 이것에 대해 완전히 논의할 것은 아니지만, 간단히 말하면: 만약 당신이 내 두개골 안의 네트워크와 분자 대 분자로 구별할 수 없는 네트워크를 만든다면, 당신은 인간의 뇌를 복제한 것이지 단순히 시뮬레이션한 것이 아닐 것이다. 하지만 만약 네트워크가 순전히 그것의 계산적 속성들의 관점에서 식별된다면, 우리는 익숙한 결과들로부터 그러한 속성들이 범용 튜링 기계에 의해 복제될 수 있다는 것을 안다. 그리고 그러한 계산에 대한 강한 인공지능 주장은 중국어 방 스타일의 반박을 받게 될 것이다. 하나드의 세 개의 방 예시가 잘 보여주듯이 말이다.

 

현재 논의의 목적을 위해 중요한 질문은 이것이다: "동일한 연결주의 네트워크"라는 개념이 무엇을 기준으로 동등성 클래스를 식별하는가? 만약 그것이 오직 계산적 속성들의 관점에서라면 연결주의의 강한 인공지능 버전은 여전히 중국어 방 논변의 대상이 된다. 하나드의 세 개의 방 예시가 잘 보여주듯이 말이다. 하지만 만약 동등성 클래스가 물리적 구조의 어떤 전기화학적 특징들의 관점에서 식별된다면, 특정 구조적 특징들이 실제 인간 뇌의 실제 인과적 힘을 복제하는 것이 아니라 단순히 시뮬레이션하는 것인지는 경험적인 질문이 된다. 신경생물학이 해결해야 할 문제인 것이다. 하지만 물론, 현재로서는 그러한 질문들이 가능성의 영역에 있을 수 있는 어떤 네트워크도 우리는 가지고 있지 않다.

 

문헌에서의 특징적인 실수 - 적어도 내가 익숙한 문헌에서는 - 는 네트워크들이 뇌의 특정 형식적 속성들을 복제하기 때문에 어떻게든 그것들이 그럼으로써 관련 인과적 속성들을 복제할 것이라고 제안하는 것이다. 예를 들어, 계산은 대규모로 병렬적인 시스템에서 이루어지므로 여러 물리적 위치에서 동시에 작동한다. 계산은 전체 네트워크에 분산되어 있고 연결 강도에 따라 노드에서 입력 신호를 합산함으로써 이루어진다. 등등. 이제 이러한 신경에서 영감을 받은 특징들과 다른 특징들이 우리에게 실제 인간 신경 시스템의 인과적 힘을 복제하는 동등성 클래스를 줄 것인가? 신경생물학적 주장으로서 이 아이디어는 전혀 가능성이 없어 보인다. 당신이 같은 네트워크를 중국어 체육관에서 구현한다고 상상해보면 알 수 있다. 인간의 뇌와 달리, 체육관에는 정신 상태와 과정을 구성하거나 야기할 수 있는 것이 아무것도 없다.

 

실제 사례를 통해 이해하는 것만큼 효과적인 방법은 없다. 그러니 뇌가 어떻게 작동하는지 조금 알고 있는 사례를 하나 들어보자. 코카인이 뇌에 영향을 미치는 방법 중 하나는 특정 신경전달물질인 노르에피네프린을 시냅스 수용체가 재흡수하는 능력을 방해하는 것이다. 이제 중국 체육관에서 이것의 형식적 특징을 시뮬레이션해 보자. 체육관에서 심부름꾼 소년들이 노르에피네프린 분자를 시뮬레이션하게 하고, 책상들이 시냅스 전후 수용체를 시뮬레이션하게 하자. 그리고 코카인 분자를 시뮬레이션하는 사악한 마녀들을 도입하자. 이제 심부름꾼 소년들은 좋은 신경전달물질처럼 수용체로 돌진하는 대신, 사악한 코카인 마녀들에게 밀려 체육관 바닥을 배회하며 재흡수되기를 기다리게 된다. 이제 누군가가 이것이 체육관 전체 시스템이 코카인에 취한 것처럼 느끼게 만든다고 말할 수 있을까? 하르나드는 다른 마음 문제와 시스템 응답 때문에 내가 체육관 전체가 코카인에 취하지 않았다는 것을 증명할 수 없다고 말할 것인가? 아니면 어떤 강한 AI 연결주의자는 더 큰 체육관을 지어야 한다고 말할 것인가? 신경생물학은 진지한 과학 분야이고, 아직 초기 단계에 있지만 조롱의 대상이 되어서는 안 된다. 강한 AI 연결주의 버전은 중국 체육관 논증이 보여주듯이 조롱거리이다. 하르나드는 중국 체육관의 요점을 놓치고 있다. 그는 이것이 시스템 응답에 대한 해답이라고 생각하지만, 그것이 요점이 아니다.

 

강한 연결주의 AI에 대한 삼중 딜레마는 간단히 말할 수 있다. 만약 우리가 연결망(nets)를 그들의 계산적 특성에 따라 정의한다면, 그것은 중국어 방의 논증에 의해 반박될 것이다. 계산은 구문적으로 정의되며 구문 자체는 심적 내용(mental contents)을 설명하는데 충분치 않다. 우리가 연결망을 이들의 물리적 구현과 독립적으로 순수히 형식적인 특성에 따라 정의한다면, 그것은 중국인 체육관의 논증에 의해 반박될 것이다. 순수 형식적 특성이 어떤 매체에서든 구현될 때 실제 신경 시스템의 특정 인과적 능력을 복제할 수 있어야 한다는 것은 경험적으로 불가능하다. 마지막으로, 네트워크를 전압 수준과 임피던스와 같은 특정 물리적 구조 특성에 따라 정의한다면, 우리는 계산의 영역을 벗어나 사변 신경생물학(speculative neurobiology)을 하고 있는 것이다. 현재 존재하는 연결망은 인과적으로 관련된 내적 신경생물학적 속성(relevant internal neurobiological properties)을 복제할 생각조차 하지 않고 설계되었다. (다시 말하지만, 이것에 대해 의심하는 사람이 있을까?)

하르나드의 써얼에 대한 대응

동의는 지루하다. 새로운 아이디어는 현재의 것에 대한 도전에서 나온다. 필요는 발명의 어머니이다. 그래서 서얼과 내가 많은 점에서 의견이 다르다는 것을 보니 다행이다.

 

구문 vs. 의미: 단순히 구문적 시스템의 동적 구현이 의미를 생성할 수 없다는 것은 전혀 명백하지 않다. 사실, 의미의 영역에서는 명백한 것이 없다. 서얼은 소년들이나 로봇이 생각할 수 있는지 상상할 수 없고, 나는 뉴런 덩어리가 어떻게 생각할 수 있는지 상상할 수 없다. 그러므로 계산주의는 시도해볼 가치가 있었다. 서얼의 논증의 힘은 구문에서 의미로 갈 수 있는 방법이 없다는 것이 명백하다는 데 있지 않다. 게다가, 구문에서 의미로 갈 수 있는 방법이 명백히 없다고 해도, 다른 후보에서도 마찬가지일 것이다. 이것이 마음/몸 문제이다.

 

마음과 의미: 서얼이 1990년에 제기한 것처럼, 의미는 오직 하나이다. 내가 어떤 것을 생각할 때, 예를 들어 "고양이가 매트 위에 있다"고 생각할 때, 내 마음속에 무엇인가가 있다. 즉, 마음만이 의미 있는 상태를 가지며, 그 의미는 주관적인 질에서 완전히 유래된다. 이것이 본질적인 의미론이다. 다른 모든 것은 단지 외재적 의미론이다. 이는 책의 페이지나 컴퓨터화된 사전의 출력물처럼 해석될 수 있는 의미이다. 만약 이것이 사실이라면, "무의식적 생각"과 "무의식적 마음"은 나쁜 소식이며, 아무도 없는 시스템이 본질적인 의미를 가지려는 시도는 더욱 나쁜 소식이다. 외재적 의미를 가진다는 것은 본질적인 의미를 가진 시스템에 의해 "의미가 있는 것처럼 해석될 수 있다"는 것을 의미한다.

 

접지와 의미: 세 번째 가능성이 있을까? 단지 "X가 의미가 있는 것처럼 해석될 수 있는" 것보다 더 많은 것을 가지지만, 의식적인 마음의 생각보다는 적은 무언가가 있을까? 이것은 마음 모델러의 연속체 가설이나 P=NP와 같다. 접지된 TTT 시스템의 내부 상태는 단지 형식적으로 해석될 수 있는 것만이 아니라, 시스템 자체가 해석에 완전히 부합하는 방식으로 작용한다. 기호가 해석될 수 있는 대상과의 인과적 상호작용은 더 이상 단지 구문이라고만 할 수 없다. 그러나 이것이 의미가 본질적이라는 것을 보장하는 데 충분한가? 아니면 접지된 의미는 단지 외재적 의미의 더 강한 형태일 뿐인가?

 

존재론과 인식론: 나는 서얼이 생각하는 존재론적/인식론적 혼동을 하지 않는다. 나는 TT, TTT, TTTT가 마음의 존재를 보장할 수 없다는 것을 충분히 인지하고 있다. 그러나 나는 T-계층이 단순히 행동주의적 탈선이 아니라, 올바른 경험적 경로라는 것도 인지하고 있다. 실제로 TTTT는 경험적 가능성을 다 소진한다. 서얼 자신도 TTTT의 옹호자이다. 그는 그보다 적은 것을 상상할 수 없다. 그러나 그는 우리가 관련된 TTTT 능력만 원한다고 인정한다. 그 능력이 무엇인지 어떻게 알 수 있을까?

 

우리가 "기본 과학"이 아니라 역공학을 하고 있다고 인정하고, 뇌가 할 수 있는 모든 것을 할 수 있는 시스템을 만드는 데 필요한 것을 찾는다는 제약이 그 관련된 능력을 선택하는 데 도움이 되기를 바란다. 물론 보장은 없지만, 결과에 대해 너무 걱정하는 것은 TTT와 구별할 수 없는 좀비들이 우리처럼 세상을 성공적으로 만들 수 있었으나 우리는 단지 그런 좀비가 아니라는 것을 믿는 것과 같다. 나는 TTT가 TTTT에 대한 올바른 관련 필터라고 생각한다. 그렇지 않으면 우리는 많은 관련 없는 TTTT 특성을 모델링하는 것에 갇히게 된다.

 

다른 마음 문제는 무관한가?: 회의주의의 한 형태로서, 다른 사람들이 마음을 가지고 있는지 확신할 수 없다는 걱정은 특히 유용하지 않다. 그러나 이는 다른 유기체, 인공 마음 모델링 또는 뇌 자체에 대한 경험적 작업에서는 피할 수 없다. 이 시스템에 마음이 있는지 여부를 어떻게 확인할 수 있을까? 보장은 없지만, 중국어 방 논증과 같은 "막다른 길" 표지판도 있고, TTT와 접지성 같은 긍정적 가이드도 있다. 서얼의 관점에서 보면, 단 하나의 답은 TTTT이다.

 

변환이 동기부여된 "사변 신경생물학"인가?: 신경계의 큰 부분이 감각 및 운동 변환과 그 다수의 내부 아날로그 투사에 전념하고 있다는 충분한 증거가 있다고 생각한다. 변환은 또한 TTT 로봇의 논리적 요구 사항, 현실/가상 로봇/세계 구별, 그리고 중국어 방 논증에 대한 면역에 의해 선험적으로 동기부여된다. 게다가, 경험적 제약이 TTT가 아닌 TTTT라면 이는 신경생리학의 한 종류가 아니다.

 

몇 가지 끝나지 않은 문제들: (1) 서얼의 제안과는 달리, 기계의 하드웨어와 그것이 실행하는 소프트웨어 사이에는 물론 인과적 연결이 있다. 단지 그 물리적 세부 사항이 계산과 관련이 없으며, 마음을 구현하려는 경우에는 잘못된 인과적 연결이라는 것이다. (2) 코카인 예시는 논점 일탈이다. 네트워크는 약리학적 기능이 아니라 생리학적 기능의 모델로 제안된 것이다. 그러나 체육관 예시는 계속해서 논증이 아닌 캐리커처일 뿐이다. (3) 나의 혼합 접지 프로그램은 컴퓨터주의에 전념하지 않는다. 나는 대부분의 인지 기초 작업이 비상징적으로 수행되는 것을 보고 싶지만, 언어의 내부 기질은 상징적인 무언가를 가질 것이라고 생각한다. 게다가, 중국어 방 논증과 기호 접지 문제는 인지가 모두 계산일 수 없음을 보여줄 뿐, 인지가 전혀 계산일 수 없음을 보여주지 않는다. 한편, 접지된 기호 시스템이 아날로그 제약의 두 번째 층을 가지고 있다면, 그것이 형식적 구문적 의미에서 여전히 많은 기호 시스템인지 명확하지 않다.

References

Chamberlain, S.C. & Barlow, R.B. (1982). Retinotopic organization of lateral eye input to Limulus brain. *Journal of Neurophysiology, 48*, 505-520.

Fodor, J. & Pylyshyn, Z. (1988). Connectionism and cognitive architecture: A critical analysis. *Cognition, 28*, 3-71.

Fodor, J. A. (1975). *The language of thought*. New York: Thomas Y. Crowell.

Harnad, S. (1987). (ed.) *Categorical Perception: The Groundwork of Cognition*. New York: Cambridge University Press.

Harnad, S. (1989). Minds, Machines and Searle. *Journal of Theoretical and Experimental Artificial Intelligence, 1*, 5-25.

Harnad, S. (1990a). The Symbol Grounding Problem.

Harnad, S. (1990b). Against Computational Hermeneutics. (Invited commentary on Eric Dietrich's Computationalism) *Social Epistemology, 4*, 167-172.

Harnad, S. (1990c). Lost in the hermeneutic hall of mirrors. Invited Commentary on: Michael Dyer: Minds, Machines, Searle and Harnad. *Journal of Experimental and Theoretical Artificial Intelligence, 2*, 321-327.

Harnad, S. (1990d). Symbols and Nets: Cooperation vs. Competition. Review of: S. Pinker and J. Mehler (Eds.) (1988) *Connections and Symbols*. *Connection Science, 2*, 257-260.

Harnad, S. (1992a). Connecting Object to Symbol in Modeling Cognition. In: A. Clarke and R. Lutz (Eds) *Connectionism in Context*. Springer Verlag.

Harnad, S. (1992b). The Turing Test Is Not A Trick: Turing Indistinguishability Is A Scientific Criterion. *SIGART Bulletin, 3*(4) (October), 9-10.

Hayes, P., Harnad, S., Perlis, D. & Block, N. (1992). Virtual Symposium on the Virtual Mind. *Minds and Machines* (in press).

Jeannerod, M. (1994). The representing brain: neural correlates of motor intention and imagery. *Behavioral and Brain Sciences, 17*(2) (in press).

Pylyshyn, Z. W. (1984). *Computation and cognition*. Cambridge MA: Bradford Books.

Searle, J. R. (1980). Minds, brains and programs. *Behavioral and Brain Sciences, 3*, 417-424.

Searle, J.R. (1990). Is the brain's mind a computer program?. *Scientific American, 262*, 26-31.