기계가 인간 보다 똑똑해 지면 무슨 일이 일어날까?

Philosophy Break에서 지난 2019년 12월에 잭 매이든(Jack Maden)에 의해 발행된 "What Happens When Machines Become Smarter than People?"을 소개합니다. 번역을 한 것이 아니라 글을 읽고 이해한 바대로 전하는 것이라 본문과 내용이 조금씩 다를 수 있습니다. 양해 부탁드립니다. 

 

철학자 다니엘 데넷(Daniel Dennett)은 인공지능이 인간의 지능을 넘어서는 파국의 특이점(catastrophic singularity)을 우려하지 않습니다. 하지만 이는 그가 걱정이 없다는 것을 의미하지 않습니다. 이 글은 그가 고려하는 인공지능의 실질적이고 실제적인 위험을 소개합니다.

 

지난 달, 프로 바둑기사 이세돌이 은퇴했습니다. 그는 연합뉴스와의 인터뷰에서 은퇴의 이유로 더 이상 바둑 대회 우승을 하더라도 인공지능 바둑기사를 이길 수 없다는 것을 깨달았기 때문이라고 말했습니다. 알파고는 구글의 자회사인 딥마인드(Deep Mind)에서 개발한 프로그램으로 이세돌과의 대국에서 4판을 이기며 세계를 놀라게 했습니다. 2016년 이세돌과의 대국 이후 딥마인드는 알파고 제로를 출시했고 알파고 제로는 3일동안 바둑을 스스로 학습하여 알파고와의 대국에서 100대 0으로 이겼습니다. 이세돌도 자신의 최고 지위가 컴퓨터에 의해 위협을 받으리라고는 상상하지 못했을 것입니다. 

 

이세돌 9단

 

I. AI는 우리 손을 벗어났을까?

알파고의 성취로 일부 사람들은 더 이상 우리가 AI를 통제할 수 없다고 말하며 AI가 인간의 모든 능력을 넘어서는 '특이점'(singularity)을 경계하기 시작했습니다. 철학자 데이빗 차머스(David J. Chalmers)도 그의 논문 "The singularity: a philosophical analysis"에서 다음과 같이 말한 바 있습니다.

 

“기계가 인간보다 지능이 더 뛰어나지면 어떻게 될까? 한 가지 견해는 이 기계에 의해 더 뛰어난 레벨의 지능이 나올 것이고 각 세대를 거쳐 더욱 뛰어난 지능을 지닌 기계가 만들어지게 될 것이다. 이러한 지능의 폭발이 ‘특이점’이라고 불리곤 한다.”

특이점은 일반적으로 종말과 관련이 있으며 일론 머스크(Elon Musk)는 이것이 인류의 최대 존폐 위기라고 말합니다. 간단히 말해서, 우리가 우리 보다 기능이 뛰어난 기계를 만들 수 있다면 그 기계는 세대를 거듭해서 지능이 더 뛰어난 기계를 만들 수 있다는 것입니다. 이는 인간의 지능이 기계 보다 기하급수적으로 떨어지는 상황을 야기하며 결과적으로 우리는 기계에 대한 권한과 통제력을 잃게 됩니다. 그래서 가장 좋은 경우는 기계의 노예가 되는 것이며 최악의 경우는 필요 없는 존재로 제거되는 것입니다. 

 

 

하지만 미국의 철학자 다니엘 데넷은 이러한 입장에 관심을 두지 않습니다. 그의 최근 저서 <From Bacteria to Bach and Back: The Evolution of Minds>의 마지막 장에서 그는 기술이 우리의 삶에 스며드는 바에 대해 다음과 같이 언급했습니다. 

"나는 인류가 우리를 노예로 만들 수 있는 초지능을 만드는 것에 대해 우려하지 않는다. 다만, 이것이 내가 아무런 걱정을 하지 않는다는 것은 아니다. 나는 덜 극적이지만 훨씬 가능성이 있으며 가까운 미래에 즉각적인 조치가 필요한 다른 시나리오를 생각한다." 

 

Daniel Dennett

 

 

II. AI에 대한 우리의 의존이 태만을 이끈다.

 

데넷은 특이성이 원칙적으로 여전히 가능성을 지니지만 이를 제창하는 사람들의 말 보다 훨씬 더 크고 어렵다고 말합니다. 그는 스마트 기술이 우리에게 더욱 실질적인 위협을 전해줄 수 있다며 다음과 같이 말합니다.

"내 생각에 실질적인 위험은 기계가 우리 운명의 대장으로서 우리의 역할을 빼앗아 갈 것이라는 점이 아니라 우리가 생각을 돕는 최신 기술을 과대평가하여 이것들의 능력 보다 훨씬 앞서서 (우리가 스스로 생각할) 권한을 조기에 포기한다는 것입니다."

이제는 산업 뿐만이 아니라 일반인들도 스마트폰을 이용해서 GPS를 손쉽게 사용합니다. 지도를 사용하는 대신 스마트폰을 사용하는 사람이 얼마나 많을 까요? 의학계에서도 이제 컴퓨터가 의사의 역할을 대신해 가고 있습니다. 이러한 상황에서 우리는 전통적인 의학 교육을 하도록 해야 할까요?? 기계가 의사 보다 더 효율적인 역할을 하기 때문에?

 

데넷은 다음과 같이 말합니다.

“이 지점에서 사용하지 않으면 잃는다는 것은 엄지손가락의 원칙(the role of thumb, 정확하지 않음에도 좋다고 하는 원칙)입니다. … 지적인 기계를 점점 신뢰해서 우리가 단순해 지는것에 대해 우리는 얼마나 관심을 가지고 있을까요? ”

역사적으로 우리는 항상 우리의 삶을 더 편하게하기 위해 기술을 사용해 왔고 AI는 가장 최근에 우리가 발명한 ‘위험’이며 이는 곧 우리가 침묵할 것이기도 하다는 것입니다.  

 

하지만, 트랙터가 우리의 노동을 대체하고 있다고 해서 우리는 이해력을 대체하는 것은 아닙니다. 인간의 뇌는 여전히 주요한 역할을 하고 있습니다. AI는 다릅니다. 인간의 이해력을 대체하기 때문입니다. 우리는 단순히 우리의 노동력을 양도하는 것이 아니라 우리의 지적 권리와 전문성을 기계에게 양도하는 것입니다. 

 

데넷에게는 이것이 위험인 것입니다. 기계들이 다 고장나면 어떻게 될까요? 문제를 해결해줄 전문가들이 충분할까요? 예를 들어, 태양으로 부터 코로나 질량이 방출해 전자제품이 모두 사용할 수 없게 된다면 우리 문명이 생존할 것이라고 확신할 수 있나요?

 

태양에 관한 어떤 논문에서 NASA는 다음과 같이 말했습니다.

 

“모두가 휴대전화를 사용하고 GPS가 자동차 네비게이션이나 비행기의 네비게이션 그리고 증권거래소에서 사용하는 매우 정교한 시계를 통제하는 고도로 기술적인 사회에서는 우주기상이 심각한 문제입니다. ”

그렇다면 이러한 우주기상 문제에 관한 기계를 준비함에 있어 기계에 지나치게 의존하게 되는 우리들을 막기 위해 우리는 문화적으로 무엇을 할 수 있을까요? 우리가 우리 사회를 돌아가게 하는 기계의 능력을 과대평가하지 않고 있다고 우리는 어떻게 확신할 수 있을까요?

 

III. 소프트웨어의 무능력 끄집어내기

 

과잉신뢰 문제(the problem of over-reliance)에 관한 데넷의 해결책은 도구로써의 기계와 우리의 이해력을 대체하는 기계를 완전히 명확하게 구분하는 것입니다. 

“우리는 시스템 내의 모든 불필요한 의인화를 드러내고 조롱해야 합니다. 귀엽다던가 인간 보다 더 인간적인 목소리라던가 (프로그램된) 생기발랄함 같은 것들 말입니다.  당신이 컴퓨터와 상호작용할 때, 컴퓨터와 상호작용하고 있음을 알아야 합니다. ”

데넷은 시스템의 문제를 인지하고 지적하는 것을 매력적인 것으로 여겨야 한다고 말합니다. 더 나아가서 기술에 대한 광고는 소프트웨어가 지닌 문제점을 알리도록 법제화해야 합니다. 마치 의료회사가 부작용을 고지하듯이 말입니다. 

 

데넷은 강하게 말합니다. 

“의도적으로 과정을 단축하거나 무능함을 숨기는 시스템은 사기로 간주해야 하며, 이를 만든 제작자는 인류를 사칭한 인공지능을 만들고 사용한 범죄를 저지른 것으로여겨 감옥에 가야 합니다. ”

이것은 기우처럼 보이지만 데넷의 논변은 우리 사회가 운영되는 방식에서 바라 봐야 합니다.

 

이해력(comprehension)은 이미 다양한 여러 권력 구조 사이에서 얇게 퍼져 있습니다. 정치가들은 그들의 지식을 지닙니다. 과학자와 교수도 그들이 전문적으로 지닐 수 있는 지식을 지닙니다. 경영가들도 그들의 전문적 지식을 지닙니다. 비상 서비스도 그들 분야의 지식을 지닙니다. 하지만 누구도 모든 것을 알 수는 없습니다. 사회에는 전문성이 만연해 있습니다. 우리가 전문가들의 지식을 기계에게 전가한다면 사회가 복잡해지는 만큼 사람들은 사회를 어떻게 다루는가에 대해 덜 알게 될 것입니다. 

 

기계는 쉽게 재부팅이 가능하며 이를 자주 실행함으로써 문제를 해결할 수 있습니다. 하지만 심각한 피해가 없는 한 문명(civilization)을 재부팅할 수는 없습니다. 데넷이 말하듯, 

“문명은 진행중이며 우리는 우리의 위험을 무릅쓰고 문명을 이해하려는 시도를 포기합니다."

IV. 마치며

 

당신은 어떻게 생각하십니까? AI는 위험한가요? 특이점이 우리 사회에 심각한 존재론적 위협을 제공하나요? 우리의 기계에 대한 의존이 문명의 몰락으로 가는 더 실현가능한 길인가요? 혹은 몰락에 대한 이 모든 이야기들은 단순한 기우인가요?

 

<From Bacteria to Bach and Back>은 광범위하고 매력적인 책입니다. 위에서 논의한 기계에 대한 그의 반성뿐만 아니라 데넷은 흥미로운 방식으로 많은 어려운 물음에 의문을 제기합니다. 언어와 문명의 기원은 무엇인가요? 인간의 자의식은 무엇인가요? 우리의 마음은 어떻게 이러한 물음을 던질 수 있나요?