Inuit Blogged

2016년 발간된 '사장의 길'이란 책을 읽는데, 아래의 그림이 눈에 띄었습니다.

 

구뇌, 중뇌, 신뇌의 3중뇌 이론입니다. 처음 나왔을 때 저도 이 이론에 매혹되었습니다. 책을 집필하며 이 체계적인 프레임을 활용해 설명할게 너무 많아 의욕이 넘쳤습니다. 

그러나 리서치를 계속 할수록 3중뇌 가설은 기각해야할 가설로 여겨졌습니다. 몇개 문서 말고는 학문적 지지가 없었기 때문입니다. 의심이 커질수록 저는 많이 당황스러웠지요. 의사결정의 구뇌-감정의 중뇌-이성의 신뇌, 파충류>포유류>인간의 뇌. 이 골격으로 전체 스토리를 구상했었으니까요. 논문 써보신 분은 이 갑갑한 심정 공감하실겁니다. 한참 전개해놨는데 근원에서 흔들리는 경우.

그러나, 아는 범위에서는 최대한의 과학적 엄정함을 목표했기에 이 부분을 두루뭉수리하게 넘어갈 수 없었습니다. 당시 블로그 인연은 지금 페친, 트친과는 또 다른 가족적 느낌이 컸는데, 의대 졸업반이신 블친께 긴급히 상담을 요청했습니다. 

구뇌 또는 도마뱀의 뇌에 대해 학문적으로 짚어가고 싶은 분들을 위해 당시 주고 받은 서신 일부를 공개합니다.

질문

 

 의학적 설명

 

 마무리 답장

이렇게 해서 마음은 아프지만 3위일체 가설은 속시원히 버렸습니다. 정확하게 학문적으로 짚어주신 덕에 헛시간 안버리게 되어 얼마나 고마웠는지 모릅니다. 

덕분에 제 책이 뇌과학을 경영분야에 접합한 매우 초기의 저술인데, 비과학적 토대가 끼어들어 전체의 신뢰를 떨어뜨리지 않아서 다행이었습니다. 내용 자체도 이런 토론에 의한 개발이 뒷받침되어 통섭적인 설명을 옳게 가져갈 수 있었고요.

알파고 이후 인공지능과 딥러닝을 보는 인류의 관점이 완전히 변했지요.

궁극적으로 AI가 사람을 이길 수 있음을 보여준 상징적 사건이니 당연한 일입니다.

 

하지만 연구자들은 실제로 딥 러닝이 생활 속에 들어오려면 조금 더 시간이 필요하다고 말합니다.

그 이유를 보면 이렇습니다.

-인공지능은 데이터를 엄청나게 많이 먹여야 딥 러닝이 작동한다. (시간과 비용의 문제)

-인간은 몇개 안되는 데이터로부터도 배울 수 있고, 극단적인 추상화와 일반화가 가능한데, 인공지능은 알고리듬 상 이를 효율적으로 따라잡을 수는 없다.

-그렇게 많은 데이터를 먹이는 과정에서 의도치 않은 편향(성차별, 인종차별 등)이나 악의적 왜곡 (인간 눈에 보이지 않는 패턴을 몰래 학습시켜 오염시킴) 등이 가능한데 이를 골라내기가 쉽지 않다.

-특히 아주 명백한 차이도 학습을 해야 알게 되는 문제가 있다. (칫솔과 야구방망이를 구별하는데만도 한참 데이터를 먹여야 함)

 

예컨대, 사람은 차를 피해 가라고 몇가지만 알려주면 훌륭히 임무를 수행하지만, AI는 수천번 "죽어봐야" 학습을 한다는 점입니다.

 

당연히도 이를 타파하기 위해 여러가지 방법으로 연구가 이뤄지고 있습니다만, 제 눈에 가장 띄는건 딥 러닝의 아버지라 불리우는 Geoffrey Hinton의 방법입니다. 신경망을 대신해 '캡슐'이라는 개념을 사용합니다. 인공지능의 해답은 진화과정에 있다고 보고, 피질을 모사하는거죠.

 

어떤 방식인지는 더 봐야겠지만, 파충류의 뇌와 신피질에 해당하는 복층 구조로 간다면 진짜 효율적인 답을 찾아낼 거란 생각이 듭니다.

EU에서 로봇을 '전자 인간'의 지위로 인정하는 의결을 통과시켰다고 합니다.

 

찬성 17, 반대 2 (기권 2)면 압도적 찬성인데요. 기사에 따르면 인공지능, 자율주행차, 드론 등 급부상 중인 기술에 대해, 아시모프의 로봇 3원칙에 기반한 대원칙을 규정하고 유사시 자기파괴를 위한 '킬 스위치(kill switch)'의 도입을 의무화하는 등의 내용입니다.

 

그런데 동영상의 나레이션과 자막이 사뭇 SF적입니다. 애니메이션의 도입부에 자주 등장하는 클리셰와 꼭 같지요. 그러다보니, 의결 소식보다 이 후가 더 궁금해집니다. 마치 이제 본격적 로봇과 인간의 갈등과 화합의 드라마가 펼쳐질 듯한 느낌이랄까요.

 

페이스북에서의 간단한 논의로도 벌써 많은 생각거리가 불쑥불쑥 튀어나옵니다.

 

로봇 3원칙

이야기를 진전시키기 전에 아시모프의 로봇 3원칙을 다시 봅니다.

 

전자 인간의 재산권

현재 그리고 당분간 로봇은 인간의 재산이지요. 하지만 인공지능의 사고와 감정이 고도화되면 언젠가는 로봇의 독립적 지위에 대해 이야기가 나올 수도 있습니다. 동성애의 인정 단계처럼 느리지만 비교적 평화롭게 전개될 수도 있고, 흑인 노예의 해방과 여성의 참정권처럼 보다 갈등적일 수도 있습니다.

그러다보면 언젠가 전자 인간의 재산권도 인정받게 될 수 있지요. 특히나 인공지능이 단순노동을 넘어 분석과 조율 등 고차원적 직업을 대체하는 시대라면 상황이 복잡할 수 있겠습니다. 인간보다 능률적이고 더 많은 돈을 버는 로봇이 자아가 생기면 노예 상태에 대한 불만이 나올 겁니다. 분명 로봇은 인간이 아니지만 지금의 노동권처럼 전자 노동자의 권리 문제가 사회화되고 어느 시대에는 인정될 수도 있습니다.

오랜 시간 흘러 결국 재산권이 인정된다면 정부는 당연히 과세의 대상으로 삼고 싶겠지요. 세금 있는 곳에 대표있다는 민주주의의 기본 원칙을 적용하면 전자인간의 인권은 더욱 신장되고, 생물 인간은 하층으로 자리잡는 디스토피아적 상황도 상상이 됩니다. 상상이지만요.

 

동일성 논의

생물 인간은 전인격적 복제가 불가능하므로 동일성이 강제되어 있지요. 하지만 전자인간은 어떨까요. 같은 기억과 같은 사고방식, 같은 감성을 가진 두개의 동형 전자인간 중 하나가 사고를 치면 다른 하나는 어떻게 하나요. 범죄를 저지른 디바이스 즉 육신을 가두어도 정신이 도망가면 어떻게 할까요. 기술이 더 발전해서 인간의 육신에 인공지능이 머문다면 어떻게 해야할까요. 반대로 바이오 로봇에 인간의 정신을 담았을 떄는 어디를 벌줘야 하나요.

기념비적 선박의 널빤지가 풍파에 썩어 새 나무판으로 대다보니 전체 배의 재료가 바뀌었을 때 이게 과연 그 배냐 아니냐를 논쟁하던 테세우스적 상황보다 더 머리가 어지럽습니다.

 

광속적 진화

또 하나 드는 생각은 인간의 생물학적 한계 속에 수십만년 진행된 진화는, 전자인간에게는 광속의 속도로 찰나적 진행이 될 것입니다. 알파고가 불과 몇개월 만에 인간 최고수를 이겼을 때의 놀라움을 기억하지요. 하지만 우스갯 소리 그대로 이세돌은 알파고를 이긴 마지막 인간이었습니다. 소프트웨어 대 하드웨어의 특성상 육체보다 정신이 더 깊게 발화하는게 전자 인간의 특성이 될지도 모르겠습니다.

진화의 속도와 규모는 지금껏 인류가 목겨하지 못한 미래적 상황이 현실에 펼쳐질 것입니다. 어떤 천재적 인간도 상상은 할 뿐 예측은 어렵습니다. 인류 스스로가 달팽이처럼 느껴질 수도 있습니다. 분명한건 산업시대와 디지털 시대를 살았던 현 세대가 겪은 그 이상의 충격이 있을테고, 생물학적 인간이 적응에 실패하도 도태될 상황이 생길 가능성도 농후합니다.

한편, 이 상황이 되면 AI 소프트웨어 엔지니어나 아키텍트는 전자 인간 심리학자나 심리치료사라는 타이틀을 달게 될 수도 있습니다. 필멸의 육신과 세포적 진화속도라는 한계에 갇힌 인간은 AI의 지능 총합이 인간 지능 총합을 능가하는 특이점(singularity) 이후에 무슨 경쟁력이 있을까요.

 

종간의 사랑

"Her'라는 영화에서 이미 남자주인공은 목소리로 소통하는 인공지능 그녀와 사랑에 빠졌습니다. 헝겊 인형도 오래 두면 애착을 갖는 사랑 결핍의 생물인간입니다. 만약 전자인간과 사랑에 빠질 때 무슨 일이 생길까요. 코드가 규정한 전자인간의 사랑은 무엇이 진정성일까요. 기억인가요 저장된 감정인가요. 사랑이 급히 필요할 때 전자인간이 맞춤형 연인이 될 수도 있을텐데 결국 사랑은 함의가 어찌 바뀔까요. 자기 만족과 자기애의 확장적 발현일까요. 이때도 모노가미를 강제할까요.

만일 사랑이 깊어져 종간에 혼인적 결합을 갈망하면 어떨까요. 번식의 생물학적 모사는 기술적으로 가능하지만 그 아이의 법적 지위는 무엇을까요. 전자가 들어간 헤테로는 무조건 전자인간인가요. 게다가 전자 인간과 유사 전자 인간이 더 우월하면 어떻게 될까요.

 

엉성한 3원칙과 디스토피아

이런 상황을 염두에 두고 절멸적 파국을 막고자하는게 아시모프의 3원칙입니다. 하지만 수많은 SF에 나오듯 이 원칙은 허술하기 그지 없습니다. 지능 높은 전자 인간은 조리있고 논리적으로 3원칙을 재해석하면 내장된 금칙조항은 쉽게 무력화되지요. 하늘엔 드론, 땅엔 자율주행차가 서로 하나처럼 연결된 거대지능과 물리적 존재를 드러내면 막장 SF겠네요. 터미네이너와 트랜스포머에 아이로봇을 섞어 놓은.

그러나 이런 전면 파괴형 모델보다는 생활속에서 생기는 지연적 파괴가 더 무서울 수도 있습니다. 지금 시점도 문제가 되는 부의 양극화와 이주민 문제가 더 큰 규모로 진행 될지도 모르지요.

그때 3원칙은 어찌 적용될까요. 인간을 착취하는건 인간에게 해를 끼치지 않는다고 해석될 여지가 많습니다. 다른 인간이 그 혜택을 본다면 더욱 그렇습니다. SF에 많이 나오듯 3원칙을 확대해석하면 더더욱 음울합니다. 지금도 법망을 피해 자신의 이익을 추구하는 인간이 많은데, 그들을 닮은 타이쿤 적 전자인간은 3원칙을 이용해 1, 2원칙을 우회할 로직을 만드는게 과연 어려운 일일까요. 아마도 세금 내는 전자인간은 이미 1, 2원칙을 완화하거나 뒷문을 열어 무력화했겠지만요.

 

물론 이 잠깐의 공상이 최소한 저 살아 있는 동안은 현실화 될 가능성은 높지 않겠습니다. 하지만 손정의 회장은 특이점이 아주 가까이 왔다고 느껴 100조원을 투자하고 있고, 몇년전 예측에 5년은 더 남았으리라는 자율차는 캘리포니아를 달리고 있습니다. 깡패 드론 잡는 경찰드론과 아마존의 드론용 공중부양 플랫폼이 특허를 받았고요.

어질어질하게 빠른 변화를 보이는 세상에서 한가이  쓸모없는 상상을 하는 생물 인간의 쓸모는 언제까지일까요. 

항상 Uber가 주창하는 바가, '우리는 택시의 경제형 공유모델이 아니라, 새로운 수송(logistics) 모델'이라는 건데, 저는 일종의 "세계 평화"류의 립 서비스라 생각했습니다.

하지만 새로운 Uber 앱을 보니 정말 말대로 되어가고 있구나라는 생각이 드네요.

아이들과 주 1회로 간단한 영작문을 하는 프로그램이 있습니다.
아들이 숙제하다가 우연히 발견한 사실.

원어 버전
 
아이폰 iOS5에서는 문장 읽어주기 기능(TTS)이 쉽게 되어 있습니다.
원래 영어 발음은 이렇지요. 영어로 세팅한 저는 위처럼 나옵니다.

한국어 버전

그러나, 한국어로 세팅된 아이패드에서 문장 일기를 시키면 영어를 완전 한국인의 어투로 읽습니다. 많이 익숙하죠? ^^

다국어 버전
혹시 해서 다른 나라 말로 세팅을 바꿔보니 역시 각 나라의 액센트가 묻어 나옵니다.
일어, 아랍어 등을 테스트 해봤네요. 아래는 일어 버전.


재미삼아 볼 일이지만, 곰곰 생각해보면 각 나라의 영어 액센트까지 모사하는 그 기술이 궁금해지고 신기합니다.