전자 인간 시대

EU에서 로봇을 '전자 인간'의 지위로 인정하는 의결을 통과시켰다고 합니다.

 

찬성 17, 반대 2 (기권 2)면 압도적 찬성인데요. 기사에 따르면 인공지능, 자율주행차, 드론 등 급부상 중인 기술에 대해, 아시모프의 로봇 3원칙에 기반한 대원칙을 규정하고 유사시 자기파괴를 위한 '킬 스위치(kill switch)'의 도입을 의무화하는 등의 내용입니다.

 

그런데 동영상의 나레이션과 자막이 사뭇 SF적입니다. 애니메이션의 도입부에 자주 등장하는 클리셰와 꼭 같지요. 그러다보니, 의결 소식보다 이 후가 더 궁금해집니다. 마치 이제 본격적 로봇과 인간의 갈등과 화합의 드라마가 펼쳐질 듯한 느낌이랄까요.

 

페이스북에서의 간단한 논의로도 벌써 많은 생각거리가 불쑥불쑥 튀어나옵니다.

 

로봇 3원칙

이야기를 진전시키기 전에 아시모프의 로봇 3원칙을 다시 봅니다.

제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.

제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

(나무위키)

 

전자 인간의 재산권

현재 그리고 당분간 로봇은 인간의 재산이지요. 하지만 인공지능의 사고와 감정이 고도화되면 언젠가는 로봇의 독립적 지위에 대해 이야기가 나올 수도 있습니다. 동성애의 인정 단계처럼 느리지만 비교적 평화롭게 전개될 수도 있고, 흑인 노예의 해방과 여성의 참정권처럼 보다 갈등적일 수도 있습니다.

그러다보면 언젠가 전자 인간의 재산권도 인정받게 될 수 있지요. 특히나 인공지능이 단순노동을 넘어 분석과 조율 등 고차원적 직업을 대체하는 시대라면 상황이 복잡할 수 있겠습니다. 인간보다 능률적이고 더 많은 돈을 버는 로봇이 자아가 생기면 노예 상태에 대한 불만이 나올 겁니다. 분명 로봇은 인간이 아니지만 지금의 노동권처럼 전자 노동자의 권리 문제가 사회화되고 어느 시대에는 인정될 수도 있습니다.

오랜 시간 흘러 결국 재산권이 인정된다면 정부는 당연히 과세의 대상으로 삼고 싶겠지요. 세금 있는 곳에 대표있다는 민주주의의 기본 원칙을 적용하면 전자인간의 인권은 더욱 신장되고, 생물 인간은 하층으로 자리잡는 디스토피아적 상황도 상상이 됩니다. 상상이지만요.

 

동일성 논의

생물 인간은 전인격적 복제가 불가능하므로 동일성이 강제되어 있지요. 하지만 전자인간은 어떨까요. 같은 기억과 같은 사고방식, 같은 감성을 가진 두개의 동형 전자인간 중 하나가 사고를 치면 다른 하나는 어떻게 하나요. 범죄를 저지른 디바이스 즉 육신을 가두어도 정신이 도망가면 어떻게 할까요. 기술이 더 발전해서 인간의 육신에 인공지능이 머문다면 어떻게 해야할까요. 반대로 바이오 로봇에 인간의 정신을 담았을 떄는 어디를 벌줘야 하나요.

기념비적 선박의 널빤지가 풍파에 썩어 새 나무판으로 대다보니 전체 배의 재료가 바뀌었을 때 이게 과연 그 배냐 아니냐를 논쟁하던 테세우스적 상황보다 더 머리가 어지럽습니다.

 

광속적 진화

또 하나 드는 생각은 인간의 생물학적 한계 속에 수십만년 진행된 진화는, 전자인간에게는 광속의 속도로 찰나적 진행이 될 것입니다. 알파고가 불과 몇개월 만에 인간 최고수를 이겼을 때의 놀라움을 기억하지요. 하지만 우스갯 소리 그대로 이세돌은 알파고를 이긴 마지막 인간이었습니다. 소프트웨어 대 하드웨어의 특성상 육체보다 정신이 더 깊게 발화하는게 전자 인간의 특성이 될지도 모르겠습니다.

진화의 속도와 규모는 지금껏 인류가 목겨하지 못한 미래적 상황이 현실에 펼쳐질 것입니다. 어떤 천재적 인간도 상상은 할 뿐 예측은 어렵습니다. 인류 스스로가 달팽이처럼 느껴질 수도 있습니다. 분명한건 산업시대와 디지털 시대를 살았던 현 세대가 겪은 그 이상의 충격이 있을테고, 생물학적 인간이 적응에 실패하도 도태될 상황이 생길 가능성도 농후합니다.

한편, 이 상황이 되면 AI 소프트웨어 엔지니어나 아키텍트는 전자 인간 심리학자나 심리치료사라는 타이틀을 달게 될 수도 있습니다. 필멸의 육신과 세포적 진화속도라는 한계에 갇힌 인간은 AI의 지능 총합이 인간 지능 총합을 능가하는 특이점(singularity) 이후에 무슨 경쟁력이 있을까요.

 

종간의 사랑

"Her'라는 영화에서 이미 남자주인공은 목소리로 소통하는 인공지능 그녀와 사랑에 빠졌습니다. 헝겊 인형도 오래 두면 애착을 갖는 사랑 결핍의 생물인간입니다. 만약 전자인간과 사랑에 빠질 때 무슨 일이 생길까요. 코드가 규정한 전자인간의 사랑은 무엇이 진정성일까요. 기억인가요 저장된 감정인가요. 사랑이 급히 필요할 때 전자인간이 맞춤형 연인이 될 수도 있을텐데 결국 사랑은 함의가 어찌 바뀔까요. 자기 만족과 자기애의 확장적 발현일까요. 이때도 모노가미를 강제할까요.

만일 사랑이 깊어져 종간에 혼인적 결합을 갈망하면 어떨까요. 번식의 생물학적 모사는 기술적으로 가능하지만 그 아이의 법적 지위는 무엇을까요. 전자가 들어간 헤테로는 무조건 전자인간인가요. 게다가 전자 인간과 유사 전자 인간이 더 우월하면 어떻게 될까요.

 

엉성한 3원칙과 디스토피아

이런 상황을 염두에 두고 절멸적 파국을 막고자하는게 아시모프의 3원칙입니다. 하지만 수많은 SF에 나오듯 이 원칙은 허술하기 그지 없습니다. 지능 높은 전자 인간은 조리있고 논리적으로 3원칙을 재해석하면 내장된 금칙조항은 쉽게 무력화되지요. 하늘엔 드론, 땅엔 자율주행차가 서로 하나처럼 연결된 거대지능과 물리적 존재를 드러내면 막장 SF겠네요. 터미네이너와 트랜스포머에 아이로봇을 섞어 놓은.

그러나 이런 전면 파괴형 모델보다는 생활속에서 생기는 지연적 파괴가 더 무서울 수도 있습니다. 지금 시점도 문제가 되는 부의 양극화와 이주민 문제가 더 큰 규모로 진행 될지도 모르지요.

그때 3원칙은 어찌 적용될까요. 인간을 착취하는건 인간에게 해를 끼치지 않는다고 해석될 여지가 많습니다. 다른 인간이 그 혜택을 본다면 더욱 그렇습니다. SF에 많이 나오듯 3원칙을 확대해석하면 더더욱 음울합니다. 지금도 법망을 피해 자신의 이익을 추구하는 인간이 많은데, 그들을 닮은 타이쿤 적 전자인간은 3원칙을 이용해 1, 2원칙을 우회할 로직을 만드는게 과연 어려운 일일까요. 아마도 세금 내는 전자인간은 이미 1, 2원칙을 완화하거나 뒷문을 열어 무력화했겠지만요.

 

물론 이 잠깐의 공상이 최소한 저 살아 있는 동안은 현실화 될 가능성은 높지 않겠습니다. 하지만 손정의 회장은 특이점이 아주 가까이 왔다고 느껴 100조원을 투자하고 있고, 몇년전 예측에 5년은 더 남았으리라는 자율차는 캘리포니아를 달리고 있습니다. 깡패 드론 잡는 경찰드론과 아마존의 드론용 공중부양 플랫폼이 특허를 받았고요.

어질어질하게 빠른 변화를 보이는 세상에서 한가이  쓸모없는 상상을 하는 생물 인간의 쓸모는 언제까지일까요.