'EU'에 해당하는 글 2건

전자 인간 시대

Sci_Tech 2017.01.15 20:36

EU에서 로봇을 '전자 인간' 지위로 인정하는 의결을 통과시켰다고 합니다.


 

찬성 17, 반대 2 (기권 2) 압도적 찬성인데요. 기사에 따르면 인공지능, 자율주행차, 드론 급부상 중인 기술에 대해, 아시모프의 로봇 3원칙에 기반한 대원칙을 규정하고 유사시 자기파괴를 위한 ' 스위치(kill switch)' 도입을 의무화하는 등의 내용입니다.

 

그런데 동영상의 나레이션과 자막이 사뭇 SF적입니다. 애니메이션의 도입부에 자주 등장하는 클리셰와 같지요. 그러다보니, 의결 소식보다 후가 궁금해집니다. 마치 이제 본격적 로봇과 인간의 갈등과 화합의 드라마가 펼쳐질 듯한 느낌이랄까요.

 

페이스북에서의 간단한 논의로도 벌써 많은 생각거리가 불쑥불쑥 튀어나옵니다.

 

로봇 3원칙

이야기를 진전시키기 전에 아시모프의 로봇 3원칙을 다시 봅니다.

1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.

2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

(나무위키)

 

전자 인간의 재산권

현재 그리고 당분간 로봇은 인간의 재산이지요. 하지만 인공지능의 사고와 감정이 고도화되면 언젠가는 로봇의 독립적 지위에 대해 이야기가 나올 수도 있습니다. 동성애의 인정 단계처럼 느리지만 비교적 평화롭게 전개될 수도 있고, 흑인 노예의 해방과 여성의 참정권처럼 보다 갈등적일 수도 있습니다.

그러다보면 언젠가 전자 인간의 재산권도 인정받게 있지요. 특히나 인공지능이 단순노동을 넘어 분석과 조율 고차원적 직업을 대체하는 시대라면 상황이 복잡할 있겠습니다. 인간보다 능률적이고 많은 돈을 버는 로봇이 자아가 생기면 노예 상태에 대한 불만이 나올 겁니다. 분명 로봇은 인간이 아니지만 지금의 노동권처럼 전자 노동자의 권리 문제가 사회화되고 어느 시대에는 인정될 수도 있습니다.

오랜 시간 흘러 결국 재산권이 인정된다면 정부는 당연히 과세의 대상으로 삼고 싶겠지요. 세금 있는 곳에 대표있다는 민주주의의 기본 원칙을 적용하면 전자인간의 인권은 더욱 신장되고, 생물 인간은 하층으로 자리잡는 디스토피아적 상황도 상상이 됩니다. 상상이지만요.

 

동일성 논의

생물 인간은 전인격적 복제가 불가능하므로 동일성이 강제되어 있지요. 하지만 전자인간은 어떨까요. 같은 기억과 같은 사고방식, 같은 감성을 가진 두개의 동형 전자인간 하나가 사고를 치면 다른 하나는 어떻게 하나요. 범죄를 저지른 디바이스 육신을 가두어도 정신이 도망가면 어떻게 할까요. 기술이 발전해서 인간의 육신에 인공지능이 머문다면 어떻게 해야할까요. 반대로 바이오 로봇에 인간의 정신을 담았을 떄는 어디를 벌줘야 하나요.

기념비적 선박의 널빤지가 풍파에 썩어 나무판으로 대다보니 전체 배의 재료가 바뀌었을 이게 과연 배냐 아니냐를 논쟁하던 테세우스적 상황보다 머리가 어지럽습니다.

 

광속적 진화

하나 드는 생각은 인간의 생물학적 한계 속에 수십만년 진행된 진화는, 전자인간에게는 광속의 속도로 찰나적 진행이 것입니다. 알파고가 불과 몇개월 만에 인간 최고수를 이겼을 때의 놀라움을 기억하지요. 하지만 우스갯 소리 그대로 이세돌은 알파고를 이긴 마지막 인간이었습니다. 소프트웨어 하드웨어의 특성상 육체보다 정신이 깊게 발화하는게 전자 인간의 특성이 될지도 모르겠습니다.

진화의 속도와 규모는 지금껏 인류가 목겨하지 못한 미래적 상황이 현실에 펼쳐질 것입니다. 어떤 천재적 인간도 상상은 예측은 어렵습니다. 인류 스스로가 달팽이처럼 느껴질 수도 있습니다. 분명한건 산업시대와 디지털 시대를 살았던 세대가 겪은 이상의 충격이 있을테고, 생물학적 인간이 적응에 실패하도 도태될 상황이 생길 가능성도 농후합니다.

한편, 상황이 되면 AI 소프트웨어 엔지니어나 아키텍트는 전자 인간 심리학자나 심리치료사라는 타이틀을 달게 수도 있습니다. 필멸의 육신과 세포적 진화속도라는 한계에 갇힌 인간은 AI 지능 총합이 인간 지능 총합을 능가하는 특이점(singularity) 이후에 무슨 경쟁력이 있을까요.

 

종간의 사랑

"Her'라는 영화에서 이미 남자주인공은 목소리로 소통하는 인공지능 그녀와 사랑에 빠졌습니다. 헝겊 인형도 오래 두면 애착을 갖는 사랑 결핍의 생물인간입니다. 만약 전자인간과 사랑에 빠질 무슨 일이 생길까요. 코드가 규정한 전자인간의 사랑은 무엇이 진정성일까요. 기억인가요 저장된 감정인가요. 사랑이 급히 필요할 전자인간이 맞춤형 연인이 수도 있을텐데 결국 사랑은 함의가 어찌 바뀔까요. 자기 만족과 자기애의 확장적 발현일까요. 이때도 모노가미를 강제할까요.

만일 사랑이 깊어져 종간에 혼인적 결합을 갈망하면 어떨까요. 번식의 생물학적 모사는 기술적으로 가능하지만 아이의 법적 지위는 무엇을까요. 전자가 들어간 헤테로는 무조건 전자인간인가요. 게다가 전자 인간과 유사 전자 인간이 우월하면 어떻게 될까요.

 

엉성한 3원칙과 디스토피아

이런 상황을 염두에 두고 절멸적 파국을 막고자하는게 아시모프의 3원칙입니다. 하지만 수많은 SF 나오듯 원칙은 허술하기 그지 없습니다. 지능 높은 전자 인간은 조리있고 논리적으로 3원칙을 재해석하면 내장된 금칙조항은 쉽게 무력화되지요. 하늘엔 드론, 땅엔 자율주행차가 서로 하나처럼 연결된 거대지능과 물리적 존재를 드러내면 막장 SF겠네요. 터미네이너와 트랜스포머에 아이로봇을 섞어 놓은.

그러나 이런 전면 파괴형 모델보다는 생활속에서 생기는 지연적 파괴가 무서울 수도 있습니다. 지금 시점도 문제가 되는 부의 양극화와 이주민 문제가 규모로 진행 될지도 모르지요.

그때 3원칙은 어찌 적용될까요. 인간을 착취하는건 인간에게 해를 끼치지 않는다고 해석될 여지가 많습니다. 다른 인간이 혜택을 본다면 더욱 그렇습니다. SF 많이 나오듯 3원칙을 확대해석하면 더더욱 음울합니다. 지금도 법망을 피해 자신의 이익을 추구하는 인간이 많은데, 그들을 닮은 타이쿤 전자인간은 3원칙을 이용해 1, 2원칙을 우회할 로직을 만드는게 과연 어려운 일일까요. 아마도 세금 내는 전자인간은 이미 1, 2원칙을 완화하거나 뒷문을 열어 무력화했겠지만요.

 

물론 잠깐의 공상이 최소한 살아 있는 동안은 현실화 가능성은 높지 않겠습니다. 하지만 손정의 회장은 특이점이 아주 가까이 왔다고 느껴 100조원을 투자하고 있고, 몇년전 예측에 5년은 남았으리라는 자율차는 캘리포니아를 달리고 있습니다. 깡패 드론 잡는 경찰드론과 아마존의 드론용 공중부양 플랫폼이 특허를 받았고요.

어질어질하게 빠른 변화를 보이는 세상에서 한가이  쓸모없는 상상을 하는 생물 인간의 쓸모는 언제까지일까요

저작자 표시 비영리 변경 금지
신고

'Sci_Tech' 카테고리의 다른 글

책쓰다 급히 3중뇌 가설을 폐기한 이야기  (0) 2017.04.18
딥 러닝의 한계는 무엇일까?  (0) 2017.04.04
전자 인간 시대  (0) 2017.01.15
UX의 끝판왕 New Uber app  (0) 2016.11.12
구글의 특허 공유 계획  (0) 2015.07.24
윈도우 10, 왕의 귀환  (0) 2015.06.02

WRITTEN BY
Inuit
@inuit_k / CxO / Author ("가장 듣고 싶은 한마디 YES!") / Making better world, every minute.

받은 트랙백이 없고 , 댓글이 없습니다.
secret

Glen Hubbard

(Title) Balance: The economics of great powers from ancient Rome to modern America


로마는 왜 망했나?
역사 좀 관심 있는 사람에겐 진부할 테제다. 하지만, 100명의 역사학자가 있으면 100가지 이론이 있다. 실상, 로마가 언제부터 망하기 시작했는지에 대한 합의도 쉽지 않다. 왜냐면 쇠락 원인의 진단이 다르면 망조가 드는 시점도 달라지기 때문이다. 강대국은 맷집이 세서 오랜 시간에 걸쳐 망한다는 특징도 한 몫한다.


로마가 망하든 말든
그게 지금 우리에게 무슨 영향이 있을까. 사실 많다. 이유는 미국이 언제 망하느냐와 관련 있기 때문이다. 다시말해, 지금 미국은 망하고 있는건가? 미국이 망하려면 어떤 조건에 기반하나? 중국은 미국을 제치고 다시 강대국이 될 수 있을까? 이런 실천적 의문에 대한 실마리를 역사에서 배울 수 있다.


센 놈이 쓰러지려면
역사적으로 강대국의 쇠락에는 필연적인 전쟁의 패배나 결정적 실수가 연관된다. 하지만 그건 last straw일 뿐이다. 결국은 기초체력이다. 이미 속으로 망한 국가가 잽 맞고 쓰러지는거지, 팔팔한 나라가 카운터펀치로 한방에 떨어지는 일은 없다.


그럼 기초체력이란
이 부분이 이 책의 백미다. 글렌 허버드는 모든 피상적 결과의 심연에는 경제력의 와해가 있음을 논증한다. 그리고 강대국의 지위까지 올랐다가 경제력이 빠지는 이유는 시스템의 균형이 깨지는데서 찾는다. 시스템은 제도, 법률, 운영이다. 이 부분 100퍼센트 공감한다.


강해지는 길
강대국은 세가지 성장의 축을 딛고 일어난다.
  • 스미스 식 성장:   교역과 규모
  • 솔로 식 성장:      투자와 인프라
  • 슘페터 식 성장:   혁신 
앞서 말한 경제력을 뼈만 추리면, GDP, 기술적 진전, 성장률이다. 즉 세가지 성장의 축이 연쇄적으로 일어나지 않으면, 나라는 어느 순간 더져지고 멈추다 떨어진다.


부자로 수렴
책의 경제모델 중 하나는 수렴이다. 즉, 어떤 저개발 국가라도 성장을 시작하면 두자리 성장률로 급팽창이 가능하다. 다만 이 시작을 언제 하는가(혹은 시작할수나 있느냐)는 나라마다 내부사정이다. 수렴 모델이 상정하듯, 성장이 지속하면 최대강대국의 상한에 갇힌다. 유럽이 그랬고, 일본이 그랬고, 중국이 그럴 가능성이 높다. 만에 하나 이 한계를 넘으면 패권이 바뀐다. 이 지점에 미국의 고민과 의심이 있다.


최강국이란 천장
현재 스코어 성장의 한계는 미국의 80%다. 세계 어느 강대국도 100년간 이를 넘어 지속가능한 성장을 하지 못했다. 미국은 자기혁신을 통해, 또 견제를 활용해 최강국의 지위를 유지해왔고, 당분간 대안은 없어 보인다. 비즈니스 스쿨에서 솔로 모델 배울 때, 미국경제 성장률의 의미에 대해 짚어볼 기회가 있었다. 최대 규모의 경제가 아직도 평균적으로 2% 대의 성장을 한다는건 경이다. 끊임없이 혁신이 수반되지 않으면 불가능하다. 최근 눈에 보이는 성과중 한 부류가 매일 접하는 구글, 페이스북, 우버다.



한국은 어디에
한국은 유일하게 90년대 말까지 성장을 지속한 나라다. 지금은 성장이 멈췄다. 이유는 제도와 혁신이 우리 규모에 못미치기 때문이다. 그런면에서 최근 두 정부에 대한 국민의 불만은 다른 면에서 볼 필요가 있다. 누가 정권을 잡든, 이 규모의 경제를 지속적으로 성장시키는건 매우 어렵다. 그래서 똑똑하고 비전 있는 리더가 있어야 그나마 확률이 있다. 아니면 좌우를 막론하고 국민은 계속 살기 어렵고, 정치에 보내는 냉소와 희화화만 무한반복할 뿐이다. '2030 대담한 미래'에서 말했듯, 우리나라는 지금 절벽으로 가고 있다.


누가 방울을 달까
지금 우리 상황은 고양이 목에 방울달기 같다. 답은 아는데 실행이 어렵다. 큰 규모의 민주체제는 어디나 다 어렵다. 강대국이 망한 이유도 몰라서가 아니라, 알면서도 못한 경우가 대부분이다. 로마는 군대의 비위를 맞추려 과다한 복지를 제공하고 통화를 증발하다 망했다. 정화가 대양을 제패하던 중국은 분파적 경쟁으로 교역을 닫고 스스로 쭈그러들었다. 스페인은 신세계의 은이 무한 유입되었지만 투자하지 않고 소비하여 인플레만 유발시키다 변방국이 되었다. 오스만은 예니체리의 대리인(agent) 비용과 지대(rent)추구로 유럽의 병자 신세가 되었다. 일본, 영국, EU 더 말해 무엇하리. 


중 제머리 깎끼
우리나라의 해법을 찾으려면 없으리. 예컨대 단임제 방식으로 장기적 성장을 고민하는 대통령이 뽑히기를 바라는건 로또를 맞기와 유사한 확률이다. 그렇다고 중임제로 간다고 해도, 중국같은 정치 엘리트를 키우는 시스템은 없다. 정치라는 직업은 RoI(투자대비 회수)가 매우 불투명해서 top talent가 고이지 않는다. 어찌어찌 정치 엘리트의 후보군을 확충해도 국민의 의사를 민주적 절차로 표현하여 당장 손에 떨어지는 무언가를 만드는게 어렵다. 


비관적이다
무작정 정치탓을 하는게 아니라, 경제력과 혁신은 제도에서 나오기 때문에 이 부분의 개선이 시급하다. 하지만 누가 이 문제를 풀까. 정치인이 스스로를 혁신하는건 역사적으로 사례가 드물다. 그렇다고 영국 권리장전 때처럼 납세거부라도 할 수 있나. 뻔히 보이는 절벽을 향해 달리는 기차에 탄 마음이다.


Inuit Point ★
글 끝에 우리나라 이야기를 많이 했다. 책 읽으며 많은 생각이 들었기 때문이다. 재미나게도 이 책 역시 오로지 관심은 저자의 모국 미국이다. 미국이 지금보다 더 잘해야 한다는 채찍이다. 전교1등이 밤까지 새겠단다.
난 이 책에 별 다섯을 줬다. 책이 소개한 역사적 사례들은 분량관계로 짧게 넘어갔지만 분량의 대부분이며 매우 재미나다. 경제학자답게 문체는 담백하지만, 매우 지적이다. 유일한 흠이 있다면 쳐다보고 싶지도 않은 건조한 제목 정도. 
역사를 좋아하는 사람, 읽어라. 세계 역사를 잘 모르는 사람, 이번 기회에 배워라. 읽다보면 조선 말기 같은 우리나라 현실도 덤으로 느껴질테다.


저작자 표시 비영리 변경 금지
신고

'Culture > Review' 카테고리의 다른 글

런던에 미치다  (0) 2015.07.11
음식의 제국  (0) 2015.06.27
강대국의 경제학  (2) 2015.06.20
파리의 장소들  (0) 2015.06.13
세계의 진실을 가리는 50가지 고정관념  (2) 2015.05.31
인생게임, 더 지니어스  (6) 2013.12.14

WRITTEN BY
Inuit
@inuit_k / CxO / Author ("가장 듣고 싶은 한마디 YES!") / Making better world, every minute.

받은 트랙백이 없고 , 댓글  2개가 달렸습니다.
  1. 개인적으로는 한 명의 잘난 정치인보다는 전체적인 경제시스템의 구조가 어떠하냐가 더 중요하다고 보여집니다. 사실 시스템은 사람을 만들기도 하죠. 빈곤국가들 보면 왜 빈곤국가인지 답 나오지 않습니까...
    • 네. 책과 제 글의 핵심도 그겁니다. 체제를 제대로 정비해야 한다는 점.
      그리고 그걸 위해서는 제대로된 리더십을 갖추는 부분이 중요하다는 생각입니다. ^^
secret