'상상'에 해당하는 글 2건

전자 인간 시대

Sci_Tech 2017.01.15 20:36

EU에서 로봇을 '전자 인간' 지위로 인정하는 의결을 통과시켰다고 합니다.


 

찬성 17, 반대 2 (기권 2) 압도적 찬성인데요. 기사에 따르면 인공지능, 자율주행차, 드론 급부상 중인 기술에 대해, 아시모프의 로봇 3원칙에 기반한 대원칙을 규정하고 유사시 자기파괴를 위한 ' 스위치(kill switch)' 도입을 의무화하는 등의 내용입니다.

 

그런데 동영상의 나레이션과 자막이 사뭇 SF적입니다. 애니메이션의 도입부에 자주 등장하는 클리셰와 같지요. 그러다보니, 의결 소식보다 후가 궁금해집니다. 마치 이제 본격적 로봇과 인간의 갈등과 화합의 드라마가 펼쳐질 듯한 느낌이랄까요.

 

페이스북에서의 간단한 논의로도 벌써 많은 생각거리가 불쑥불쑥 튀어나옵니다.

 

로봇 3원칙

이야기를 진전시키기 전에 아시모프의 로봇 3원칙을 다시 봅니다.

1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.

2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

(나무위키)

 

전자 인간의 재산권

현재 그리고 당분간 로봇은 인간의 재산이지요. 하지만 인공지능의 사고와 감정이 고도화되면 언젠가는 로봇의 독립적 지위에 대해 이야기가 나올 수도 있습니다. 동성애의 인정 단계처럼 느리지만 비교적 평화롭게 전개될 수도 있고, 흑인 노예의 해방과 여성의 참정권처럼 보다 갈등적일 수도 있습니다.

그러다보면 언젠가 전자 인간의 재산권도 인정받게 있지요. 특히나 인공지능이 단순노동을 넘어 분석과 조율 고차원적 직업을 대체하는 시대라면 상황이 복잡할 있겠습니다. 인간보다 능률적이고 많은 돈을 버는 로봇이 자아가 생기면 노예 상태에 대한 불만이 나올 겁니다. 분명 로봇은 인간이 아니지만 지금의 노동권처럼 전자 노동자의 권리 문제가 사회화되고 어느 시대에는 인정될 수도 있습니다.

오랜 시간 흘러 결국 재산권이 인정된다면 정부는 당연히 과세의 대상으로 삼고 싶겠지요. 세금 있는 곳에 대표있다는 민주주의의 기본 원칙을 적용하면 전자인간의 인권은 더욱 신장되고, 생물 인간은 하층으로 자리잡는 디스토피아적 상황도 상상이 됩니다. 상상이지만요.

 

동일성 논의

생물 인간은 전인격적 복제가 불가능하므로 동일성이 강제되어 있지요. 하지만 전자인간은 어떨까요. 같은 기억과 같은 사고방식, 같은 감성을 가진 두개의 동형 전자인간 하나가 사고를 치면 다른 하나는 어떻게 하나요. 범죄를 저지른 디바이스 육신을 가두어도 정신이 도망가면 어떻게 할까요. 기술이 발전해서 인간의 육신에 인공지능이 머문다면 어떻게 해야할까요. 반대로 바이오 로봇에 인간의 정신을 담았을 떄는 어디를 벌줘야 하나요.

기념비적 선박의 널빤지가 풍파에 썩어 나무판으로 대다보니 전체 배의 재료가 바뀌었을 이게 과연 배냐 아니냐를 논쟁하던 테세우스적 상황보다 머리가 어지럽습니다.

 

광속적 진화

하나 드는 생각은 인간의 생물학적 한계 속에 수십만년 진행된 진화는, 전자인간에게는 광속의 속도로 찰나적 진행이 것입니다. 알파고가 불과 몇개월 만에 인간 최고수를 이겼을 때의 놀라움을 기억하지요. 하지만 우스갯 소리 그대로 이세돌은 알파고를 이긴 마지막 인간이었습니다. 소프트웨어 하드웨어의 특성상 육체보다 정신이 깊게 발화하는게 전자 인간의 특성이 될지도 모르겠습니다.

진화의 속도와 규모는 지금껏 인류가 목겨하지 못한 미래적 상황이 현실에 펼쳐질 것입니다. 어떤 천재적 인간도 상상은 예측은 어렵습니다. 인류 스스로가 달팽이처럼 느껴질 수도 있습니다. 분명한건 산업시대와 디지털 시대를 살았던 세대가 겪은 이상의 충격이 있을테고, 생물학적 인간이 적응에 실패하도 도태될 상황이 생길 가능성도 농후합니다.

한편, 상황이 되면 AI 소프트웨어 엔지니어나 아키텍트는 전자 인간 심리학자나 심리치료사라는 타이틀을 달게 수도 있습니다. 필멸의 육신과 세포적 진화속도라는 한계에 갇힌 인간은 AI 지능 총합이 인간 지능 총합을 능가하는 특이점(singularity) 이후에 무슨 경쟁력이 있을까요.

 

종간의 사랑

"Her'라는 영화에서 이미 남자주인공은 목소리로 소통하는 인공지능 그녀와 사랑에 빠졌습니다. 헝겊 인형도 오래 두면 애착을 갖는 사랑 결핍의 생물인간입니다. 만약 전자인간과 사랑에 빠질 무슨 일이 생길까요. 코드가 규정한 전자인간의 사랑은 무엇이 진정성일까요. 기억인가요 저장된 감정인가요. 사랑이 급히 필요할 전자인간이 맞춤형 연인이 수도 있을텐데 결국 사랑은 함의가 어찌 바뀔까요. 자기 만족과 자기애의 확장적 발현일까요. 이때도 모노가미를 강제할까요.

만일 사랑이 깊어져 종간에 혼인적 결합을 갈망하면 어떨까요. 번식의 생물학적 모사는 기술적으로 가능하지만 아이의 법적 지위는 무엇을까요. 전자가 들어간 헤테로는 무조건 전자인간인가요. 게다가 전자 인간과 유사 전자 인간이 우월하면 어떻게 될까요.

 

엉성한 3원칙과 디스토피아

이런 상황을 염두에 두고 절멸적 파국을 막고자하는게 아시모프의 3원칙입니다. 하지만 수많은 SF 나오듯 원칙은 허술하기 그지 없습니다. 지능 높은 전자 인간은 조리있고 논리적으로 3원칙을 재해석하면 내장된 금칙조항은 쉽게 무력화되지요. 하늘엔 드론, 땅엔 자율주행차가 서로 하나처럼 연결된 거대지능과 물리적 존재를 드러내면 막장 SF겠네요. 터미네이너와 트랜스포머에 아이로봇을 섞어 놓은.

그러나 이런 전면 파괴형 모델보다는 생활속에서 생기는 지연적 파괴가 무서울 수도 있습니다. 지금 시점도 문제가 되는 부의 양극화와 이주민 문제가 규모로 진행 될지도 모르지요.

그때 3원칙은 어찌 적용될까요. 인간을 착취하는건 인간에게 해를 끼치지 않는다고 해석될 여지가 많습니다. 다른 인간이 혜택을 본다면 더욱 그렇습니다. SF 많이 나오듯 3원칙을 확대해석하면 더더욱 음울합니다. 지금도 법망을 피해 자신의 이익을 추구하는 인간이 많은데, 그들을 닮은 타이쿤 전자인간은 3원칙을 이용해 1, 2원칙을 우회할 로직을 만드는게 과연 어려운 일일까요. 아마도 세금 내는 전자인간은 이미 1, 2원칙을 완화하거나 뒷문을 열어 무력화했겠지만요.

 

물론 잠깐의 공상이 최소한 살아 있는 동안은 현실화 가능성은 높지 않겠습니다. 하지만 손정의 회장은 특이점이 아주 가까이 왔다고 느껴 100조원을 투자하고 있고, 몇년전 예측에 5년은 남았으리라는 자율차는 캘리포니아를 달리고 있습니다. 깡패 드론 잡는 경찰드론과 아마존의 드론용 공중부양 플랫폼이 특허를 받았고요.

어질어질하게 빠른 변화를 보이는 세상에서 한가이  쓸모없는 상상을 하는 생물 인간의 쓸모는 언제까지일까요

저작자 표시 비영리 변경 금지
신고

'Sci_Tech' 카테고리의 다른 글

책쓰다 급히 3중뇌 가설을 폐기한 이야기  (0) 2017.04.18
딥 러닝의 한계는 무엇일까?  (0) 2017.04.04
전자 인간 시대  (0) 2017.01.15
UX의 끝판왕 New Uber app  (0) 2016.11.12
구글의 특허 공유 계획  (0) 2015.07.24
윈도우 10, 왕의 귀환  (0) 2015.06.02

WRITTEN BY
Inuit
@inuit_k / CxO / Author ("가장 듣고 싶은 한마디 YES!") / Making better world, every minute.

받은 트랙백이 없고 , 댓글이 없습니다.
secret

꿈의 미디어

Biz 2008.03.12 22:29
신제품 개발과 관련하여, 직원들에게 항상 말하는 부분이 있습니다.
우리의 경쟁상대는 동종업체가 아니다.
게임기, 방송, 신문, 인터넷 등 고객의 시간을 점유하려는 모든 매체가 경쟁상대이다.
우리는, 고객의 시간 중 깨어있는 16시간을 통째로 놓고 생각해야 한다.
특별히 새로운 이야기는 아니고, 관심(attention)이 희소자원이 되는 융합 미디어 시대에 가져야 할 관점을 강조한 말입니다.

며칠 전 위의 이야기를 또 하다보니 재미있는 생각이 들었습니다.
언젠가는 잠자는 8시간도 점유할 시간이 될지도 모른다는 거죠.

아직도 연구가 한창이지만, 꿈과 뇌의 작용은 점점 그 신비를 드러내고 있습니다. 그러다보면, 꿈의 매커니즘이 좀 더 또렷해지겠지요. 실제로 자기전에 본 영상이나 이미지가 꿈의 재료가 되는 경우가 많잖습니까. 어떤 입력을 넣으면 어떤 꿈이 나오는 관계를 알아낼 날도 멀지 않을겁니다.
그러면 흥미진진한 일이 가능합니다.


뇌는 상상 재료를 가지고 스토리를 생성하는 능력이 있어서, 정교한 스토리까지 외부에서 세팅하진 못할지라도 장르와 주인공(!) 정도는 컨트롤 가능합니다. 그러므로, 자기 전에 꿈의 모드 세팅을 할 수 있겠지요. 추리 모드, 스릴러 모드, 로맨틱 모드, 에로 버전까지.. ^^;

자는 시간까지 미디어로 확장하는 기술이 됩니다. 영상 이외의 감각까지 살아있는 체감형 인데다, 다른 매체의 간섭도 없는 그야말로 "꿈의 미디어"지요.

사업모델을 볼까요.
보다 행복하고, 통제 가능한 꿈이라면 소비자의 지불의사는 높아 직접 과금이 가능합니다.

게다가 광고까지 삽입가능하면 무진장의 시장이 열리는거죠. 구글을 능가할 수도 있습니다. 반면, 세뇌와 조작의 가능성으로 논란의 여지도 있겠습니다.

뭐, 베르베르의 소설 같은 이야기지만 혹시 모르잖습니까. 이런 세상이 펼쳐질지도.
신고

WRITTEN BY
Inuit
@inuit_k / CxO / Author ("가장 듣고 싶은 한마디 YES!") / Making better world, every minute.

받은 트랙백이 없고 , 댓글  24개가 달렸습니다.
  1. 유사한 개념을 차용한 '스트레인지 데이즈'라는 영화가 있었습니다. 약간 다른 점은 꿈이 아니라 특정 매체에 저장된 타인의 기억의 단편을 재생하여 (직접에 가깝게) 간접경험할 수 있다는 것이죠. 꽤나 흥미있는 소재였습니다만, 영화의 마무리는 아쉬움이 남았던 기억이 나네요. 혹시 시간되시면 '전반부만' 보시기 바랍니다.

    http://movie.naver.com/movie/bi/mi/basic.nhn?code=17761

    * 간단히 제 소개를 드리면 모기업에서 무늬만 '연구원'으로 근무 중이며, 최근 신사업 전략, 기획쪽으로 업종 전환을 모색하고 있는 평범한 직장인입니다. Inuit님의 블로그는 작년에 '마인드세트'에 대한 검색을 하다가 알게 되었으며, 거의 1년째 (얌체같이 -_-;;) 눈팅만 하다가 처음으로 댓글 남깁니다. Inuit님의 블로그를 통해서 여러가지 도서 정보, 세상을 바라보는 관점 등에 대해서 많은 도움을 얻었습니다. 따로 감사드린다는 인사를 쓰기도 좀 애매하고 그랬는데 마침 인상깊었던 소재에 대한 글이 포스팅되어 반가운 마음에 댓글쓰면서 인사도 겸합니다.

    앞으로는 댓글 잘 남기는 착한(?) 방문객이 되겠습니다. ^^;
    • 1년만의 커밍아웃에 감사하다는 말씀부터 드립니다. ^^
      조금이라도 도움이 되었다면 저도 기쁘겠습니다.
      자주 놀러오세요.

      영화 소개도 고맙습니다.
  2. 꿈을 조정한다면, 잠재력 무한대의 새로운 시장이 열리겠습니다 ^^;; 꼭 남의 꿈을 어떻게 하지 않더라도, 전 제가 꾸었던 꿈이라도 완전히 기억을 할 수 있었으면 합니다. 남들에 비해 꿈을 잘 기억하는 편임에도, 가끔은 아쉬울 때가 있거든요. 꿈만큼 상상력이 팍팍 돌아갈 때가 드물잖아요.

    거기에다가 말씀하신대로 기본적인 조건과 모드를 세팅할 수 있다면, 정말 신나는 경헙이 될 것 같습니다 ^^;; 깨고나면 꾸었던 꿈 돌려보는게 큰 즐거움일겁니다.
    • 저도 1년에 한번정도 기발한 플롯을 가진 꿈을 봅니다.
      느낌은 식스센스급 반전이었는데 깨고나면 하얗게 잊고 말지요. ^^;;
  3. 꿈같은 소리 하시네요
  4. 위의 글이 제가 바라보는 관점과 다른 점을 말하고 있다는 것을 알지만
    저는 조금 무섭네요.
    전 아니매와 게임을 즐기는 편이라서 그만큼의 중독만으로도 인간에게 미치는 영향이 크다고 생각하거든요.
    꿈의 미디어는 상상속에서는 아름답지만 문득 영화 매트릭스(토탈리콜도)가 생각나기도 합니다.
    하지만, 즐거운 사업모델로라면 나쁘지 않다고 생각합니다. +_+ 여..역시 돈이 최고인거죠? ^^
    • 인간의 통제범위를 벗어나느냐의 문제라고 생각해요.
      쉽게 접근할 일이 아닌건 확실하죠.
      반면에, 가능성을 상상하는 일 자체도 중요한 의미가 있다고 봅니다. ^^
  5. 저는 에로 버전으로 부탁드리겠습니다^^;;

    짧은 시간에 충분한 숙면을 취할 수 있는 프로그램도 나온다면 좋겠네요.
    한두시간 자고 22시간 블로깅할 수도 있을테니 그런 것도 잘 팔리겠는데요.
    • 한두시간 자고 충분한 기술이 있다면 저도 돈내고 쓰렵니다.
      요즘 잠이 항상 부족해요.
      아니, 왠만한 회사에서는 오히려 돈을 내주겠군요. -_-;;
  6. 고객의 잠자는 시간, 즉 꿈까지 장악할 수 있다면... @.@!!
    그런데, 매니아들은 보통 꿈까지 이미 장악당해있지 않나요?
    경험담입니다;;
    • 그렇다면, 매니아들이 장악된 주제에서 벗어나는 용도로 사용 가능하지 않을까요. ^^
  7. 재밌고도 위험한 상상입니다.
    잠자는 시간에 책을 읽으면 좋겠군요.
    어차피 책읽으면 졸리니깐 누워서 책을 보다가 그대로 잠이 들고 꿈속에서도 계속 책을 읽는다면 도피처가 없다는 단점이 있군요. 흐흣.
  8. 비밀댓글입니다
  9. 이스마일 카다레의 <꿈의 궁전>에는 '문헌보관소'가 나오는데 이곳은 사람들의 꿈을 스크린해 둔 아카이브입니다. 주인공은 사람들의 수면과 꿈을 관장하는 정부기관에서 이 꿈들을 검토하고 분류하는 일을 맡게 됩니다. 제국의 질서를 위한 이 프로젝트는 그러나 나중에는 어떤 부작용 때문에 문헌자료가 부족해져서 곤란해지게 되는데요, 그 부작용은 바로 불면증의 징후들이 급속도로 늘어간다는 문제였답니다.
    ..... ㅋ

    (그러면 난방기를 돌려 덥게해서 아프리카의 체체파리라도 공수했어야 할까요? 그렇다면, 난방기 용량때문에 대체에너지 문제를 고려해야 할까요.. 꿈의 기록 역시 에너지의 문제를 동시에 고려해주어야 하는... . 한편, 어떤사람들은 잠을 자지 않아도 충전이 될 수 있는 약이라도 복용하고 싶을지 모르겠네요. 역시 제약업계는 더더욱 활황이겠군요. 그런가 하면 민간비법 또한 유행할까요? 가령 향기나는 식물 -맡으면 정신이 맑아지고 기력이 충당된다고 믿게 하는- 같은 거. 꿈의 기록을 이야기하다 보니 덧글 기록이 좀 길었네요. 지각하겠어요 이런... :)
    • <꿈의 궁전>에 나온 재미난 소개도 흥미롭지만, 괄호안의 상상이 무척 흥미롭네요.
  10. 안녕하세요. 위 댓글에서 애매하게 적은 han 입니다. inuit 님은 긍정적인 마인드를 가지신 것 같습니다. 참을성도 높으신 것 같습니다. (일부러 댓글을 애매하게 남겼었습니다)

    "자는 시간까지 미디어로 확장하는 기술이 됩니다. 영상 이외의 감각까지 살아있는 체감형 인데다, 다른 매체의 간섭도 없는 그야말로 "꿈의 미디어"지요."

    -> 제공하는 업체가 이미 꿈에 간섭해버린 매체라는 모순이 있습니다.


    "사업모델을 볼까요.
    보다 행복하고, 통제 가능한 꿈이라면 소비자의 지불의사는 높아 직접 과금이 가능합니다."

    -> 꿈까지 빈익빈 부익부가 나타난다면 청소년들과 과금이 어려운 계층에게는 정말 꿈같은 얘기가 됩니다. 일부 어린 청소년들은 스타를 매우 좋아하는 시기가 있고, 이런 시기에는 스스로 꿈에서 보는 것과 돈을 주고 구입하여 스타를 보는 것과는 매우 차이가 큽니다. 어쨌든 청소년은 전자가 더 행복한 일이라고 생각합니다만. 정말 돈으로 구입할 수 있다면, 후자가 더 선호되겠지요. 그러면 그런 세상은 정말 돈이면 뭐든지 다 할 수 있는 세상이라는 흔한 푸념과도 같은 세상에 더욱 근접한 것이 아닐까요?


    "게다가 광고까지 삽입가능하면 무진장의 시장이 열리는거죠. 구글을 능가할 수도 있습니다."

    -> 꿈이 철저하게 상업화가 될 수 있다고 가능성을 열어주셨지만, 그 상상 자체가 포근한 꿈과는 역시 거리가 먼 것 같습니다.

    "반면, 세뇌와 조작의 가능성으로 논란의 여지도 있겠습니다."

    -> 가장 우려되는 부분입니다. 이러한 기술이 통용되는 사회라면 굳이 기업의 수익 목적 뿐만이 아니라, 범죄와 연결되어 악용될 가능성도 높습니다. 꿈을 주입시켜서 피해망상증에 걸리게 하거나, 정신질환을 유도할 가능성도 있습니다.

    정신의 일부분인 꿈을 통해 수익을 얻는다는 발상 자체는 좋습니다.
    하지만 도덕적인 문제가 발생할 수 있고 (더욱 경쟁적으로 행복한 꿈을 꾸게 해주기 위해 시스템의 강도를 높이는 등에서 오게 될 피해 사태 등은 고스란히 소비자가 얻게 됩니다.), 꿈 자체를 컨트롤 받는다는 것이 올바른 정신세계, 행복한 정신세계를 유지하는 것에 도움이 될지 의문이 듭니다.

    자신이 보고 싶은 현실만 보고 싶어하는 인간이 대부분이라고 합니다.

    위에서 언급하신 대로 야한 꿈만 꾸고 싶어하는 사람도 있을 겁니다. 꿈이 그처럼 생생하다면 대상까지 정해서 그런 꿈을 꾸겠죠. 그럼 여기서 또 도덕 문제가 발생합니다.

    자신의 아내를 꿈 속에서 부르진 않을 것 같기 때문이죠.

    제가 슬쩍 본 바로는 이런 부작용과 부정적인 결과들이 도출될 것이라고 생각함에도 불구하고 전체적으로 매우 긍정적으로 글을 쓰신 것에 놀랐습니다.

    연세가 저보다 많이 높으신 것 같으시고, 전반적인 글들이 심사숙고 하시는 타입이고, 또한 매우 침착하시고 논리정연하셔서 즐겨찾기에 두고 종종 블로그를 읽고 있는 독자입니다.

    팬까지는 아니지만 흥미로운 블로그라고 생각하고 있는 나이 어린 동생이라고 보시면 될 것 같습니다.

    자유로운 공상에 너무 부정적인 반응과 딱딱한 댓글을 남긴 것 같습니다.

    나비효과라는 단어의 효과를 믿습니다.

    innuit 님의 상상은 기업적인 측면에서 매우 기발했습니다.

    하지만 이런 세상은 오면 안된다고 생각했기에 다소 까칠한 덧글을 달았습니다.

    블로그 잘 보고 있습니다. (다 보는 것은 아닙니다만 가끔 방문합니다)

    좋은 글 많이 부탁 드리고, 이 댓글은 종종 방문하는 독자의 한 의견이라고 생각해주시면 될 것 같습니다.
    • han님, 긴 댓글 고맙습니다. ^^

      훨씬 더 han님의 생각을 잘 알 수 있어 좋았습니다.
      때론 상상 자체를 끝없이 펼쳐볼 필요가 있습니다.
      저도 분명히 지적했듯 gloomy한 부분이 있습니다만, 가보지 않은 곳을 상상하는 일은 나름대로 의미가 있다고 생각해요.
      멀리 바라보는 일과 실제 발걸음을 내딛는 일은 구분하는 한 부정과 긍정이 서로 승할수 있다고 봅니다.

      댓글과 재방문 감사합니다.
      또 종종 이야기 나누어요. ^^
secret