새로운 질서: AI 이후의 생존 전략

1️⃣ 한줄 평

AI 시대 이후를 살펴 보는, 꽤나 전략적이고 거시적인 인류의 미래 

 

♓ Inuit Points ★★★★☆

 AI가 만연해지면서 걱정이 만연합니다. 인간의 일자리를 뺏는다든지 인류를 지배한다든지 아니면 충실한 도구가 될거라는 등 여러 갈래 우려합니다. 책은, 짧은 미래 예측이나 극단적인 공상과는 거리를 둡니다. 동양과 서양의 과거 혁신 사례를 모아 회고하면서 합리적인 추론을 통해 다가올 미래를 예측합니다. 중간까지 꽤 흥미로운 관점이 많습니다. 그러나, 키신저가 원고 완성을 못하고 사망한 탓인지, 결말이 맥빠지는게 아쉽습니다.

 

🎢 Stories Related 

• 헨리 키신저, 옛날 사람 키신저를 이해하는게 책의 포지션을 이해하는데 도움이 됩니다.
• 키신저는 돌연 핵무기가 나왔을 때, 인류가 멸망할 거란 비관으로 가득차 있는 상황에서 해결책을 제시합니다.
• 당위론이 아닌, 상호 탐욕을 인정하면서도 안전한 방법은, 미국 소련 중심으로 각자 충실히 핵무기를 쌓는 거라 여깁니다.
• 즉 상호 확증 파괴(MAD)가 가능한 상황이 되면 핵전쟁은 발발하지 못한다는 논리죠.
• 이때문에 죽음의 정책이라 비난도 받았지만, 아직까지도 당시의 음울한 미래는 억제되고 있으니 탁견일수 있습니다.
• 그런 키신저가 죽기 얼마 전 AI을 본 후, 인류의 미래에 대해 숙고한 내용을 적은 책입니다.

Genesis: Artificial intelligence, hope, and the human spirit

Henry Kissinger, Craig  Mundie, Eric Schmidt

 

🗨️ 좀 더 자세한 이야기

 

AI의 미래는?

지구상의 우세종이 될 거라 예측합니다.

이유는 혁신의 즉시 전파와, 초복리 효과때문입니다.

200만년전 나타난 호모 하빌리스, 100만년전 나타난 호모 에렉투스, 10만년전 나타난 호모 사피엔스에 비해, 성능되는 AI가 나온건 불과 십수년입니다. AI는 개발품이라서 초복리로 혁신이 축적되기 때문에 인간과는 비교도 안되는 엄청난 속도로 진화할 것이라 예측합니다. 즉, 모순된 그림이나, 챗GPT 일루젼 같이 당장 눈에 거슬리는 흠결은 이내 사라질 뿐더러, 상상 가능한 이상으로 성능 좋은 AI가 속속 나올 것이라 예상합니다. 캄브리아 대폭발의 디지털 버전은 쓰나미와도 같습니다.

 

AI는 어느 정도까지 발달할 것인가?

인간이 이해하지 못하는 정도로 지능을 발달시킬거라 봅니다. 비유가 재미납니다. 우리는 바다 위의 섬을 보고 있지만, 만일 바다를 말려 버린다면 모든 지형은 하나로 연결된 산과 평지입니다. 마찬가지로 우리가 알고 있는 지식을 섬처럼 별개로 여기지만 AI는 그 뿌리의 연관성까지 이해할 정도로 지식의 차원이 달라질거라 예상합니다. 이유는 인간은 작은 뇌로 추론하기 위해, 추상과 직관 등을 사용하지만, AI는 데이터의 해상도 그대로 연산하여 추론하기 때문에 인간이 보기엔 불가해한 원인과 연관관계에 기반한 지식을 내놓을 것으로 봅니다.

 

인간은 AI를 이해할 수 있을까?

없을 걸로 봅니다. 현재도 모호하고 불투명한데, 인간이 이해하게 설명 가능하지 않을 걸로 봅니다. 이 근거성(groundedness)이 인류가 좌절할 부분입니다. 어쩌면, 미래 대학의 연구는 AI가 내놓은 정답을 인간이 이해할 수 있는 언어로 설명하는 역할이 될지도 모른다는 이야기를 합니다.

 

그럼 인간은 어떻게 대비해야 하는가?

책은 세가지 경우의 수를 말합니다. 신처럼 추앙하거나, 러다이트 처럼 배격하는 양 극단을 배제하면, 개연성 높은 경우은, 인간이 AI에 적응하게 될거라 봅니다.

 

어떻게 적응하게 되는가?

이게 책의 핵심적 숙고입니다. AI가 인간을 닯을 것인지, 인간이 AI를 닮을 것인지를 잘 살펴야 한다고 봅니다. 살짝 미래 시점을 봅니다. 한번  AI가 유전의 비밀을 해독하고 나면, 인류은 유전공학을 통해 인류를 진화시킬 것입니다. 이때 진화의 파라미터는 뭘까요. 우린 어떤 특성치가 완벽한 인간의 속성인지 정의해야하고 여기서부터도 수많은 문제가 생깁니다. 이 과정에서 인간이 기계의 앞잡이가 될 수도 있고, 기계에 의해 존중받지 못하는, 그저 성능이 개선된 유기물이 될 수도 있습니다. 아직 오지 않은 세상이기에, 이게 우리의 현재 선택가능한 옵션이고, 이 문제에 집중해야 한다고 봅니다.

 

AI의 관점은 무엇인가

달리 말하면, 인류의 큰 과제는 AI가 인류를 어찌 볼 것인가입니다. 알고리듬 적으로 말할 때 기계가 인간을 다른 동물보다 더 존중할 이유를 찾기 어렵습니다. 인간을 존중하도록 하드 코딩을 한다쳐도, 수많은 범죄자나 나쁜 사람들의 예외처리를 어떻게 할 건간요. 그 예외를 학습하면 인간 모델에 대해 AI는 자신만의 통찰을 갖게 되지 않을까요. AI가 정치의 키를 잡는다고 쳐도 소름끼치는 일이 벌어질 수 있습니다. 전쟁은 AI에게 그리 고통스럽지 않으니 전쟁을 문제 해결의 쉬운도구로 꺼내들 수 있습니다. 또는, 정교한 계산을 통해 전쟁을 피하고 쉽게 자기 땅이나 조건을 양보할 수도 있습니다. 즉 인간의 가치관과 전혀 다른 계산의 세계, 데이터 기반으로 새롭게 떠오르는 가치체계가 나타나면, 인류는 통제 불능의 상황이 될 확률이 높습니다.

 

그렇다면 인류는?

여기서 실망입니다. 책은 잔뜩 비관적 미래를 나열하고 서둘러 마무리하는 느낌입니다. 단지, '공진화를 해야하고, 그를 위해 AI를 인간에 맞게 정렬해야 한다, 그 노력은 지금 당장, 빠를수록 좋다.' 정도로 결말을 맺습니다.

 

한가지 색다른 이야기는, 인간의 가치를 존엄성(dignity)으로 규정하는게 인상적입니다.

필멸의 존재, 취약한 존재라는 자기인식 하에, 악을 멀리하고 선을 행하려는 노력을 존엄성이라 정의하고 있습니다. 제가 생각하던, AI 시대에 인간이 유일하게 나은 지점과도 상통합니다. 그러나, 존엄성을 어떻게 발휘하여 AI가 우세종 되는 세상에서 공진화해 나갈지는 책은 뾰족한 답을 못 합니다.

 

이쯤 되면, 앞의 긴 이야기 건너뛰어도 현재의 통념과 같습니다.

지금 AI를 잘 개발해야 하고, 티핑 포인트 지나면 늦는다.

이 지점에서 저는 키신저가 끝까지 마무리 지었다면 다르지 않을까 아쉬웠습니다. 즉, 인간의 이기심과 정치공학적 협동심을 토대로, AI를 제어하는 구체적 전략과 방법론을 이야기했다면 아마 최고의 책이 되지 않을까 싶습니다. 그럼에도, AI에 대한 막연한 기대와 걱정보다, 책 읽으며 찬찬히 인류의 구체적 미래에 대해 생각해보는 것만으로도 충분히 유익한 책입니다.