What is intelligence?

Blaise Aguera y Arcas, 2005

 

1️⃣ 한줄 평

 '지능은 예측'이란 한 문장을 위한 온갖 개념의 난무

 

♓ Inuit Points ★★★☆☆

제목에선 지능이 무엇인가 묻고 있지만, 저자는 지능은 예측이라고 이미 답을 갖고 있습니다. 대놓고 주장하진 않지만, 근저에는 LLM이 지능이라는 생각을 깔고 있고요. 구글에서 VP로 재직하며 인공지능 관련 연구를 하는 사람이라, 처지가 생각을 형성했는지, 생각대로 직업을 택했는지는 모르겠습니다. 책은 꽤나 다양한 층위로 지능과 생명에 대한 이야기를 하는데, 저자의 결론보다도 그 촘촘한 배경 지식이 재미난 책입니다. 지적 호기심이 왕성한 사람에겐 강추, 아니면 시간 낭비입니다.

 

🎢 Stories Related 

• 저자는 구글 펠로우로 기술과 사회부문 최고 기술책임자라고 합니다.
• 안드로이드와 픽셀의 온디바이스 머신 러닝을 만들었고, 연합학습을 발명했습니다.
• 책은 웹형태로 공개되어 있는데, 이 미디어는 충격적으로 좋습니다. 종이책보다 10배 쯤 좋습니다. 이건 꼭 방문해보시면 좋겠습니다.

🗨️ 좀 더 자세한 이야기

저자의 입장은 은근 단호합니다.

지능은 예측이다.
LLM은 예측한다.
(따라서 LLM도 지능이다.)

 

이 도발적 명제에 대한 도전을 1001가지 쯤 예측해서 꼼꼼히 방어하는 논리를 세우는 책입니다.

 

생명은 연산장치다, 연산의 목적은 예측이다, 예측은 학습을 기반으로 한다, 학습 중 환경 학습이 중요한데 타자 모델링을 필요로 한다, 타자 모델링의 인코딩은 언어다, 따라서 언어는 예측이자 지능이 내포되어 있다.

 

LLM이 말을 확률적으로 지어낸다는 폄하가 지긋지극 했는지, 그 확률적 언어 완성조차, 물리, 인과, 통합적 감각 없이 이룰 수 없다고 말합니다.

사과가 테이블에서 [    ].

여기서 떨어진다를 자연스러운 문장으로 완성하려면, 중력과 테이블의 기하학 등을 이해 못한채 채울 수 없다는 취지지요.

 

또 AI 환각(illusion)도 긁혔던 주제인지, 사람의 의식, 자아, 자유의지를 편리하고 유용한 환각이라고 말합니다. 모두 실체 없는 오류지만 쓸모있다면 AI나 사람이나 피차 일반 아니냐는 논리입니다.

 

재미난 대목도 많습니다.

지능의 핵심으로 사회적 뇌, 마음 이론을 말하는데, 그 중 진화적 이유는, 내 행동을 남이 예측 못하게 하는게 경쟁에 유리하다는 취지입니다. 즉 기만행동이 중요한 진화적 성과인데 난수 발생기처럼 미약한 내부신호를 증폭하고 선택이란 학습의 결과로 독특한 '지능적' 행동을 한다고 봅니다. 학계의 연구를 끌고 오긴 했지만, 자체로 신선한 관점입니다.

 

책의 말미로 가면서, AI의 심층적 구조들을 설명합니다. 전방학습(feed foarward)이나, 어텐션(attention), 다층적 트랜스포머, 퍼셉트론, CNN, RNN, 컨볼루션, 제로샷과 퓨샷(zero-shot & few-shot) 학습 등이요. 기술 용어가 어질어질 합니다만, 지금 쓰는 클로드나 코덱스의 작동원리랄까, 왜 그들이 그리 작동하는지 좀 더 이해하게 된 점은 좋았습니다.

 

결론적으로 저자는 기능주의자입니다.

지능에 해당하는 기능을 냈다면 지능이 있다고 간주하자는 겁니다. 그의 정교한 논증을 파훼할만큼 공부도 안되어 있지만, 굳이 그 논리를 '마음이 불편하다는' 이유로 파훼하고 싶지도 않습니다. 그렇게 볼 만도 하다고 여겨집니다.

 

하지만, 저자가 잘못 짚은게 있습니다.

학계나 업계에서 LLM이 지능인지 아닌지 가르는게 중요할지 모르지만, 저같은 사용자에겐 LLM이 지능임을 가리거나 증명하는건 하등의 가치가 없어요. 그냥 거짓말 안하고, 실수 안하면서 잘 작동하기만 하면 고마울 따름입니다. 굳이 한마디 보태자면, 저자의 기능주의는 헛손질이라고 여겨요. 왜냐면 인간의 뇌라는 예측기계는 몸이라는 취약한 부속물의 볼모란 점에서 AI와 거동이 다를 수 밖에 없거든요. 가족이 딸린 가장과 홀홀단신 싱글인 사람이 같은 직장인인지 아닌지 책 한권에 걸쳐가며 따져서 뭐하나요. 한명은 일끝나고 돈 아껴 집에 가고자 하고 한명은 여유롭게 바에서 술한잔 하고 잠만 자러 집에 들어갈 자유도가 있는걸요.

 

결론이나 주장에 대한 시시비비를 가리며 전투적으로 읽지 않고, 재미난 과학이야기, 생명과 AI 이야기를 보고 싶은 분이라면, 최고의 엔터테인먼트입니다. 단 매우매우매우 부피가 큰 책이란 점은 경고드려요.