기계의 반칙

1️⃣ 한줄 평

인류 망했네..

 

♓ Inuit Points ★★★☆☆

독특한 시각입니다. '태초에 AI 개발의 기술부채가 있었고 지금은 그 혜택과 폐해가 병존한다. 서버의 전기선을 뽑지 않을거라면, 규제라도 해야 한다.' 하지만 이 명쾌한 결론이 고양이 목에 방울달기로 느껴집니다. 인류는 실행하지 못할거니까요. 그래서 이 책은 소중합니다. 외면을 각오한 광야에서 외치는 진리이기 때문입니다.

 

❤️  To whom it matters

• 인공지능에 관심 있는 사람
• 기술관점에서 가장 명확한 거시적, 장기적 사회구조 변화를 알고 싶은 사람

🎢 Stories Related 

• 저자는 AI 연구의 권위자라고 인정 받나 봅니다. 그래서 저는 사실,
• 뇌의 기능인 지능을 이해하고자 읽었습니다. AI가 지능을 모사하는 과정에 비추어 뇌을 잘 알 수 있을까 했죠.
• 하지만 책은 AI의 기술 특성위주로 적어두었고, 사회적 함의가 백미입니다.
• 원서의 제목은 The shortcut이고, 책의 핵심 요소를 반영했습니다.
• 한글 제목인 기계의 반칙은, 어긋나 보이지만 책의 시사점을 담은 의역입니다.

The shortcut: Why intelligent machines do not think like us

Nello Cristianini, 2023

 

🗨️ 좀 더 자세한 이야기

이야기는 인공지능 개발사 (開發史 )로 시작합니다. 초창기에 엄청난 관심을 갖고 많은 자금이 투여되었다가, 결과도 아직 안나오는데 LISP 머신 값이 오르면서, 그 유명한 AI 윈터가 오죠.

 

이때 남은 소수의 연구자들은 생존을 위해 특단의 방법을 택합니다.

싸게 결과를 내는 지름길(shortcut)이죠. 간절한 치트키이고, 한글제목의 '반칙'이기도 합니다.

 

지름길 3요소

• 이론을 구하지 말고, 데이터로 대체한다
• 데이터는 야생(in the wild)에서 구한다
• 돈들여 왜냐고 묻지 말고, 사용자의 행동에서 피드백을 구한다 (implicit feedback)

월드와이드웹(WWW)의 축복 속 치트키는 한줄기 빛을 비추는가 싶더니, 폭주하여 판세를 뒤집습니다. 더 싸게 더 훌륭한 결과가 나오니까요. 이때의 구호가 재미납니다.

• 언어학자를 해고할수록 결과가 잘나온다(Jelinek)
• 문제를 직접 풀어라. 일반 이론을 만들려 하지 말라(Vapnik)
• 10억개의 데이터만 있으면 상황은 풀린다
• 알고리듬보다 더 중요한건 데이터다

이후론 우리가 아는대로의 세상입니다. 알파고가 이세돌을 꺾으며 기계학습이 시대의 기술로 떠오릅니다. LLM을 활용한 ChatGPT와, GAN과 생성형 알고리듬의 미드저니, DallE 등 오싹한 기술들이 등장하지요.

 

하지만 이제 원숭이발(monkey paw)의 저주에 걸려듭니다. 소원을 들어주되, 단어 그대로 들어줘서 파멸을 만드는 원숭이 발의 우화처럼요. AI는 명령의 의도를 수행하지만, 의도하지 않은 결과를 부수합니다. 이유는 앞서의 기술부채, 지름길 때문입니다. 중간단계의 '모델'과 '이론'이 없으니 기계가 무슨 일을 하는지 아무도 정확히 알 수 없습니다. 우린 기계의 행동과 패턴으로 짐작할 따름이죠.

 

왜 문제냐면 AI의 신뢰성 때문입니다. 신뢰를 한다는건 그럴만한 역량이 있고, 선의(benevolence)가 있어야 하는데 우린 기계가 어딜 향하는지, 무엇을 원하는지 알 수 없습니다.

 

지나치게 의인화하는게 아니라, 실제 우리가 부지불식간 매일 접하는 일입니다. 예컨대, 성향을 분석해서 정교한 메시지를 맞춤형으로 보내는 마이크로타게팅(microtargeting) 기술은 무려 +30% 이상의 개선 성과를 보입니다. 안 쓸리 없죠. 지능형 에이전트도 마찬가지입니다. 소셜미디어의 트래픽과 체류기간을 늘리는 1차 목적을 넘어 시스템에 길들여지는 경작(cultivation) 효과를 가져옵니다. 흔히 중독이라는 습관화가 생깁니다. 게다가 소셜 버블이라는 반향실에 모두 갇혀 있지요. 반대급부로 사회 전체는 기이해지고 있지요. 외롭고, 우매해지고도 행복하다 여깁니다.

 

인터넷이 보급되며 인류는 환호했습니다. 인류 역사상 최고의 민주적 기술로, 개인의 의견이 더 잘 표현되고 전달되는 이상적 체제를 개발했다고 생각했습니다. 하지만, 지능형 에이전트의 도움을 받는 플랫폼의 영향으로 독재와 우민화가 심화되고 있습니다. 예전 같으면 트럼프가 다시 선거판에 등장하는게 상상가나요. 아니 애초에 TV에서 걸어나와 감옥을 지나쳐서 유세장까지 가지도 못했겠죠.

 

결국 저자는 기계의 코드를 뽑지 못할 바엔 지금부터 규제를 해야한다고 합니다. 고위험 AI와 저위험 AI를 구분하되, 규제의 핵심은 책임(accountability)과 감사가능성(auditability)이라 역설합니다.

 

저는 여기서 좌절했습니다. 감사가능하게 만든다는건, AI의 치트키인 지름길을 버리고 플랫폼에서 이론과 작동 방식을 알아내야 한다는 뜻입니다. 어차피 작동하는 물건을, 감사가능성을 위해 전면적으로 개발을 추가하기엔 비용과 시간이 만만치 않고 유인도 적습니다. 아니, 무한 자원이 있다고 해도 그걸 발견할수 있을지조차 모르겠습니다. 결국은 XAI(설명가능한 AI, explainable AI) 정도로, 기계적 이유를 알려주는 형식이 될텐데, 이는 코어가 아니라 주변, 상류가 아니라 하류의 지식입니다. 버그 고치듯 접근은 가능하지만, 부분적 개선에 그칠 공산이 큽니다.

 

책 읽으며 기후협약을 떠올렸습니다. 이 문제는 누군가 갖는 큰 이익을, 모두에게 잘게 쪼갠 비용입니다. 부당한 청구지만 피해는 사소하니, 대의는 동의해도 고치려고 행동하긴 비쌉니다. 이 교착은 풀기 쉽지 않겠다 여겨집니다. 아니, 원숭이발 인공지능 문제는 더 은밀하고 일상생활에 빈틈없이 스며있어 기후문제보다도 더 풀기 어렵겠다고도 느껴집니다.

 

그나마 이런 책 덕에 인식이 확산되고 규제의 필요성이라도 공감이 퍼저나갈 때 실낱같은 희망이 보이겠지요. 그래서, 책은 미친듯 광야에서 소리치나 봅니다.