AI 에이전트 실행세계: 1 원리편

1️⃣ 한줄 평

 배운 건 있는데, 추천은 도저히 어렵다.

 

♓ Inuit Points ★★★☆☆

 에이전트라고 해서 호기심으로 가볍게 읽었지만, 이론적 배경이 꽤 심대하다는 걸 깨달았습니다. 채팅 위주의 LLM이 어떻게 에이전트 역할하게 된건지, 에이전트가 그냥은 죽었다 깨어나도 못하는게 뭔지도 알게 됩니다. 유구한 전통의 뉴럴 세계와 심볼릭 세계 간 대립과 화해의 문제니까요.

 

🎢 Stories Related 

• 미리 경고 합니다. 이 책은 정말 못 썼습니다.
• 내용이 어려워서라기 보다, 인간의 글이 아니라고 짐작되기 때문입니다.
• AI 사투리로 도배 되었고, 좀처럼 읽어지지 않는 글입니다.
• 게다가 소득없이 길게 늘여 써 책이 두껍기만 합니다. 정작 필요한 내용을 추리면 얇을 수도 있는데 무슨 생각으로 이리 길게 써놓았는지는 알 길이 없습니다.
• 아마 교과서를 쓴다는 자기 만족에 빠졌나 싶었습니다.
• 그럼에도 책이 말하는 뼈대는 의미 있고, 꾹 참고 읽었습니다.

조쉬 (이주환), 2026

 

🗨️ 좀 더 자세한 이야기

LLM 기반인 에이전트의 한계를 진단하고 그 보완책을 찾는 내용입니다. 독창적 착안이 아니고 뉴럴 월드 모델 NWM(neural world model)과 심볼릭 월드 모델(symbolic world model)이라는 학문적 전통을 융합한 내용이에요. 요즘 유행하는 NSWM, 뉴로 심볼릭 월드 모델입니다.

 

갑자기 귀신 씻나락 까먹는 소리처럼 느껴지시죠.

 

월드 모델은, 특정 세계가 돌아가는 규칙 정도로 이해하시면 됩니다.

 

뉴럴 월드 모델은 상태와 전이를 학습하여 모델을 구성합니다. 쉽게 비유하면 LLM이 뛰노는 세상입니다. NWM에서 세상은 확률적이고, 분산적으로 표상됩니다. 학습의 특성상 유연함이 강점입니다. 이게 정확히 실행상의 문제가 되는게, 유연하기 때문입니다. 말의 세상이라 값 싸되 가볍게 흩날립니다. 티켓을 취소하면, 취소했습니다, 답은 내지만 진짜 취소가 되었는지 아닌지는 확률과 추론의 영역에 머뭅니다. 그래서 현실세계의 문제를 풀지 못합니다. 그리고 이게 요즘 AI 에이전트들 (클로드, 챗GPT)의 궁극적 결함이 됩니다. 책임있는 실행보다는, 학습이 유전자(gene)이기 때문입니다.

 

심볼릭 월드 모델은 상태와 전이 규칙을 선언된 명시적 구조로 들고 있습니다. 따라서 엄격하고 확실합니다. 바꿔 말하면 검증 가능하게 명시적이고, 때론 on/off로 이산값(discrete)을 갖습니다. 그래서 똑부러지는 대신, 입력과 사용이 까다롭습니다. 책임이 키워드니까요.

 

결국 자연스럽게 두 세계의 교점인 NSWM이 나오게 됩니다. 유연한 입력으로서의 뉴럴 월드에 단단한 심볼릭 월드를 교잡시켜 양 세계의 장점을 취하자는 겁니다.

 

결국, 어느 월드 모델을 쓰건, 상태(state)와 이 상태가 변하는 과정인 전이(transition)가 중요하고, 이건 제약에 의해 실질성을 부여 받습니다. 그래서 NSWM은 실패를 염두에 두고 설계합니다. 실물은 실패하기 마련이고, 그 실패를 검증하고, 감사가능하고, 치유가능한지가 진짜 세상이니까요.

 

이나마도 제가 최대한 쉽게 쓴 이야기고, 책은 이 수준을 뛰어넘는 방언 같은 이야기로 점철되어 있습니다. 그럼에도 불구하고 제가 이 책을 끝까지 완독한 이유가 있습니다. 바로 지금 우리가 애용하는 클로드 코드 또는 코덱스가 조잡한 NSWM이기 때문입니다. 뉴로 심볼릭 월드 모델의 핵심 요소인 상태 저장소인 SSOT, claude.md 같은 제약식, 서브 에이전트를 쓸때 자꾸 거론하는 계약 등이 모두 NSWM의 기본 설계입니다. 그리고 약에 취한듯 할루시네이션과 실제 세상을 구분 못하는 클로드나 챗GPT를 그나마 헉 소리나는 똑똑한 물건으로 바꾼게 하네스, 또는 NSWM의 적용이기도 합니다.

 

하지만 제가 '조잡한' NSWM이라고 말씀 드렸듯, 클코나 코덱스의 세상은 종이로 만든 집같은 존재입니다. 제약은 확률적으로 어겨버리고, 그럴듯한 추론은 정확한 실물을 확률적으로만 맞춥니다. 그래서 우리는 클코나 코덱스 잡고 잡도리를 하거나 하소연을 하지요. 따라서 더 강한 심볼릭 규약이 현재 에이전트 사용의 다음 단계라고 보여집니다.

 

결국 좀 더 온전한 NSWM 세상은 곧 올겁니다.

그때 되면 지능은 자유로워지고 실행은 단단해질 것입니다. 더 중요한 사실은, 그 견고함 때문에 드디어 진정 발상과 기획이 자유로워지겠지요.

 

반면, 명심할 점도 있습니다.

지금 에이전트를 쓰면서 겪고 있는 실수, 사고, 혼란, 소동은 모델의 지능이 올라간다고 해결되지 않습니다. 심볼릭에 고박하는 그라운딩이 미흡한 채라면, 뉴럴 세계는 천공을 떠다닐 수 밖에 없는게 원리기 때문입니다. 즉, LLM은 짐승이 아닙니다. 시간 간다고 진화해서 사람이 되지 않습니다. 유령에 가깝습니다. 따라서 육신을 입혀, 잡아 앉히는게 과제인거죠. 실제로 소프트웨어의 육신은 워크플로우입니다. 책의 관점에서, 월드 모델 몸의 정의는, 되돌릴 수 없는 실행을 감당하는 존재니까요.

 

복잡한 이야기지만, 뉴럴과 심볼릭이라는 관점으로 하루하루 살면서 세상을 보면 재미납니다. 우리가 당연하다고 생각하는 부분이 얼마나 당연하지 않고 어려운 일인지. 그냥 걷는 동작 하나만도 수많은 측정과 계산이 필요한 일이라는 점, 그러나 우리는 추상화와 제약을 통해 이 과제를 쉽게 해결하고 있다는 점이지요.