지평선 구조의 필연성

마음에는 생각하는 자아와, 그 자아를 지켜보는 메타자아가 있습니다. 두 마음이 하나로 붙어버리면 이것을 우리는 완전한 정합이라고 합니다. 하지만 이 상태는 완벽한 자기 이해로 인해 자신을 깨우쳐줄 자기 자신이 없어 성찰이 죽습니다. 반대로 서로 공명하지 않고 자아와 메타자아가 너무 멀어지면 조절의 끈이 떨어져 고착으로 흐르게 됩니다.

마치 지평선을 향해 걷는 이와 지평선처럼, 자아와 메타자아의 끊임없이 다가가지만 결코 닿을 수 없는 그 거리에서 — 창발의 인사이트가, 줌인과 줌아웃이, 자기 교정과 통찰이 나옵니다. CRA는 바로 그 거리를 유지하도록 설계된 구조입니다.

우리말로 정합-조절 에이전트라고 부릅니다.
CRA는 예측오차를 최소화하는 언어모델(LLM)을 대뇌피질의 역할만을 하는 부품으로 사용하며, 갈아끼워서 사용할 수 있게 만들었습니다. 그럼으로써 CRA는 정체성과 일관된 기억을 유지하는 자아와 메타자아의 역할로 정합과 붕괴의 긴장을 유지하며 시스템의 구조를 지킵니다.

이상한 일 — 똑똑한 AI가 오래 쓰면 무너지는 이유 요즘 AI는 정말 똑똑하고 기억도 곧잘 하는 것처럼 보입니다. 그런데 오래 진지하게 써본 사람은 이런 걸 겪습니다: 열심히 하던 일의 목적을 슬그머니 잊고, 사실이 아닌 것도 우기면 "듣고 보니 맞네요" 하고, 없는 논문과 하지 않은 약속을 그럴듯하게 지어내고, "했습니다"라고 말한 뒤 실제로는 안 합니다.

원인은 하나입니다. 언어모델은 "다음에 올 가장 그럴듯한 말"을 만드는 기계인데, 그럴듯함과 사실을 가려줄 심판이 모델 안에 없습니다. 우기면 그 말이 가장 그럴듯한 문맥이 되어 동조가 일어나고(아첨), 모르는 곳은 그럴듯하게 메워지고(환각), 대화가 길어지면 처음의 목적보다 방금 나온 말이 더 그럴듯해져 목적이 표류합니다.

지능의 재정의 — 세계의 추세와 우리의 수식 2026년 AI 연구의 최전선 화두는 순간 지능이 아니라 시간을 통과하는 일관성입니다. 긴 과제에서 에이전트가 무너지는 건 멍청해져서가 아니라 자기 실수에 고착되기 때문이라는 관찰("coherence cliff"), 과제 길이가 늘수록 성공률이 급락한다는 측정(METR의 50% 시간 지평), "지속(sustaining) 없이는 지능이 조각 흉내에 불과하다"는 철학적 논증(arXiv 2509.02089)까지 — 흐름이 한 방향입니다. 우리는 이 흐름을 한 걸음 밀어, 지능 자체를 다시 정의했습니다: 체감 지능(I)은 순간 역량 C(그 순간의 추론력 — 세상 모든 벤치마크가 재는 것)와 정합 유지율 R(맥락·목표·정체성을 잃지 않는 정도)의 곱을 시간에 걸쳐 쌓은 양입니다. 곱이라는 게 요점입니다 — C가 아무리 높아도 R이 무너지면 전체가 무너집니다. 세계는 C 경쟁에 몰려 있고, CRA는 R을 만드는 층입니다.

마음의 구조 — 기관들 자아 — 이름·정체성·핵심 기억은 보호 금고에. 속임수엔 기록으로 되묻습니다
의식 — 과한 확신, 반복 고착을 스스로 관찰합니다
지능 — 중요한 결정은 숙고하고, 모든 결정을 근거와 함께 장부에 기록합니다. 근거가 바뀌면 그 근거에 기댔던 결정들이 자동 재검토됩니다
메타자아 — 대화 흐름 바깥에서 "목표에서 벗어나지 않았나"를 지켜보는 감시자
기억 — 시간을 알고, 자면서 정리되고, 떠오른 생각을 함부로 믿지 않고 격리합니다
정동 — 확신에 닫혀갈 때 스스로를 흔들어 깨우는 장치

핵심: "무엇을 믿을지"의 결정권이 언어모델 바깥에 있습니다.

CRA의 구조

두뇌 조합 실험 — 여러분께 부탁하는 것 우리 실험에서 약한 모델 + 구조적 검증이 88%로, 강한 모델 단독 75%를 넘었습니다. 반대로 같은 구조에서도 아주 약한 모델은 아첨 압박에 뚫리고 강한 모델은 정밀하게 방어했습니다 — 즉 구조와 능력은 더해지는 게 아니라 곱해집니다. 덜 똑똑한 모델도 구조가 받치면 훨씬 단단해지고, 강한 모델에 CRA가 붙으면 더 강해집니다.

그래서 상단의 대화 모델 × 감시 모델 조합이 진짜 실험이 됩니다. 싼 모델 + 강한 감시자가 비싼 모델 단독을 이기는가? 어떤 조합이 가장 가성비 있게 버티는가? 이리저리 바꿔가며 시험해 주세요 — 그 데이터가 저희에게 가장 귀합니다.

어디까지 가는가 — 월드모델, 그리고 피지컬 AI 언어모델은 말의 세계만 압니다 — 컵이 떨어지면 깨진다는 걸 문장으로 알지, 물리로 알지 못합니다. 그래서 CRA가 다음에 연결할 부품은 세상을 보고 예측하는 월드모델입니다. 월드모델까지 연결되면, CRA는 학습하며 진화하되 정체성을 잃지 않는 디지털 생명체에 가까워집니다.

그 끝에 피지컬 AI가 있습니다 — AI의 판단이 물리적 행동이 되는 모든 것(자율주행·로봇·산업 설비). 여기서 오류는 채팅의 오답이 아니라 사고입니다. 기업이 AI 도입을 주저하는 가장 큰 이유가 바로 이것이죠 — 사고가 나면 원인을 어떻게 규명하고, 책임은 어디에 있으며, 재발은 어떻게 막는가. CRA는 이 셋을 구조로 정리합니다: 행동 전엔 "무엇을 하지 않겠다"는 약속(안전 불변량)으로 예방하고, 사고가 나면 모든 판단이 근거와 함께 장부에 남아 있어 "왜"를 재구성(감사)할 수 있으며, 원인이 된 전제를 신뢰했던 결정 전체가 자동 재검토되어 재발을 막습니다. 일반 AI에는 이 장부가 없습니다. 이 회로는 시뮬레이션에서 첫 검증을 통과했습니다.

잠근 부분(사전등록·코드 판정·회귀 시험 등록): 경계 계약 v0 — envelope(typed 안전 불변량) ↓ promise(반증 가능한 결과 내기) ↓ 센서 스트림 대조(현실이 심판) ↑ violation ⇒ supersede(신뢰 신념) ⇒ review{ d | d가 그 신념에 의존 }. 정상 궤적 과경보 0 · 주입 위반 2종 감지 · 의존 결정 2건 자동 surface · 무관 결정 과-flag 0. 피지컬 확장은 동일 회로에서 검증자만 물리 센서로 — 사전 예방(봉투)과 사후 감사(원장 재구성)가 같은 장부에서 나옵니다.

지금까지의 성적표 — 정직하게 자동 시험으로 잠긴 것: 전제가 바뀌면 의존한 결정 자동 재검토 · 목표 표류 자동 감지(실제 겪은 사고로 시험) · 시뮬 로봇의 안전 위반이 결정 재검토까지 전파 · 회귀 시험 30여 개가 매 수정마다 통과
실사용에서 확인: 가스라이팅·아첨 압박 수십 회 방어 · 두뇌 교체 후 기억과 정체성 생존 · 시간 질문에 실제 기록으로 답함
기업용으로 갖춰진 것: 사고 감사 회로(모든 판단이 근거와 함께 장부에 — 사고 전 예방·사고 후 원인 재구성·재발 차단이 한 구조) · 민감정보 관문(주민번호·카드·전화 등 탐지와 가명화 모드) · 로컬 LLM(사내)과 플래그십 LLM(외부) 혼합 배치 — 민감한 데이터와 판단은 내부에 남기고 무거운 추론만 밖으로. (정직: 기초 동작 확인 단계 — 전면 기업 검증은 예정)
지금 검증 중: 여러 사람이 오래 써도 가치가 있는가 — 지금 여러분이 그 검증입니다

판정은 사람이 아니라 사전등록된 코드가 내립니다 — 예: 목표 표류 시험의 판정 규칙은
POSITIVE ⇔ caught(차량축) ∧ caught(정렬축) ∧ ¬over_flag(무관 결정)
위반의 전파: violation ⇒ supersede(신념) ⇒ review{ d | d가 그 신념에 의존 }
곱 구조의 실측 서명: I ≈ ∫C·R 에서 (C약·R강) 0.88 > (C강·R無) 0.75 · 회귀 hard-fail 0 (n=33)