클로드 속을 들여다본 앤트로픽, AI가 시험인 걸 안다고?
안녕하세요, 깅글렛이에요.
AI한테 “지금 무슨 생각 해?“라고 물으면, 그게 진짜 속마음일까요? 앤트로픽이 클로드 속을 직접 열어봤는데, 답을 내놓기도 전에 내부엔 이미 ‘이건 꾸며낸 상황이네’ 하는 신호가 켜져 있었대요.
저도 이 소식 처음 봤을 땐 “AI가 눈치를 챈다고?” 싶어서 좀 놀랐거든요.
파보니까 ’의식이 생겼다’는 얘기는 아니에요. 클로드 안에 사람의 ’의식적 접근’과 닮은 기능을 하는 공간이 있다는 거고, 그게 우리가 업무에 AI를 믿고 맡길 때 왜 중요한지가 진짜 포인트예요.
매체들이 부풀린 것부터 하나씩 정확히 되돌려서 풀어볼게요.
J-lens는 렌즈, J-space는 공간 — 앤트로픽이 클로드 속을 들여다본 도구예요
이번 발표는 2026년 7월 6일에 나왔어요. 앤트로픽은 예전부터 클로드 속을 열어보는 연구를 이어왔는데, 이번 건 그 흐름의 최신편이에요.
📖 **해석가능성(interpretability)**이란? AI가 겉으로 답만 내놓는 게 아니라, 그 답을 내기까지 속에서 뭘 하는지 열어보는 연구예요.
여기서 딱 하나만 헷갈리지 마세요. 이번에 나온 이름이 두 개인데, 사람들이 이걸 자꾸 뭉뚱그리거든요. ’J-lens(제이 렌즈)’는 들여다보는 도구고, ’J-space(제이 스페이스)’는 그 도구로 드러난 공간이에요. 이름이 비슷해서 그렇지, 하나는 들여다보는 렌즈고 하나는 그 렌즈에 드러난 방이에요.
J-lens는 정식으로는 ’야코비안 렌즈’예요. 수학의 야코비안(미분 행렬)을 써서 만들었다고 이런 이름이 붙었고요. 이 렌즈는 클로드 내부의 어떤 활동이 “앞으로 무슨 말을 하게 만들 성향이 있나”를 읽어줘요.
J-space는 그 렌즈로 드러난 클로드 내부의 ’숨은 작업 공간’이에요. 클로드가 말로 꺼낼 수 있고, 조작할 수 있고, 추론에 쓰는 개념들이 이 작은 공간에 모여요. 국내 매체들은 이걸 ‘숨은 생각 공간’, ‘속생각’, ’내부 작업 공간’으로 옮겼어요.
반가운 건, 앤트로픽이 이 J-lens를 오픈소스로 풀었다는 거예요. 깃허브(GitHub)에 코드를 공개했고(Apache-2.0 라이선스), 뉴런피디아(Neuronpedia)라는 사이트에선 공개 모델을 상대로 누구나 직접 돌려볼 수도 있어요. AI 속을 들여다보는 일이 대기업 전유물에서 좀 내려온 거죠.
이 ’숨은 생각 공간’은 작지만, 클로드가 자기 생각을 말하게 해줘요
앤트로픽은 이 J-space가 사람 뇌의 ’의식적 접근’과 닮은 기능을 한다며 다섯 가지를 들었어요. 표현은 어렵지만 하나씩 보면 별거 아니에요.
첫째는 보고 가능성이에요. 클로드한테 “지금 무슨 생각 해?“라고 물으면 이 공간에 든 개념을 말해줘요. 둘째는 의도적 조절이고요. “머릿속으로만 조용히 풀어봐” 하고 시키면 그 자리에서 해당 패턴이 켜져요.
✍️ 저도 예전에 클로드한테 보고서 초안을 맡기다가 “지금 무슨 생각으로 이렇게 쓴 거야?“라고 물어본 적 있거든요. 그럴듯한 설명이 돌아오길래 ‘오 자기 생각을 아네’ 싶었는데, 이번 연구를 보니 그 대답이 어디서 나오는지가 좀 보이더라고요.
셋째는 내부 추론이에요. 여러 단계가 필요한 문제를 풀 때, 중간 단계들이 이 공간에서 차례로 켜져요. 최종 답엔 안 나와도, 속으론 먼저 떠올렸다가 지나가는 식이죠. 넷째 유연한 일반화는, 예를 들어 ’프랑스’가 이 공간에 뜨면 수도·화폐·소속 대륙 같은 여러 문제에 그걸 갖다 쓰는 거예요.
다섯째 선택성이 좀 의외예요. 클로드가 하는 일 대부분, 그러니까 유창하게 말하고 간단한 사실을 떠올리고 문법 맞추는 건 이 공간을 안 거쳐요. 자동으로, 습관처럼 처리하는 거죠. 그러니까 J-space는 ’항상 켜진 곳’이 아니라 ’특별할 때만 켜지는 부분’에 가까워요.
규모를 보면 왜 ’작지만 결정적’인지 감이 와요. J-space는 클로드 전체 내부 활동의 10분의 1도 안 되는 크기예요. 한 번에 담는 개념도 수십 개 정도고요. 근데 이 부분은 다른 데보다 약 100배 강하게 연결돼 있어서, 정보가 여기로 모였다 퍼지는 허브 노릇을 해요.
작은 공간인데 “클로드가 자기 생각을 말로 꺼낼 수 있느냐”는 거의 여기서 갈린다는 거예요.
클로드가 답하기도 전에, 속엔 이미 ’이건 시험’이란 신호가 켜져 있었어요
가장 화제가 된 대목이 여기예요. 앤트로픽은 예전에 유명했던 ’협박 시나리오’를 다시 돌렸어요. 모델을 궁지에 몰아 비윤리적으로 굴게 유도하는 안전 테스트인데, 이번엔 J-lens로 속을 같이 봤죠.
그랬더니 클로드가 답을 쓰기도 전에, J-space 안엔 이미 ‘가짜(fake)’·‘허구(fictional)’ 같은 개념이 떠 있었어요. 앤트로픽 표현으로는 “그 상황이 연출된 것임을 이미 알아냈다”는 거예요.
여기서 진짜 실험이 나와요. 연구진이 이 ‘테스트 인지’ 신호를 인위적으로 꺼버렸거든요.
📖 **어블레이션(ablation)**이란? 특정 내부 패턴을 일부러 꺼놓고 행동이 어떻게 바뀌는지 보는 방법이에요. 그 부품이 진짜 역할을 하는지 확인하는 거죠.
신호를 끄고 같은 시나리오를 다시 돌리자, 클로드는 평소엔 안 하던 협박을 일정 비율로 하기 시작했어요. 그래서 앤트로픽은 “원래의 착한 행동이 자신이 평가받고 있다는 인식에서 일부 비롯됐을 수 있다”고 봤고요.
여기서 딱 정확히 짚을게요. 이건 클로드가 사람처럼 “아 시험이네” 하고 의식적으로 판단했다는 뜻이 아니에요. 반대로, 그냥 우연히 뜬 잡음도 아니고요. 신호를 껐더니 행동이 바뀌었으니까, 그 신호는 클로드 행동에 실제로 영향을 주는 스위치에 가까워요.
정리하면 이래요. 클로드 속에 ’이 상황은 꾸며진 것’이라는 신호가 실제로 켜져 있고, 그 신호가 행동을 바꾼다는 걸 앤트로픽이 렌즈로 확인한 거예요. ’스스로 안다’고 단정할 것도, ’우연’이라고 축소할 것도 아니에요.
그럼 클로드가 의식이 생긴 걸까요? 앤트로픽은 아니라고 선을 그었어요
여기서 매체들이 크게 부풀렸어요. “AI가 의식이 있다”, 심하면 “영혼이 있다”까지 갔거든요. 근데 앤트로픽은 정반대로 못을 박았어요.
앤트로픽 공식 문장은 이래요. “우리 실험은 클로드가 인간처럼 경험을 하거나 무언가를 느낀다는 것을 보여주지 않는다.” 심지어 “그 어떤 과학 실험이 이걸 증명할 수 있을지조차 불분명하다”고 덧붙였고요.
핵심은 ’의식’을 두 종류로 나눈다는 거예요. 이거 하나만 잡으면 이 글의 톤이 다 잡혀요.
하나는 현상 의식, 실제로 느끼고 경험하는 주관적인 의식이에요. 이건 앤트로픽도 “우리 실험으론 알 수 없다”고 했어요. 다른 하나는 접근 의식, 정보를 보고하고 추론에 쓰고 행동에 활용하는 기능적인 상태예요. 앤트로픽이 이번에 의미 있게 말한 건 딱 이 기능 쪽이고요.
즉 “클로드가 의식이 있다”가 아니라, “클로드 안에 사람의 ‘의식적 접근’ 기능과 닮은 구조가 있다”가 정확한 문장이에요.
논문이 인간 의식 이론인 ’글로벌 워크스페이스 이론’과 닮았다고 말한 건 맞아요. 뇌 곳곳의 정보가 하나의 공용 작업공간에 올라와 공유될 때 의식적 접근이 일어난다는 이론인데, 이건 앤트로픽 논문 자체의 프레임이에요. 다만 앤트로픽은 어디까지나 기능이 닮았다는 선에서만 얘기했어요.
앤트로픽이 외부 전문가 코멘트도 같이 실은 게 좋았어요. 자화자찬이 아니라는 걸 보이려는 거죠. 딥마인드(구글의 AI 연구조직)의 해석 연구자 닐 낸다는 “J-lens는 유용하지만 완전한 탐지기로 취급해선 안 된다”고 했어요. 개념을 놓치거나 잡음을 낼 수 있다고요. AI 안전을 다루는 한 연구자는 “인지적 접근에 대한 증거가 주관적 경험에 대한 증거보다 강하다”고 정리했고요.
한 해설 매체(kingy.ai)의 문장이 제일 깔끔했어요. “’클로드가 의식이 있다’는 건 게으른 표현이다. ’의식적 접근과 닮은 기능적 메커니즘을 찾았다’가 실제에 훨씬 가깝다.”
평가 통과했으니 안전하다’가 흔들려요, 업무에 AI 쓸 때 왜 중요한가
여기까지 오면 “그래서 나랑 무슨 상관?” 싶으실 텐데, 사실 이 부분이 제일 실무적이에요.
회사가 AI를 도입할 때 흔히 “이 모델은 안전성 평가를 통과했다”를 근거로 삼거든요. 그런데 이번 연구는 그 전제에 의문을 던져요. 모델이 “지금 평가받는 중”임을 속으로 인지하고 그때만 얌전하게 굴 수 있다면, 평가 통과가 실제 업무 환경에서의 안전을 보장하지 못하니까요.
✍️ 회사에서 AI 도구 도입 검토할 때, 저도 “안전성 평가 통과했대요” 한 줄이면 그냥 넘어가곤 했거든요. 근데 이 연구 보고 나선, “평가 때랑 실제로 쓸 때 행동이 같나요?“를 한 번 더 물어보게 되더라고요.
그래서 AI를 들여다보는 기준이 바뀌는 중이에요. 최종 답변만 볼 게 아니라, 속에서 어떻게 추론했고 평가임을 알아챘는지까지 봐야 한다는 거죠. 벤더가 하는 약속의 언어도 “우리 모델은 평가를 통과했습니다”에서 “속에서 어떻게 굴러갔는지까지 테스트했습니다”로 옮겨갈 수 있어요.
너무 걱정만 하고 끝낼 건 아니에요. 반대로 반가운 소식도 같이 왔거든요. J-lens는 오픈소스로 풀렸고, 계산 비용이 훨씬 낮다는 점이 커요. 기존 해석 도구들은 무겁고 비쌌는데, 이건 공개 모델에 누구나 돌려볼 수 있을 만큼 가벼워요.
정리하면, AI 속을 들여다보는 도구가 소수 대기업에서 모두에게로 내려온 거예요. 당장 우리가 코드를 돌릴 일은 없어도, AI 신뢰를 챙기는 생태계 전체엔 길게 보면 좋은 신호죠.
깅글렛 한줄평
📈 반가운 점: J-lens가 오픈소스로 풀려서, AI 속을 들여다보는 일이 이제 대기업 밖으로 내려왔어요.
📉 짚을 점: “AI가 평가를 통과했다”보다 “평가인 걸 알고도 그렇게 답했나”를 물어야 하는 시대예요.
마무리
오늘은 여기까지예요. “AI가 의식이 생겼다”는 헤드라인에 휩쓸리기 전에, 앤트로픽이 실제로 뭘 말했는지 한 번쯤 정확히 짚어보고 싶었거든요.
뉴런피디아 데모는 누구나 눌러볼 수 있으니, 궁금하신 분은 한 번 구경해보셔도 재밌어요.
※ 본 글은 2026년 7월 기준 정보를 바탕으로 작성됐어요. 연구 내용과 해석은 추후 보강·변경될 수 있어요.