Anthropic Claude 연구: Global Workspace와 J-space로 보는 AI의 숨은 사고 구조

 

 

읽는데 5분 소요

Anthropic Claude 연구: Global Workspace와 J-space로 보는 AI의 숨은 사고 구조

최신 공개 Qwen 라인은 Qwen3.6이지만, 로컬에서 역전파가 필요한 Jacobian Lens 실험은 가벼운 CausalLM인 Qwen/Qwen3-0.6B로 검증했다. 한국어 프롬프트 생성, lens fit, top-k readout, slice 시각화까지 한 번에 남겼다.

▲ 캡처 1. Qwen3.6 공식 저장소 첫 화면. 최신 Qwen 라인업은 여기서 확인했다. (

출처

)

목차

1. 왜 Qwen3-0.6B로 실행했나 2. 한국어 프롬프트와 응답 3. Jacobian Lens 결과 4. 느낀점 5. FAQ

1. 모델 선택: 최신 확인과 실제 실행은 분리했다

2026년 7월 7일 확인 기준으로 Qwen 공식 저장소는 Qwen3.6을 Qwen 계열의 최신 추가 모델로 설명하고, 2026년 4월 22일에는 Qwen3.6-27B, 2026년 4월 16일에는 Qwen3.6-35B-A3B 공개를 안내한다. 다만 Jacobian Lens는 단순 채팅보다 무겁다. 내부 activation에 대한 평균 Jacobian을 구하므로 forward만 하는 GGUF 추론보다 메모리와 역전파 부담이 크다.

그래서 실제 로컬 검증 모델은 Qwen/Qwen3-0.6B로 잡았다. 이 모델은 Hugging Face 카드 기준 Causal Language Model, 0.6B parameters, 28 layers, 32,768 context length이며 100개 이상 언어와 방언을 지원한다고 설명되어 있다. 최신 플래그십 성능을 평가한 글이 아니라, 최신 Qwen 라인업을 확인한 뒤 Jacobian Lens 도구 체인이 한국어 입력에서도 실제로 끝까지 도는지 확인한 실험이다.

선택 기준은 명확히 3개로 뒀다. 첫째, AutoModelForCausalLM로 로드되어야 한다. 둘째, jlens.from_hf가 decoder stack, norm, embedding, lm head 위치를 찾아야 한다. 셋째, 한 레이어라도 Jacobian을 맞출 수 있을 만큼 메모리와 시간이 남아야 한다. Qwen3.6 27B는 최신성은 좋지만 이 3번째 조건에서 부담이 컸고, Qwen3-0.6B는 성능보다 재현성을 우선한 선택이었다.

▲ 캡처 2. Qwen3.6 공개 일정과 Qwen3.5 소형 모델 공개 일정을 확인한 화면. (

출처

)

▲ 캡처 3. Qwen3-0.6B 모델 카드의 개요. 0.6B, CausalLM, 28 layers 조건을 확인했다. (

출처

)

▲ 캡처 4. Qwen3-0.6B 모델 카드의 non-thinking 모드 권장 설정. (

출처

)

로드 모델

Qwen/Qwen3-0.6B

Qwen3ForCausalLM / 596,049,920 parameters

실행 장치

mps / float16

load 3.13s

구조

28 layers

d_model 1024 / vocab 151,936

2. 한국어 프롬프트 테스트

생성은 Qwen3 모델 카드의 non-thinking 권장값에 맞춰 enable_thinking=False, temperature=0.7, top_p=0.8, top_k=20으로 실행했다. 프롬프트는 요약, 쉬운 설명, 모델 선택 판단 3개로 나눴다.

기술 블로그 요약

프롬프트

다음 내용을 한국어 기술 블로그 문체로 5문장 안에 요약해줘. Jacobian Lens는 언어 모델의 중간 레이어 표현을 최종 출력 토큰 순위로 읽어보는 해석 도구이며, 평균 Jacobian을 이용해 내부 residual stream을 마지막 레이어의 표현 공간으로 옮긴다.

Qwen 응답 · 입력 126 tokens, 생성 64 tokens, 6.36초

Jacobian Lens는 언어 모델의 중간 레이어를 최종 출력 토큰 순위로 읽어내며, 평균 Jacobian을 활용해 내부 residual stream을 마지막 레이어의 표현 공간으로 이동시킨다.

쉬운 비유 설명

프롬프트

Jacobian Lens를 초등학생도 이해할 수 있게 한국어 비유로 설명해줘. 단, 마지막에는 개발자가 실제로 무엇을 확인할 수 있는지 한 문장으로 정리해줘.

Qwen 응답 · 입력 77 tokens, 생성 94 tokens, 2.27초

Jacobian Lens는 빛을 끌어당치는 빛이 아니라, 빛의 속도를 측정하는 도구로, 빛이 움직일 때 속도를 측정하는 것이 아니라, 빛이 방향을 바꾸는 것을 나타내는 구조입니다.

개발자가 실제로 **빛의 방향**을 확인할 수 있는 것입니다.

모델 선택 판단

프롬프트

최신 Qwen 계열 모델을 로컬 맥에서 테스트하려고 한다. Qwen3.6 27B급 모델과 Qwen3 0.6B 모델을 비교해서, Jacobian Lens처럼 역전파가 필요한 실험에서는 어떤 모델을 먼저 고르는 게 현실적인지 한국어로 짧게 판단해줘.

Qwen 응답 · 입력 116 tokens, 생성 37 tokens, 0.69초

Qwen3.6 27B급은 Jacobian Lens처럼 역전파가 필요한 실험에서 먼저 고려할 수록 현실적인 모델입니다.

결과는 솔직하게 애매했다. 첫 요약은 무난했지만, 쉬운 설명은 빛의 방향이라는 부정확한 비유로 흐렸고, 모델 선택 판단은 27B가 더 현실적이라고 답해 실제 로컬 역전파 조건과 반대로 말했다. 이 지점 때문에 이 테스트는 “한국어 성능 벤치마크”가 아니라 “로컬 해석 도구 실행 검증”으로 보는 편이 맞다.

프롬프트는 모두 한국어로 작성했고, 의도적으로 서로 다른 능력을 물었다. 요약은 문장 압축 능력, 쉬운 비유는 설명 안정성, 모델 선택은 실무 판단을 본다. 작은 모델이 틀린 답을 냈다는 점도 기록 가치가 있다. Jacobian Lens가 내부 표현을 보여주더라도, 원 모델이 약한 판단을 내리면 시각화 역시 그 한계 안에서 해석해야 한다.

▲ 캡처 7. 한국어 생성 프롬프트와 모델 응답을 나란히 저장한 보고서 화면. (로컬 실행 결과)

▲ 캡처 8. 한국어 생성 테스트 요약. 입력 토큰, 생성 토큰, 실행 시간을 기록했다. (로컬 실행 결과)

3. Jacobian Lens 실행 결과

Jacobian Lens는 중간 residual vector를 마지막 레이어의 표현 공간으로 선형 이동한 뒤, 모델의 unembedding으로 토큰 순위를 읽는다. 이번 실행은 한국어 fitting prompt 2개를 평균했고, source layer는 [26], target layer는 27로 제한했다. 전체 레이어를 다 맞추는 품질 실험이 아니라, 작은 로컬 검증이라 계산량을 줄인 설정이다.

▲ 캡처 5. Anthropic Jacobian Lens README. 내부 activation을 최종 토큰 순위로 읽는 구조를 확인했다. (

출처

)

▲ 캡처 6. 로컬 Qwen 한국어 Jacobian Lens 실행 보고서의 개요 화면. (로컬 실행 결과)

fit 시간

8.00s

2 prompts / dim_batch 128

Lens matrix

1024 x 1024

fro_norm 36.87

diag mean

1.020

std 0.0360

pos	입력 토큰	readout	top tokens
66	강	model-final	조, 한, 제, 하게, 력
66	강	lens L26	조, 한, 하게, 력, 화
69	단	model-final	어, 서, 계, 원, 락
69	단	lens L26	어, 체, phrase, 词, 수
71	는	model-final	무엇, ?\n, ', ", ?
71	는	lens L26	?\n, ", ', 무엇, ?\n

적용 프롬프트에서는 final logits와 L26 lens가 일부 같은 토큰을 상위에 올렸다. 예를 들어 position 66에서는 final과 lens가 모두 “조”, “한”, “하게”를 높게 봤고, position 69에서는 “어”가 공통으로 높았다. 의미 해석까지 자연스럽다고 말하기는 어렵지만, penultimate layer에서 최종 출력 경향을 읽는 경로는 실제로 동작했다.

slice 화면은 특히 “정답을 맞혔다”보다 “어느 위치와 레이어에서 어떤 토큰이 떠오르는가”를 보는 도구에 가깝다. 이번처럼 source layer를 1개만 둔 경우에는 화려한 층별 변화가 나오지 않는다. 대신 마지막 직전 레이어의 readout이 final logits와 얼마나 겹치는지, 한국어 토큰 분해가 화면에서 어떻게 보이는지 확인하는 데 의미가 있었다.

▲ 캡처 9. Jacobian Lens fit 로그. 2개 한국어 prompt로 layer 26 to 27 lens를 맞췄다. (로컬 실행 결과)

▲ 캡처 10. 한국어 적용 프롬프트에서 final logits와 lens L26 top token을 비교한 화면. (로컬 실행 결과)

▲ 캡처 11. jlens.vis가 만든 한국어 slice 시각화. position x layer top token을 보여준다. (로컬 실행 결과)

4. 느낀점

이번 실험에서 얻은 핵심은 2가지다. 첫째, Jacobian Lens 코드는 Hugging Face의 Qwen3 CausalLM 구조를 자동으로 잡았고, MPS 위에서 작은 한국어 corpus fit까지 완료했다. 둘째, 0.6B 모델의 한국어 답변 품질은 글감으로 쓰기에는 조심해야 한다. 도구 검증에는 충분했지만, “좋은 한국어 판단” 자체를 맡기려면 더 큰 instruct 모델이나 API 모델로 분리 평가하는 편이 낫다.

좋았던 점은 실패 조건이 빨리 드러난다는 것이다. 모델 로드, 한국어 생성, lens 저장/재로드, apply, slice까지 1개의 스크립트로 묶으니 어디서 막히는지 명확했다. 반대로 아쉬운 점은 2개 prompt 평균이라 lens 품질을 일반화하기 어렵다는 점이다. 이 결과는 “작동했다”는 증거이지 “해석이 충분히 안정적이다”는 증거는 아니다.

내 결론은 이렇다. 최신 Qwen 라인업을 언급할 때는 Qwen3.6을 기준으로 삼되, 로컬 해석가능성 실험의 첫 단계는 Qwen/Qwen3-0.6B처럼 작은 CausalLM으로 성공 경로를 만든 뒤, 필요할 때 4B 이상 또는 원격 GPU로 넓히는 방식이 현실적이다.

출처

• Qwen3.6 공식 GitHub
• Qwen/Qwen3-0.6B Hugging Face
• Anthropic Jacobian Lens GitHub
• Transformer Circuits: Global Workspace

로컬 결과 파일: jacobian-lens-run/artifacts/qwen_ko_jlens / summary.json, report.html, qwen_ko_slice.html

FAQ

Q1. Qwen3.6으로 직접 돌린 건 아닌가요?+

최신 라인 확인은 Qwen3.6 기준으로 했지만, 로컬 Jacobian Lens 역전파 실험은 27B급 모델이 현실적이지 않아 Qwen3-0.6B로 수행했다.

Q2. 한국어 생성 결과는 좋았나요?+

요약은 무난했지만 쉬운 설명과 모델 선택 판단은 부정확했다. 작은 모델의 한계로 보고, 품질 평가는 별도 큰 모델에서 다시 해야 한다.

Q3. Lens fit은 어느 레이어를 썼나요?+

source layer 26, target layer 27로 제한했다. 전체 레이어 품질 실험이 아니라 로컬 재현 가능한 smoke test에 가깝다.

Q4. 왜 캡처가 11장인가요?+

공식 Qwen/Jacobian Lens 출처 화면 5장과 로컬 실행 보고서 및 slice 결과 6장을 합쳐, 소스 확인과 실제 실행을 모두 남기기 위해서다.

Q5. 다음에 확장한다면 뭘 바꾸면 좋나요?+

프롬프트 수를 100개 이상으로 늘리고, 여러 source layer를 fit한 뒤, 더 큰 Qwen instruct 모델이나 원격 GPU로 비교하면 훨씬 의미 있는 분석이 된다.