Anthropic이 Claude의 생각을 추적해 발견한 것들
출처: Anthropic 문서유형: 번역·해설 #Anthropic #Claude #Interpretability #AI안전 #LLM 핵심 요약 Anthropic은 Claude 3.5 Haiku 내부를 들여다보는 회로 추적(circuit tracing) 연구를 공개했습니다. 결론은 꽤 흥미롭습니다. Claude는 단순히 다음 단어만 맞히는 기계가 아니라, 언어를 넘는 공통 개념 공간을 쓰고, 몇 단어 뒤를 미리 계획하며, 때로는 실제 계산 없이 그럴듯한 설명을 만들어낼 수 있습니다. ...