가상 회사의 이메일을 대규모로 만들어 인공지능이 여러 문서에서 정보를 찾아 답하는 능력을 평가한 연구이다.

가상 회사의 이메일을 대규모로 만들어 인공지능이 여러 문서에서 정보를 찾아 답하는 능력을 평가한 연구이다. 무엇이 문제였나 — 실제 회사 문서는 공개하기 어렵고, 기존 시험 자료는 문서 수와 문서 사이의 연결이 실제 업무보다 단순했다. 어떻게 풀었나 — 연구진은 가상 회사의 조직과 업무 기록을 먼저 만든 다음, 그 기록에 맞는 이메일과 확인 가능한 질문을 만들었다. 그래서 뭐가 좋아졌나 — 다섯 모델의 성능을 비교한 결과, 관계를 문서에서 찾아 정리하는 일은 특히 큰 자료에서 어려웠고, 정리된 사실을 직접 조회했을 때 질문 점수가 더 높았다. ...

2026년 11월 1일 · 5 분 · 970 단어 · TechLLM
저비용 AI 모델로 코드와 3D 화면을 동시에 띄운 개발 작업대 풍경

GPT-5.6 Luna 8개 코딩 테스트 총비용 1.34달러의 충격

OpenAI의 GPT-5.6 Luna는 입력 토큰 100만 개당 0.20달러라는 파격적인 단가로 8개의 고난도 멀티모달 코딩 과제를 단 1.34달러에 처리했습니다. 최대 추론 모드를 켠 Luna가 3D 웹사이트와 C++ 게임, CAD 모델링까지 차례로 처리하는 전 과정은 아래 영상에서 확인할 수 있습니다. GPT-5.6 Luna First Test – Hands-On With OpenAI’s CHEAPEST Model! — Bijan Bowen ...

2026년 8월 4일 · 3 분 · 533 단어 · TechLLM
키미 K3의 초희소 MoE 구조와 GPU·메모리 수요 변화를 정리한 인포그래픽

키미 K3가 흔든 건 GPU 수요가 아니라 GPU를 보는 기준입니다

핵심 요약 문샷 AI가 공개한 키미 K3는 총 2조 8000억 파라미터인데, 토큰 하나를 처리할 때 896개 전문가 중 16개만 켭니다. 활성 비율이 약 1.8%입니다. 키미 델타 어텐션(KDA) 은 지난 토큰의 모든 계산을 다 펼쳐두는 대신, 작업 노트 한 장을 계속 고쳐 쓰는 선형 어텐션 방식으로 KV 캐시 폭증을 눌렀습니다. 발표 직후 미국 AI 반도체 주가가 흔들렸습니다. “소프트웨어가 이렇게 효율적이면 GPU를 덜 사도 되는 것 아니냐"는 계산이 돌았기 때문입니다. 그런데 2.8TB짜리 가중치를 어딘가에 올려두고, 흩어진 전문가끼리 실시간으로 통신시켜야 한다는 조건은 그대로입니다. HBM 용량과 대역폭은 여전히 병목입니다. 연산이 싸지면 예전엔 비싸서 포기했던 작업이 살아납니다. 저장소 전체 분석, 몇 시간짜리 에이전트 실행 같은 것들이죠. 제본스의 역설이 그대로 작동합니다. 앞으로의 경쟁력은 GPU를 몇 장 가졌느냐가 아니라, 같은 메모리에서 얼마나 많은 유효 작업을 뽑아내느냐로 옮겨갑니다. 2조 8000억인데 1.8%만 켠다 키미 K3의 숫자는 언뜻 모순처럼 보입니다. 총 파라미터는 2조 8000억. 그런데 토큰 하나를 처리할 때 실제로 계산에 참여하는 전문가는 896개 중 16개뿐입니다. ...

2026년 7월 21일 · 5 분 · 945 단어 · TechLLM
에이전트 메모리 일곱 층을 표현한 일러스트

AI 에이전트 메모리의 7가지 유형: 엔지니어를 위한 기술 가이드

출처: Asif Razzaq / Marktechpost 문서유형: 번역·해설 #AIAgent #AgentMemory #LLM #RAG #VectorDB 개요 LLM은 본래 기억이 없습니다. API 호출 한 번이 끝나면 직전 메시지를 모두 잊어버리죠. 단일 질문에는 문제가 없지만, 에이전트를 만드는 순간 이 한계가 곧바로 드러납니다. 에이전트는 여러 단계에 걸쳐 계획을 세우고 도구를 호출하면서 일을 끝내야 하니까요. 그 차이를 메우는 것이 메모리 시스템입니다. Marktechpost의 Asif Razzaq는 에이전트 메모리를 시간축(단기·장기) 과 형태(파라메트릭·비파라메트릭) 두 축으로 나누고, 실제 구현에서 자주 쓰이는 일곱 가지 유형을 정리했습니다. ...

2026년 6월 22일 · 5 분 · 960 단어 · TechLLM
거대한 스케일링 계단을 올려다보는 작은 연구자들

샘 알트먼: "한 세대의 연구자가 스케일링을 과소평가해 AI를 늦췄다"

개요 스탠퍼드 강연 한 장면이 다시 논쟁을 키웠습니다. OpenAI의 샘 알트먼이 “지금 시점에서 LLM의 스케일링에 베팅하지 않는 건 잘못된 판단으로 보인다"고 잘랐습니다. 비판을 가벼이 받아넘긴 정도가 아니라, 한 세대의 연구자들이 스케일링이 안 될 거라는 확신에 갇혀 분야 전체를 늦췄다고 진단한 발언입니다. ...

2026년 6월 21일 · 4 분 · 663 단어 · TechLLM
에이지 오브 엠파이어 2 맵 위에 염소들이 격자 형태로 배치된 신경망 일러스트

에이지 오브 엠파이어 2 안에서 '염소'로 신경망을 만든 MS 연구자 — AI 의인화 논문 315편을 까보다

출처: THE DECODER — Jonathan Kemper (2026-06-17) 문서 유형: 번역·해설 #AI #LLM #의인화 #신경망 #논문리뷰 핵심 요약 Microsoft·요크대 소속 연구자 Adrian de Wynter가 1999년작 실시간 전략 게임 **에이지 오브 엠파이어 2(AoE2)**의 시나리오 에디터 안에서 진짜로 동작하는 신경망을 만들었다. 게임 속 염소(goat) 한 마리가 비트 1개 역할을 한다. 풀밭에 있으면 0, 다리 위에 있으면 1. 시나리오 트리거로 XNOR 게이트 2개 + AND 게이트 1개를 조합해 논리 AND 함수를 학습하는 신경망을 짰다. 시연용 장난이 아니라 AI 논문 315편(2024년 중반~2026년 중반) 을 따로 분석한 결과를 얹은 비평이다. 그 중 57%가 LLM에 사람 같은 속성을 전제했고, 36%는 그에 맞는 결론을 내렸다. 핵심 주장: “이게 신경망이든, 염소 떼든, 보스턴 시민 67만 명이 손으로 계산하든, 같은 입력에 같은 출력이 나오면 그 안에서 ‘공감’이나 ‘두려움’이 일어났다고 말할 근거는 없다.” 코드와 시나리오 파일은 공개돼 있다 — adewynter.github.io/notes/aoe2-circuits. 왜 하필 에이지 오브 엠파이어 2인가 이상한 선택처럼 보입니다. 그런데 들여다보면 꽤 정교한 비유입니다. ...

2026년 6월 18일 · 4 분 · 826 단어 · TechLLM
GPT-5.6 — OpenAI 차기 모델

GPT-5.6 6월 말 공개 임박 — OpenAI 수석과학자가 직접 '의미 있는 도약'이라 말한 이유

OpenAI의 다음 플래그십 모델 GPT-5.6이 6월 말 공개를 향해 빠르게 움직이고 있습니다. 이번에는 평소처럼 로그 파편이나 예측시장 베팅만 떠도는 게 아닙니다. OpenAI 수석과학자 야쿠브 파초츠키(Jakub Pachocki) 가 직원들에게 보낸 사내 메시지에서 GPT-5.6을 “GPT-5.5 대비 의미 있는 개선"이라고 못 박았다는 보도가 나왔습니다. OpenAI 임원의 입에서 나온 사실상 첫 공개 코멘트입니다. ...

2026년 6월 17일 · 5 분 · 887 단어 · TechLLM
Anthropic Claude Corps — 비영리단체에 파견되는 AI 펠로우 1,000명을 다루는 TechLLM 블로그 대표 이미지

Anthropic의 1억 5천만 달러 베팅 — Claude Corps, 비영리단체 안에 AI 펠로우 1,000명을 심다

출처: TechLLM 문서유형: 블로그 포스트 #Anthropic #Claude #ClaudeCorps #비영리AI #펠로우십 #DanielaAmodei #AI도입 개요 빅테크가 “AI를 사회에 환원합니다"라고 말할 때 보통 두 가지 모습입니다. 보도자료 한 장과 작은 보조금 몇 건. 그런데 이번 Anthropic의 발표는 결이 좀 다릅니다. 1억 5천만 달러를 한 번에 태워서, AI를 쓸 줄 아는 사람 1,000명을 비영리단체 안으로 직접 들여보낸다는 계획입니다. 이름은 Claude Corps. 자기네 챗봇 Claude에서 이름을 따왔습니다. ...

2026년 6월 15일 · 4 분 · 787 단어 · TechLLM
Polymarket의 2026년 6월 AI 모델 1위 예측 시장을 다루는 TechLLM 블로그 대표 이미지

Polymarket이 베팅한 "2026년 6월 1등 AI" — Anthropic 87.1%, OpenAI 4.7%

출처: TechLLM 문서유형: 블로그 포스트 #Polymarket #Anthropic #Claude #OpenAI #예측시장 #ChatbotArena #LMArena #AI순위 개요 요즘 AI 업계 사람들 사이에서 슬쩍 회자되는 시장이 하나 있습니다. Polymarket의 “2026년 6월 말 기준 가장 좋은 AI 모델을 가진 회사는?” 시장입니다. 단순한 여론조사가 아니라, 실제 돈이 걸린 베팅 시장이라는 점이 다릅니다. 거래대금만 약 1,500만 달러(한화 약 200억 원). 그리고 지금 이 시장의 결론은 한 줄로 요약됩니다. ...

2026년 6월 15일 · 5 분 · 925 단어 · TechLLM