구글이 6월 12일 Gemini-SQL2를 공개했습니다. 이름만 보면 또 다른 신규 모델 같지만, 실상은 Gemini 3.1 Pro 위에 얹은 텍스트-투-SQL 전용 능력입니다. 자연어 질문을 받아 곧장 돌아가는 SQL을 만들어 주는 쪽에 무게를 둔 업데이트라고 보면 됩니다. 숫자가 화제입니다. 업계 표준 벤치마크인 BIRD의 단일 모델 부문에서 실행 정확도 80.04%를 찍었습니다. 7개월 전만 해도 같은 구글의 이전 기록이 76.13%였습니다. ...
Allen Institute for AI(이하 Ai2)가 6월 12일 olmo-eval이라는 평가 워크벤치를 공개했습니다. 모델을 다 만든 다음 한 번 평가하는 도구가 아니라, 학습 중에 체크포인트가 쏟아질 때마다 같은 벤치마크를 빠르게 다시 돌리는 데 초점을 둔 도구입니다. 토대는 Ai2가 2024년에 내놓은 OLMES(Open Language Model Evaluation Standard)인데, 거기에 개발자가 매일 반복하는 평가 루프를 그대로 옮겨 담았습니다. ...
개요 문샷 AI가 6월 12일 Kimi Work라는 데스크톱 앱을 공개했습니다. 클라우드가 아니라 내 맥북, 내 윈도우 PC 위에서 직접 도는 에이전트입니다. 뒤에서는 4월 20일에 풀린 Kimi K2.6이 돌고, 한 번에 최대 300개의 서브 에이전트가 같이 일을 쪼개 처리합니다. 클라우드 에이전트가 “잘 만든 데모"에 머무는 동안, 문샷은 “내 폴더와 내 브라우저에 꽂아 쓰는 도구” 쪽을 골랐습니다. ...
DiffusionGemma는 자기회귀 디코딩을 텍스트 디퓨전으로 바꿔 H100 기준 초당 1,000토큰을 넘긴다. 품질은 Gemma 4보다 한 단계 낮지만, 로컬·단일 사용자·인터랙티브 환경에서 4배 가까운 속도를 노리는 실험적 오픈 모델이다.
핵심 요약 샤오미 MiMo 팀과 TileRT 그룹이 MiMo-V2.5-Pro-UltraSpeed를 발표했다. 1조 파라미터 모델이 표준 8-GPU 노드에서 초당 1000 토큰 이상으로 디코딩된다. 비결은 세 층의 협업이다 — MoE 전용 FP4(MXFP4) 양자화, DFlash 블록 마스크 병렬 speculative decoding, TileRT persistent-kernel 런타임. 양자화는 표현력 손실을 막기 위해 MoE에만 걸고 나머지는 FP8을 유지했다. speculative decoding은 거부 샘플링으로 무손실을 보장한다. 가격은 표준 모델의 3배, 디코딩 속도는 약 10배. 병렬 추론·코딩 에이전트·실시간 거래 신호 같은 워크로드에서 비용 곡선이 뒤집힌다. API는 6월 9~23일 신청제 트라이얼로 좁게 열려 있고, FP4-DFlash 체크포인트와 TileRT 일부 모듈은 허깅페이스·깃허브에 공개됐다. 1조 파라미터를 표준 GPU에서 — 무엇이 새로운가 Cerebras는 웨이퍼 한 장에 모델을 통째로 박아 넣고, Groq는 칩 위 SRAM으로 메모리 병목을 풀었다. 두 길 다 “더 빨라지려면 더 특수한 실리콘"이라는 전제 위에 있다. 샤오미가 이번에 보여준 길은 다르다. 하드웨어는 그대로 두고, 모델과 런타임을 같은 칠판 위에서 함께 설계해 1조 파라미터 모델을 표준 노드에서 1000+ TPS로 돌렸다. ...
개요 수동 프롬프트 튜닝은 끝이 없다. 한 줄 고치고 돌려보고, 또 한 줄 고치고 다시 돌리고. MarkTechPost가 6월 7일 공개한 GEPA 튜토리얼은 그 루프를 LLM 두 대와 점수 함수에 떠넘긴다. 약한 작업 모델은 풀고, 강한 리플렉션 모델은 프롬프트를 고친다. 사람은 평가 기준만 정확히 적어주면 된다. ...
Qwen 3.7 Plus 핵심: 235B/22B 활성 MoE, 1M 토큰 컨텍스트, AIME25 70.3·Arena-Hard 79.2·GPQA 77.5로 오픈소스 SOTA 경신. 인스트럭트 팔로잉·에이전트·다국어 모두 향상.
개요 MiniMax M3가 공개됐다. 블로그 포스트가 아키텍처와 벤치마크를 설명했다면, 이 글은 실제로 M3를 어떻게 쓰는지에 집중한다 — API 통합 코드, 지원 도구 목록, 그리고 공식 페이지에 수록된 실제 성능 차트. ...
핵심 요약 Anthropic, Claude Opus 4.8 출시 — Opus 4.7 대비 벤치마크 전반 개선, 동일 가격 유지 다이나믹 워크플로 출시: Claude Code에서 수백 개의 병렬 서브에이전트 실행, 코드베이스 전체 마이그레이션 자동화 노력 제어(Effort Control): 사용자가 응답 품질과 속도를 직접 선택 가능 Opus 4.8, 코드 결함을 무심코 통과시킬 확률이 이전 모델 대비 약 4배 낮음 빠른 모드(Fast Mode) 비용 3배 인하 — 입력 $10/M, 출력 $50/M 토큰 왜 Opus 4.8인가 Anthropic은 오늘 Claude Opus 4.8을 공식 발표했다. Opus 4.7의 직계 후속 모델로, 같은 가격을 유지하면서 코딩·에이전트 작업·추론·실무 지식 작업 전반에서 성능을 끌어올렸다. ...