한 회사에서 200개 넘는 서비스에 쓰던 여러 AI 모델을, 약한 부분만 따로 키운 뒤 하나로 합쳐서, 7배 큰 모델과 비슷한 품질을 더 싸게 쓰게 만든 방법. 무엇이 문제였나 — 한정된 GPU 풀에서 서비스마다 다른 AI 모델을 따로 돌리느라 비싸고 관리가 어려웠다. 어떻게 풀었나 — 약한 영역(지시 따르기, 도구 사용, 내부 분포)마다 강화학습으로 전문가를 따로 키우고, 가중치를 섞어 하나의 모델로 합쳤다. 그래서 뭐가 좋아졌나 — 7배 큰 모델과 비슷한 점수를 내면서 116M 요청/월을 50% 처리하고, 서버 비용을 2.8~3.9배 줄였다. ...
통신망 장애 원인을 찾을 때 AI가 숫자 몇 개만 보고 성급히 답하지 않도록, 데이터를 정해진 칸에 정리하고 단계별 점검을 거쳐 결론을 내리게 훈련한 방법이다. 무엇이 문제였나 — 통신 장애 원인을 찾으려면 속도, 무선 신호 세기, 자원 할당량, 기지국 설정, 이웃 셀 상태 같은 여러 정보를 함께 봐야 한다. 어떻게 풀었나 — 이 논문은 그런 정보를 매번 같은 형식으로 정리하고, AI가 ‘차량 속도가 너무 빠른가?’, ‘무선 자원이 부족한가?’, ‘핸드오버가 잦은가?’ 같은 점검을 먼저 하게 만든다. 그래서 뭐가 좋아졌나 — 그 결과 5G 드라이브 테스트 데이터에서는 정확도 94.2%, 별도 관측 데이터에서는 64.7%를 기록해 일반 LLM 프롬프트나 단순 fine-tuning보다 훨씬 좋은 성능을 보였다. ...
노인의 전화 면담에서 ‘무슨 말을 했는지’와 ‘어떤 목소리로 말했는지’를 함께 분석해 외로움 점수와의 관련성을 살핀 연구다. 무엇이 문제였나 — 기존 외로움 평가는 주로 설문에 의존해서, 실제 대화 속 미묘한 말투와 표현을 놓칠 수 있다. 어떻게 풀었나 — 연구진은 전화 면담의 글자 기록에서 단어·주제·표현 패턴을, 음성에서 높낮이·음량·음색 같은 특징을 뽑았다. 그래서 뭐가 좋아졌나 — 둘을 함께 쓴 모델이 텍스트만 또는 음성만 쓴 모델보다 전체적으로 더 높은 예측 상관을 보였고, 성별·인종 하위집단마다 잘 맞는 신호가 달랐다. ...
아주 긴 질문을 AI가 빨리 읽게 하려면, GPU끼리 데이터를 주고받는 길을 전기선보다 훨씬 넓은 빛의 길로 바꾸는 것이 효과적임을 보인 논문이다. 무엇이 문제였나 — AI가 긴 문서를 한꺼번에 읽을 때 GPU들이 서로 많은 데이터를 주고받아야 해서 느려진다. 어떻게 풀었나 — 이 논문은 GPU 사이 연결을 광통신 기반의 더 넓고 멀리 가는 연결로 바꾸면 어떤 일이 생기는지 시뮬레이션했다. 그래서 뭐가 좋아졌나 — 특히 긴 문맥과 많은 GPU를 쓰는 경우 첫 답변까지 걸리는 시간이 크게 줄어들 수 있음을 보였다. ...
에이전트가 실제 작업 중 겪은 실패와 회복 사례를 모아, 외부의 안전 규칙과 모델의 판단 습관을 함께 고치는 방법이다. 무엇이 문제였나 — 문제: 도구를 쓰는 AI 에이전트는 웹페이지·이메일·파일·도구 응답에 숨어 있는 나쁜 지시나, 사용자의 위험한 요청에 끌려갈 수 있다. 어떻게 풀었나 — 해결: 작업 기록을 살펴 안전 실패를 분류하고, 외부 안전 매뉴얼을 조금씩 고친 뒤, 모델도 그 매뉴얼을 실제 행동에서 쓰도록 다시 학습시킨다. 그래서 뭐가 좋아졌나 — 결과: 주입 공격 성공률과 유해 요청 수행이 줄었고, 정상 작업 능력은 대체로 유지되거나 일부 개선되었다. ...
학생마다 다른 실수와 반응을 흉내 내는 AI 학생을 만들어, AI 튜터를 더 잘 훈련시키는 방법이다. 무엇이 문제였나 — AI 튜터를 개선하려면 실제 학생이 어떤 설명에 좋아지는지 알아야 하지만, 그런 데이터를 많이 모으기는 어렵다. 어떻게 풀었나 — 이 논문은 여러 학생의 기록으로 공통 패턴을 먼저 배우고, 각 학생의 적은 기록으로 개인별 시뮬레이터를 만드는 방법을 제안한다. 그래서 뭐가 좋아졌나 — 체스, 영어 작문, 수학에서 이 시뮬레이터는 기존 대형 모델보다 특정 학생의 답을 더 잘 흉내 내고, 설명을 들은 뒤 답을 더 잘 고쳤다. ...
여러 개의 불완전한 AI 칩 중 하나만 골라 쓰되, 그 칩의 답을 믿어도 되는 경우를 통계적으로 확인해 전기를 아끼는 방법이다. 무엇이 문제였나 — 아날로그 AI 칩은 전기를 적게 쓰지만, 칩마다 조금씩 다르게 틀릴 수 있다. 어떻게 풀었나 — RACE-AIMC는 미리 실험해 가장 효율적인 칩 하나와 안전하게 답할 기준선을 정하고, 애매한 입력은 디지털 방식에 맡긴다. 그래서 뭐가 좋아졌나 — 실험에서는 약 71%의 입력을 저전력 아날로그 칩 하나로 처리하면서도 전체 정확도는 깨끗한 디지털 기준과 거의 같았다. ...
AI 에이전트가 잠시 툴을 쓰러 가도, 다음에 다시 쓸 대화 기록을 더 잘 남겨두는 메모리 관리 장치를 제안한 연구. 무엇이 문제였나 — 문제: 에이전트는 툴 결과를 기다리다가 같은 작업으로 돌아오는데, 기존 캐시 정책은 그 기다림을 ‘오래 안 쓴 데이터’로 보고 버리기 쉽다. 어떻게 풀었나 — 해결: 각 작업이 보통 얼마나 있다가 돌아오는지와 지금 몇 번째 단계인지 보고, 버릴 작업과 빠른 메모리에 둘 작업을 같은 점수로 고른다. 그래서 뭐가 좋아졌나 — 결과: 6개 실제 에이전트 트레이스에서 적중률은 0.323.1%p 높아지고, 평균 메모리 접근 시간은 2251% 줄었으며, 긴 작업에서는 첫 토큰 지연도 58~89% 줄었다. ...
에이전트가 쌓아둔 기억을 새 모델이 이어받을 때, 어떤 기억 방식은 거의 그대로 살아남고 어떤 방식은 조용히 망가지는지 측정한 연구다. 무엇이 문제였나 — 모델을 새것으로 바꿔도 저장된 기억을 그대로 쓰면 된다고 생각하기 쉽지만, 실제로는 새 모델이 옛 기억을 다르게 읽거나 검색이 빗나갈 수 있다. 어떻게 풀었나 — 연구진은 원본 기록, 검색용 조각, 요약 노트, 정해진 양식의 지식 그래프를 같은 조건에서 비교했다. 그래서 뭐가 좋아졌나 — 정해진 양식으로 저장한 기억은 모델이 바뀌어도 안정적이었지만, 모델이 자유롭게 쓴 요약 노트는 누가 쓰고 누가 읽느냐에 따라 성능이 크게 흔들렸다. 원본 기록을 남겨두지 않으면 망가진 요약 노트를 되살리기도 어렵다. ...