TechLLM

외부 라이브러리 없이 RAG를 직접 만들어보자 — Python + ollama로 처음부터 구현하기

LangChain이나 LlamaIndex 없이, RAG를 밑바닥부터 만들 수 있을까? 개요 Retrieval-Augmented Generation(RAG)은 LLM이 학습 데이터에 없는 외부 지식을 참조해 답변을 생성하게 만드는 구조다. 요즘은 프레임워크가 많아서 몇 줄이면 RAG를 붙일 수 있지만, 내부에서 무슨 일이 일어나는지 이해하지 못한 채 쓰면 디버깅도, 튜닝도 막막해진다. ...

코딩 몰라도 로봇 앱 만든다 — Reachy Mini 에이전틱 앱스토어 등장

60년간 로봇은 로봇공학자가 만들었다. Hugging Face가 그 전제를 깨는 실험을 시작했다. 핵심 요약 Hugging Face가 오픈소스 데스크톱 로봇 Reachy Mini용 에이전틱 앱스토어를 출시했다 자연어로 원하는 동작을 설명하면 AI 에이전트가 코드 작성·테스트·배포까지 처리한다 출시 후 150명 이상의 제작자가 200개 이상의 앱을 올렸다 — 대부분 로봇 개발 경험 없음 현재 Reachy Mini 누적 출하량은 약 10,000대, 다음 30일 내 1,000대 추가 예정 전체 스택(하드웨어·소프트웨어·앱·에이전트 트레이스)이 오픈소스 어떻게 작동하는가 워크플로는 간단하다. 에이전트에게 이렇게 말한다. ...

논문이라는 단위가 사라질 수 있다 — AI가 과학 출판의 다음 형식을 묻고 있다

360년 전 등장한 ‘논문’이라는 형식이 AI 앞에서 흔들리고 있다. 핵심 요약 AI를 쓰는 연구자들은 이전보다 훨씬 많은 논문을 출판하고 있고, 시스템은 이를 감당하지 못하고 있다 Google의 Paper Orchestra는 연구 노트를 받아 40분 안에 제출 가능한 논문을 생성한다 ICLR 2026 제출 리뷰의 21%가 AI가 작성한 것으로 추정된다 Caltech의 OpenEval은 논문을 개별 ‘주장’ 단위로 분해해 AI가 평가하는 새로운 레이어를 제안한다 공통된 진단: 논문은 너무 많은 기능을 하나의 형식에 묶어놓았고, 그 묶음이 풀리기 시작했다 논문은 원래 혁신이었다 케플러의 《신천문학》은 10년치 관측을 책 한 권에 담았다. 뉴턴의 《프린키피아》도 수십 년의 사고를 집약한 대작이었다. 그런데 1665년 런던 왕립학회가 《Philosophical Transactions》를 창간하면서 흐름이 바뀌었다. 잠정적 발견을 작은 단위로 빠르게 공유할 수 있게 됐다. 다윈은 이 짧은 형식을 불신했고(“내 이론은 저널에서 과학적으로 다루기 어렵다”), 그러면서도 결국 이 형식이 표준이 됐다. ...

Gemini API File Search 멀티모달 RAG — 이미지와 텍스트를 함께 검색하는 인터페이스

Gemini API File Search 멀티모달 지원 — 이미지·텍스트·메타데이터를 한 번에 검색하는 RAG

RAG(검색 증강 생성)를 구축할 때 가장 큰 벽은 비정형 데이터다. PDF 수백 장, 이미지 수천 장이 섞인 기업 자료에서 원하는 정보를 정확히 찾고, 출처까지 명확하게 표시하는 것 — 지금까지는 직접 파이프라인을 쌓아야 했다. ...

OncoAgent: 환자 데이터를 병원 밖으로 내보내지 않는 암 치료 AI 에이전트

병원 AI가 환자 기록을 외부 클라우드로 전송한다면? 의사는 이 시스템을 쓸 수 없다. 개인정보 보호법이 막고, 윤리 위원회가 막고, 환자가 막는다. OncoAgent는 이 문제를 정면으로 해결한다. 모든 추론과 학습을 병원 내 서버에서 끝낸다. 클라우드 API 없이. 환자 데이터 유출 없이. 그러면서도 70개 이상의 국제 암 치료 가이드라인을 실시간으로 참조한다. ...

transformers에서 MLX로 모델을 포팅하는 AI 에이전트 스킬 개념도

에이전트가 PR을 열면 안 되는 이유 — HuggingFace의 transformers→MLX 포팅 스킬

에이전트가 코드를 짜고, 이슈를 찾고, PR까지 열어준다. 좋아 보인다. 그런데 오픈소스 메인테이너들은 지금 곤혹스럽다. PR이 10배 늘었는데, 대부분 쓸 수 없는 것들이다. HuggingFace가 이 문제를 정면으로 파고든 글을 2026년 4월 공개했다. transformers 모델을 Apple Silicon용 MLX 프레임워크로 포팅하는 AI 스킬을 만들면서, 에이전트 시대 오픈소스 기여가 어때야 하는지 기준을 제시했다. ...

NVIDIA Nemotron 3 Nano Omni 멀티모달 AI — 문서·오디오·비디오 통합 처리

NVIDIA Nemotron 3 Nano Omni: 문서·오디오·비디오를 한 번에 처리하는 멀티모달 AI

문서를 읽고, 목소리를 듣고, 영상을 보고, 화면을 조작한다 — 이 모든 걸 단일 모델 하나로. NVIDIA가 공개한 Nemotron 3 Nano Omni 30B-A3B는 기존 비전-언어 모델의 경계를 텍스트·이미지·비디오·오디오 전체로 확장한 옴니모달 모델이다. ...

HAL 벤치마크별 에이전트 평가 비용 분포 — 일부 벤치마크는 1회 실행에 $1,000 이상

AI 평가가 새로운 compute 병목이 됐다 — $40,000짜리 벤치마크의 시대

모델을 훈련하는 비용이 문제라고 했다. 이제 평가하는 비용이 문제가 됐다. Holistic Agent Leaderboard(HAL)은 최근 9개 모델, 9개 벤치마크에서 21,730회 에이전트 롤아웃을 실행하는 데 4만 달러를 썼다. GAIA 벤치마크 하나를 최신 모델로 돌리면 캐싱 전 비용이 2,829달러다. PaperBench 1회 평가는 약 9,500달러다. ...

바이브 코딩과 에이전틱 엔지니어링의 경계가 흐려지고 있다

시몬 윌리슨(Simon Willison)은 오픈소스 데이터 도구로 유명한 개발자이자, AI 코딩 도구 분야에서 손꼽히는 논객이다. 그가 최근 팟캐스트 인터뷰에서 한 마디를 털어놨다. “바이브 코딩과 에이전틱 엔지니어링이 이미 내 안에서 섞이기 시작했다. 솔직히 꽤 불편하다.” ...