이미지 검색 모델이 '빨간 컵이 파란 그릇 왼쪽' 같은 세부 설명을 잘 구분하지 못하는 문제를, 더 똑똑한 모델의 채점표를 가르쳐서 해결한 연구다.

이미지 검색 모델이 ‘빨간 컵이 파란 그릇 왼쪽’ 같은 세부 설명을 잘 구분하지 못하는 문제를, 더 똑똑한 모델의 채점표를 가르쳐서 해결한 연구다. 무엇이 문제였나 — 기존 MLLM 임베딩 모델은 ‘속성-객체 결합’ 같은 조합을 구분하지 못해, 비슷한 그림을 헷갈려 했다 어떻게 풀었나 — 같은 모델이라도 ‘교차 어텐션 재순위 모델’로 쓰면 이런 차이를 잘 본다는 사실을 이용해, 재순위 모델의 5단계 채점표를 임베딩 모델에 증류(가르침)했다 그래서 뭐가 좋아졌나 — 조합 추론 성능은 크게 끌어올리면서 일반 이미지 검색 능력은 유지했고, 다중 조건 검색(MCMR) 같은 실전 벤치마크에서도 이 개선이 그대로 옮겨갔다 ...

2026년 9월 5일 · 7 분 · 1296 단어 · TechLLM

ColPali: PDF 문서 검색을 텍스트 파싱 없이 — 페이지 이미지 임베딩으로 RAG를 바꾼다

개요 PDF 문서를 RAG에 활용하려면 OCR, 레이아웃 파싱, 텍스트 청킹, 임베딩까지 복잡한 파이프라인이 필요하다. 이 과정에서 오류가 누적되고, 표·그래프·인포그래픽 같은 시각적 정보는 제대로 처리되지 않는다. ColPali는 이 문제를 다르게 접근한다. PDF 페이지를 이미지 그대로 Vision LLM에 넣어 임베딩한다. ...

2026년 5월 31일 · 3 분 · 510 단어 · TechLLM
RAG 시스템 구조 — 검색과 생성의 연결

외부 라이브러리 없이 RAG를 직접 만들어보자 — Python + ollama로 처음부터 구현하기

LangChain이나 LlamaIndex 없이, RAG를 밑바닥부터 만들 수 있을까? 개요 Retrieval-Augmented Generation(RAG)은 LLM이 학습 데이터에 없는 외부 지식을 참조해 답변을 생성하게 만드는 구조다. 요즘은 프레임워크가 많아서 몇 줄이면 RAG를 붙일 수 있지만, 내부에서 무슨 일이 일어나는지 이해하지 못한 채 쓰면 디버깅도, 튜닝도 막막해진다. ...

2026년 5월 12일 · 3 분 · 605 단어 · TechLLM