Python

개요 엔비디아가 공개한 Canary-1B-v2는 1B 파라미터급 음성 모델인데, 영어 음성 인식 한 가지만 하지 않습니다. 영어로 받아 영어로 적기, 영어로 받아 25개 유럽 권역 언어로 옮기기, 단어 단위와 구간 단위 타임스탬프를 동시에 뽑기, 그 타임스탬프 그대로 SRT 자막 파일로 떨궈주기까지 한 모델 안에 다 들어 있습니다. 무거운 ffmpeg 파이프라인이나 별도 번역 API를 끼우지 않고도, NeMo 툴킷 한 줄로 호출이 끝납니다. ...

LangChain이나 LlamaIndex 없이, RAG를 밑바닥부터 만들 수 있을까? 개요 Retrieval-Augmented Generation(RAG)은 LLM이 학습 데이터에 없는 외부 지식을 참조해 답변을 생성하게 만드는 구조다. 요즘은 프레임워크가 많아서 몇 줄이면 RAG를 붙일 수 있지만, 내부에서 무슨 일이 일어나는지 이해하지 못한 채 쓰면 디버깅도, 튜닝도 막막해진다. ...