
Advanced RAG, 단순 검색-생성 파이프가 실패하는 이후
검색-생성 파이프 하나로 시작한 RAG가 틀린 답을 내기 시작하면 어떤 층부터 붙여야 할까요. 청킹, 쿼리 재작성, 하이브리드 검색, 리랭크, 인용 검증을 효과와 비용 기준으로 비교해 현실적인 도입 순서를 정리했습니다.
AI와 블록체인, 실무를 연결하는 생각의 기록
생성형 AI, LLM, RAG 기술

검색-생성 파이프 하나로 시작한 RAG가 틀린 답을 내기 시작하면 어떤 층부터 붙여야 할까요. 청킹, 쿼리 재작성, 하이브리드 검색, 리랭크, 인용 검증을 효과와 비용 기준으로 비교해 현실적인 도입 순서를 정리했습니다.

사내 규정 검색에 Qwen3-Embedding-8B와 BGE-M3 중 무엇을 넣을지 고민한다면 성능 점수보다 희소 벡터, 차원, GPU 비용을 먼저 봐야 합니다. 두 모델을 Milvus 운영 관점에서 나란히 비교했습니다.

오픈소스 임베딩 BGE-M3는 한 번의 인코딩으로 밀집·희소·다중벡터를 함께 냅니다. Milvus 컬렉션 스키마 설계부터 인덱스 선택, 가중치 결합, 리랭크까지 하이브리드 검색을 구현하는 실행 코드를 단계별 예제로 정리했습니다.

Qwen3-Embedding-8B 밀집 벡터와 BM25 희소 벡터를 Milvus 한 컬렉션에 넣고 RRF로 결합하는 하이브리드 검색 구현기입니다. 임베딩 서버 구성부터 인덱스, 결합 가중치, 성능 점검까지 순서대로 정리했습니다.

OMC와 OMA는 같은 문제를 다른 층에서 풉니다. Claude Code 위에 팀을 올릴지, 벤더를 바꿔도 유지되는 하네스를 깔지 결정하는 기준과 도입 전 파일럿에서 실측해야 할 항목을 한눈에 보는 비교표로 정리했습니다.

세 에이전트 도구는 서로 대체재가 아닙니다. Claude Code는 실행, MoAI-ADK는 규율, Hermes는 기억 층을 맡습니다. 어떤 조건에서 무엇을 고를지 기준표와 3주 파일럿 설계 방법을 함께 정리했습니다.

부품번호, 약어, 조항 번호가 섞인 사내 문서에서 기존 키워드 검색은 왜 엉뚱한 결과를 낼까요. 실패 유형을 사례로 나누고, 골든셋을 먼저 만든 뒤 하이브리드 AI 검색으로 넘어가는 도입 단계별 로드맵을 정리했습니다.

퍼블릭 클라우드에서 잘 돌던 CI/CD가 온프레미스로 오면 인증서, 이미지 레지스트리, 외부 패키지 의존성에서 멈춥니다. 이전 과정에서 깨진 게이트와 롤백 설계, 전환 후 누가 무엇을 책임질지 사례 중심으로 정리했습니다.

트랜스포머가 RNN을 대체한 핵심은 병렬화였습니다. Attention 연산 경로를 구현자 시선으로 따라가며 위치 인코딩 선택의 장기 영향, KV 캐시와 양자화로 추론 비용을 줄이는 실전 기법을 순서대로 정리했습니다.