DEVKDH

졸업 프로젝트로 Brain Trace라는 온프레미스 기반 Graph-RAG 질의응답 시스템을 개발했다.나는 해당 프로젝트에서 백엔드 개발을 맡았고 Graph-RAG관련 부분 로직을 전적으로 맡아서 개발했다.따라서 이번 글에서는 이 프로젝트에서 Graph-RAG를 어떻게 구현했는지, 사용한 기술과 주요 로직 중심으로 정리해보고자 한다. 전체 프로젝트에 대한 자세한 설명은 아래 링크를 참고하면 된다.https://github.com/Kimdonghyuk0/BrainTrace_OnDeviceAi/tree/main GitHub - Kimdonghyuk0/BrainTrace_OnDeviceAiContribute to Kimdonghyuk0/BrainTrace_OnDeviceAi development by crea..

RAG 란? RAG(Retrieval-Augmented Generation)는 LLM의 정보 한계와 환각(Hallucination) 문제를 해결하기 위해 나온 기술입니다.LLM은 기본적으로 학습된 데이터를 기반으로 답변을 생성합니다. 하지만 다음과 같은 근본적인 제약이 존재합니다.개인 문서나 사내 자료처럼 사전 학습에 포함되지 않은 정보에 대한 응답 불가환각 현상 발생이러한 문제를 보완하기 위해 외부 데이터를 검색(Retrieval)하고 그 결과를 LLM의 프롬프트에 추가(Augmented)하여 더 나은 답변을 생성(Generation)하는 방식이 바로 RAG입니다. RAG의 구현RAG에서 가장 중요한 것은 LLM에게 어떤 컨텍스트를 제공하느냐입니다.방대한 외부 데이터 중에서 질문에 대한 근거가 될 만한..