[AI 서비스 개발] RAG와 랭체인

1. RAG란?

- Retrieval-Augmented Cegeration

1) 정보 검색(Retrieval): LLM이 텍스트를 생성할 때 관련 정보를 찾아 보고

2) 텍스트 생성(Generation) 그 정보를 활용하여 새로운 텍스트를 만드는 기술

 

2. 정보 검색

1) 질문/키워드 입력(쿼리)

2) 해당 쿼리와 관련된 정보를 DB나 인터넷에서 찾음

3) 유사도 검색: 검색 엔진이 쿼리와 DB에 있는 문서들 사이의 유사도를 계산

- 키워드 검색: 사용자가 입력한 단어나 구를 DB나 인터넷에서 직접 찾는 방식

- 시맨틱 검색: 단어의 의미와 문맥을 이해하여 보다 관련성 높은 결과를 제공하는 기술 

4) 랭킹처리: 검색 결과를 가장 관련이 높다고 판단되는 문서부터 순서대로 나열

- 유사도 계산: 문서나 단어 사이의 관련성이나 유사성을 수치로 표현하는 방법,

* 코사인 유사도: 두 벡터가 얼마나 같은 방향 인지를 고려 / 유클리드 유사도: 두 점 사이의 직선거리

- 문맥과 의도 파악: 쿼리의 문맥과 의도를 고려하여 검색된 문서가 얼마나 관련이 있는지 판단

- 랭킹산출: 유사도, 문맥, 정보 품질 등 다양한 요소를 종합하여 각 문서에 최종 랭킹을 매김

* 페이지랭크: 참조를 많이 받는(링크를 많이 받는) 페이지의 랭킹 높음, TF(단어빈도)-IDF(문서빈도), 클릭률

 

=> 임베딩, 유사도 검색, 랭킹처리

 

3. 텍스트 생성

- 검색 엔진의 경우 랭킹이 매겨진 문서 리스트를 사용자에게 보여 준다.

- LLM의 경우 텍스트를 생성한다.

 

4. 임베딩이란?

- Embedding은 복잡한 데이터를 간단한 형태(숫자 벡터)로 바꾸는 것을 말한다.

- 벡터가 가까운 것들이 관련도 높음

- 임베딩 모델

1) Word2Vec(단어를 컴퓨터가 이해할 수 있는 숫자인 벡터로 변환하는 모델) 

2) GloVe(단어의 의미를 숫자 벡터로 변환하는 방법 중 하나)

3) OpenAI

 

5. 벡터 데이터베이스

- 벡터를 저장하는 저장소

- 일반 데이터베이스와 달리 데이터의 정확한 값 대신 데이터간의 유사성을 바탕으로 검색하는데 사용됨

- 벡터 데이터베이스: 파인콘, 밀버스(오픈소스), 쿼드런트, 크로마, 엘라스틱서치, 파이스(무료)

 

6. LLM 프레임워크: 랭체인

- 검색, 프롬프트, 임베딩/저장, 유사도검색, 랭킹

- LLM과 외부 도구를 결합시켜주는 것

- python과 javascript를 지원

 

 

※ 참고: 랭체인으로 LLM 기반의 AI 서비스 개발하기[서지영 지음]