챗봇을 넘어 '행동하는 AI'로, RAG와 에이전트의 시대가 온다

아이언맨이 자비스와 소통하는 모습(제미나이 생성)

 

2022년 말, ChatGPT가 혜성처럼 등장했을 때를 기억하시나요? 우리는 영화 <아이언맨>의 인공지능 비서 '자비스'가 현실이 될 것이라며 열광했습니다. 하지만 막상 AI를 실무에 도입하려니 어떤가요? 회사의 내부 규정을 물어보면 엉뚱한 대답을 하거나, 없는 사실을 그럴듯하게 지어내는 '환각(hallucination)' 현상 때문에 난감했던 경험이 한 번쯤 있을 겁니다.

단순히 말을 잘하는 AI를 넘어, 미리 학습하지 않은 우리만의 최신 데이터를 토대로 정확하게 답변하고, 더 나아가 사용자 대신 업무를 처리해주는 AI는 어떻게 만들 수 있을까요? 그 해답인 RAG(검색 증강 생성)와 AI 에이전트 기술, 이를 가장 효과적으로 구현할 수 있는 도구인 라마인덱스(LlamaIndex)의 이야기를 시작해보려 합니다.

 

1. 오픈북 시험을 보는 AI, 'RAG'

LLM(대형 언어 모델)은 학습한 데이터 내에서만 답변을 생성합니다. 모르는 내용을 물어보면 그럴듯한 거짓말을 하기도 하죠. 이 문제를 해결하기 위해 등장한 기술이 바로 RAG(Retrieval-Augmented Generation)입니다. 쉽게 비유하자면 '오픈북 시험'과 같습니다. 학생(AI)이 시험을 볼 때 머릿속 지식으로만 답을 쓰는 것이 아니라, 도서관(지식 저장소)에서 관련 참고서를 찾아보고(retrieval) 그 내용을 바탕으로 답안을 작성(generation)하는 것입니다.

 

그림으로 배우면 더 쉽겠죠?

 

RAG를 적용하면 AI는 기업의 데이터베이스나 문서, 웹페이지 등 외부 지식 저장소에서 '팩트'를 찾아 답변하므로, 답변의 신뢰도가 비약적으로 상승합니다. 

 

2. 읽는 것을 넘어 행동하는 'AI 에이전트'

RAG가 정보를 잘 찾아주는 '똑똑한 사서'라면, 이제 기술은 스스로 계획하고 도구를 사용해 문제를 해결하는 에이전트(agent)로 진화하고 있습니다. 에이전트의 핵심은 추론(reasoning)과 행동(acting)의 반복, 즉 ReAct 전략입니다. 예를 들어, "와이파이가 안 돼요"라는 질문을 받았을 때 단순 AI와 에이전트의 차이는 명확합니다.

• 단순 AI: 일반적인 와이파이 고장 해결법 텍스트를 나열합니다.
• 에이전트:
      1. 생각(thought): 인터넷이 끊겼군. 공유기 문제인지 확인해야겠다.
      2. 행동(action): 공유기 상태 확인 도구 실행.
      3. 관찰(observation): 전원이 꺼져 있음을 확인.
      4. 행동(action): 재부팅 명령 실행.

이처럼 에이전트는 사용자의 목표를 달성하기 위해 검색, 계산기, API 호출 등 다양한 도구(Tool)를 능동적으로 사용하며 실질적인 업무 파트너가 되어가고 있습니다.

 

3. 그래서, 이걸 어떻게 구현하나요?

개념은 알겠는데 막상 구현하려니 개발자들의 고민은 깊어집니다.

"데이터는 어떻게 쪼개야(chunking) AI가 잘 이해할까?"
"단순 검색(BM25)과 벡터 검색 중 뭘 써야 할까?"
"복잡한 표나 이미지가 섞인 PDF 문서는 어떻게 처리하지?"

 

라마인덱스 로고

 

랭체인(LangChain)과 더불어 LLM 애플리케이션 개발의 양대 산맥으로 불리는 라마인덱스(LlamaIndex)는 바로 이런 고민에 최적화된 프레임워크입니다. 특히 데이터의 인덱싱과 검색 효율성에 강점이 있어, 방대한 문서를 다루는 RAG 시스템 구축에 강력한 성능을 발휘합니다.

 

4. 실무를 위한 완벽한 가이드, 《한 번에 끝내는 라마인덱스 × RAG × AI 에이전트》

이러한 기술적 흐름을 한 권에 담아, 기초부터 실전 배포까지 다루는 신간이 출간됩니다.

RAG와 에이전트를 한 번에 끝내자구요!

이 책은 단순히 코드를 따라 치는 튜토리얼이 아닙니다. "왜 이 문제에 RAG가 필요한가?"라는 질문에서 시작해, 실무에서 마주칠 수 있는 문제들을 해결하는 고급 기법들을 상세히 다룹니다.

 

이 책에서 다루는 핵심 내용

• RAG의 A to Z: 데이터 로드부터 벡터 스토어 구축은 기본, 검색 품질을 극대화하는 희소/밀집 검색(hybrid search)과 리랭킹(re-ranking) 기술을 다룹니다.
• 멀티모달(multi-modal) 확장: 텍스트뿐만 아니라 이미지와 표가 섞인 복잡한 PDF도 라마파스(LlamaParse)를 활용해 완벽하게 처리하는 멀티모달 RAG를 구현합니다.
• 살아있는 에이전트 구현: 스스로 생각하고 판단하는 ReAct 에이전트와 외부 API를 제어하는 Function Calling 기술을 통해 진짜 '비서' 같은 AI를 만듭니다.
• 내 손으로 만드는 웹 앱: 단순히 콘솔 창에서 끝나는 것이 아니라, 스트림릿(Streamlit)과 그라디오(Gradio)를 이용해 실제 사용자가 쓸 수 있는 웹 애플리케이션까지 배포해봅니다.

 

우리는 더 이상 AI를 ‘그냥 쓰는 사람’에 머무를 수 없습니다.
이제는 AI를 이해하고, 설계하며, 목적에 맞게 조율할 줄 아는 사람으로 거듭나야 합니다.

_머리말 중에서

LLM을 활용해 나만의 데이터로 신뢰할 수 있는 서비스를 만들고 싶은 개발자라면, 《한 번에 끝내는 라마인덱스 × RAG × AI 에이전트》가 가장 확실한 출발점이 되어줄 것입니다.

 

 

 

■ 미리보기(앞부속, 차례, 추천사, 베타리더 후기, 머리말, 본문 일부)

 

■ 도서구매 사이트(가나다순)

[교보문고]  [도서11번가]  [알라딘]  [예스이십사]  [쿠팡]

■ 제이펍 소식 더 보기(제이펍의 소통 채널에서 더욱 다양한 소식을 확인하세요!)

블로그  유튜브  인스타그램  트위터  페이스북