초보자를 위한 LangChain & LangGraph 가이드

LangChain과 LangGraph를 활용해 초보자도 손쉽게 AI 에이전트를 만들고 활용하는 방법을 소개합니다.

초보자를 위한 LangChain & LangGraph 완벽 가이드

1. 왜 요즘 Agentic AI가 주목받는가?

2023년 이후 ChatGPT 같은 생성형 AI(Generative AI)가 대중화되면서, 이제는 단순히 답변을 만들어내는 것만으로는 부족하다는 목소리가 커지고 있습니다. 사람들은 AI가 단순히 “질문 → 답변”을 주고받는 수준을 넘어서, 스스로 목표를 설정하고 여러 단계를 거쳐 문제를 해결하는 방식을 원하게 되었죠.

이런 흐름 속에서 등장한 개념이 바로 Agentic AI(에이전틱 AI, AI 에이전트)입니다. Agentic AI는 사용자가 명령하지 않아도 목표 달성을 위해 알아서 정보를 수집하고, 판단하며, 필요한 도구를 활용하는 자율적 AI 시스템을 뜻합니다. 즉, ChatGPT가 “똑똑한 대화형 비서”였다면, Agentic AI는 “스스로 움직이고 일하는 실행형 비서”라고 볼 수 있습니다.

ChatGPT와 뭐가 다른 걸까?

많은 분들이 “이미 ChatGPT가 있는데, Agentic AI는 뭐가 다르지?”라고 묻습니다. 가장 큰 차이는 자율성과 기억력입니다. 쉽게 말해, ChatGPT는 대답하는 AI, Agentic AI는 일을 대신하는 AI입니다.

• ChatGPT: 매번 프롬프트에 의존합니다. “이 노트북이 좋아?” → 답변. 다시 “그럼 가격은?” → 앞의 대화를 잘 기억 못 하거나 제한적으로만 기억합니다.

• Agentic AI: 사용자의 목표를 이해하고 여러 단계를 거쳐 스스로 문제를 해결합니다. 예를 들어, “내 예산에 맞는 프로그래밍용 노트북 추천해줘”라고 하면, 웹 검색으로 후보 수집, 사양·가격 비교, 이전 대화에서 사용자가 선호했던 조건 반영, 최종 추천 결과 제시까지 전 과정을 자동으로 수행합니다.

이 글에서는 초보자도 이해할 수 있도록 LangChain과 LangGraph라는 두 가지 핵심 프레임워크를 소개합니다. 이들은 Agentic AI를 구현하는 데 널리 쓰이는 툴로, “AI가 어떻게 스스로 사고하고 행동하는지”를 이해할 수 있게 해줍니다.

이 글을 통해,

• Agentic AI의 기본 개념과 필요성을 이해하고,

• LangChain의 구성 요소(Chains, Agents, Tools, Memory)를 배우며,

• LangGraph를 활용해 복잡한 워크플로우를 다루는 방법을 익실 수 있고,

• 실제로 작은 연구 보조 AI 에이전트를 직접 만들어보는 과정을 경험할 수 있습니다.

앞으로 이어질 글에서는 이 개념들이 어떻게 실제 코딩과 연결되는지 하나하나 살펴보겠습니다.

2. Agentic AI란 무엇인가?

기존 LLM(언어 모델)의 한계

ChatGPT와 같은 기존 대형 언어 모델(LLM, Large Language Model)은 놀라운 수준의 대화 능력을 보여주지만, 근본적인 한계가 있습니다:

1) 기억을 못 한다:  대화 중 짧은 맥락은 기억할 수 있지만, 이전 대화나 장기적인 목표는 잘 기억하지 못합니다. 예를 들어 “지난주에 추천해 준 책 다시 알려줘”라고 하면, 대부분의 LLM은 기억하지 못합니다.

2) 스스로 움직이지 못한다: LLM은 항상 사용자의 프롬프트(질문이나 요청)가 있어야만 반응합니다. 즉, AI 스스로 정보를 찾거나 작업을 이어가는 능력이 부족합니다. 결국 기존 LLM은 “질문 → 답변”의 틀을 벗어나지 못해, 복잡한 실제 업무를 자동화하기에는 한계가 있었던 것이죠.

Agentic AI의 정의

이 한계를 극복하기 위해 등장한 개념이 바로 Agentic AI입니다. Agentic AI는 언어 모델을 기반으로 하지만, 단순히 답변을 생성하는 것을 넘어서 자율적으로 목표를 달성하는 AI를 의미합니다.

핵심 특징은 네 가지로 요약할 수 있습니다:

1) 자율성 (Autonomy): 사용자가 일일이 지시하지 않아도 목표를 이해하고 스스로 행동합니다. (예, “내일 회의 자료 정리해줘” → 자료 수집, 요약, 문서 작성까지 처리)

2) 도구 활용 (Tool Use): 외부 API, 웹 검색, 데이터베이스, 파일 시스템 등을 호출해 필요한 작업을 직접 실행합니다.

3) 기억 (Memory): 단순 대화 기록이 아닌 단기/장기 기억을 유지합니다. 이전에 선호한 조건이나 작업 히스토리를 반영해 더 자연스럽게 이어지는 경험을 제공합니다.

4) 추론 (Reasoning): 복잡한 문제를 여러 단계로 나누고 논리적으로 해결합니다. 상황에 맞춰 계획을 세우고, 필요하면 다시 검증하거나 반복 실행합니다. 즉, Agentic AI는 “대답하는 AI”가 아니라 “일을 대신 처리해주는 AI”라고 할 수 있습니다.

일상 속 예시

Agentic AI라고 해서 거창한 연구실 기술만 떠올릴 필요는 없습니다. 이미 우리의 일상에서 활용될 수 있는 구체적 사례들이 있습니다:

1) 여행 일정 짜주는 AI: 3박 4일 일본 오사카 여행 계획 짜줘”라고 요청하면,

 

• 항공편과 숙소 검색
• 관광지와 맛집 추천
• 동선 최적화 및 일정표 작성까지를 한 번에 자동으로 수행할 수 있습니다.

2) 자동 이메일 비서

• 받은 메일을 읽고 요약
• 중요도에 따라 답장 초안 작성
• 일정과 연동해 회의 예약까지 진행 등, 단순 ‘메일 답변 생성’이 아닌 업무 비서 역할을 할 수 있습니다.

이처럼 Agentic AI는 사람이 매번 클릭하고 조율해야 했던 반복 업무를 대신 처리해 주는 도구로 발전하고 있습니다

3. LangChain: 에이전트의 뼈대

초보자 관점에서 보는 LangChain

Agentic AI를 만들려면 단순히 언어 모델(LLM)만으로는 부족합니다. LLM은 뇌(brain) 역할을 하지만, 실제로 움직이고 기억하며 도구를 쓰려면 뼈대와 장치가 필요하죠. 이때 필요한 것이 바로 LangChain입니다.

LangChain은 쉽게 말해, “레고 블록을 조립하듯 AI 기능을 연결할 수 있는 프레임워크”입니다. 개발자가 일일이 모든 기능을 처음부터 구현하지 않아도, 미리 준비된 블록(Chains, Tools, Memory 등)을 끼워 맞춰서 자신만의 AI Agent를 만들 수 있습니다.

LangChain의 핵심 구성요소

1) Chains (체인) – 단계별 파이프라인

하나의 입력을 받아 여러 단계를 거쳐 출력으로 변환하는 파이프라인입니다. 질문 입력 → 웹 검색 실행 → 결과 요약 → 최종 답변 출력 둥의 체인으로 “AI가 일을 처리하는 절차”라고 이해하면 쉽습니다.

2) Agents (에이전트) – 스스로 선택하는 AI

기존 체인은 고정된 순서대로만 실행되지만, Agent는 상황에 따라 다음 행동을 스스로 선택합니다. “날씨 알려줘”라고 하면, Agent는 먼저 “검색 도구”를 선택해 날씨 API를 호출하고, 결과를 요약해 답변합니다. 즉, Agent = 똑똑한 진행자로서, 어떤 블록(도구/체인)을 사용할지 결정합니다.

3) Tools (도구) – 외부 기능 호출

LangChain의 진짜 강점은 도구 사용입니다. AI가 단순히 말만 하는 것이 아니라 외부 API, 계산기, 데이터베이스, 검색 엔진을 활용할 수 있습니다. 계산기 도구 → 수학 문제 풀기, Google Search API → 최신 뉴스 검색, SQL 데이터베이스 → 내부 데이터 조회 등 이런 AI Tools는 “AI의 손과 발” 역할을 합니다.

4) Memory (기억) – 맥락 유지

기존 ChatGPT는 대화 중 맥락을 잊어버리는 경우가 많습니다. LangChain은 단기/장기 기억을 통해 대화를 이어가고, 이전에 다룬 데이터를 다시 불러올 수 있습니다. Memory는 “AI의 기억력”을 담당합니다.

• 단기 기억: “앞에서 추천한 노트북 다시 비교해줘”
• 장기 기억: “지난달에 작성한 리포트와 이번 자료를 합쳐줘”

 LangChain은 단순히 답변하는 AI를 “실제로 일할 수 있는 에이전트”로 바꿔주는 기본 골격으로, 아래처럼 인간의 기능에 비유해 볼 수 있습니다.

• LLM = 두뇌
• LangChain = 뼈대 (전체 구조를 잡아줌)
• Chains = 근육(순서대로 움직이는 힘)
• Agents = 의사결정 신경망 (어떤 행동을 할지 선택)
• Tools = 손발 (실제 기능 수행)
• Memory = 기억력

4. LangGraph: 에이전트의 두뇌

왜 LangChain만으로는 부족할까?

LangChain만으로도 에이전트를 만들 수 있지만, 한계가 있습니다.

LangChain은 “블록 조립”에 가깝습니다. → 순서대로 일을 시키거나, Agent가 상황에 따라 도구를 선택하는 정도를 나타냅니다. 하지만 현실의 업무는 단순하지 않죠. 검색 결과가 충분하지 않으면 다시 검색해야 하고, 조건에 따라 다른 도구를 선택해야 하며, 여러 에이전트가 협업해야 할 때도 있습니다.

이런 복잡한 흐름(분기, 반복, 협업)을 다루려면 더 정교한 “두뇌 회로”가 필요합니다. 그래서 나온 것이 바로 LangGraph입니다. 

LangGraph의 역할: 복잡한 흐름 관리

LangGraph는 LangChain 위에 얹혀 동작하는 그래프 기반 워크플로우 엔진입니다. 즉, 에이전트가 단순히 “앞 → 뒤”로 가는 것이 아니라, 조건에 따라 분기하고(loop), 여러 경로를 협업할 수 있도록 도와줍니다. 한 마디로, LangGraph는 에이전트의 네비게이션 지도 같은 역할을 합니다.

• 반복(Loop): 결과가 부족하면 다시 시도
• 분기(Branch): 조건에 따라 다른 실행 경로 선택
• 협업(Coordination): 여러 개의 에이전트가 함께 일하도록 설계

핵심 개념

1) Nodes (노드, 작업 단계) : 각각의 작업 단계를 의미합니다. 예: “검색하기”, “요약하기”, “저장하기” 같은 단계가 각각 노드가 됩니다.

2) Edges (엣지, 연결 경로): 노드와 노드를 연결하는 길입니다. 예: “검색하기 → 요약하기 → 저장하기”라는 순서가 엣지로 연결됩니다.

3) States (상태와 기억): 에이전트가 현재 어디까지 진행했는지, 어떤 데이터를 들고 있는지 저장합니다. 예: “사용자가 요청한 주제 = ‘AI 에이전트’ / 검색 결과 = 5개 / 요약 = 완료됨”. States 덕분에 에이전트는 긴 프로세스에서도 맥락을 잃지 않고 일관성 있게 작업할 수 있습니다.

4) 조건부 전환 (Conditional Transitions): 단순히 한 방향으로만 흐르는 것이 아니라, 조건(if/else)에 따라 경로를 바꿀 수 있습니다. “검색 결과가 부족하다면 → 다시 검색”, “사용자가 예산을 입력했다면 → 가격 필터 적용”, 이런 조건부 전환 덕분에 에이전트는 더 현실적인 문제 해결 능력을 갖추게 됩니다.

LangChain 이 자동차에서 엔진과 뼈대를 담당한다면, LangGraph 는 네비게이션(길 안내 시스템)인 셈입니다. 자동차만 있어도 달릴 수는 있지만, 길을 모르면 헤매게 되죠. LangGraph는 “어디로 가야 할지, 상황에 따라 우회할지, 반복해서 탐색할지”를 알려주는 두뇌 회로라고 할 수 있습니다.

5. LangChain + LangGraph 실제 사례

LangChain과 LangGraph를 함께 쓰면, 단순한 대화형 챗봇을 넘어서 실제로 일을 대신해주는 에이전트를 만들 수 있습니다.  몇 가지 대표적인 활용 사례를 살펴보죠.

1) 연구 보조 AI – 검색 → 요약 → 저장

연구자는 보통 하루 종일 논문, 기사, 리포트를 검색해야 하는데, LangChain과 LangGraph를 조합하면 이런 워크플로우를 통해 자동화가 가능합니다.

• 검색 노드(Search): SerpAPI 같은 검색 API로 원하는 자료를 찾음
• 요약 노드(Summarize): 찾은 자료를 LLM이 자동 요약
• 저장 노드(Store): 요약본을 메모리에 저장, 나중에 불러올 수 있음
• 응답 노드(Respond): 최종적으로 정리된 리포트를 출력

이렇게 하면 “AI 연구 비서”처럼 원하는 주제의 정보를 수집하고 정리해주는 멀티스텝 에이전트를 완성할 수 있습니다.

2) 여행 플래너 – 검색 API + 지도 API 연동

“이번 여름에 도쿄 여행 3박 4일 코스를 짜줘”라고 하면, 단순히 관광지를 나열하는 게 아니라:

• 검색 API: 최신 여행지 정보와 블로그 후기 수집
• 지도 API: 이동 경로와 교통편 계산
• 조건부 전환: 사용자의 예산/취향(맛집 위주, 역사 유적 위주)에 따라 코스 조정
• 메모리: 사용자가 지난번에 “나는 박물관보다 음식점을 선호한다”고 입력한 내용을 기억

결과적으로, 사람처럼 맞춤형 여행 일정을 짜주는 AI 여행 플래너가 탄생합니다.

3) 고객지원 에이전트 – FAQ + 대화 맥락 기억

기업의 고객센터에서 가장 많이 쓰일 수 있는 사례입니다.

• FAQ 데이터 연동: 자주 묻는 질문을 빠르게 검색해 답변
• 대화 맥락 기억: “아까 말한 주문 번호 다시 알려줄래요?” 같은 질문도 이해
• 조건부 흐름: 단순 질문은 AI가 처리, 복잡한 이슈는 사람 상담원에게 넘김

기존의 단순 챗봇과 달리 대화 맥락을 기억하고, 실제 문제 해결까지 이어지는 완전한 고객지원 파이프라인이 가능합니다.

4) 기업 내부 도구 – 보고서 자동 작성, 일정 관리

대기업은 매일 수많은 보고서와 회의 일정으로 가득합니다. LangChain + LangGraph 에이전트는 이런 반복 작업을 자동화할 수 있습니다.

• 보고서 작성: 사내 데이터베이스에서 자료를 가져와 자동 요약 후 보고서 초안 작성
• 일정 관리: 캘린더 API와 연동해 회의 일정을 자동으로 잡아줌
• 조건부 전환: 중복 일정이 있으면 대안을 제안

직원들이 반복적으로 하는 단순 업무를 줄여주어, 더 중요한 일(전략, 창의적 기획)에 집중할 수 있도록 돕습니다.

 

6. 따라 해보기: 나만의 미니 리서치 에이전트

이제 개념만 아는 것이 아니라, 직접 간단한 리서치 에이전트를 만들어보면 Agentic AI가 어떻게 동작하는지 확실히 이해할 수 있습니다. 여기서는 LangChain + LangGraph + LLaMA2를 이용한 미니 프로젝트를 소개합니다.

1) 환경 준비하기

먼저 Python 환경을 준비하고, 필요한 라이브러리를 설치합니다.

pip install langchain langgraph langchain_ollama langchain-community

• langchain: LLM 기반 애플리케이션 제작 프레임워크
• langgraph: 그래프 기반으로 워크플로우를 설계할 수 있는 도구
• langchain_ollama: 로컬에서 LLaMA2 같은 오픈소스 모델 실행 가능
• langchain-community: 커뮤니티에서 만든 다양한 API/툴 모음

만약 langchain_ollama 설치가 잘 안 되면 아래 명령어로 재시도하세요.

pip install -U langchain_ollama

2) API 키 설정

웹 검색을 위해 SerpAPI를 사용할 수 있습니다.

• SerpAPI 공식 사이트 가입
• 대시보드에서 API Key 복사
• 터미널에서 환경 변수 설정

Windows:

setx SERPAPI_API_KEY=your-serpapi-key

Mac/Linux:

export SERPAPI_API_KEY=your-serpapi-key

3) 코드 작성

이제 Python 파일(research_agent.py)을 만들어 아래 코드를 입력해보세요.

import os from langchain_community.utilities import SerpAPIWrapper from langchain_ollama import ChatOllama from langchain.prompts import PromptTemplate from langchain.chains import LLMChain from langgraph.graph.state import StateGraph from typing import TypedDict # API 키 불러오기 SERPAPI_API_KEY = os.getenv(“SERPAPI_API_KEY”) search = SerpAPIWrapper(serpapi_api_key=SERPAPI_API_KEY) # 로컬 LLM 초기화 (LLaMA2 실행) llm = ChatOllama(model=”llama2″, temperature=0) # 상태 저장 구조 정의 class ResearchState(TypedDict, total=False): query: str search_results: str summary: str response: str # 단계별 함수 정의 def search_handler(state): query = state.get(“query”, “AI Agentic AI trend 2025”) state[“search_results”] = search.run(query) return state def summarize_handler(state): prompt = PromptTemplate( input_variables=[“text”], template=”Summarize the following text in 3 sentences:\n\n{text}” ) chain = prompt | llm result = chain.invoke({“text”: state[“search_results”]}) state[“summary”] = result.content if hasattr(result, “content”) else str(result) return state def respond_handler(state): state[“response”] = f”최종 요약 결과:\n{state[‘summary’]}” return state # 그래프 구성 graph = StateGraph(state_schema=ResearchState) graph.add_node(“search”, search_handler) graph.add_node(“summarize”, summarize_handler) graph.add_node(“respond”, respond_handler) graph.set_entry_point(“search”) graph.add_edge(“search”, “summarize”) graph.add_edge(“summarize”, “respond”) # 실행 agent = graph.compile() final_state = agent.invoke({“query”: “Agentic AI 최신 동향”}) print(final_state[“response”])

4) 실행 결과

위 코드를 실행하면, 다음과 같은 결과를 얻을 수 있습니다:

최종 요약 결과: – Agentic AI는 단순 챗봇을 넘어, 자율성과 기억을 바탕으로 복잡한 작업을 처리하는 기술. – LangChain과 LangGraph를 활용해 검색 → 요약 → 저장 워크플로우를 자동화할 수 있음. – 2025년 현재, 기업·교육·개인 생산성 도구 전반에서 빠르게 확산 중.

이렇게 검색 → 요약 → 답변의 미니 리서치 에이전트를 만들 수 있습니다.

5) 확장 아이디어

• 여행 플래너 에이전트: 구글 지도 API 연결
• 자동 이메일 요약기: Gmail API 연동
• 스터디 어시스턴트: PDF 문서를 불러와 요약

7. 앞으로의 가능성과 한계

어디까지 발전할 수 있을까?

Agentic AI는 단순히 답변만 해주는 도구에서 벗어나, 스스로 계획하고 실행하며 학습하는 지능형 동반자로 진화하고 있습니다. 이미 일부 연구자들은 이를 자율주행 자동차의 발전 단계에 비유합니다. 지금은 레벨 2~3 (부분적 자율성) 단계에 머물고 있지만, 특정 영역(예: 고객 지원, 자동 보고서 작성)에서는 레벨 4(높은 자율성) 수준의 성과를 보여주고 있습니다.

앞으로는 멀티에이전트 협업, 실시간 데이터 기반 의사결정, 복합적 비즈니스 프로세스 자동화 등으로 발전할 가능성이 큽니다. 예를 들어, 마케팅, 재무, 운영 담당 에이전트들이 동시에 협력해 하나의 전략을 실행하는 세상도 머지않아 다가올 수 있습니다.

현재의 한계: 복잡한 상황은 아직 힘듦

하지만 과대평가해서는 안 되는 지점도 있습니다. “모든 것을 자동화한다”는 환상보다는, 반복적이고 규칙 기반의 업무부터 단계적으로 도입하는 접근이 필요합니다.

• 복잡하고 모호한 문제: 아직은 인간의 창의적 사고와 직관이 필요한 문제를 완전히 대체하기 어렵습니다.
• 지속적 기억의 한계: LangChain, LangGraph 같은 프레임워크를 통해 메모리를 보완하지만, 장기적인 맥락 이해는 제한적입니다.
• 신뢰성과 오류: Agentic AI도 결국 LLM에 기반하기 때문에 환각(hallucination) 문제나 의도치 않은 행동을 일으킬 수 있습니다.
• 보안과 개인정보: 업무 자동화를 위해 API와 시스템을 연결할수록 보안 취약점이 늘어나고, 기업 데이터 유출 리스크가 커집니다.

기업과 개인이 준비해야 할 점

Agentic AI가 확산되면서 준비해야 할 전략은 다음과 같습니다:

기업

• AI 도입 목표를 명확히 정의 (비용 절감? 효율성? 새로운 비즈니스 창출?)
• 작은 파일럿 프로젝트로 시작해 점차 확장
• AI 거버넌스 체계를 마련하여 보안·윤리·데이터 품질 관리 강화
• “AI-네이티브” 관점에서 기존 프로세스를 재설계

개인

• 단순 사용자가 아닌, AI 활용자 → AI 설계자로 성장하는 학습 필요
• 반복 업무를 에이전트에게 위임하고, 본인은 창의·전략·협업 역량 강화
• 기본적인 프롬프트 엔지니어링과 노코드·로우코드 툴 학습을 통해 업무 적용

Agentic AI는 지금도 빠르게 발전하고 있고, 앞으로는 기업과 개인 모두에게 생산성 혁신을 가져올 수 있는 강력한 기술입니다. 그러나 동시에 신뢰성, 보안, 윤리적 한계도 분명 존재합니다. 따라서 “AI가 모든 걸 해준다”는 기대보다는, AI와 사람이 협력하는 새로운 업무 패러다임을 준비하는 것이 가장 현실적인 접근입니다.

8. 이제 AI 에이전트를 직접 만들어볼 수 있습니다!

초보자가 LangChain & LangGraph로 얻을 수 있는 이점

LangChain과 LangGraph는 이름만 들으면 어렵게 느껴질 수 있지만, 실제로는 AI 에이전트를 쉽게 조립할 수 있는 도구 세트입니다. 초보자에게 주는 가장 큰 장점은 다음과 같습니다:

• 노코드·로우코드 친화적: 복잡한 알고리즘을 몰라도 기본적인 API 호출과 워크플로우 설계만으로 충분히 시작할 수 있습니다.
• 구조적인 학습 경험: LangChain은 “뼈대”, LangGraph는 “두뇌” 역할을 하며, 단계별로 AI가 어떻게 작동하는지 감을 잡을 수 있습니다.
• 빠른 성과 체험: 몇 줄의 코드만 작성해도 “검색 → 요약 → 응답” 같은 에이전트를 바로 실행해볼 수 있어, 성취감을 빠르게 얻습니다.
• 현업 응용 가능성: 고객지원 챗봇, 일정 관리 비서, 자료 조사 도우미 등 작은 프로젝트부터 바로 업무에 활용할 수 있습니다.

AI 에이전트는 더 이상 먼 미래의 기술이 아닙니다. 몇 가지 도구와 기본 개념만 이해하면 누구나 직접 에이전트를 설계하고 실행할 수 있습니다. 처음에는 단순한 연구 보조 도구나 일정 관리 비서부터 시작해보세요. 작은 성공 경험이 쌓이면, 점차 복잡한 프로젝트에도 도전할 수 있습니다.

이제는 단순히 AI를 “사용하는 사람”이 아니라, AI를 “설계하고 활용하는 메이커”로 성장할 차례입니다.

[참고자료]

• Codecademy, How to Build Agentic AI with LangChain and LangGraph
• Financial Times, AI is moving from “co-pilot” to “autopilot”
• McKinsey Report – The State of AI in 2025
• LangGraph 공식 GitHub
• n8n 워크플로우 자동화 – 비개발자도 활용 가능한 오픈소스 자동화 툴
• CrewAI – 멀티 에이전트 협업을 실험할 수 있는 플랫폼
• Agentic AI와 MCP가 여는 금융서비스의 미래 – 모두의 팬! MOFAN