AI 에이전트란 무엇인가
챗봇과 뭐가 다르고, 왜 하필 지금 뜨는가
① 챗봇과 에이전트의 차이는 성능이 아니라 반복 구조다. 챗봇은 질문 하나에 답 하나로 끝나지만, 에이전트는 목표를 던지면 사람 개입 없이 스스로 여러 단계를 돌며 처리한다.
② 이 반복을 가능하게 하는 건 함수 호출(툴 유즈) 하나다 — 모델이 외부 프로그램을 직접 실행하고, 그 결과를 다시 입력으로 받아 다음 행동을 정하는 루프.
③ 에이전트가 늘리는 건 지능이 아니라 추론 요청의 총량이다. 질문 1개가 API 호출 수십 건이 되니, AI 인프라 수요 구조가 이 지점에서 크게 바뀐다.
① 들어가며 — 챗봇과 에이전트, 경계선이 어디인가
"에이전트"라는 말이 2025년 이후 부쩍 자주 보인다. 그런데 정의를 물으면 대답이 제각각이다. 어떤 사람은 "말을 잘 알아듣는 챗봇"이라 하고, 어떤 사람은 "혼자 일하는 AI 직원"이라 한다. 둘 다 틀린 건 아니지만 핵심을 비껴간다.
경계선은 능력 차이가 아니라 구조 차이다. LLM 작동 원리에서 다뤘듯, 모델이 하는 일은 원래 "입력을 받아 다음 토큰을 예측"하는 것뿐이다. 챗봇은 이 과정을 한 번 돌리고 사람에게 결과를 넘긴다. 에이전트는 이 과정을 반복하는 틀을 씌운 것이다 — 모델의 출력이 "답변"이 아니라 "다음에 할 행동"이 되고, 그 행동의 결과가 다시 모델의 입력으로 들어간다.
| 구분 | 챗봇 | 에이전트 |
|---|---|---|
| 상호작용 | 질문 → 답변, 1왕복 | 목표 제시 → 완료까지 자동 반복 |
| 사람의 역할 | 매 턴 직접 개입 | 시작 지시 + (선택적) 중간 승인 |
| 모델 출력의 의미 | 사용자에게 보여줄 최종 답 | 다음에 실행할 행동(도구 호출) |
| 외부 세계 접근 | 없거나 읽기 전용 검색 | 실행 권한(파일 수정, 결제, 예약 등) |
| 실패 시 파급력 | 틀린 문장 하나 | 잘못된 행동이 여러 단계로 누적 |
② 에이전트를 이루는 세 가지 요소
겉모습은 화려해 보이지만, 에이전트를 뜯어보면 세 가지 부품으로 압축된다.
1. 함수 호출 (도구 사용)
모델이 "이 함수를 이 값으로 호출하라"는 형태의 텍스트를 출력하면, 주변 프로그램이 그걸 실제로 실행하고 결과를 다시 모델에게 돌려준다. 모델 입장에서는 여전히 "다음 토큰 예측"을 하고 있을 뿐이다. 다만 그 토큰이 사람이 읽는 문장이 아니라 프로그램이 읽는 명령이라는 게 달라진 전부다.
2. 계획 — 목표를 단계로 쪼개기
"파리행 항공권 중 가장 싼 걸 예약해줘"라는 목표를 받으면, 에이전트는 이걸 한 번에 처리하지 못한다. 검색하고, 비교하고, 선택하고, 예약하는 여러 단계로 스스로 쪼갠다. 이 쪼개는 능력 자체도 모델이 텍스트로 생성하는 것이다 — "먼저 A를 하고, 그 결과를 보고 B를 할지 C를 할지 정하겠다"는 계획을 모델이 직접 써낸다.
3. 루프 — 결과를 보고 다음을 정하기
함수를 호출한 결과가 다시 모델의 입력에 붙는다. 검색 결과가 기대와 다르면 다른 검색어로 재시도하고, 성공하면 다음 단계로 넘어간다. 이 루프가 몇 번이고 반복되다가, 모델 스스로 "목표를 달성했다"고 판단하면 멈춘다. 사람이 정지 시점을 정해주지 않는다는 점이 챗봇과의 결정적 차이다.
함수 호출은 오래된 프로그래밍 개념이고, 계획-실행 루프도 로보틱스에서 수십 년 써온 구조다. 2025~26년에 갑자기 뜬 이유는 이 세 가지를 하나로 묶어줄 만큼 모델의 판단력이 좋아졌기 때문이다. 이전 세대 모델은 계획을 세워도 중간에 엉뚱한 길로 새는 경우가 많아 실용성이 낮았다.
③ 실제로 어떻게 동작하나 — 시나리오로 보기
"여행 일정 짜줘, 예산 150만 원 안에서"라는 요청을 받은 에이전트의 내부는 대략 이렇게 흘러간다.
| 단계 | 모델이 하는 일 |
|---|---|
| 1 | 요청을 하위 작업으로 분해 — 항공권, 숙소, 예산 배분 순으로 계획 수립 |
| 2 | 항공권 검색 API를 호출 (함수 호출 발생) |
| 3 | 검색 결과를 입력으로 받아 예산 대비 적정성 판단 |
| 4 | 남은 예산으로 숙소 검색 API를 호출 — 앞 단계 결과가 이번 호출의 조건을 결정 |
| 5 | 항공권+숙소 조합이 예산을 넘으면 1단계로 돌아가 조건을 바꿔 재검색 |
| 6 | 조건을 만족하면 사용자에게 최종안을 제시 (또는 설정에 따라 바로 예약 실행) |
주목할 지점은 5번이다. 처음 계획이 틀렸다는 걸 스스로 발견하고 되돌아가는 것 — 이게 챗봇에는 없는 동작이다. 챗봇이라면 "예산 초과예요"라는 문장 한 줄로 끝난다. 에이전트는 그 문장 대신 재검색이라는 행동을 한다.
④ 왜 하필 지금 뜨는가
함수 호출 자체는 2023년부터 있었다. 그런데 실용적인 에이전트가 쏟아지기 시작한 건 2025년 이후다. 세 가지가 겹친 결과로 보는 게 정확하다.
- 컨텍스트 확대 — 처리할 수 있는 입력 길이가 늘면서, 계획·검색결과·중간 판단을 전부 담고도 대화가 끊기지 않게 됐다
- 툴 유즈 표준화 — 모델 제공사마다 다르던 함수 호출 방식이 업계 공통 규격으로 정리되면서, 개발자가 도구를 훨씬 쉽게 연결할 수 있게 됐다
- 판단력 향상 — "지금 상황에서 계획을 계속 밀고 나갈지, 되돌아갈지"를 스스로 판단하는 정확도가 실용 수준을 넘었다
⑤ 투자 관점 — 에이전트가 늘리는 건 '추론 수요'다
AI는 어떻게 만들어지나에서 학습 수요와 추론 수요가 다른 사이클로 움직인다고 설명했다. 에이전트는 정확히 추론 쪽을 크게 밀어올리는 구조다.
사람이 챗봇에 질문 하나를 던지면 모델 호출은 1회다. 같은 사람이 에이전트에 목표 하나를 던지면, 위 시나리오처럼 계획·검색·판단·재검색을 거치며 모델 호출이 수십 회로 불어난다. 사용자 수가 그대로여도, "사용자당 발생하는 추론 요청량" 자체가 구조적으로 커지는 것이다.
AI 인프라 기업 실적에서 "에이전틱 워크로드"라는 표현이 늘고 있다면, 이건 추론 수요가 사용자 수 증가가 아니라 사용자당 요청 증가로도 커질 수 있다는 신호다. 이 구조가 실제 자본지출로 어떻게 이어지는지는 AI 순환금융 분석에서, 그 수요를 받아내는 하드웨어 쪽 구조는 반도체 섹터 심층 분석에서 각각 다뤘다.
⑥ 에이전트의 대가 — 자율성이 늘어난 만큼 커지는 위험
챗봇의 실수는 문장 하나로 끝난다. 사람이 읽고 판단해서 걸러낸다. 에이전트의 실수는 행동으로 이어진다. 잘못된 판단이 다음 단계의 입력이 되고, 그 위에 또 행동이 쌓인다 — AI 환각이 챗봇에서는 "틀린 문장"이지만 에이전트에서는 "잘못된 예약, 잘못된 파일 수정, 잘못된 결제"가 될 수 있다는 뜻이다.
여기에 더해 에이전트만의 위험이 하나 추가된다. 에이전트가 처리하는 검색 결과·문서·웹페이지 안에 사람이 아닌 공격자가 심어놓은 지시문이 섞여 있을 수 있다. 모델은 그 지시문과 원래 사용자의 지시를 구조적으로 구분하지 못한다 — 이걸 프롬프트 인젝션이라 부르며, 에이전트에게 실행 권한을 얼마나 줄지를 정할 때 가장 먼저 고려해야 하는 위험이다. 이 공격이 정확히 어떻게 작동하는지는 프롬프트 인젝션과 AI 보안에서 자세히 다룬다.
에이전트에게 맡길 일과 사람이 직접 확인해야 할 일을 나누는 기준은 "실행이 되돌릴 수 있는가"다. 정보 검색·초안 작성·비교 분석처럼 되돌리기 쉬운 일은 자율성을 넉넉히 줘도 되지만, 결제·발송·삭제처럼 되돌리기 어려운 실행은 사람의 최종 승인 단계를 반드시 남겨두는 것이 현재로선 가장 안전한 선이다.
챗봇은 질문에 답하고, 에이전트는 목표를 받아 스스로 반복하며 처리한다. 이 반복을 가능하게 하는 건 함수 호출 하나뿐이고, 나머지(계획·루프)는 그 위에 얹힌 구조다. 그리고 이 구조가 커질수록 늘어나는 건 지능이 아니라 추론 요청량과 잘못됐을 때의 파급력 둘 다라는 걸 기억해두면 된다.
※ 본 글은 2026년 8월 기준 공개된 AI 에이전트 기술의 일반적인 구조를 설명합니다. 개별 상용 제품의 구현 방식은 다를 수 있으며, 본문의 기업 언급은 구조 설명을 위한 예시로 투자 권유가 아닙니다.
※ 본 가이드는 일반 교육 목적의 참고 자료이며, 이해를 돕기 위해 기술적 세부사항을 단순화했습니다.
새 가이드가 나오면 알려드립니다
AI 리터러시 가이드는 주 2회 발행합니다. 구독하시면 다음 편을 메일로 보내드립니다. 무료이고 언제든 해지할 수 있습니다.