블로그 목록으로

 · 플랫폼 AX · 읽는 시간 약 9분

AI 에이전트란 무엇인가

‘AI 에이전트’라는 말이 어디에나 붙습니다. 챗봇도 에이전트라 부르고, 자동화 스크립트도 에이전트라 부르고, 며칠씩 혼자 일하는 시스템도 에이전트라 부릅니다. 말이 넓어질수록 정작 무엇을 만들고 무엇을 사야 하는지는 흐려집니다. 이 글에서는 AI 에이전트를 말의 뜻과 기술 구조 양쪽에서 정의하고, 업무에 들일 때 무엇을 따져야 하는지 정리합니다.

한 문장 정의

AI 에이전트는 위임받은 목표를 이루기 위해 환경을 지각하고, 다음 행동을 스스로 정하고, 도구로 환경을 바꾸는 일을 목표를 이룰 때까지 반복하는 시스템입니다.

실무에서는 더 짧게 말합니다.

에이전트 =

LLM
+
도구
+
반복 루프
+
목표

이 정의의 열쇠는 두 단어, "위임"과 "반복"입니다. 하나씩 풀어 보겠습니다.


말의 뜻: 에이전트는 '대리인'이다

에이전트(agent)는 라틴어 agere, "행하다"에서 왔습니다. 그래서 첫 번째 뜻은 행위자입니다. 그런데 법률과 경제학에서 에이전트는 대리인, 곧 남의 목표를 대신 수행하는 사람을 뜻합니다. 부동산 에이전트, 스포츠 에이전트가 그렇습니다.

업무용 AI 에이전트를 이해할 때는 이 두 번째 뜻이 더 중요합니다. AI 에이전트는 사람이 위임한 일을 대신 하는 대리인입니다.

경제학의 '본인-대리인 문제(Principal–Agent Problem)'는 사람 대리인을 쓸 때 생기는 고전적인 어려움을 다룹니다. 이 문제는 AI 에이전트에도 거의 그대로 나타납니다. 아래는 대리인 문제의 세 가지에, AI 에이전트에서 특히 따져야 할 책임 소재를 더한 것입니다.

대리인 문제뜻AI 에이전트에서는그래서 필요한 것
정보 비대칭대리인이 무엇을 했는지 모릅니다.어떤 도구를 왜 호출했는지 보이지 않습니다.실행 기록과 감사 로그
목표 불일치대리인이 다른 목표를 좇습니다.지시를 잘못 해석하거나 악의적 입력에 넘어갑니다.가드레일과 입력 검증
감시 비용다 확인하면 맡긴 의미가 없습니다.매 행동을 사람이 승인하면 자동화가 아닙니다.위험도별 승인
책임 소재(더한 항목)결과는 누가 책임지느냐의 문제입니다.책임은 맡긴 사람과 조직에 남습니다.권한 위임 모델

결국 에이전트를 설계한다는 것은 똑똑한 AI를 만드는 일이기 전에, 일을 어떻게 맡기고 어떻게 통제할지 설계하는 일입니다.

학계는 에이전트를 어떻게 정의해 왔나

에이전트는 생성형 AI보다 훨씬 오래된 개념입니다.

네 가지 속성과, 그것이 LLM 에이전트에서 어떻게 나타나는지는 이렇습니다.

속성뜻LLM 에이전트에서의 모습
자율성사람이 매번 개입하지 않아도 행동합니다.모델이 다음 행동을 스스로 고릅니다.
반응성환경 변화를 지각하고 대응합니다.도구 실행 결과를 보고 계획을 고칩니다.
주도성목표를 향해 먼저 움직입니다.목표를 하위 작업으로 쪼개 실행합니다.
사회성사람·다른 에이전트와 소통합니다.사용자에게 묻고, 다른 에이전트와 협업합니다.

생성형 AI 시대의 정의: "누가 흐름을 정하는가"

생성형 AI 쪽에서는 Anthropic이 워크플로와 에이전트를 나눈 구분이 널리 쓰입니다. 기준은 하나의 질문입니다. 작업의 흐름을 누가 정하는가?

워크플로

개발자가 코드로 경로를 미리 정해 두고 LLM은 각 단계만 처리합니다.

에이전트

LLM이 실행 중에 어떤 도구를 쓰고 다음에 무엇을 할지 스스로 정합니다.

같은 LLM을 써도 이 차이 하나로 시스템의 성격이 완전히 달라집니다.


에이전트는 '있다/없다'가 아니라 '정도'의 문제

"이건 에이전트인가?"보다 "얼마나 에이전트적인가(agentic)?"로 묻는 편이 정확합니다.

이 글에서는 흐름을 누가 정하느냐를 기준으로 여섯 단계로 나눠 봅니다. 공인된 분류가 아니라 설명을 위해 쓰는 구분입니다.

단계형태흐름을 정하는 주체예
L0단일 LLM 호출개발자요약, 번역
L1증강 LLM(검색·도구 1회)개발자사내 문서 Q&A
L2워크플로개발자(고정 경로)메일 분류 → 답장 초안 → 검토
L3도구 사용 에이전트모델"이 오류 고쳐 줘" → 탐색·수정·테스트 반복
L4멀티에이전트모델(일의 분해와 위임까지)총괄 에이전트가 하위 에이전트에 일을 나눔
L5장기 자율 에이전트모델(목표의 일부까지)며칠씩 도는 운영 에이전트

높은 단계가 늘 좋은 것은 아닙니다. 업무 자동화의 상당수는 L2 워크플로로 충분하고, 그쪽이 더 싸고 예측 가능하며 고치기 쉽습니다. 에이전트(L3 이상)는 단계 수와 경로를 미리 알 수 없는 일에 씁니다.

워크플로로 풀 수 있는지 먼저 따져 볼 때 쓸 만한 대표 패턴은 다섯 가지입니다.

  1. 체이닝: 단계를 순서대로 잇고 중간에 검증을 둡니다.
  2. 라우팅: 입력을 분류해 알맞은 처리기로 보냅니다.
  3. 병렬화: 나눠서 동시에 처리하거나, 여러 번 돌려 투표합니다.
  4. 오케스트레이터–워커: 중앙 LLM이 일을 나눠 맡깁니다.
  5. 평가–개선: 만들고, 평가하고, 고치기를 반복합니다.

기술 구조: 에이전트는 무엇으로 이뤄지나

모든 에이전트의 공통 골격: 루프

화려해 보이는 에이전트 제품도 속을 열어 보면 같은 루프가 돕니다. 지시문과 사용자의 목표를 담은 대화에서 시작해, 아래를 되풀이합니다.

  1. 생각하고 결정합니다: LLM이 지금까지의 대화와 쓸 수 있는 도구를 보고 다음에 할 일을 정합니다.
  2. 끝낼지 판단합니다: 응답이 완료면 결과를 돌려주고 끝냅니다.
  3. 승인이 필요하면 사람의 승인을 기다립니다: 가드레일입니다.
  4. 행동합니다: 모델이 고른 도구 호출을 실행합니다.
  5. 관찰을 기억에 더합니다: 실행 결과를 대화에 덧붙이고, 다시 1로 돌아갑니다.
  6. 예산을 넘으면 멈춥니다: 안전장치입니다.
  1. 생각다음에 할 일을 정합니다
  2. 행동도구 호출을 실행합니다
  3. 관찰실행 결과를 대화에 덧붙입니다

생각 → 행동 → 관찰 → 다시 생각. 이 패턴을 ReAct(Reason + Act)라고 부르며, 현대 에이전트의 원형으로 꼽힙니다. 제품마다 다른 점은 루프 자체가 아니라 그 바깥, 곧 어떤 도구를 주는지, 무엇을 보여 주는지, 무엇을 막는지입니다.

일곱 가지 구성요소

각 구성요소가 하는 일과, 설계할 때 볼 점입니다.

구성요소하는 일설계할 때 볼 점
모델추론·계획·결정을 맡습니다.작업 난이도에 따라 모델을 나눠 씁니다.
지시역할·규칙·절차를 정합니다.짧고 명확하게 쓰고, 긴 절차는 필요할 때 불러옵니다.
도구API, DB, 파일, 브라우저로 환경에 작용합니다.도구 설명이 곧 에이전트의 사용자 인터페이스입니다.
메모리상태를 유지합니다(단기는 대화 맥락, 장기는 파일·DB).무엇을 기억하고 무엇을 버릴지 정해야 합니다.
실행 환경도구가 실제로 도는 곳입니다.격리(샌드박스)와 되돌리기를 봅니다.
가드레일권한·승인·예산을 제한합니다.위험도에 따라 승인 수준을 달리합니다.
관찰·평가실행 추적, 비용, 품질을 측정합니다.결과뿐 아니라 과정까지 평가합니다.

꼭 알아야 할 네 가지 개념

① 컨텍스트 엔지니어링. 에이전트 성능은 모델에 무엇을 보여 주느냐에 크게 좌우됩니다. 모델이 한 번에 볼 수 있는 분량(컨텍스트 창)은 유한하고, 길어질수록 집중력이 떨어집니다. 그래서 오래된 대화를 요약하고, 중요한 것은 파일에 적어 두고, 필요한 정보는 미리 다 넣지 않고 그때그때 찾아오게 합니다.

② 도구 설계. 사람에게 좋은 화면이 중요하듯, 에이전트에게는 도구의 이름·설명·입력 형식·오류 메시지가 곧 화면입니다. 잘 설계한 도구 몇 개가 대충 만든 도구 수십 개보다 낫습니다.

③ 표준 프로토콜: MCP와 A2A. 둘은 잇는 대상이 다릅니다.

프로토콜무엇과 무엇을 잇나비유하자면
MCP(Model Context Protocol)에이전트와 도구·데이터를 잇습니다.AI를 위한 USB-C
A2A(Agent2Agent)에이전트와 에이전트를 잇습니다.에이전트끼리의 전화망

기업 환경에서는 사내 시스템(ERP, 그룹웨어, DB)을 MCP로 감싸 에이전트에 연결하는 방식이 늘고 있습니다.

④ 멀티에이전트. 총괄 에이전트가 일을 나누고 하위 에이전트에 맡기는 계층형 구조가 흔히 쓰입니다. 맥락을 나눠 담고 병렬로 처리할 수 있다는 장점이 있지만, 비용이 몇 배로 늘고 넘겨주는 과정에서 정보가 빠질 수 있습니다. 대부분의 일은 단일 에이전트와 좋은 도구로 충분합니다.


비슷한 것들과 무엇이 다른가

판단 주체, 입력, 경로, 실패할 때의 모습으로 나란히 놓으면 이렇습니다.

구분판단 주체입력경로실패할 때
RPA사람이 짠 규칙정형고정멈추므로 티가 납니다.
워크플로 자동화규칙정형고정예측 가능합니다.
챗봇LLM비정형대화 한 번틀린 답을 합니다.
코파일럿사람(최종 결정)비정형사람이 주도사람이 걸러냅니다.
AI 에이전트LLM비정형동적그럴듯하게 틀립니다.

에이전트의 강점은 정형화되지 않은 입력을 다루고 경로를 미리 알 수 없는 일을 해낸다는 점입니다. 약점은 실패가 조용하고 그럴듯하다는 점입니다. 업무에 들일 때는 이 약점을 어떻게 다룰지가 핵심입니다.


업무에 들이기 전에 따져야 할 것

오류는 곱해진다

한 단계 성공률이 95%인 에이전트가 20단계짜리 일을 하면 전체 성공률은 0.95²⁰, 약 36%입니다. 단계당 99%여도 20단계면 약 82%입니다.

단계 수에 따른 전체 성공률. 단계마다 성공률을 곱한 값입니다.

그래서 업무용 에이전트는 단계 수를 줄이고, 중간 결과를 검증할 수 있게 만들고, 실패를 감지해 되돌릴 수 있어야 합니다.

업무용 에이전트에 필요한 일곱 개의 층

  1. 연결: 사내 시스템 커넥터, 사용자 권한을 그대로 물려받는 인증
  2. 실행: 에이전트 루프, 격리된 실행 환경, 오래 걸리는 작업의 중단·재개
  3. 지식: 사내 문서 검색, 조직의 업무 기억, 업무 절차서
  4. 통제: 최소 권한, 위험도별 승인(조회는 자동, 발송·결제·삭제는 승인), 감사 로그
  5. 보안: 악의적 입력(프롬프트 인젝션) 방어. 특히 민감 데이터 접근, 외부의 믿을 수 없는 입력, 외부로 내보내는 수단, 이 세 가지가 한 에이전트에 모이지 않게 합니다(Simon Willison이 2025년에 ‘lethal trifecta’라고 부른 조합입니다).
  6. 관찰·평가: 실행 추적, 비용·속도 측정, 회귀 테스트, 사람의 피드백
  7. 사용자 경험: 진행 상황 보기, 중간 개입, 결과 검토

흔한 오해 다섯 가지

  1. "모델이 똑똑하면 다 된다." 성패는 모델보다 도구, 맥락, 평가에서 갈립니다.
  2. "멀티에이전트가 더 좋다." 비용과 복잡도가 몇 배입니다. 하나로 되면 하나로 합니다.
  3. "완전 자율이 목표다." 업무에서의 목표는 ‘적절한’ 자율성입니다. 제안 → 승인 후 실행 → 자동 실행 순으로 신뢰를 쌓습니다.
  4. "프레임워크부터 고른다." 처음에는 API와 루프를 직접 짜 보며 원리를 익히는 편이 낫습니다.
  5. "데모가 되면 제품이 된다." 데모로 보여 줄 만한 성공률과 업무에 투입할 만한 성공률 사이에는 간극이 있습니다. 이 간극을 메우는 데 개발 기간의 상당 부분이 드는 경우가 많고, 평가 체계 없이는 메울 수 없습니다.

맺으며: 세 줄 요약

  1. 의미로 보면, AI 에이전트는 사람이 맡긴 목표를 대신 수행하는 대리인입니다. 그래서 위임, 통제, 책임의 설계가 본질입니다.
  2. 기술로 보면, AI 에이전트는 LLM이 도구를 반복 실행하며 작업 흐름을 스스로 정하는 시스템입니다. 성능은 모델, 도구, 맥락 관리가 함께 정합니다.
  3. 업무로 보면, 가치는 똑똑한 에이전트 하나가 아니라 에이전트가 안전하게 연결되고, 통제되고, 측정되는 기반에서 나옵니다.

한 줄 정리

에이전트 시대의 경쟁력은 ‘어떤 AI를 쓰느냐’보다 ‘AI에게 일을 어떻게 맡기느냐’에서 갈릴 것입니다.

우리 업무도 될까요? 2주 무료 현장 진단으로 확인하세요

업무 하나를 골라 2주 동안 현장에서 진단하고, 진단 보고서와 구축 제안을 드립니다. 다음 단계로 갈 의무는 없습니다.

컨설팅 알아보기