· 플랫폼 AX · 읽는 시간 약 9분
AI 에이전트란 무엇인가
‘AI 에이전트’라는 말이 어디에나 붙습니다. 챗봇도 에이전트라 부르고, 자동화 스크립트도 에이전트라 부르고, 며칠씩 혼자 일하는 시스템도 에이전트라 부릅니다. 말이 넓어질수록 정작 무엇을 만들고 무엇을 사야 하는지는 흐려집니다. 이 글에서는 AI 에이전트를 말의 뜻과 기술 구조 양쪽에서 정의하고, 업무에 들일 때 무엇을 따져야 하는지 정리합니다.
한 문장 정의
AI 에이전트는 위임받은 목표를 이루기 위해 환경을 지각하고, 다음 행동을 스스로 정하고, 도구로 환경을 바꾸는 일을 목표를 이룰 때까지 반복하는 시스템입니다.
실무에서는 더 짧게 말합니다.
에이전트 =
이 정의의 열쇠는 두 단어, "위임"과 "반복"입니다. 하나씩 풀어 보겠습니다.
말의 뜻: 에이전트는 '대리인'이다
에이전트(agent)는 라틴어 agere, "행하다"에서 왔습니다. 그래서 첫 번째 뜻은 행위자입니다. 그런데 법률과 경제학에서 에이전트는 대리인, 곧 남의 목표를 대신 수행하는 사람을 뜻합니다. 부동산 에이전트, 스포츠 에이전트가 그렇습니다.
업무용 AI 에이전트를 이해할 때는 이 두 번째 뜻이 더 중요합니다. AI 에이전트는 사람이 위임한 일을 대신 하는 대리인입니다.
경제학의 '본인-대리인 문제(Principal–Agent Problem)'는 사람 대리인을 쓸 때 생기는 고전적인 어려움을 다룹니다. 이 문제는 AI 에이전트에도 거의 그대로 나타납니다. 아래는 대리인 문제의 세 가지에, AI 에이전트에서 특히 따져야 할 책임 소재를 더한 것입니다.
| 대리인 문제 | 뜻 | AI 에이전트에서는 | 그래서 필요한 것 |
|---|---|---|---|
| 정보 비대칭 | 대리인이 무엇을 했는지 모릅니다. | 어떤 도구를 왜 호출했는지 보이지 않습니다. | 실행 기록과 감사 로그 |
| 목표 불일치 | 대리인이 다른 목표를 좇습니다. | 지시를 잘못 해석하거나 악의적 입력에 넘어갑니다. | 가드레일과 입력 검증 |
| 감시 비용 | 다 확인하면 맡긴 의미가 없습니다. | 매 행동을 사람이 승인하면 자동화가 아닙니다. | 위험도별 승인 |
| 책임 소재(더한 항목) | 결과는 누가 책임지느냐의 문제입니다. | 책임은 맡긴 사람과 조직에 남습니다. | 권한 위임 모델 |
결국 에이전트를 설계한다는 것은 똑똑한 AI를 만드는 일이기 전에, 일을 어떻게 맡기고 어떻게 통제할지 설계하는 일입니다.
학계는 에이전트를 어떻게 정의해 왔나
에이전트는 생성형 AI보다 훨씬 오래된 개념입니다.
- Russell & Norvig(『Artificial Intelligence: A Modern Approach』): 센서로 환경을 지각하고 액추에이터로 환경에 작용하는 모든 것. 정의가 이렇게 넓어서 온도조절기도 에이전트로 볼 수 있습니다.
- Franklin & Graesser(1996): 환경 안에서 시간에 걸쳐 자기 목표를 좇으며, 앞으로 지각할 것에 영향을 주도록 행동하는 자율 시스템. 시간과 피드백 루프가 더해집니다.
- Wooldridge & Jennings(1995): 에이전트의 네 가지 속성을 제시했고, 지금도 자주 인용됩니다.
네 가지 속성과, 그것이 LLM 에이전트에서 어떻게 나타나는지는 이렇습니다.
| 속성 | 뜻 | LLM 에이전트에서의 모습 |
|---|---|---|
| 자율성 | 사람이 매번 개입하지 않아도 행동합니다. | 모델이 다음 행동을 스스로 고릅니다. |
| 반응성 | 환경 변화를 지각하고 대응합니다. | 도구 실행 결과를 보고 계획을 고칩니다. |
| 주도성 | 목표를 향해 먼저 움직입니다. | 목표를 하위 작업으로 쪼개 실행합니다. |
| 사회성 | 사람·다른 에이전트와 소통합니다. | 사용자에게 묻고, 다른 에이전트와 협업합니다. |
생성형 AI 시대의 정의: "누가 흐름을 정하는가"
생성형 AI 쪽에서는 Anthropic이 워크플로와 에이전트를 나눈 구분이 널리 쓰입니다. 기준은 하나의 질문입니다. 작업의 흐름을 누가 정하는가?
워크플로
개발자가 코드로 경로를 미리 정해 두고 LLM은 각 단계만 처리합니다.
에이전트
LLM이 실행 중에 어떤 도구를 쓰고 다음에 무엇을 할지 스스로 정합니다.
같은 LLM을 써도 이 차이 하나로 시스템의 성격이 완전히 달라집니다.
에이전트는 '있다/없다'가 아니라 '정도'의 문제
"이건 에이전트인가?"보다 "얼마나 에이전트적인가(agentic)?"로 묻는 편이 정확합니다.
이 글에서는 흐름을 누가 정하느냐를 기준으로 여섯 단계로 나눠 봅니다. 공인된 분류가 아니라 설명을 위해 쓰는 구분입니다.
| 단계 | 형태 | 흐름을 정하는 주체 | 예 |
|---|---|---|---|
| L0 | 단일 LLM 호출 | 개발자 | 요약, 번역 |
| L1 | 증강 LLM(검색·도구 1회) | 개발자 | 사내 문서 Q&A |
| L2 | 워크플로 | 개발자(고정 경로) | 메일 분류 → 답장 초안 → 검토 |
| L3 | 도구 사용 에이전트 | 모델 | "이 오류 고쳐 줘" → 탐색·수정·테스트 반복 |
| L4 | 멀티에이전트 | 모델(일의 분해와 위임까지) | 총괄 에이전트가 하위 에이전트에 일을 나눔 |
| L5 | 장기 자율 에이전트 | 모델(목표의 일부까지) | 며칠씩 도는 운영 에이전트 |
높은 단계가 늘 좋은 것은 아닙니다. 업무 자동화의 상당수는 L2 워크플로로 충분하고, 그쪽이 더 싸고 예측 가능하며 고치기 쉽습니다. 에이전트(L3 이상)는 단계 수와 경로를 미리 알 수 없는 일에 씁니다.
워크플로로 풀 수 있는지 먼저 따져 볼 때 쓸 만한 대표 패턴은 다섯 가지입니다.
- 체이닝: 단계를 순서대로 잇고 중간에 검증을 둡니다.
- 라우팅: 입력을 분류해 알맞은 처리기로 보냅니다.
- 병렬화: 나눠서 동시에 처리하거나, 여러 번 돌려 투표합니다.
- 오케스트레이터–워커: 중앙 LLM이 일을 나눠 맡깁니다.
- 평가–개선: 만들고, 평가하고, 고치기를 반복합니다.
기술 구조: 에이전트는 무엇으로 이뤄지나
모든 에이전트의 공통 골격: 루프
화려해 보이는 에이전트 제품도 속을 열어 보면 같은 루프가 돕니다. 지시문과 사용자의 목표를 담은 대화에서 시작해, 아래를 되풀이합니다.
- 생각하고 결정합니다: LLM이 지금까지의 대화와 쓸 수 있는 도구를 보고 다음에 할 일을 정합니다.
- 끝낼지 판단합니다: 응답이 완료면 결과를 돌려주고 끝냅니다.
- 승인이 필요하면 사람의 승인을 기다립니다: 가드레일입니다.
- 행동합니다: 모델이 고른 도구 호출을 실행합니다.
- 관찰을 기억에 더합니다: 실행 결과를 대화에 덧붙이고, 다시 1로 돌아갑니다.
- 예산을 넘으면 멈춥니다: 안전장치입니다.
- 생각다음에 할 일을 정합니다
- 행동도구 호출을 실행합니다
- 관찰실행 결과를 대화에 덧붙입니다
생각 → 행동 → 관찰 → 다시 생각. 이 패턴을 ReAct(Reason + Act)라고 부르며, 현대 에이전트의 원형으로 꼽힙니다. 제품마다 다른 점은 루프 자체가 아니라 그 바깥, 곧 어떤 도구를 주는지, 무엇을 보여 주는지, 무엇을 막는지입니다.
일곱 가지 구성요소
각 구성요소가 하는 일과, 설계할 때 볼 점입니다.
| 구성요소 | 하는 일 | 설계할 때 볼 점 |
|---|---|---|
| 모델 | 추론·계획·결정을 맡습니다. | 작업 난이도에 따라 모델을 나눠 씁니다. |
| 지시 | 역할·규칙·절차를 정합니다. | 짧고 명확하게 쓰고, 긴 절차는 필요할 때 불러옵니다. |
| 도구 | API, DB, 파일, 브라우저로 환경에 작용합니다. | 도구 설명이 곧 에이전트의 사용자 인터페이스입니다. |
| 메모리 | 상태를 유지합니다(단기는 대화 맥락, 장기는 파일·DB). | 무엇을 기억하고 무엇을 버릴지 정해야 합니다. |
| 실행 환경 | 도구가 실제로 도는 곳입니다. | 격리(샌드박스)와 되돌리기를 봅니다. |
| 가드레일 | 권한·승인·예산을 제한합니다. | 위험도에 따라 승인 수준을 달리합니다. |
| 관찰·평가 | 실행 추적, 비용, 품질을 측정합니다. | 결과뿐 아니라 과정까지 평가합니다. |
꼭 알아야 할 네 가지 개념
① 컨텍스트 엔지니어링. 에이전트 성능은 모델에 무엇을 보여 주느냐에 크게 좌우됩니다. 모델이 한 번에 볼 수 있는 분량(컨텍스트 창)은 유한하고, 길어질수록 집중력이 떨어집니다. 그래서 오래된 대화를 요약하고, 중요한 것은 파일에 적어 두고, 필요한 정보는 미리 다 넣지 않고 그때그때 찾아오게 합니다.
② 도구 설계. 사람에게 좋은 화면이 중요하듯, 에이전트에게는 도구의 이름·설명·입력 형식·오류 메시지가 곧 화면입니다. 잘 설계한 도구 몇 개가 대충 만든 도구 수십 개보다 낫습니다.
③ 표준 프로토콜: MCP와 A2A. 둘은 잇는 대상이 다릅니다.
| 프로토콜 | 무엇과 무엇을 잇나 | 비유하자면 |
|---|---|---|
| MCP(Model Context Protocol) | 에이전트와 도구·데이터를 잇습니다. | AI를 위한 USB-C |
| A2A(Agent2Agent) | 에이전트와 에이전트를 잇습니다. | 에이전트끼리의 전화망 |
기업 환경에서는 사내 시스템(ERP, 그룹웨어, DB)을 MCP로 감싸 에이전트에 연결하는 방식이 늘고 있습니다.
④ 멀티에이전트. 총괄 에이전트가 일을 나누고 하위 에이전트에 맡기는 계층형 구조가 흔히 쓰입니다. 맥락을 나눠 담고 병렬로 처리할 수 있다는 장점이 있지만, 비용이 몇 배로 늘고 넘겨주는 과정에서 정보가 빠질 수 있습니다. 대부분의 일은 단일 에이전트와 좋은 도구로 충분합니다.
비슷한 것들과 무엇이 다른가
판단 주체, 입력, 경로, 실패할 때의 모습으로 나란히 놓으면 이렇습니다.
| 구분 | 판단 주체 | 입력 | 경로 | 실패할 때 |
|---|---|---|---|---|
| RPA | 사람이 짠 규칙 | 정형 | 고정 | 멈추므로 티가 납니다. |
| 워크플로 자동화 | 규칙 | 정형 | 고정 | 예측 가능합니다. |
| 챗봇 | LLM | 비정형 | 대화 한 번 | 틀린 답을 합니다. |
| 코파일럿 | 사람(최종 결정) | 비정형 | 사람이 주도 | 사람이 걸러냅니다. |
| AI 에이전트 | LLM | 비정형 | 동적 | 그럴듯하게 틀립니다. |
에이전트의 강점은 정형화되지 않은 입력을 다루고 경로를 미리 알 수 없는 일을 해낸다는 점입니다. 약점은 실패가 조용하고 그럴듯하다는 점입니다. 업무에 들일 때는 이 약점을 어떻게 다룰지가 핵심입니다.
업무에 들이기 전에 따져야 할 것
오류는 곱해진다
한 단계 성공률이 95%인 에이전트가 20단계짜리 일을 하면 전체 성공률은 0.95²⁰, 약 36%입니다. 단계당 99%여도 20단계면 약 82%입니다.
약 82%단계당 99%
약 36%단계당 95%
그래서 업무용 에이전트는 단계 수를 줄이고, 중간 결과를 검증할 수 있게 만들고, 실패를 감지해 되돌릴 수 있어야 합니다.
업무용 에이전트에 필요한 일곱 개의 층
- 연결: 사내 시스템 커넥터, 사용자 권한을 그대로 물려받는 인증
- 실행: 에이전트 루프, 격리된 실행 환경, 오래 걸리는 작업의 중단·재개
- 지식: 사내 문서 검색, 조직의 업무 기억, 업무 절차서
- 통제: 최소 권한, 위험도별 승인(조회는 자동, 발송·결제·삭제는 승인), 감사 로그
- 보안: 악의적 입력(프롬프트 인젝션) 방어. 특히 민감 데이터 접근, 외부의 믿을 수 없는 입력, 외부로 내보내는 수단, 이 세 가지가 한 에이전트에 모이지 않게 합니다(Simon Willison이 2025년에 ‘lethal trifecta’라고 부른 조합입니다).
- 관찰·평가: 실행 추적, 비용·속도 측정, 회귀 테스트, 사람의 피드백
- 사용자 경험: 진행 상황 보기, 중간 개입, 결과 검토
흔한 오해 다섯 가지
- "모델이 똑똑하면 다 된다." 성패는 모델보다 도구, 맥락, 평가에서 갈립니다.
- "멀티에이전트가 더 좋다." 비용과 복잡도가 몇 배입니다. 하나로 되면 하나로 합니다.
- "완전 자율이 목표다." 업무에서의 목표는 ‘적절한’ 자율성입니다. 제안 → 승인 후 실행 → 자동 실행 순으로 신뢰를 쌓습니다.
- "프레임워크부터 고른다." 처음에는 API와 루프를 직접 짜 보며 원리를 익히는 편이 낫습니다.
- "데모가 되면 제품이 된다." 데모로 보여 줄 만한 성공률과 업무에 투입할 만한 성공률 사이에는 간극이 있습니다. 이 간극을 메우는 데 개발 기간의 상당 부분이 드는 경우가 많고, 평가 체계 없이는 메울 수 없습니다.
맺으며: 세 줄 요약
- 의미로 보면, AI 에이전트는 사람이 맡긴 목표를 대신 수행하는 대리인입니다. 그래서 위임, 통제, 책임의 설계가 본질입니다.
- 기술로 보면, AI 에이전트는 LLM이 도구를 반복 실행하며 작업 흐름을 스스로 정하는 시스템입니다. 성능은 모델, 도구, 맥락 관리가 함께 정합니다.
- 업무로 보면, 가치는 똑똑한 에이전트 하나가 아니라 에이전트가 안전하게 연결되고, 통제되고, 측정되는 기반에서 나옵니다.
한 줄 정리
에이전트 시대의 경쟁력은 ‘어떤 AI를 쓰느냐’보다 ‘AI에게 일을 어떻게 맡기느냐’에서 갈릴 것입니다.