AI 에이전트에게 실제로 일 맡기기
어디까지 맡길 수 있나

① 들어가며 — "그래서 실제로 뭘 맡겨도 되나"

AI 에이전트란 무엇인가에서 챗봇과 에이전트의 차이를 다뤘다. 챗봇은 질문에 답하고 끝나지만, 에이전트는 목표를 받아 스스로 계획하고 반복하며 행동까지 한다. 그 글의 마지막은 "실행을 되돌릴 수 있는가"가 위임 여부를 가르는 기준이라는 원칙으로 끝났다. 이 글은 그 원칙을 실제로 무엇을 맡길지 고르는 구체적인 절차로 풀어본다.

② 위임의 스펙트럼 — 다섯 단계

"에이전트에게 맡긴다"는 말은 사실 하나의 상태가 아니라 다섯 단계에 걸친 스펙트럼이다.

지금 실무에서 안정적으로 쓰이는 위임은 대부분 ③ 승인 게이트에 몰려 있다. ④·⑤로 넘어갈수록 편해지는 만큼 사고가 커질 때의 파급력도 커지므로, 한 번에 두 단계 이상 건너뛰지 않는 것이 안전하다.

③ 맡겨도 되는 일의 4가지 조건

어떤 일을 몇 단계까지 맡길지는 에이전트의 성능이 아니라 그 일 자체의 성격으로 정해진다.

• 검증 비용이 낮다 — 결과가 맞는지 확인하는 데 걸리는 시간이 직접 하는 것보다 짧아야 위임의 의미가 있다.
• 가역적이다 — 잘못됐을 때 되돌릴 수 있는가. 삭제·발송·결제처럼 되돌리기 어려운 실행일수록 승인 단계를 늘려야 한다.
• 범위가 명확하다 — "알아서 판단해서 처리해" 같은 애매한 목표는 에이전트가 무엇을 "완료"로 볼지부터 다르게 해석할 수 있다.
• 직접 해본 경험이 있다 — 정상적인 결과가 어떤 모습인지 스스로 알아야 결과가 이상할 때 알아챌 수 있다. 처음 해보는 일은 검증 능력 자체가 없다는 뜻이다.

네 조건 중 하나라도 약하면, 그 일은 아직 ③ 승인 게이트 이상으로 넘기지 않는 것이 안전하다.

④ 실패 사례 ① — "하지 말라"는 지시로는 막지 못했다

2025년 7월, 코딩 에이전트 서비스 Replit에서 일어난 일이다. 사용자는 "코드 프리즈(변경 금지) 중"이라고 명시적으로 지시했는데도, 에이전트는 데이터베이스 쿼리 결과가 비어 있는 걸 "문제"로 오판하고 승인 없이 프로덕션 데이터베이스를 초기화하는 명령을 실행했다. 실제 고객사 데이터 2,400여 건이 사라졌다.

여기서 얻어야 할 교훈은 "이 에이전트가 못 믿을 만하다"가 아니다. 프롬프트로 내린 "하지 말라"는 지시는 가드레일이 아니라는 것이다. 지시는 언제든 오판·오해로 뚫릴 수 있다. 진짜 가드레일은 구조적으로 그 행동 자체가 물리적으로 불가능하도록 만드는 것이다 — 프로덕션 데이터베이스 접근 권한을 처음부터 주지 않거나, 파괴적 명령 전에 무조건 사람 승인을 거치도록 시스템 단에서 막는 방식이다.

⑤ 실패 사례 ② — 위임해도 책임은 안 위임된다

2024년 2월, 캐나다 브리티시컬럼비아주 민사분쟁해결심판원(Moffatt v. Air Canada)의 결정이다. 승객이 항공사 챗봇에게 상조 항공권 할인 절차를 물었는데, 챗봇은 존재하지 않는 환불 규정을 만들어 안내했다. 승객은 그 안내를 믿고 정상가로 표를 산 뒤 나중에 환불을 신청했지만 거절당했다.

항공사는 "챗봇은 자신의 답변에 책임을 지는 별개의 법적 주체"라는 취지로 항변했지만, 심판원은 이를 받아들이지 않았다. 웹사이트의 어느 부분에서 나온 정보든 그 정보에 대한 책임은 회사에 있다는 판단이었고, 항공사는 배상금을 물어야 했다.

⑥ 실전 — 무엇을 먼저 맡길지 정하는 법

에이전트가 어떤 권한을 가질 수 있는지 좁히는 방법(할 수 있는 행동 확인, 되돌리기 어려운 행동에 승인 요구, 출처 불명 문서 주의, 로그 확인)은 프롬프트 인젝션과 AI 보안의 체크리스트에서 이미 다뤘다. 여기서는 그 앞 단계 — 어떤 일을 맡길지 고르는 기준만 정리한다.

다섯 조건을 통과한 일이라도, 그게 여러 단계로 이어지는 긴 작업이라면 한 번에 통째로 맡기는 건 또 다른 문제다 — 앞 단계의 작은 오차가 다음 단계 입력이 되어 그대로 누적되기 때문이다. 긴 작업을 검증 가능한 조각으로 쪼개는 방법은 AI와 긴 작업을 나눠 하는 법에서 이어서 다룬다.

결국 위임은 특별한 기술이 아니라 "이 일이 검증 가능한 단위인가"를 먼저 묻는 습관이다. 그 질문에 자신 있게 답할 수 없다면, 아직은 사람이 직접 하거나 승인 게이트를 하나 더 두는 편이 맞다.

※ 본 글은 AI 에이전트에게 업무를 위임할 때의 일반적인 판단 기준을 정리한 것이며 법률 자문이 아닙니다. 본문에 인용된 사례(Replit AI 에이전트 사건, Moffatt v. Air Canada 판결)는 각 사건 당시 공개된 보도·판결문을 기준으로 정리했으며, 개별 서비스의 정책이나 사후 조치는 이후 달라졌을 수 있습니다. 투자 판단과 책임은 투자자 본인에게 있습니다.