사례·현장 노트 목록으로

AX 현장 노트 #5

AI에게 맡기지 않은 것들

요구사항 관리 시스템을 AI 에이전트와 연동하면 걱정이 따라옵니다. ‘AI가 잘못 지우거나, 마음대로 범위를 늘리면 어떻게 하나요?’

접근 — AI를 믿는 대신, 경계를 시스템에

저희의 답은 AI를 믿는 것이 아니라, AI가 넘을 수 없는 경계를 시스템에 만들어 두는 것이었습니다. 글로벌 자동차 부품사 프로젝트에서 정한 규칙은 다섯 가지입니다.

  • 되돌리기 어려운 일은 열지 않았습니다 — 요구사항·개발항목 삭제와 완료 되돌리기는 AI가 쓰는 CLI에 아예 없습니다. 웹 화면에서 사람이 직접 합니다.
  • AI도 담당자 권한 안에서만 움직입니다 — AI는 사람이 발급한 토큰으로 일하고, 서버가 그 사람의 권한을 그대로 검사합니다. 개발자라면 본인이 등록했거나 배정받은 항목만 고칠 수 있습니다.
  • 순서는 서버가 지킵니다 — 앞 단계가 끝나지 않으면 다음 단계를 시작할 수 없습니다.
  • 범위는 승인으로만 늘어납니다 — 요구사항 승인이 곧 범위 승인이고, 이 승인은 검토 권한이 있는 사람만 합니다. 요구사항 없이 바로 추가한 항목도 결재자의 범위 승인을 따로 받습니다.
  • 머지는 사람이 승인합니다 — 코드는 AI가 쓰지만, AI는 자기가 만든 코드의 검토자가 될 수 없습니다. 자동 검사 통과는 승인이 아니라 최소 요건입니다.

인증 정보도 맡기지 않았습니다

토큰 발급과 설정은 사람이 직접 하고, AI는 비밀번호나 토큰 값을 받지 않습니다. 인증 정보는 명령줄이나 명령 기록에도 남지 않게 했습니다.

결과 — 경계 위에서 나온 속도

경계가 분명하니 그 안의 일은 오히려 안심하고 맡길 수 있었습니다. 16주 동안 하루 3회 정해진 시각에 배포한 속도도 이 경계 위에서 나왔습니다(기준일 2026년 10월 8일).

관련 사례: 글로벌 자동차 부품사 사례

우리 업무도 될까요? 2주 무료 현장 진단으로 확인하세요

업무 하나를 골라 AI 기반으로 어떻게 바뀔지 진단하고, 진단 보고서와 시범 제안을 드립니다. 다음 단계로 갈 의무는 없습니다.

AX FDE 알아보기