AX 현장 노트 #5
AI에게 맡기지 않은 것들
요구사항 관리 시스템을 AI 에이전트와 연동하면 걱정이 따라옵니다. ‘AI가 잘못 지우거나, 마음대로 범위를 늘리면 어떻게 하나요?’
접근 — AI를 믿는 대신, 경계를 시스템에
저희의 답은 AI를 믿는 것이 아니라, AI가 넘을 수 없는 경계를 시스템에 만들어 두는 것이었습니다. 글로벌 자동차 부품사 프로젝트에서 정한 규칙은 다섯 가지입니다.
- 되돌리기 어려운 일은 열지 않았습니다 — 요구사항·개발항목 삭제와 완료 되돌리기는 AI가 쓰는 CLI에 아예 없습니다. 웹 화면에서 사람이 직접 합니다.
- AI도 담당자 권한 안에서만 움직입니다 — AI는 사람이 발급한 토큰으로 일하고, 서버가 그 사람의 권한을 그대로 검사합니다. 개발자라면 본인이 등록했거나 배정받은 항목만 고칠 수 있습니다.
- 순서는 서버가 지킵니다 — 앞 단계가 끝나지 않으면 다음 단계를 시작할 수 없습니다.
- 범위는 승인으로만 늘어납니다 — 요구사항 승인이 곧 범위 승인이고, 이 승인은 검토 권한이 있는 사람만 합니다. 요구사항 없이 바로 추가한 항목도 결재자의 범위 승인을 따로 받습니다.
- 머지는 사람이 승인합니다 — 코드는 AI가 쓰지만, AI는 자기가 만든 코드의 검토자가 될 수 없습니다. 자동 검사 통과는 승인이 아니라 최소 요건입니다.
인증 정보도 맡기지 않았습니다
토큰 발급과 설정은 사람이 직접 하고, AI는 비밀번호나 토큰 값을 받지 않습니다. 인증 정보는 명령줄이나 명령 기록에도 남지 않게 했습니다.
결과 — 경계 위에서 나온 속도
경계가 분명하니 그 안의 일은 오히려 안심하고 맡길 수 있었습니다. 16주 동안 하루 3회 정해진 시각에 배포한 속도도 이 경계 위에서 나왔습니다(기준일 2026년 10월 8일).
관련 사례: 글로벌 자동차 부품사 사례