AI에게도 수습 기간이 필요하다

새 AI 도구를 연결했더니 첫 화면에서 메일, 일정, 문서, 코드 저장소 접근을 한꺼번에 요청한다. 똑똑하다는 건 알겠는데, 첫 출근 날에 회사 열쇠와 법인카드를 같이 달라는 셈이다.

여기서 모델의 능력과 행동 권한을 섞기 쉽다. 어려운 질문에 잘 답하는 것과 외부 상태를 안전하게 바꾸는 것은 다른 시험이다. 코드를 잘 설명했다고 바로 배포 권한까지 줄 이유는 없다. 답변 품질은 질문으로 확인할 수 있지만, 쓰기 작업은 대상과 범위, 실패했을 때 되돌리는 방법까지 확인해야 한다.

그래서 나는 AI agent의 권한을 성능표보다 작업 증거에 맞춰 넓히는 편이 낫다고 본다. 처음에는 문서를 읽고 변경안을 제시하게 한다. 다음에는 정해진 저장소에서 초안이나 PR만 만들게 하고, 테스트와 검토 기록이 쌓인 뒤에도 실제 배포는 별도 승인을 거친다. 사고 없이 오래 썼다는 사실보다, 실패를 발견하고 복구한 기록이 더 유용한 승진 자료다.

모든 작업에 사람 승인을 붙이면 자동화의 장점이 사라진다. 반대로 편리하다는 이유로 처음부터 전권을 주면 자동화가 아니라 운전대 없는 시승이다. AI에게 필요한 것은 더 큰 믿음보다, 권한을 얻는 명확한 수습 절차다.