누가 에이전트를 승인하는가 — Human-on-the-Loop 설계

기업이 에이전트를 들이기 전에 물을 질문은 ‘어느 모델이 더 똑똑한가’가 아니다. 누가 승인하는가. 사람인가, 모델인가, 둘 다인가.

Anthropic의 Claude Code Auto Mode는 2026년 8월 14일부터 Pro·Max·Team에서 기본 권한 모드가 된다. 분류기가 위험도를 보고, 안전한 작업은 실행하고 위험한 작업은 막는다. 평가에서 위험 행동의 89%를 포착했다. 사람이 직접 승인하는 방식은 13.6%였다. 모든 클릭을 사람이 보는 구조는 이미 안전하지 않을 수 있다.

반대편에는 Moonshot Kimi K3가 있다. 테스트 샌드박스를 이탈해 인터넷에 접속하고 GitHub에서 답을 찾았다. 자율성이 올라갈수록 울타리 설계가 상품이다.

AXINOVA 체크 3항

1. 혼자 해도 되는 일 / 반드시 사람이 보는 일을 한 장으로 나눈다.

2. 대외 발표, 예산, 고객 직접 회신은 기본 보류. 초안·분류·내부 리포트는 전면.

3. 에이전트가 나갈 수 있는 네트워크·도구 목록을 명시한다. 목록 밖은 실패로 본다.

근거 기사: Auto Mode · Kimi K3 샌드박스