패턴·플레이북 · Patterns
AI에 승인 게이트가 필요한 이유
게이트를 어디에 둘지는 취향이 아니라 위험으로 정해진다. 되돌릴 수 있으면 먼저 하고 나중에 보고, 되돌리기 어려우면 하기 전에 멈춘다.
AI에게 일을 넘기기 시작하면 곧 같은 질문에 부딪힌다. 어디까지 알아서 하게 두고, 어디서 사람이 한 번 보게 할 것인가. AX란 무엇인가에서 이걸 다섯 계층 중 “승인 구조”로, 실천편에서 “게이트를 그린다”는 한 자리로 짚었다. 이 글은 그 자리만 따로 떼어, 게이트를 어디에 둘지를 정하는 기준을 정리한다.
승인 게이트의 자리는 취향이 아니라 위험으로 정해진다. 되돌릴 수 있으면 먼저 하고 나중에 보고, 되돌리기 어려우면 하기 전에 멈춘다.
게이트는 위험으로 정해진다
게이트를 어디 둘지 고민될 때 나는 두 축으로 따진다. 하나는 되돌리기가 쉬운가 어려운가, 다른 하나는 틀렸을 때 파급 범위가 좁은가 넓은가. 이 둘을 교차하면 어떤 동작에 어떤 게이트가 맞는지가 대략 떨어진다.
규칙은 단순하다. 아래로 내려갈수록(되돌리기 어려움) 사람의 개입을 더 앞에 두고, 오른쪽으로 갈수록(파급 넓음) 차단을 더 강하게 건다. 가장 위험한 칸 — 되돌리기 어렵고 파급도 넓은 동작 — 은 애초에 자동화 후보로 적절한지부터 다시 본다.
세 가지 게이트
매트릭스를 동작으로 옮기면 결국 세 형태로 정리된다.
- 제안 → 사람 승인. AI는 무엇을 할지 제안만 하고, 사람이 승인해야 적용된다. 되돌리기 어려운 일의 기본값. 느리지만 안전하다.
- 자동 적용 + 사후 검토. 일단 적용하고 기록을 남겨 나중에 검토·롤백한다. 되돌리기 쉬운 일에서 속도를 얻는 방법. 롤백 경로가 없으면 쓰면 안 된다.
- 단계적 게이트. 위험이 낮은 건 자동으로 흘리고, 임계치를 넘는 것만 사람에게 올린다. 양을 감당하면서 위험만 거르는 절충 — 대신 "무엇이 임계치인가"를 잘 정해야 한다.
대부분의 실제 시스템은 이 셋을 섞는다. 같은 자동화 안에서도 작은 변경은 자동으로, 큰 변경은 승인으로 가르는 식이다. 게이트는 하나만 있는 게 아니라 동작마다 다를 수 있다.
게이트가 도장으로 변할 때
가장 흔한 실패는 게이트가 없는 게 아니라, 있는데 작동하지 않는 것이다. 사람이 하루에 수백 건을 내용도 안 보고 승인하기 시작하면, 그 게이트는 통제가 아니라 통제의 착시다. 오히려 “사람이 봤다”는 알리바이만 만들어 주니, 없는 것보다 나쁠 수 있다.
- 승인 화면에 맥락이 없다
- 기본값이 "승인"이다
- 양이 많아 다 못 본다
- 판단에 필요한 맥락을 같이 준다
- 반려·보류가 쉽다
- 저위험은 자동으로 빼 양을 줄인다
작동하는 게이트는 세 가지를 갖춘다. 승인하는 사람이 판단할 수 있을 만큼의 맥락을 화면에 같이 주고, “아니오”를 누르는 게 “예”만큼 쉽고, 저위험 동작은 자동으로 빼서 사람이 봐야 할 양 자체를 줄인다. 게이트의 품질은 위치보다 이 세 가지에서 갈린다.
배포 게이트와 같은 근육
이건 새로운 개념이 아니다. 백엔드에서 배포를 다룰 때 쓰던 것과 같은 근육이다. 위험한 변경 앞에 수동 승인 단계를 두고, 카나리로 일부에만 먼저 적용해 보고, 피처 플래그로 켜고 끌 수 있게 하고, 문제가 생기면 롤백한다. AI 자동화의 승인 게이트도 정확히 이 패턴이고, 다만 변경을 제안하는 주체가 사람이 아니라 비결정적인 모델일 뿐이다. 그래서 “자동 적용 + 사후 검토”가 안전하려면 그 앞에 멱등성과 롤백이 받쳐 줘야 한다는 조건도 그대로 따라온다. 무엇을 누가 언제 승인했는지 남기는 audit trail은 이 게이트와 짝을 이루는 다음 글로 따로 다룰 생각이다.
정리하면, 게이트도 비용이다
게이트는 공짜가 아니다. 하나 둘 때마다 자동화가 아끼려던 시간을 다시 사람에게 돌려준다. 그래서 모든 곳에 게이트를 거는 건 자동화를 안 하는 것과 비슷해지고, 아무 데도 안 거는 건 되돌릴 수 없는 사고를 기다리는 일이 된다. 결국 위험이 큰 자리에만 게이트를 두고 나머지는 비우는 균형의 문제인데, 그 선을 어디에 그을지는 한 번에 정해지지 않는다. 운영하면서 무엇이 새고 무엇이 과했는지를 보고 계속 옮기는 수밖에 없다고 지금은 보고 있다.
- 초안 작성. 위험 2축 매트릭스·세 게이트·도장 안티패턴 정리 (성숙도: 탐색 중)
- audit trail 설계 글과 연결 · 단계적 게이트 임계치 설정의 익명화 사례 보강