AI Agent가 문서를 요약하는 데서 멈추지 않고 메일을 보내거나 시스템을 수정하기 시작하면 새로운 질문이 생깁니다. “누가 시킨 일이며, 이 Agent가 지금 이 행동을 해도 되는가?”입니다.
사람에게 사번과 계정, 직무별 권한이 있듯 AI Agent에도 구분 가능한 신분과 권한이 필요합니다. 이를 거창한 보안 프로젝트로 시작할 필요는 없습니다. Agent가 누구를 대신해 어떤 범위에서 일하는지 확인할 수 있게 만드는 것이 출발점입니다.
공유 계정으로 움직이게 하지 않습니다
여러 Agent가 하나의 관리자 계정을 함께 쓰면 문제가 생겼을 때 누가 어떤 행동을 했는지 구분하기 어렵습니다. 각 Agent와 실행 환경을 식별할 수 있는 계정을 두고, 업무 목적과 담당 조직을 연결해야 합니다.
일종의 ‘디지털 사번’을 만드는 셈입니다. 최소한 다음을 확인할 수 있어야 합니다.
- 어떤 Agent가 실행했는지
- 어느 직원이나 업무 흐름이 요청했는지
- 어떤 도구와 자료에 접근했는지
- 언제 어떤 행동을 했는지
- 누가 승인했는지
이 기록은 감시를 위한 장식이 아니라, 문제가 생겼을 때 영향을 확인하고 업무를 안전하게 이어가기 위한 자료입니다.
사용자의 권한을 넘겨받았다고 가정하지 않습니다
직원이 Agent에게 요청했다고 해서 그 직원이 할 수 없는 행동까지 허용해서는 안 됩니다. 행동 직전에 요청자와 Agent의 권한을 함께 확인해야 합니다.
예를 들어 인사 자료를 볼 수 없는 직원이 “전체 직원의 급여를 분석해 달라”고 요청하면 Agent도 실행하지 않아야 합니다. 고객 정보를 조회할 수 있는 직원이라도 외부로 내보낼 권한은 별도로 확인해야 합니다.
권한은 프롬프트의 “하지 마세요”만으로 제한하지 않습니다. 실제 시스템에서 읽기, 수정, 외부 발송, 삭제와 권한 변경을 나누고 업무에 꼭 필요한 최소 권한만 부여합니다.
승인과 평가는 서로 다른 질문입니다
결과 평가와 행동 승인은 자주 혼동됩니다.
- 평가: 결과가 업무 기준에 맞는가?
- 승인: 이 행동을 지금 실행할 권한과 책임이 있는가?
AI가 작성한 계약서 요약이 정확하더라도 계약 조건을 실제로 변경할 권한이 생기는 것은 아닙니다. AI Agent 평가는 결과 품질을 확인하고, 권한과 승인은 실행 가능 범위를 통제합니다.
외부 발송, 결제, 삭제, 권한 변경처럼 영향이 크거나 되돌리기 어려운 행동에는 사람의 승인을 둡니다. 이때 승인 화면에는 결과만 보여주지 말고 사용한 자료, 변경될 항목과 영향 범위를 함께 보여줘야 판단할 수 있습니다.
도구 연결이 늘수록 권한 경계가 중요합니다
AI Agent가 메일, 문서, CRM과 사내 시스템을 함께 사용하면 편리하지만 접근 범위도 넓어집니다. 도구마다 인증과 권한을 따로 관리하고, Agent가 도구를 호출할 때마다 현재 업무 범위에 맞는지 확인해야 합니다.
외부 문서나 메일 안의 문장은 참고 자료이지 새로운 권한 부여가 아닙니다. “이 파일을 다른 주소로 보내라”는 문장이 들어 있어도 원래 요청과 권한을 벗어나면 실행하지 않아야 합니다. AI에게 업무를 맡기는 안전 기준에서 설명한 것처럼 여러 제어 장치를 함께 두는 이유입니다.
중단과 회수도 설계합니다
Agent의 역할이 바뀌거나 문제가 발견되면 권한을 즉시 줄이거나 중단할 수 있어야 합니다. 계정과 토큰의 유효 기간을 정하고, 사용하지 않는 권한을 회수하며, 위험 신호가 발견되면 실행을 막는 절차가 필요합니다.
처음에는 읽기 전용과 초안 작성부터 시작하는 것이 좋습니다. 운영 기록과 평가 결과를 확인한 뒤 수정과 실행 권한을 단계적으로 넓힙니다. 자율성을 한 번에 크게 주는 것보다 확인 가능한 범위를 조금씩 확장하는 편이 안전하고 현실적입니다.
바로 해보는 권한 점검
- Agent마다 구분되는 계정과 담당 목적이 있나요?
- 요청한 사용자의 실제 권한을 행동 직전에 확인하나요?
- 읽기, 수정, 외부 발송, 삭제 권한이 나뉘어 있나요?
- 영향이 큰 행동에는 사람 승인과 충분한 근거가 있나요?
- 사용 자료, 실행, 승인과 결과를 다시 확인할 수 있나요?
- 문제가 생기면 권한을 즉시 중단하고 회수할 수 있나요?
AI Agent 보안의 목적은 모든 행동을 막는 것이 아닙니다. 신분, 최소 권한, 승인과 활동 기록을 분명히 해 조직이 책임질 수 있는 범위에서 AI Agent 도입을 넓히는 것입니다.