앞 글에서 AI에 맡길 업무 하나와 완료 기준을 정했다면, 이제 작은 시험 운영을 만들 차례입니다. AI에게 질문하고 답을 받는 것과 실제 업무를 맡기는 것은 다릅니다.
업무를 맡긴다는 것은 AI가 필요한 정보를 확인하고 허용된 범위에서 실행한 뒤, 정해진 방법으로 결과를 검사하고 필요한 경우 사람의 승인을 받아 다음 행동으로 이어가는 것을 뜻합니다. AI가 스스로 “맞다”고 답하는 것만으로 완료를 판단하지 않습니다.
위임은 한 번의 요청으로 끝나지 않습니다
사람에게 업무를 맡길 때도 목표만 말하고 끝내지는 않습니다. 필요한 자료와 권한을 주고, 진행 상황을 확인하고, 결과가 기준에 맞지 않으면 수정합니다.
AI도 마찬가지입니다. 실제 업무는 보통 다음 과정을 반복합니다.
단계와 순서를 미리 정할 수 있다면 업무 흐름을 그대로 고정하는 편이 안전하고 단순합니다. 상황에 따라 필요한 단계나 도구를 미리 정하기 어려울 때만 AI가 허용된 범위에서 다음 행동을 고르게 합니다.
- 현재 상황과 필요한 정보를 확인합니다.
- 목표에 맞는 실행 순서를 정합니다.
- 허용된 도구와 권한 안에서 실행합니다.
- 결과가 정한 기준에 맞는지 확인합니다.
- 부족한 부분을 고치거나 사람에게 도움을 요청합니다.
실행, 확인과 수정을 기록하는 구조는 어디에서 실패했는지 확인하고 불확실성을 관리할 근거를 제공합니다.
위험에 따라 권한과 승인을 다르게 둡니다
내부 자료를 읽고 초안을 만드는 일과 고객에게 메일을 보내거나 자료를 삭제하는 일은 위험이 다릅니다. 처음에는 읽기와 초안 작성처럼 되돌리기 쉬운 일부터 맡기고, 외부 발송·삭제·결제·권한 변경처럼 영향이 크거나 되돌리기 어려운 행동은 사람이 승인한 뒤 실행하도록 합니다.
AI의 권한은 “이 행동을 하지 마세요”라는 문장만으로 제한하지 않습니다. 실행 시스템에서 읽기와 쓰기 권한을 나누고, 꼭 필요한 정보와 도구만 허용하며, 행동 직전에 그 일을 요청한 직원에게 실제 권한이 있는지 다시 확인해야 합니다.
AI가 읽는 외부 문서와 메일은 참고 자료로만 취급합니다. 그 안에 ‘다른 곳으로 자료를 보내라’ 같은 문장이 있어도 새로운 업무 지시로 실행하지 않도록 시스템에서 제한합니다. 하나의 장치로 모든 위험을 막을 수는 없으므로 허용 도구, 권한, 승인과 실행 기록을 함께 둡니다.
개인정보, 인사·급여 자료, 계약과 결제 정보는 회사가 허용한 AI와 저장 위치에서만 다루는지 먼저 확인합니다. 업무의 영향이 클수록 보안·법무·개인정보 담당자의 검토 범위도 함께 정합니다.
검증은 마지막 검사가 아니라 업무의 일부입니다
AI는 같은 요청에도 조금씩 다른 결과를 만들 수 있습니다. 그래서 결과를 만든 뒤 사람이 한 번 읽어보는 것만으로는 반복 운영하기 어렵습니다.
무엇을 확인할지 먼저 정해야 합니다. 숫자가 원본 자료와 일치하는지, 반드시 포함해야 할 항목이 있는지, 사용하면 안 되는 정보가 섞이지 않았는지, 중요한 행동 전에 승인을 받았는지처럼 업무에 맞는 기준이 필요합니다. 과거의 실제 사례를 시험 자료로 모아 두면 AI나 업무 기준이 바뀐 뒤에도 같은 조건으로 결과를 비교할 수 있습니다.
검사는 한 가지 방법에만 맡기지 않습니다. 합계 재계산과 필수 항목 확인처럼 규칙으로 검사할 수 있는 부분은 자동화하고, 표현의 적절성처럼 판단이 필요한 부분은 표본을 사람이 확인할 수 있습니다. 중요한 결정을 내리기 전, 외부로 정보를 보내기 전, 권한이 필요한 행동을 하기 전에도 각각 확인 지점을 둡니다.
앞 글의 판매 현황 보고서라면 AI가 원본 파일의 날짜와 필수 열을 먼저 확인하고 초안을 만든 뒤, 합계가 원본과 일치하는지 다시 계산하도록 할 수 있습니다. 합계가 다르거나 파일이 빠졌다면 발송하지 않고 담당자에게 파일명, 확인한 범위와 불일치 항목을 전달합니다. 숫자가 맞아도 외부 발송은 사람이 승인합니다.
문제가 생기면 사람이 이어받을 수 있어야 합니다
예외처리는 AI가 실패하면 사람이 처음부터 다시 시작하는 방식이 아닙니다. AI가 어디까지 처리했는지, 어떤 정보를 참고했는지, 왜 멈췄는지를 남기고 사람이 그다음부터 이어받을 수 있어야 합니다.
예를 들어 필요한 자료가 없거나, 권한을 벗어나는 요청이 들어오거나, 두 기준이 서로 충돌하면 AI가 임의로 결정하지 않고 멈추도록 정할 수 있습니다. 이때 담당자가 쓰는 업무 도구로 현재 상태, 참고 자료, 멈춘 이유와 필요한 결정을 함께 전달하면 처음부터 다시 조사하는 일을 줄일 수 있습니다. 실제 대응 시간의 변화는 운영 지표로 확인합니다.
기록이 있어야 계속 개선할 수 있습니다
AI가 사용한 자료, 실행한 행동, 검사 결과, 멈춘 이유, 사람이 승인하거나 수정한 내용을 기록하면 운영 상태를 확인할 수 있습니다. AI의 긴 설명을 모두 저장하기보다 나중에 결과를 다시 확인하고 업무를 이어받는 데 필요한 사실을 남깁니다. 자주 멈추는 단계와 반복되는 오류도 찾을 수 있습니다.
이 기록은 책임을 묻기 위한 자료에 그치지 않습니다. 업무 기준을 고치고, 필요한 정보를 보완하고, AI가 맡을 수 있는 범위를 넓히는 학습 자료가 됩니다.
기술팀에서는 도구, 권한, 검증, 기록과 사람의 개입을 묶은 운영 구조를 하네스(Harness)라고 부르기도 합니다. 가드레일은 그 안에서 AI가 정해진 범위를 벗어나지 않도록 막는 안전장치입니다. 용어보다 중요한 것은 AI의 행동과 결과를 조직이 확인하고 통제할 수 있다는 점입니다.
바로 해보는 위임 점검
앞 글에서 고른 업무 하나로 아래 항목을 확인해 보세요.
- 읽기, 쓰기, 외부 발송과 삭제 권한이 실제 시스템에서 나뉘어 있나요?
- 되돌리기 어렵거나 영향이 큰 행동은 사람이 승인하나요?
- 실제 사례로 만든 시험 자료와 결과 판정 기준이 있나요?
- 실행 시간, 재시도와 비용이 정한 범위를 넘으면 멈추나요?
- AI가 멈췄을 때 담당자가 이어받을 상태와 근거가 남나요?
- 사용 자료, 실행, 검사, 승인과 수정 기록을 다음 개선에 활용할 수 있나요?
이 질문에 답할 수 있을 때 AI는 단순한 답변 도구를 넘어, 조직의 책임 아래 관리하고 계속 개선할 수 있는 업무 실행 도구가 됩니다.