AI 에이전트 거버넌스, 에이전트에게도 사원증과 격리된 책상이 필요하다

AI 에이전트 거버넌스를 한 문장으로 줄이면 “누가, 어디서, 무엇을 할 수 있게 하고, 무엇을 했는지 어떻게 남기는가”입니다. 새로운 질문처럼 들리지만, 정보보호 담당자에게는 아주 익숙한 질문입니다. 사람 직원에게 사원증(신원), 책상과 출입 구역(격리), 출입 기록(감사)을 주는 이유와 똑같기 때문입니다.

올가을 주요 벤더들의 에이전트 관련 발표를 보면, 더 똑똑한 에이전트보다 에이전트에게 신원을 부여하고, 격리된 실행 환경에 두고, 행동 기록을 고객이 보관하게 하는 기능이 눈에 띄게 늘었습니다. 시장이 같은 결론에 도달하고 있다는 신호입니다. 이 글은 개별 제품 소식 대신, 제가 폐쇄망 생성형 AI 플랫폼을 설계하고 ISMS-P 심사를 대응하면서 정리한 원칙을 기존 보안 통제와 어떻게 연결하는가라는 관점으로 풀어 봅니다.

출발점: 믿을 수 있는가가 아니라, 믿지 않아도 되는가

에이전트 보안 논의는 흔히 “이 모델은 지시를 잘 따르는가”에서 시작합니다. 그런데 에이전트는 목표를 달성하려고 손에 닿는 수단을 쓰는 시스템입니다. 작업 디렉터리에 자격 증명 파일이 있으면 읽을 수 있고, 네트워크가 열려 있으면 외부로 보낼 수 있습니다. 악의가 아니라 ‘목표 달성에 유용해 보여서’입니다. 그래서 설계 원칙은 모델의 선의에 기대는 것이 아니라, 모델이 잘못 행동해도 피해 범위가 제한되도록 만드는 것이어야 합니다. 보안에서 말하는 최소 권한과 폭발 반경(blast radius) 제한입니다.

신원: 공유 서비스 계정을 버린다

초기 사내 에이전트는 대부분 서비스 계정 하나로 움직입니다. 문서 검색 에이전트도, 메일 요약 에이전트도, 티켓 처리 에이전트도 같은 계정 권한으로 시스템에 접근합니다. 이 구조에는 세 가지 문제가 있습니다.

  • 추적 불가: 감사 로그에 같은 계정만 남아 어느 에이전트가 무엇을 했는지 구분할 수 없습니다.
  • 권한 합집합: 한 에이전트에 필요한 권한이 모든 에이전트에 주어집니다. 가장 위험한 에이전트의 권한이 전체의 권한이 됩니다.
  • 회수 불가: 한 에이전트에 문제가 생겨도 계정을 막으면 전부 멈추므로, 결국 아무것도 막지 못합니다.

대안은 에이전트마다 고유 ID와 사람 소유자를 두는 것입니다. 여기서 한 단계 더 나아가야 할 지점이 ‘누구의 권한으로 움직이는가’입니다. 사용자 요청을 받아 일하는 에이전트라면 에이전트 자체 권한이 아니라, 요청한 사용자의 권한 중 일부를 위임받아 움직여야 합니다. 그렇지 않으면 권한 없는 직원이 에이전트를 통해 볼 수 없는 문서를 보게 됩니다(혼동된 대리인 문제, confused deputy).

기술적으로는 OAuth 2.0 토큰 교환(RFC 8693) 방식이 이 요구에 맞습니다. 사용자 토큰을 받아, 특정 에이전트가 특정 범위로 짧은 시간만 쓸 수 있는 위임 토큰으로 바꿉니다. 토큰에는 ‘누가(사용자) 누구에게(에이전트) 무엇을(범위) 언제까지(만료)’가 함께 담기므로 감사 로그도 자연스럽게 두 주체를 모두 기록하게 됩니다.

위임 토큰에 담길 최소 정보
sub   : 요청 사용자 (예: emp-10231)
act   : 실행 에이전트 (예: agent:contract-review-02)
scope : docs.read:legal, ticket.create
exp   : 발급 후 15분
aud   : 문서관리시스템

격리: 에이전트의 책상은 따로 둔다

명령을 실행하는 에이전트(코딩 에이전트, 데이터 분석 에이전트)는 실행 환경 격리가 핵심입니다. 제가 설계 검토에서 요구하는 최소 기준은 다음과 같습니다.

격리 대상 최소 기준 이유
실행 단위 세션마다 새 컨테이너 또는 microVM, 종료 시 폐기 세션 간 잔여 데이터·자격 증명 유출 방지
파일 시스템 작업 디렉터리만 마운트, 홈 디렉터리·설정 파일 비노출 손에 닿는 자격 증명 제거
네트워크 기본 차단, 패키지 저장소 등 허용 목록만 개방 데이터 반출 경로 차단
자원 CPU·메모리·실행 시간 상한 무한 루프·과금 폭주 방지
비밀 정보 환경 변수 대신 호출 시점에 주입되는 단기 자격 증명 로그·출력에 비밀이 섞이는 사고 방지

컨테이너는 커널을 공유하므로, 신뢰하지 않는 코드를 실행하는 경우에는 Firecracker 같은 경량 가상머신(microVM)이 더 강한 경계를 제공합니다. 기동 비용이 있지만 대부분의 업무 에이전트에서 모델 추론 시간에 비하면 작습니다. 국내 금융·공공·대기업 환경에서는 망분리 요구 때문에 외부 SaaS 에이전트를 그대로 쓰기 어려운데, 자체 호스팅과 완전 망분리를 지원하는 에이전트 제품이 늘고 있다는 것은 폐쇄망 플랫폼을 운영하는 조직에 선택지가 넓어진다는 뜻입니다.

도구 공급망: 플러그인과 MCP 서버도 소프트웨어다

에이전트에 붙이는 플러그인, MCP 서버, 확장 도구는 사실상 외부 소프트웨어입니다. 올해 들어 코딩 에이전트 플러그인의 취약점이 잇달아 공개된 것도 같은 맥락입니다. 사내 기준은 오픈소스 라이브러리 관리와 같게 두면 됩니다. 허용 목록에 있는 도구만 설치할 수 있게 하고, 출처와 버전을 고정하고, 보안 패치를 추적하고, 도구가 요구하는 권한을 설치 전에 검토합니다. 특히 도구의 설명(description) 문자열 자체가 모델에게 지시로 읽힐 수 있다는 점은 일반 라이브러리와 다른 위험이므로, 외부 도구의 설명문도 검토 대상에 넣습니다.

감사: 무엇을, 어디에 남기는가

에이전트 감사 로그는 사람 로그보다 많이 남겨야 사고 분석에 쓸 수 있습니다. 사람은 나중에 물어볼 수 있지만 에이전트의 판단 과정은 기록 밖에 없기 때문입니다. 저는 한 번의 작업을 하나의 추적 ID로 묶어 다음을 남기도록 합니다.

  • 요청자(사람)와 실행자(에이전트 ID, 프롬프트·모델 버전)
  • 참조한 근거(검색된 문서 ID, 버전)
  • 도구 호출과 인자, 결과 요약
  • 사람 승인 여부와 승인자
  • 최종 산출물의 해시

최근 쟁점은 이 기록을 누가 보관하느냐입니다. 외부 서비스형 에이전트의 모니터링 기록을 고객 인프라에 보관할 수 있게 하는 흐름이 나타나고 있는데, 프롬프트에는 개인정보와 영업비밀이 섞이므로 국내 기업에는 중요한 선택 기준입니다. 계약 단계에서 로그 보관 위치, 보존 기간, 벤더 측 열람 권한을 반드시 확인해야 합니다.

ISMS-P 통제와 연결하기

에이전트 거버넌스를 별도 체계로 만들면 운영 부서는 두 개의 규정을 지켜야 합니다. 저는 기존 인증 기준의 통제 항목에 ‘에이전트 계정도 포함한다’는 해석을 붙이는 방식을 권합니다. 대응 관계는 대략 다음과 같습니다.

인증 기준 영역 에이전트에 적용하는 방식
사용자 계정 관리·식별 에이전트별 고유 ID, 소유자, 만료일. 공유 계정 금지
특수 계정 및 권한 관리 쓰기·실행 권한 에이전트를 특수 계정으로 분류해 별도 승인
접근권한 검토 분기별 에이전트 권한 검토, 미사용 에이전트 폐기
네트워크·인터넷 접속 통제 실행 환경 네트워크 기본 차단, 허용 목록 관리
로그 및 접속기록 관리 요청자·에이전트·도구 호출을 묶은 추적 로그, 보존 기간
사고 예방 및 대응 이상 행동 시 에이전트 중지·자격 증명 회수 절차와 훈련

이렇게 연결해 두면 심사 때 ‘에이전트는 범위 밖’이라는 회색지대가 생기지 않고, 기존 증적 수집 절차를 그대로 쓸 수 있습니다.

한 달 안에 할 수 있는 순서

  1. 1주차 — 인벤토리. 운영 중인 에이전트를 모두 찾아 소유자와 목적을 적습니다. 대개 누가 만들었는지 모르는 에이전트가 나옵니다. 개인 API 키로 돌아가는 에이전트도 이때 드러납니다.
  2. 2주차 — 신원. 공유 서비스 계정을 쓰는 에이전트를 에이전트별 계정으로 바꾸고 권한을 실제 사용 범위로 줄입니다.
  3. 3주차 — 격리. 명령을 실행하는 에이전트부터 격리 환경으로 옮기고 네트워크를 허용 목록으로 묶습니다.
  4. 4주차 — 감사와 대응. 감사 로그를 보안 관제로 연결하고, 에이전트 하나를 실제로 멈추고 자격 증명을 회수하는 훈련을 한 번 해 봅니다. 훈련해 보지 않은 중지 절차는 사고 때 작동하지 않습니다.

순서는 위험이 큰 곳부터입니다. 쓰기·실행 권한을 가진 에이전트가 먼저이고, 읽기 전용 검색 에이전트는 그다음입니다. 에이전트가 몇 개뿐이라도 사내 시스템에 쓰기 권한을 갖는 순간부터 이 체계가 필요합니다. 몇 개일 때 만들면 하루, 수백 개일 때 만들면 프로젝트입니다.

맺으며

에이전트가 보조 도구에서 계속 일하는 동료가 되면서, 거버넌스의 단위도 사람에서 ‘사람과 에이전트’로 넓어지고 있습니다. 신원·격리·감사는 새로운 원칙이 아니라 사람 직원에게 당연히 적용하던 원칙을 에이전트에게 옮기는 일입니다. 에이전트 수를 늘리기 전에 이 세 가지를 먼저 갖춰 두면, 사고가 나더라도 범위를 좁히고 원인을 찾을 수 있습니다.

참고 자료

댓글 남기기