이제 AI 에이전트를 단순한 소프트웨어로 보면 안 돼요. 스스로 판단하고 움직이는 '비인간 신원(Non-Human Identity, NHI)'으로 정의해야 하거든요. 한국정보보호학회 칼럼에서도 에이전틱 AI 시대의 본질은 결국 권한 거버넌스라고 짚어줬어요. 만약 관리가 허술하다면 어떻게 될까요? 마이크로소프트가 경고한 AutoJack 사례를 보면 답이 나와요. 단 한 페이지의 악성 코드만으로도 AI 에이전트가 실행 중인 호스트 전체에 원격 코드 실행(RCE) 권한을 내어주는, 그야말로 복구가 불가능한 수준의 사고가 터질 수 있거든요.
AI 에이전트, 왜 '도구'가 아니라 '신원(Identity)'으로 봐야 할까요?
기존 IT 도구는 사용자가 시키는 명령만 수행하는 수동적인 존재였죠. 그런데 AI 에이전트는 달라요. 목표를 이루려고 스스로 계획을 짜고, API를 호출하고, 데이터를 뒤지는 '능동적 주체'니까요. 사람이 아니지만 사람처럼 권한을 갖고 시스템에 접근하는 비인간 신원(NHI)이 되는 셈이에요.
문제는 많은 기업이 편의성 때문에 권한을 너무 많이 준다는 거예요. 에이전트가 관리자 권한을 가진 계정으로 돌아가고 있다면? 공격자가 에이전트를 살짝 속여서 내부 기밀 데이터를 빼가거나 시스템 설정을 바꾸는 건 일도 아니거든요.
AI 도입의 성패는 '에이전트가 무엇을 할 수 있는가'보다 '무엇을 못 하게 막을 것인가'에서 갈려요.
권한 오남용으로 인한 데이터 유출, 어떻게 막죠?
가장 확실한 방법은 에이전트가 접근하는 데이터에 명확한 '꼬리표'를 붙이는 거예요. 그리고 그 꼬리표에 맞춰 접근 권한을 제어하는 거죠. 데이터가 어디 있는지도 모르는 상태에서 권한만 막으면, 정작 필요한 업무를 수행하지 못해 현장에서 불만이 터져 나오거든요.
이럴 때 Enterprise Vault(EV)의 자동 분류 기능을 쓰면 실무적인 답이 나옵니다. 250가지가 넘는 분류 정책으로 민감정보나 개인정보가 포함된 데이터를 자동으로 태깅할 수 있거든요. 이렇게 분류된 데이터는 AI 에이전트가 아예 못 보게 막거나, 마스킹 처리된 데이터만 제공하는 식으로 거버넌스를 설계해야 해요. 데이터 분류 정책이 없는 상태에서 AI 에이전트를 쓰는 건, 모르는 사람에게 회사 열쇠 뭉치를 통째로 맡기는 거나 다름없잖아요.
AI 에이전트의 활동 내역, 추적은 가능할까?
에이전트가 어떤 데이터를 읽었고 누구에게 전달했는지 기록하는 '감사 추적'은 컴플라이언스의 기본이에요.
만약 기밀이 유출됐다면, 이게 에이전트의 단순 판단 미스였는지 아니면 외부 공격에 의한 것인지 빠르게 알아내야 하잖아요. 커뮤니케이션 채널에서 활동하는 에이전트라면 Surveillance의 Audit Viewer로 모든 리뷰 활동과 감시 이력을 다 추적할 수 있어요. 또한 로그가 아카이빙되어 있다면 Discovery Accelerator(DA)로 특정 시점의 데이터를 정밀하게 검색하고 증거를 정리할 수 있죠. 이건 나중에 내부 감사나 법적 대응 때 실제로 법정에서 먹히는 방어 수단이 돼요. '기록되지 않은 행동은 통제할 수 없다'는 사실, 꼭 기억하세요.
에이전트에게 '검증된 데이터'만 주는 방법은?
AI 에이전트가 헛소리(Hallucination)를 하거나, 권한 밖의 야생 데이터를 긁어모아 학습하는 걸 막으려면 데이터 공급원부터 잡아야 해요. 아무 데이터나 쓰게 두는 게 아니라, 기업이 공식적으로 승인하고 보존하고 있는 데이터만 소스로 제공하는 방식이죠.
Merge1을 쓰면 Microsoft Teams, SharePoint Online, OneDrive 같은 기업용 협업 툴 데이터를 체계적으로 수집해서 아카이브로 전달할 수 있어요. 이렇게 정제된 데이터를 기반으로 RAG 환경을 구축하면, AI 에이전트가 엉뚱한 경로로 데이터를 찾아 헤매다 보안 취약점을 건드리는 리스크를 크게 줄일 수 있거든요.
자주 묻는 질문
- Q: 비인간 신원(NHI) 관리가 왜 기존 IAM(계정 및 권한 관리)과 다른가요?
A: NHI는 사람과 달리 비밀번호를 바꾸거나 다요소 인증(MFA)을 할 수 없어요. 또한 활동 범위가 매우 넓고 속도가 빠르기 때문에, 실시간 모니터링과 세밀한 권한 쪼개기가 필수적입니다. - Q: AutoJack 같은 RCE 공격을 막으려면 어떻게 해야 하나요?
A: 에이전트가 실행되는 환경을 격리(Sandboxing)하고, 에이전트가 접근할 수 있는 API와 파일 시스템 권한을 최소한으로 제한하는 '최소 권한 원칙'을 적용해야 해요. - Q: AI 에이전트 도입 시 가장 먼저 점검해야 할 데이터 컴플라이언스 항목은 무엇인가요?
A: 현재 우리 회사가 보유한 데이터의 분류 체계(Sensitive, Confidential, Public 등)가 잡혀 있는지, 그리고 그 분류에 따라 접근 제어 리스트(ACL)가 제대로 작동하는지를 먼저 확인해 보세요.
AI 에이전트는 업무 효율을 높여주는 강력한 무기지만, 권한 거버넌스라는 안전장치 없이는 언제든 내부의 적이 될 수 있어요. 지금 바로 우리 기업의 AI 권한 체계를 점검해 보세요.
더 자세한 데이터 거버넌스 전략이 궁금하시다면 휴미즈 홈페이지에서 확인하실 수 있습니다.
댓글
댓글 쓰기