techlist.io
KREN
cloudflare

신원 인식형 분석으로 통제 불능 AI 행동 포착하기 (새 탭에서 열림)

ai-securityanomaly-detectionai-gatewaycloudflare-accesssamlidentity-managementai-governancespend-controls

AI 사용량의 이상 징후를 파악하려면 요청마다 검증된 사용자·에이전트 신원과 각 계정의 정상적인 사용 기준선이 필요하다. Cloudflare는 AI Gateway와 Cloudflare Access를 결합해 요청별 신원을 확인하고, User Insights로 계정별 사용 패턴에서 벗어난 행동을 탐지한다고 밝혔다. 이를 통해 비용 관리뿐 아니라 과도한 사용이나 악성·오작동 에이전트 탐지까지 가능하게 한다.

AI Gateway를 통한 중앙 관리

  • AI Gateway는 OpenAI, Anthropic, Google, Workers AI 등 여러 모델로 향하는 요청을 하나의 제어 지점으로 통합한다.
  • 애플리케이션뿐 아니라 Claude Code, Codex, GitHub Copilot 같은 개발자용 에이전트도 동일한 관찰·보안·거버넌스 정책을 적용할 수 있다.
  • 모든 AI 트래픽을 한곳에서 분석하므로 비용, 모델 사용량, 접근 제어를 통합 관리할 수 있다.

Cloudflare Access 기반의 신원 확인

  • AI Gateway 앞에 사용자 정의 도메인을 두고 Cloudflare Access로 보호할 수 있다.
  • Okta, Entra 등 SAML을 지원하는 ID 공급자를 이용해 인증하며, 별도의 Cloudflare API 키를 배포할 필요가 없다.
  • 인증된 요청에는 사용자의 Access ID가 cf.user_id 메타데이터로 포함된다.
  • 관리자는 실제 요청자를 기준으로 로그, 분석 데이터, 비용을 필터링할 수 있다.
  • 공유 API 키 때문에 누가 얼마나 사용했는지 알기 어려웠던 문제를 해결한다.

사용자별 비용 한도와 정책

  • cf.user_id를 기반으로 사용자마다 독립적인 예산 한도를 설정할 수 있다.
  • 한도에 도달하면 요청을 차단하거나 더 저렴한 모델로 자동 전환할 수 있다.
  • 향후 ID 공급자의 그룹 정보와 연동해 팀별로 모델 접근 권한과 지출 한도를 설정할 예정이다.
    • 머신러닝 팀에는 최고급 모델 허용
    • 지원팀에는 지출 상한 적용
    • 특정 프로젝트 구성원에게 공동 예산 할당

User Insights의 역할

  • User Insights는 AI Gateway를 통과하는 기존 트래픽을 별도 설정 없이 분석한다.
  • 사람과 에이전트 각각의 평소 행동 패턴을 학습하고, 그 패턴에서 벗어난 계정을 보여준다.
  • 비용뿐 아니라 캐시 적중률이 낮거나 컨텍스트 윈도우가 과도하게 큰 등 비용 낭비 요인도 추적한다.
  • 단순히 “많이 사용했는가”가 아니라 “그 계정의 평소 사용 방식과 다른가”를 판단하는 데 초점을 둔다.

사람과 에이전트별 행동 기준선

  • 계정은 사용자든 에이전트든 시간에 따라 고유한 행동 패턴을 만든다.
  • 일정한 간격으로 티켓을 요약하는 에이전트와, 프롬프트·세션 길이가 불규칙한 사람은 정상 패턴이 다르다.
  • 따라서 모든 계정에 동일한 절대 비용 기준을 적용하면 오탐이 많아진다.
    • 평소 비용이 큰 사용자의 500달러 지출은 정상일 수 있다.
    • 평소 5달러를 쓰는 에이전트의 50달러 세션은 10배 증가한 이상 징후일 수 있다.

세션 비용 기반 이상 탐지

  • User Insights는 개별 요청이 아니라 세션 단위로 비용을 평가한다.
  • 최근 30일 동안 해당 계정의 세션 비용 p95를 개인 기준선으로 사용한다.
  • 세션 비용이 개인 p95의 2배를 초과하면 이상 행동 후보로 분류한다.
  • 단, 상대적 급증만으로는 부족하므로 조직 전체 세션 비용의 p99도 함께 사용한다.
  • 최종적으로 다음 조건을 모두 만족하는 세션만 경고 대상이 된다.
    • 해당 계정의 최근 기준선보다 2배 이상 비쌈
    • 조직 전체 세션 중 가장 비싼 1% 수준에 해당함
  • 절대 비용 하한선도 적용해, 소액 사용자의 몇 센트짜리 급증이 불필요한 경고를 발생시키지 않도록 한다.

동적으로 갱신되는 기준선

  • 기준선은 고정값이 아니라 계정의 최근 사용 습관에 따라 계속 변한다.
  • 계정의 rolling p95와 2배 임계값이 이동하므로 현재 행동에 맞는 경고가 가능하다.
  • 정상적인 고사용자 활동은 제외하고, 평소 패턴을 깨면서도 실제 조사 가치가 있는 고비용 세션만 추린다.
  • 결과적으로 관리자는 정상 트래픽을 모두 살펴보는 대신, 의심스러운 계정 중심의 “rogue behavior feed”를 확인할 수 있다.

보안과 비용 관리의 결합

  • 이상 사용은 새로운 도구나 명백히 차단된 행동으로 나타나지 않을 수 있다.
  • 이미 권한을 가진 계정이나 서비스 계정이 허용된 작업을 평소보다 훨씬 많이 수행하는 방식으로 나타날 수 있다.
  • 따라서 사용자 신원 확인과 행동 기준선 분석을 함께 적용해야 비용 폭증과 보안 위험을 동시에 발견할 수 있다.

실무적으로는 모든 AI 요청을 AI Gateway로 통합하고, Cloudflare Access로 개인·에이전트 신원을 연결한 뒤, 사용자별 예산과 User Insights의 상대적 기준선을 함께 활용하는 방식이 권장된다.