agent-sdk

2 개의 포스트

cloudflare

Cloudflare에서 Claude Managed Agents 발표 (새 탭에서 열림)

Cloudflare와 Anthropic은 Claude Managed Agents의 에이전트 루프는 Anthropic에서 실행하고, 코드 실행·샌드박스·네트워크 연결은 Cloudflare에서 처리하는 통합 환경을 공개했습니다. 이를 통해 보안 프록시, 프라이빗 서비스 연결, 샌드박스 관측성, 브라우저 제어, 이메일, 사용자 정의 도구를 기본 제공하면서도 인프라를 직접 통제할 수 있습니다. 특히 작업 특성에 따라 전체 Linux microVM과 가벼운 V8 isolate를 선택해 비용과 확장성을 조절할 수 있다는 점이 핵심입니다. ## Claude Managed Agents의 구조 - Claude Managed Agents는 Anthropic 플랫폼에서 에이전트를 정의하고 실행하는 관리형 환경입니다. - 에이전트는 파일 읽기, 명령 실행, 웹 브라우징, 코드 실행 등을 수행할 수 있습니다. - 프롬프트 캐싱, 대화 압축(compaction), 에이전트 실행 최적화 기능이 내장되어 있습니다. - 기존에는 에이전트 루프와 실행 인프라를 모두 Anthropic 환경에서 운영했지만, 이제 실행 환경을 Cloudflare 등 외부 인프라로 분리할 수 있습니다. - Anthropic이 이를 “두뇌와 손의 분리”라고 설명하듯이: - **두뇌**: Claude의 에이전트 루프 - **손**: 코드 실행, 파일 시스템, 명령 도구, 네트워크 연결을 담당하는 Cloudflare 환경 ## Cloudflare 기반 실행 환경 - Claude Agent가 세션을 시작하면 Cloudflare Workers 기반 컨트롤 플레인에 메시지를 보냅니다. - 컨트롤 플레인은 각 세션에 샌드박스를 할당해 다음 작업을 지원합니다. - 코드 실행 - 애플리케이션 개발 - CLI 도구 실행 - 파일 생성 및 수정 - 세션이 일시 중지되어도 상태가 자동으로 보존됩니다. - VM 기반 샌드박스는 다음과 같이 설정할 수 있습니다. - 인스턴스 크기 조정 - 실행 컨테이너 이미지 사용자 정의 - Cloudflare 대시보드에서 샌드박스 상태를 확인하고 로그를 조회할 수 있습니다. - 로그는 Datadog이나 Splunk 같은 외부 관측성 플랫폼으로 전송할 수 있습니다. - 기본 UI를 통해 실행 중인 샌드박스에 SSH로 접속하고 대화형 셸 세션을 사용할 수 있습니다. ## 기본 제공되는 통합 기능 - **보안 프록시** - 에이전트의 모든 외부 트래픽을 사용자 정의 프록시로 통과시킬 수 있습니다. - 샌드박스 외부에서 인증 정보를 주입해 에이전트가 비밀값을 직접 보지 못하게 할 수 있습니다. - 데이터 유출을 차단하고 외부 서비스와의 상호작용을 관찰할 수 있습니다. - **샌드박스 제어와 관측성** - 상세한 메트릭과 로그를 제공합니다. - 실행 중인 머신에 SSH로 접근할 수 있습니다. - 샌드박스 이미지를 직접 구성할 수 있습니다. - **프라이빗 서비스 연결** - 인터넷에 서비스를 공개하지 않고 내부 API나 데이터베이스에 연결할 수 있습니다. - **브라우저 제어** - 에이전트의 브라우저 세션을 기록하고 감사 추적을 남길 수 있습니다. - 세션 녹화와 human-in-the-loop 승인 흐름을 지원합니다. - **이메일** - 에이전트별 이메일 주소를 부여하고 이메일을 발송할 수 있습니다. - **사용자 정의 도구** - 별도의 인프라 없이 함수를 작성하고 배포해 에이전트 기능을 확장할 수 있습니다. ## microVM과 isolate를 통한 확장성 - 모든 에이전트에 전용 microVM을 할당하면 대규모 동시 실행에서 비용과 자원 낭비가 커질 수 있습니다. - Cloudflare는 두 가지 샌드박스 방식을 제공합니다. - **microVM 기반 샌드박스** - 완전한 Linux 환경을 제공합니다. - 애플리케이션 개발, Linux 기반 도구, 복잡한 코드 실행에 적합합니다. - Cloudflare Containers를 사용할 수 있습니다. - **V8 isolate 기반 샌드박스** - Dynamic Workers와 Codemode를 이용해 임의의 코드를 실행합니다. - 파일 시스템을 제공하면서도 전체 VM보다 가볍습니다. - 수 밀리초 단위로 부팅할 수 있어 비용과 시작 시간이 줄어듭니다. - 에이전트 설정에서 백엔드 유형으로 `isolate`를 선택하면 V8 isolate를 사용할 수 있습니다. - 수만 개 이상의 동시 에이전트가 필요한 경우 isolate 방식이 VM 기반보다 훨씬 높은 확장성을 제공할 수 있습니다. - 반대로 완전한 Linux 환경이나 강한 격리가 필요하면 microVM을 선택하는 것이 적합합니다. ## 보안과 네트워크 제어 - 에이전트가 조직 내부의 데이터와 서비스에 접근할수록 유용성은 높아지지만 보안 위험도 커집니다. - Cloudflare 샌드박스는 아웃바운드 프록시를 통해 외부 서비스와의 통신을 제어할 수 있습니다. - 프록시에서 동적으로 인증하고 비밀값을 요청에 삽입하면, 샌드박스와 에이전트가 실제 자격 증명을 직접 보유하지 않아도 됩니다. - 이를 통해 샌드박스와 외부 서비스 사이에 동적이고 사용자 정의 가능한 zero-trust 인증 구조를 구성할 수 있습니다. - 제공된 글은 이 보안 섹션이 “데이터 유출 방지” 설명 도중 중단되어 있어, 세부 구현이나 설정 방법까지는 확인할 수 없습니다. ## 실용적인 선택 기준 - 단순한 코드 실행과 대규모 동시성이 중요하면 **V8 isolate**를 우선 고려하는 것이 좋습니다. - Linux 도구, 애플리케이션 빌드, 장시간 실행되는 개발 작업이 필요하면 **microVM 또는 Containers**가 적합합니다. - 내부 시스템에 연결할 때는 프록시 기반 인증과 프라이빗 연결을 사용해 비밀값과 서비스를 샌드박스에 직접 노출하지 않는 구성이 권장됩니다. - 운영 환경에서는 Cloudflare 대시보드, 로그 외부 전송, 브라우저 세션 기록을 함께 활용해 에이전트 행동을 지속적으로 감사하는 것이 중요합니다.

cloudflare

에이전틱 시대를 위한 워크플로 컨트롤 플레인 재설계 (새 탭에서 열림)

Cloudflare의 워크플로우(Workflows) 컨트롤 플레인 재설계 과정을 다룬 이 글은, 인간 중심의 트리거에서 AI 에이전트 중심의 고속 트리거로 변화하는 기술 환경에 대응하기 위한 아키텍처 전환을 설명합니다. 기존의 중앙 집중식 구조에서 발생하는 병목 현상을 해결하기 위해 수평적 확장이 가능한 새로운 컴포넌트를 도입하였으며, 이를 통해 동시 실행 인스턴스 수를 기존 대비 10배 이상인 50,000개까지 확장하는 데 성공했습니다. 결과적으로 에이전트가 생성하는 방대한 양의 워크로드를 안정적이고 탄력적으로 처리할 수 있는 기반을 마련했습니다. ### 에이전트 시대의 워크로드 변화와 새로운 요구사항 * **트리거 주체의 변화:** 과거에는 사용자의 회원가입이나 주문 등 인간의 행동에 의해 워크플로우가 시작되었으나, 현재는 자율적인 AI 에이전트가 기계적인 속도로 워크플로우를 생성합니다. * **지속성 및 내구성의 중요성:** 에이전트가 며칠 동안 작업을 수행하거나 인간의 승인을 기다리는 동안, 워크플로우는 각 단계를 독립적으로 재시도하고 실패 시에도 진행 상황을 유지하는 내구성이 필요합니다. * **폭발적인 인스턴스 생성:** 단일 에이전트 세션이 수십 개의 워크플로우를 생성하고 수천 개의 인스턴스가 동시에 실행되는 환경에 대응하기 위해 더 높은 처리량이 요구됩니다. ### V1 아키텍처의 한계: 중앙 집중형 구조의 병목 * **단일 Durable Object(DO) 의존:** 모든 계정 레벨의 정보와 인스턴스 관리를 'Account'라는 단일 Durable Object가 담당하여 병목 현상이 발생했습니다. * **확장성 제약:** 인스턴스 생성, 업데이트, 조회 등의 모든 작업이 하나의 DO를 거쳐야 했으므로, 동시 실행 4,500개 및 10초당 100개의 생성 제한이라는 물리적인 한계에 부딪혔습니다. * **상태 불일치 가능성:** 워크플로우를 큐에 넣기 전 실제 실행 엔진(Engine)의 생성 여부를 확인하는 로직이 부족하여 비정상적인 상태가 발생할 가능성이 있었습니다. ### V2 아키텍처: 수평적 확장을 위한 재설계 원칙 * **엔진 중심의 진실 공급원(Source of Truth):** 특정 인스턴스의 존재 여부에 대한 권한을 해당 인스턴스의 실행 엔진(Engine)에만 부여하여 의존성을 분산했습니다. * **메타데이터의 최소화:** 계정 수준의 싱글톤(Singleton) 객체는 최소한의 메타데이터만 저장하고, 요청 수에 관계없이 일정한 성능을 유지하도록 설계했습니다. * **새로운 컴포넌트 도입:** 'Account' DO의 부하를 분산하기 위해 메타데이터와 생명주기 관리를 보조하는 **SousChef**와 동시성 제어 및 액세스를 담당하는 **Gatekeeper**를 새롭게 구축했습니다. ### 향상된 성능 지표 및 확장된 한계치 * **동시 실행 인스턴스:** 기존 4,500개에서 **50,000개**로 대폭 상향되었습니다. * **인스턴스 생성 속도:** 계정당 초당 100개에서 **초당 300개**로 향상되었습니다. * **대기열 용량:** 워크플로우당 대기 중인 인스턴스 수가 100만 개에서 **200만 개**로 두 배 늘어났습니다. AI 에이전트가 주도하는 애플리케이션을 구축하는 개발자라면, 이제 인프라의 한계에 구애받지 않고 고도로 병렬화된 워크플로우를 설계할 수 있습니다. Cloudflare Workflows의 V2 컨트롤 플레인은 대규모 자동화 인프라를 위한 강력하고 탄력적인 토대를 제공합니다.