런타임 인스턴스: Amazon Bedrock AgentCore에서 프로덕션 AI 에이전트를 위한 지속적 컴퓨팅 | Amazon Web Services (새 탭에서 열림)

Amazon Bedrock AgentCore의 runtime instances는 장시간 실행, GPU 사용, 다중 에이전트 협업이 필요한 프로덕션 AI 에이전트를 위한 AWS 관리형 EC2 기반 실행 환경이다. 최대 14일 동안 세션 상태를 유지하고, 여러 에이전트가 같은 호스트와 파일 시스템을 공유할 수 있다. 기존에 직접 구성해야 했던 EC2, 네트워크, 세션 관리, 확장, 모니터링을 AgentCore API·IAM·관측성 체계와 함께 관리해 복잡한 에이전트 워크로드를 단순화한다.

runtime instances가 해결하는 문제

• 프로토타입 에이전트를 프로덕션으로 전환하면 다음 요구사항이 발생한다.
  • 수 시간에서 수일 동안 지속되는 워크플로
  • 여러 단계에 걸친 상태 유지
  • 에이전트 간 협업과 컨텍스트 공유
  • GPU 또는 운영체제 수준 접근
  • 대용량·지속형 컴퓨팅 환경
• 기존에는 EC2 인스턴스, 네트워크, 세션 관리, 확장, 모니터링을 직접 구축해야 했다.
• runtime instances는 이러한 인프라를 AWS가 관리하면서 기존 AgentCore API, 인증 제어, 관측성 기능과 통합한다.

runtime microVM과 runtime instances의 차이

• runtime microVM
  • 빠른 확장에 적합한 경량 실행 환경
  • 개별 호출을 최대 8시간까지 실행
  • 관리형 세션 저장소를 통해 상태 기반 워크플로 지원
• runtime instances
  • AWS 관리형 EC2 기반의 지속형 실행 환경
  • 공유 세션을 최대 14일까지 유지
  • GPU, 직접적인 OS 접근, 장시간 실행 지원
  • 여러 에이전트를 하나의 런타임에서 실행 가능
  • 유휴 기간에는 세션을 중지하고 나중에 재개해 비용 절감
• 두 환경은 독립적으로 사용하거나 함께 구성할 수 있다.
  • 예를 들어 microVM의 오케스트레이터가 작업을 분배하고, instances의 워커 에이전트가 코드 컴파일·보안 검사·GUI 자동화 같은 무거운 작업을 수행한다.

에이전트 배포와 협업 방식

• CrewAI, LangGraph, LlamaIndex, Strands 등 원하는 프레임워크와 모델을 사용할 수 있다.
• 애플리케이션은 @app.entrypoint 데코레이터를 사용하며, ZIP 파일 또는 컨테이너 이미지로 패키징한다.
• 같은 세션에 속한 에이전트들은 서로를 도구처럼 호출하며 자율적으로 작업을 반복할 수 있다.
• 세션이 며칠간 중단되어도 상태를 유지한 채 재개할 수 있다.
• 세션을 초월해 보존해야 하는 지식은 다음 서비스와 결합할 수 있다.
  • Amazon EBS: 지속적인 파일 시스템과 작업 데이터 저장
  • AgentCore Memory: 세션·환경을 넘어 유지되는 장기 기억

코드 작성 에이전트와 리뷰 에이전트 예시

• 예제에서는 두 개의 Python 에이전트를 만든다.
  • Writer: 자연어 요구사항을 Python 코드로 변환
  • Reviewer: 생성된 코드의 버그, 보안 문제, 스타일을 검토
• Writer는 세션 ID를 기반으로 공유 디렉터리를 만든 뒤 code.py를 저장한다.
• Reviewer는 같은 세션 ID로 해당 파일을 읽어 코드 리뷰를 수행한다.
• 두 에이전트가 같은 파일 시스템을 공유하므로 다음이 필요 없다.
  • 코드 파일을 별도로 업로드하거나 다운로드하는 과정
  • 에이전트 간 API를 통한 데이터 전송
• 실제 운영 환경에서는 예외 처리, 파일 접근 권한, 동시성 제어, 세션 ID 검증 등을 추가해야 한다.

용량 공급자 설정

• 먼저 에이전트가 실행될 EC2 인프라를 정의하는 capacity provider를 생성한다.
• 주요 설정 항목은 다음과 같다.
  • 운영체제: Linux 64-bit ARM
  • 인스턴스 유형: 예시에서는 c7g.2xlarge
  • 컴퓨팅 자원: 8 vCPU, 16 GiB 메모리
  • VPC, 서브넷, 보안 그룹
  • gp3 EBS 볼륨
  • EC2 관리를 위한 서비스 역할과 인프라 역할
• 생성 후 상태가 Active가 되면 런타임에서 사용할 수 있다.
• 생성 이후에는 설명 외 설정 변경이 제한되므로 인스턴스 유형, 네트워크, 보안 설정을 처음부터 검토해야 한다.

런타임 생성과 에이전트 배포

• Runtime에서 Compute type으로 Instances를 선택한다.
• 앞서 만든 capacity provider를 연결한다.
• 에이전트 소스는 S3에서 가져오며, ZIP 파일을 업로드할 수 있다.
• 배포 시 다음 정보를 지정한다.
  • Python 3.13 등 언어 런타임
  • agent.py와 같은 엔트리포인트 파일
  • 에이전트의 @app.entrypoint 함수
• AWS Management Console뿐 아니라 AgentCore CLI, AWS CLI, IaC 도구로도 배포할 수 있다.

실용적인 선택 기준

• 빠른 확장과 짧은 호출 중심의 오케스트레이션에는 runtime microVM이 적합하다.
• 장시간 실행, GPU, 공유 파일 시스템, 다중 에이전트 협업, OS 접근이 필요하면 runtime instances를 고려하는 것이 좋다.
• 일반적으로는 microVM을 오케스트레이터로, runtime instances를 전문 워커 실행 환경으로 조합하는 구조가 효과적이다.
• 비용을 줄이려면 작업이 없는 시간에 세션을 중지하고, EBS와 AgentCore Memory를 목적에 맞게 분리해 사용하는 것이 권장된다.