aws-sdk

3 개의 포스트

aws3분 읽기큐레이션 요약

AWS에서 제공되는 Anthropic Claude Fable 5: 기본 제공 안전장치를 갖춘 Mythos급 기능 이제 이용 가능 | Amazon Web Services

Claude Fable 5는 Amazon Bedrock과 Claude Platform on AWS에서 제공되는 Mythos급 성능의 모델로, 장시간 실행되는 코딩·지식 작업과 문서·이미지 이해에 강점을 보인다. 동시에 사이버보안·생물학·화학·보건 등 오용 위험이 높은 요청은 Opus 4.8로 전환하는 안전장치를 적용했다. AWS 사용자는 기존 Bedrock 환경에서 Messages, Invoke, Converse API를 통해 모델을 사용할 수 있지만, 이용 전 데이터 공유와 30일 보관에 동의해야 한다. ## Mythos급 성능과 장시간 작업 - 소프트웨어 엔지니어링, 지식 노동, 비전 관련 벤치마크에서 높은 성능을 제공한다. - 이전 모델보다 복잡하고 긴 작업을 중단 없이 오래 수행할 수 있다. - 코딩 및 연구 작업을 비동기적으로 실행해 사용자의 지속적인 개입을 줄인다. - 모델이 작업 중 얻은 학습 내용을 바탕으로 기술을 갱신하고, 자체 테스트 하네스와 평가 방식을 만들 수 있다. ## 고급 비전 기능 - 파일과 PDF 안에 포함된 다이어그램, 차트, 표를 해석한다. - 금융, 법률, 분석, 건축, 게임처럼 시각 자료가 많은 업무에 활용할 수 있다. - 코딩 과정에서 설계 이미지를 분석하고, 구현 결과가 원래 목표와 얼마나 일치하는지 스스로 검토할 수 있다. ## 오용 방지를 위한 안전장치 - Fable 5는 광범위한 사용을 목표로 강력한 안전 제한을 포함한다. - 사이버보안, 생물학, 화학, 보건과 관련된 유해 요청은 Opus 4.8로 대신 처리된다. - 안전장치가 없는 동일 계열 모델인 Claude Mythos 5는 검증된 일부 고객에게만 제공된다. - 높은 수준의 안전장치를 통해 Fable 5의 고성능 기능을 더 많은 고객에게 공개할 수 있다는 것이 Anthropic의 설명이다. ## Amazon Bedrock에서의 접근 방식 - Amazon Bedrock 또는 Claude Platform on AWS에서 사용할 수 있다. - Bedrock에서는 다음 경로를 통해 호출할 수 있다. - Anthropic SDK의 Messages API - `bedrock-mantle` 및 `bedrock-runtime` 엔드포인트 - AWS CLI와 AWS SDK의 Invoke API, Converse API - Bedrock 콘솔의 Playground - 예시 모델 식별자는 Anthropic SDK에서 `anthropic.claude-fable-5`, Converse API에서 `global.anthropic.claude-fable-5`로 제시된다. ## 데이터 공유 및 보관 조건 - 모델 호출 전에 Data Retention API를 사용해 `provider_data_share`를 설정해야 한다. - 출시 시점에는 이 설정을 위한 콘솔 UI가 제공되지 않는다. - `bedrock-mantle`에서는 `/v1/data_retention`, `bedrock-runtime`에서는 `/data-retention` 엔드포인트를 사용한다. - Anthropic은 입력과 출력 데이터를 30일 동안 보관하고 사람에 의한 검토를 요구한다. - 데이터 공유를 활성화하면 추론 데이터가 AWS 외부로 전달될 수 있으므로, 조직의 보안·규정 준수 정책을 먼저 확인해야 한다. ## Python 호출 예시 - Anthropic SDK 사용 시 `anthropic` 패키지를 설치하고 Bedrock Mantle 엔드포인트를 `base_url`로 지정한다. - `client.messages.create()`에 모델명, 최대 토큰 수, 사용자 메시지를 전달해 호출한다. - Boto3의 Converse API를 사용하면 Bedrock의 통합 멀티모델 인터페이스로 Fable 5를 호출할 수 있다. - 예시 작업으로는 여러 지역에서 초당 10만 요청을 처리하는 AWS 분산 아키텍처 설계가 제시됐다. ## 이용 권한과 가격 - 모델 접근 권한은 AWS 계정별로 단계적으로 확대된다. - 아직 접근할 수 없는 계정은 Bedrock 사용량에 따라 추후 활성화되며, 빠른 사용이 필요하면 AWS Support에 문의할 수 있다. - 유해 요청이 Opus 4.8로 라우팅되면 Opus 가격이 적용된다. - 대화 중간에 차단되는 경우 초기 토큰에는 Fable 요금, 이후 토큰에는 Opus 요금이 적용될 수 있다. - Mythos급 모델은 오용 패턴 탐지를 위해 전체 트래픽에 제한적인 데이터 보관이 요구된다. 실제로 도입할 때는 모델 성능뿐 아니라 30일 데이터 보관, 사람의 데이터 검토, AWS 외부 데이터 공유 가능성을 반드시 검토해야 한다. 민감한 업무라면 먼저 Bedrock 권한과 보안 정책을 확인한 뒤 제한된 테스트 환경에서 Messages API나 Converse API로 평가하는 것이 좋다.

원문 읽기(새 탭에서 열림)
aws3분 읽기큐레이션 요약

Anthropic 및 OpenAI 호환 API에 최적화된 Amazon Bedrock의 새로운 콘솔 환경을 사용해 보세요 | Amazon Web Services

Amazon Bedrock이 Anthropic 및 OpenAI 호환 API에 최적화된 새로운 콘솔 환경을 공개했습니다. `bedrock-mantle` 엔드포인트를 기반으로 GPT, Claude, 오픈 웨이트 모델을 쉽게 비교·평가하고, 프로젝트 단위로 사용량을 분석하며 애플리케이션 개발까지 이어갈 수 있습니다. 모델 선택부터 SDK 코드 생성, AI 코딩 에이전트 연결까지 하나의 워크플로에서 처리하는 것이 핵심입니다. ## `bedrock-mantle` 기반의 새로운 콘솔 - 최신 GPT, Claude, 오픈 웨이트 모델을 지원합니다. - 다음 API 프로토콜과 호환됩니다. - OpenAI Responses API - OpenAI Chat Completions API - Anthropic Messages API - 고성능, 안정성, 보안을 목표로 하는 차세대 추론 엔진을 사용합니다. - 기존 Bedrock 콘솔은 계속 사용할 수 있으며, Agents, Knowledge Bases, Guardrails, 파인튜닝, `InvokeModel` 및 `Converse` API는 `bedrock-runtime`에서 관리합니다. ## 모델 카탈로그와 비교 기능 - 전체 모델 카탈로그를 한 화면에서 확인할 수 있습니다. - 모델별로 다음 정보를 비교할 수 있습니다. - 지원 기능과 모달리티 - 컨텍스트 윈도우 - 토큰 및 입출력 관련 정보 - 가격 - 서비스 할당량 - 리전별 제공 여부 - 최대 3개 모델을 선택해 동일한 프롬프트의 응답을 나란히 비교할 수 있습니다. - 문서와 별도의 한도 계산기를 오갈 필요 없이 모델 평가에 필요한 정보를 통합해서 볼 수 있습니다. ## 프로젝트 기반 개발 및 평가 - 프로젝트를 생성하고 사용할 모델을 지정한 뒤 API 키를 구성할 수 있습니다. - 프로젝트 대시보드에서 다음 지표를 확인할 수 있습니다. - 최근 기간별 추론 요청 수와 오류 - 총 토큰 사용량 - 분당 토큰 사용량 - 분당 추론 요청 수 - 추론 요청당 토큰 수 - 최근 사용 모델 - 이러한 지표를 활용해 모델 선택, 프롬프트 최적화, 워크로드의 일관성을 검토할 수 있습니다. - 모델 평가에서 애플리케이션 구축까지 이어지는 실제 개발 생명주기에 맞춘 구성을 제공합니다. ## 프로젝트 변수와 연동되는 실시간 문서 - 프로젝트에서 선택한 모델 ID, 리전, `bedrock-mantle` 엔드포인트 URL, API 키 참조가 문서와 코드 예제에 자동으로 반영됩니다. - Anthropic 또는 OpenAI SDK와 원하는 프로그래밍 언어, 인증 방식을 선택할 수 있습니다. - 터미널에서 바로 실행할 환경 변수 명령과 `.env` 파일에 저장할 설정을 제공합니다. - 생성된 샘플 코드를 수정하지 않고 애플리케이션에 복사해 빠르게 첫 요청을 테스트할 수 있습니다. - 모델이나 설정을 변경하면 API 레퍼런스와 코드 예제도 프로젝트 설정에 맞게 자동 갱신됩니다. ## AI 코딩 에이전트 연결 - 다음과 같은 AI 코딩 에이전트를 Bedrock을 통해 연결할 수 있습니다. - Claude Code - Cline - Codex - Cursor - OpenCode - 각 에이전트별 설치 방법과 설정 방법을 안내합니다. - AWS IAM 자격 증명 또는 Bedrock API 키를 사용할 수 있습니다. - 필요한 환경 변수를 설정해 에이전트의 요청을 `bedrock-mantle` 엔진으로 라우팅할 수 있습니다. ## 제공 리전과 시작 방법 - Amazon Bedrock 콘솔에서 **Try the Bedrock Mantle Console**을 선택하거나 새 콘솔 링크를 통해 사용할 수 있습니다. - 제공 리전에는 미국, 아시아 태평양, 유럽, 남아메리카 주요 리전이 포함됩니다. - 미국 동부: 버지니아 북부, 오하이오 - 미국 서부: 오리건 - 아시아 태평양: 자카르타, 뭄바이, 시드니, 도쿄 - 유럽: 프랑크푸르트, 아일랜드, 런던, 밀라노, 스톡홀름 - 남아메리카: 상파울루 - 실제 제공 범위는 `bedrock-mantle` 엔드포인트의 리전 목록에서 확인해야 합니다. 새 콘솔은 여러 모델을 빠르게 비교하고, 프로젝트별 사용량을 관찰하며, OpenAI·Anthropic SDK 기반 애플리케이션을 개발하려는 팀에 적합합니다. 반면 Bedrock의 관리형 기능이나 기존 `bedrock-runtime` API를 사용하는 경우에는 기존 콘솔을 계속 활용하면 됩니다.

원문 읽기(새 탭에서 열림)
aws4분 읽기큐레이션 요약

Amazon Bedrock에서 OpenAI GPT-5.5, GPT-5.4 모델 및 Codex 시작하기 | Amazon Web Services

OpenAI GPT-5.5·GPT-5.4와 Codex가 Amazon Bedrock에서 정식 제공되어, Responses API를 통해 추론·코딩·에이전트 작업을 수행할 수 있게 되었습니다. GPT-5.5는 최고 난도의 작업에, GPT-5.4는 가격 대비 성능이 중요한 작업에 적합합니다. 모든 처리는 선택한 Bedrock 리전 내에서 수행되며, 좌석 라이선스 없이 토큰 사용량 기준으로 과금됩니다. ## Amazon Bedrock에서 제공되는 모델과 Codex - GPT-5.5와 GPT-5.4는 코딩, 추론, 에이전트 워크플로, 복잡한 전문 업무에 최적화되어 있습니다. - GPT-5.5는 가장 어려운 고객 업무를 위한 고성능 모델입니다. - GPT-5.4는 성능과 비용의 균형을 중시하는 용도에 적합합니다. - OpenAI의 코딩 에이전트인 Codex도 Bedrock에서 사용할 수 있습니다. - 대규모 코드베이스 작성, 리팩터링, 디버깅, 테스트, 검증 지원 - Codex App, CLI, Visual Studio Code·JetBrains·Xcode 통합 제공 - 모든 모델 추론은 Amazon Bedrock의 Responses API를 통해 처리 ## Responses API를 통한 모델 호출 - OpenAI SDK, `curl` 등으로 Bedrock의 `bedrock-mantle` 엔드포인트를 호출할 수 있습니다. - Python SDK 설치: ```bash pip install -U openai ``` - 인증 및 엔드포인트 환경 변수 설정: ```bash export OPENAI_BASE_URL="https://bedrock-mantle.us-east-2.api.aws/openai/v1" export OPENAI_API_KEY="<BEDROCK_API_KEY>" export BEDROCK_OPENAI_MODEL_ID="openai.gpt-5.5" ``` - Python에서는 `client.responses.create()`를 사용합니다. - 요청에 다음과 같은 설정을 지정할 수 있습니다. - `reasoning.effort`: 추론 수준 - `text.verbosity`: 응답의 상세도 - `developer` 메시지: 모델의 역할과 응답 지침 - 예시에서는 AWS 지식이 풍부한 소프트웨어 엔지니어 역할을 부여하고, 여러 리전에 걸친 초당 10만 요청 규모의 AWS 아키텍처를 생성하도록 요청합니다. - `curl`을 사용하면 `/responses` 엔드포인트에 JSON 요청을 직접 전송할 수 있습니다. ## Responses API가 적합한 경우 - 모델이 여러 턴의 대화 상태를 관리해야 할 때 - 호스팅 도구나 함수 도구를 사용해야 할 때 - 여러 도구를 조합하는 복잡한 오케스트레이션이 필요할 때 - 백그라운드 작업이나 장시간 실행되는 작업을 처리할 때 ## Codex를 Bedrock에 연결하는 방법 - Codex CLI, Codex App 또는 VS Code 확장을 설치해 Bedrock을 모델 추론 경로로 사용할 수 있습니다. - 두 가지 인증 방식을 지원합니다. - `AWS_BEARER_TOKEN_BEDROCK`에 Bedrock API 키 설정 - AWS SDK 자격 증명 체인 사용 - `AWS_BEARER_TOKEN_BEDROCK`가 설정되어 있으면 Codex가 이를 우선 사용하고, 없으면 AWS SDK 자격 증명 체인으로 전환합니다. ```bash export AWS_BEARER_TOKEN_BEDROCK=<your-bedrock-api-key> ``` - `~/.codex/config.toml`에서 리전과 모델 제공자를 설정합니다. ```toml model = "openai.gpt-5.5" model_provider = "amazon-bedrock" [model_providers.amazon-bedrock.aws] region = "us-east-2" ``` - 사용할 수 있는 모델 ID에는 다음이 포함됩니다. - `openai.gpt-5.5` - `openai.gpt-5.4` - `openai.gpt-oss-120b` - `openai.gpt-oss-20b` - 데스크톱 앱이나 VS Code 확장에서 사용할 환경 변수는 `~/.codex/.env`에 저장할 수 있습니다. - 설정 파일을 변경한 뒤에는 앱이나 확장을 재시작해야 합니다. - Codex CLI에서는 `/status` 명령으로 현재 모델과 연결 상태를 확인할 수 있습니다. ## 지연 시간과 확장성 - 실제 사용자가 느끼는 지연 시간은 모델의 기본 속도뿐 아니라 다음 요소의 영향을 받습니다. - 추론 수준 - 출력 길이 - 도구 호출 횟수 - 백그라운드 실행 여부 - 리전 및 할당량 - 요청 제한(throttling) - 프롬프트 크기 - 캐시 적중 여부 - GPT-5.5는 우선 `reasoning.effort="medium"`으로 시작하는 것이 권장됩니다. - GPT-5.4는 기본값인 `none`에 의존하기보다 애플리케이션 요구사항에 맞춰 추론 수준을 명시하는 것이 좋습니다. - Bedrock의 차세대 추론 엔진은 수요 변화에 맞춰 용량을 빠르게 확보하도록 설계되었습니다. - 수요가 급증하면 요청을 즉시 거부하기보다 큐에 넣어 처리하는 방식으로 안정적인 워크로드 운영을 지원합니다. ## 리전, 데이터 보존, 과금 - 고객이 선택한 Bedrock 리전 내에서 모든 처리가 이루어지므로 데이터 레지던시 요구사항을 충족할 수 있습니다. - 제공 리전은 다음과 같습니다. - GPT-5.5: 미국 동부(오하이오) - GPT-5.4: 미국 동부(오하이오), 미국 서부(오리건) - 향후 지원 리전은 AWS의 전체 리전 목록에서 확인할 수 있습니다. - 개발자 좌석 라이선스나 인원별 약정 없이 토큰 사용량 기준으로 과금됩니다. 실무에서는 먼저 GPT-5.5를 중간 추론 수준으로 테스트하고, 비용과 성능의 균형이 중요하면 GPT-5.4와 명시적인 추론 설정을 비교하는 것이 좋습니다. Codex를 사용할 때는 리전, 인증 방식, 모델 ID를 설정 파일에 고정하고 `/status`로 연결 상태를 확인하면 운영 중 문제를 줄일 수 있습니다.

원문 읽기(새 탭에서 열림)