api

29 개의 포스트

github

Copilot vs. 직접 API 접근: 실제로 무엇에 비용을 지불하고 있나요? (새 탭에서 열림)

같은 AI 모델을 사용하더라도 GitHub Copilot과 원시 API는 서로 다른 계층의 문제를 해결한다. Copilot은 이슈부터 코드 수정, 테스트, 풀 리퀘스트와 조직 정책 적용까지 연결된 개발 워크플로를 제공하고, 원시 API는 프롬프트·검색·라우팅·보안·로그·과금 등을 직접 설계하는 시스템 구축용 기반이다. 따라서 비용과 선택 기준은 토큰 단가만이 아니라 팀이 직접 소유하고 운영해야 하는 작업의 범위에 따라 결정된다. ## GitHub Copilot은 모델을 둘러싼 개발 도구 - Copilot의 모델 호출은 개발 작업 전체 중 한 단계에 불과하다. - 일반적인 유지보수 작업에는 다음 요소가 함께 필요하다. - GitHub Issue 분석 - 저장소와 관련 파일 탐색 - 코드 수정 및 diff 생성 - 저장소 지침과 허용된 명령 반영 - 터미널에서 테스트 실행 - Pull Request 생성 및 리뷰 - 조직의 보안·사용 정책 적용 - Copilot은 에디터, 저장소, 이슈, PR, 터미널, 조직 관리 기능을 하나의 흐름으로 연결한다. - 유료 플랜에서는 코드 자동 완성과 Next Edit Suggestions가 계속 포함되며, 더 많은 리소스를 사용하는 채팅·에이전트 작업에는 AI Credits가 적용된다. - 실제 작업 비용은 모델의 토큰 단가 외에도 다음 요인에 영향을 받는다. - 선택된 컨텍스트의 양 - 도구 호출 횟수 - 실패에 따른 재시도 - 이슈에서 리뷰 완료 PR까지 이어지는 전체 작업 경로 - 조직 플랜은 AI Credits를 조직 단위로 공유하고, 관리자가 예산과 사용량을 대시보드에서 추적할 수 있다. ## 원시 API는 직접 소유하는 시스템을 위한 기반 - API 직접 호출은 다음과 같은 시스템을 만들 때 적합하다. - 제품 기능에 포함되는 AI 기능 - 사내 에이전트 플랫폼 - 모델 평가·벤치마크 도구 - 자동화 파이프라인 - 개발자가 직접 결정할 수 있는 항목이 많다. - 프롬프트 구성 - 문서 및 코드 검색 방식 - 모델 라우팅 - 실패한 도구 호출의 재시도 정책 - 로그와 추적 데이터 저장 - 인증 정보와 보안 경계 - 과금 및 사용량 관리 - 예를 들어 사내 에이전트가 특정 태그의 이슈를 읽고, 회사 문서를 검색하고, 별도 시스템에 변경 요청을 만들며, 감사 기록까지 남긴다면 자체 데이터 경계·이벤트 트리거·승인 절차가 필요하다. - API는 이런 요구사항을 구현할 수 있는 기본 요소를 제공하지만, 저장소 파일을 어떻게 검색하고 에이전트 권한을 어디까지 허용할지는 개발자가 설계해야 한다. ## 에이전트 SDK는 두 계층 사이의 선택지 - 에이전트 SDK는 모델 API와 완성된 개발 도구 사이에서 오케스트레이션을 담당한다. - 일반적으로 다음 기능을 제공한다. - 도구 사용 - 세션 관리 - 스트리밍 응답 - 에이전트 실행 흐름 제어 - SDK에 따라 특정 제공업체에 종속되거나 여러 모델 제공업체를 지원할 수 있다. - GitHub Copilot SDK는 Copilot CLI를 구동하는 에이전트 런타임을 노출해, 직접 처음부터 에이전트 하네스를 만들지 않고도 검증된 실행 환경을 임베드할 수 있게 한다. - 이 런타임은 Copilot 구독 또는 사용자의 자체 provider key로 실행할 수 있다. ## BYOK: Copilot 워크플로와 모델 비용을 분리 - Copilot의 BYOK(Bring Your Own Key)는 지원되는 외부 모델을 Copilot Chat, Copilot CLI, VS Code에서 사용할 수 있게 한다. - 지원 제공업체에는 다음이 포함된다. - Anthropic - AWS Bedrock - Google AI Studio - Microsoft Foundry - OpenAI 및 OpenAI 호환 제공업체 - xAI - 모델은 Copilot의 하네스와 GitHub가 유지하는 통합 기능을 사용하지만, 토큰 비용은 사용자가 연결한 제공업체에 청구된다. - 기존 클라우드 계약이나 약정된 사용량이 있는 팀은 해당 계약을 유지하면서도 개발자는 익숙한 Copilot 환경을 사용할 수 있다. - Copilot CLI에서는 Azure OpenAI, Anthropic, 로컬 Ollama 모델 등도 사용할 수 있다. - BYOK는 글 작성 시점에 공개 프리뷰이므로 구매나 아키텍처 결정을 내리기 전에 최신 GitHub 문서를 확인해야 한다. - 엔터프라이즈와 조직 관리자는 GitHub 호스팅 모델과 BYOK 모델을 포함해 팀에서 사용할 모델을 정책으로 제한할 수 있다. ## 상황에 따른 선택 기준 - **원시 API를 선택할 때** - 자체 제품이나 내부 시스템에 AI를 통합해야 할 때 - 사용자 정의 프롬프트·검색·라우팅이 필요할 때 - 보안, 감사, 승인, 로그, 과금 체계를 직접 통제해야 할 때 - **GitHub Copilot을 선택할 때** - 개발자가 GitHub와 IDE 안에서 코드를 작성하고 리뷰할 때 - 이슈부터 PR, 테스트, 보안 정책까지 연결된 흐름이 중요할 때 - 조직 차원의 사용량·예산·모델 정책 관리가 필요할 때 - **BYOK를 고려할 때** - Copilot의 개발 워크플로는 유지하면서 특정 외부 모델이나 기존 클라우드 계약을 사용해야 할 때 실용적으로는 팀의 개발 생산성 향상이 목적이면 Copilot을, 독자적인 AI 제품이나 자동화 시스템 구축이 목적이면 원시 API를 우선 검토하는 것이 적절하다. 두 요구가 모두 있다면 Copilot 또는 Copilot SDK에 BYOK를 결합하는 방식도 선택지가 된다.

cloudflare

수익화 게이트웨이 출시: x402를 통해 Cloudflare 뒤의 모든 리소스에 요금 부과 (새 탭에서 열림)

Cloudflare는 웹 페이지·데이터셋·API·MCP 도구 등 Cloudflare 뒤의 모든 리소스에 사용량 기반 요금을 부과할 수 있는 Monetization Gateway를 발표했다. 이 게이트웨이는 결제 규칙, 결제 검증, 접근 제어를 엣지에서 처리하며, 출시 시 x402와 스테이블코인을 사용한다. 이를 통해 에이전트가 계정이나 구독 없이 요청 단위로 소액 결제하고, 서비스 제공자는 별도의 결제·정산 시스템 없이 리소스를 수익화할 수 있다. ## 에이전트 중심으로 바뀌는 웹의 수익 모델 - 기존 웹은 콘텐츠를 인간의 관심과 교환하고, 광고·구독·전자상거래로 수익을 창출했다. - AI 에이전트는 광고를 보거나 장기 구독을 유지하기보다, 필요한 페이지·데이터·도구를 한 번 사용하고 이동한다. - AI 크롤러는 방문자를 보내는 횟수보다 훨씬 많은 요청을 발생시킬 수 있어, 기존 광고 모델과 맞지 않는다. - 에이전트 경제에서는 다음과 같은 사용량 기반 과금이 적합하다. - 검색 1회당 수 센트 - 업로드 기본 요금 0.001달러와 MB당 0.01달러 - 성공적으로 해결된 지원 요청 1건당 0.99달러 - 소프트웨어의 자연스러운 과금 단위는 사용자 좌석이나 월 구독이 아니라 요청, 토큰, 작업 결과가 된다. ## 기존 사용량 과금의 한계 - 클라우드와 API는 호출량·사용 시간 기준으로 판매되어 왔지만, 일반적으로 사전에 등록한 고객과 API 키가 필요했다. - 콘텐츠 서비스는 주로 광고에 의존했기 때문에, 신원 확인이 되지 않은 구매자의 초소액 결제를 처리하기 어려웠다. - 결제 수수료와 정산 지연 때문에 결제 금액이 너무 작으면 결제 자체가 더 비싸지는 문제가 있었다. - 사업자는 사용량을 정확하고 감사 가능하게 기록하기 위해 자체 회계·청구 시스템을 구축해야 했다. - 이러한 복잡성 때문에 많은 기업이 구현하기 쉬운 좌석 기반 가격제를 선택했다. ## 스테이블코인과 에이전트 결제 - 에이전트는 한 사람이 처리할 수 없는 수준으로 지속적으로 작업하며, 수천 건의 소액 결제를 자동으로 수행할 수 있다. - 사람이 각 결제를 승인해야 하는 기존 방식은 에이전트 사용 패턴과 맞지 않는다. - Open USD, USDC 같은 스테이블코인은 매우 작은 금액을 낮은 수수료로 전송하고, 1초 이내에 정산할 수 있다. - 따라서 에이전트 환경에서는 소액·고빈도 결제와 사용량 기반 가격제가 적합하다. ## x402의 HTTP 기반 결제 흐름 - x402는 HTTP 상태 코드 `402 Payment Required`를 활용하는 개방형 결제 프로토콜이다. - 기본 흐름은 다음과 같다. - 클라이언트가 결제 보호 리소스를 요청한다. - 서버가 `402` 응답과 함께 가격, 허용 자산, 결제 주소를 전달한다. - 클라이언트가 결제한 뒤 결제 증명을 포함해 요청을 재전송한다. - 퍼실리테이터가 결제를 검증하면 서버가 리소스를 반환한다. - 결제는 별도의 결제 페이지나 API 호출 없이 일반적인 HTTP 요청·응답 안에서 처리된다. - 구매자의 결제 금액은 판매자의 지갑으로 직접 정산되는 P2P 구조다. - 판매자 계정이 없어도 결제 자체가 접근 자격 증명이 되므로, 구매자 온보딩이 필요 없다. - 프로토콜 오버헤드가 작아 1센트 미만의 결제도 가능하며, 스테이블코인과 결합하면 낮은 수수료와 빠른 정산을 기대할 수 있다. ## Monetization Gateway의 역할 - Cloudflare는 결제 정책과 접근 제어를 하나의 컨트롤 플레인에서 관리하도록 지원한다. - 서비스 제공자는 어떤 요청에 결제를 요구할지 Cloudflare 규칙 표현식으로 정의할 수 있다. - 토큰, API, MCP 호출, 데이터 등 기존 Cloudflare 경로를 통과하는 트래픽에 대해 선택적으로 과금할 수 있다. - 결제 검증과 집행은 원본 서버가 아니라 Cloudflare 엣지에서 처리된다. - Cloudflare의 330개 이상 도시에 분산된 네트워크에서 x402 핸드셰이크가 수행되므로 구매자와 가까운 위치에서 처리할 수 있고, 원본 서버의 부하와 지연도 줄일 수 있다. - 계획된 기능에는 다음이 포함된다. - 특정 REST 경로와 HTTP 메서드별 과금 - 예를 들어 `/api/premium/*`의 GET·POST 요청마다 0.01달러 부과 - 작업의 특성에 따른 변동 가격 설정 ## 서비스 제공자에게 주는 이점 - 제공자가 직접 구매자를 등록하거나 API 키·청구 시스템을 운영할 필요가 없다. - 사용량 측정, 결제 교환, 정산이 원본 서버에서 분리된다. - 제공자는 가격, 결제 조건, 접근 규칙, 수익에 집중할 수 있다. - Cloudflare는 기존에 자체 청구 및 고객 분석을 위해 구축한 사용량 회계 역량을 웹 리소스에 적용하려 한다. 실용적으로는 API·데이터·MCP 도구처럼 요청 단위 가치가 분명한 리소스부터 x402 기반 과금을 적용하는 방식이 적합하다. 다만 실제 도입 시에는 스테이블코인 지원 범위, 환불·분쟁 처리, 가격 변동성, 규제 및 회계 처리를 별도로 검토해야 한다.

toss

전문성 밖으로 나아가기 (새 탭에서 열림)

Technical Writer(TW)는 문서를 작성·관리하는 역할을 넘어, 지식이 축적되고 활용되는 제품과 시스템을 만드는 제품 오너로 확장되고 있다. 토스의 문서 플랫폼 ‘토독’은 누구나 쉽게 문서를 작성하고, 조직의 지식을 한곳에 모으며, AI가 활용할 수 있도록 하는 것을 목표로 한다. 궁극적으로는 문서화가 별도 업무가 아니라 실제 업무 과정에서 자동으로 발생하고, 지식의 최신성과 품질까지 시스템이 관리하는 구조를 지향한다. ## TW가 제품을 만드는 이유 - TW는 어떤 문서가 읽기 어려운지, 좋은 문서의 조건이 무엇인지, AI가 잘 활용할 수 있는 문서 구조가 무엇인지 깊이 고민해 온 직무다. - 이러한 전문성을 문서 작성에만 적용하지 않고, 문서와 지식 관리 제품의 설계 원칙으로 확장한다. - 제품 오너로서 사용자 인터뷰, 제품 방향 설정, 로드맵·우선순위 결정, 기능 기획과 구현까지 직접 수행한다. - 문서 요구사항을 개발팀에 전달하는 역할이 아니라, 제품의 문제를 정의하고 해결책을 만드는 메이커로 일한다. ## 기존 내부 문서의 문제점 - **높은 작성 장벽** - 정적 사이트 생성기 기반 문서는 저장소 클론, 마크다운 작성, PR 생성과 리뷰 과정을 거쳐야 했다. - 개발자에게는 익숙하지만 디자이너나 PM에게는 문서 작성 자체를 포기하게 만드는 장벽이 됐다. - **낡고 불필요한 지식의 누적** - 작성자와 작성 이유를 알 수 없는 메모, 변경된 정책을 설명하는 문서, 미완성 초안 등이 쌓였다. - 문서의 양이 많아질수록 실제로 신뢰할 수 있는 지식을 판별하기 어려워졌다. - **지식의 파편화** - 문서가 SSG, 문서 도구, 코드, 메신저 대화, 개인의 기억 등에 흩어져 있었다. - 지식이 한곳에 모이지 않으면 조직 차원의 축적과 재활용이 어려웠다. ## 토독의 핵심 가치 - **누구나 쉽게 문서 작성** - 별도의 개발 과정 없이 문서를 만들고 수정할 수 있다. - GitHub, 기존 문서 도구, 사내 메신저 등 다양한 출발점의 지식을 토독으로 연결할 수 있다. - **AI를 통한 지식 활용** - 토독의 문서를 팀별 봇과 연결할 수 있다. - API, CLI, MCP를 제공해 요청 봇, 제품 스펙 관리 등 다양한 방식으로 활용할 수 있다. - **단일 진실 공급원(SSoT)** - 여러 곳에 흩어진 정보를 모아 완결된 문서로 구성한다. - 어떤 지식이 최신이고 유효한지 한곳에서 확인할 수 있게 한다. - **확장 가능한 플랫폼** - 조직이나 팀마다 별도 도구를 선택하고 인프라를 구축할 필요가 없다. - 하나의 플랫폼 안에서 각 팀이 독립적인 문서 공간을 운영할 수 있으며, 계열사로도 확장할 수 있다. ## 문서 품질을 자동으로 관리하기 - 문서 작성 장벽을 낮추면 문서 수는 늘지만 품질이 떨어질 수 있다. - 기존에는 TW가 직접 문서를 리뷰하고 낡은 문서를 찾아 수정했다. - 토독은 TW가 정의한 ‘좋은 문서’의 기준을 다음 기능으로 전환하고 있다. - AI 교정 기능 - 문서 봇을 통한 초안 작성 - 자동 리뷰와 개선점 제안 - 다만 사용자가 직접 문서를 작성해야 한다는 전제만으로는 충분하지 않다고 판단했다. ## 업무 과정에서 자동으로 생성되는 문서 - 문서화를 별도의 업무로 요구하기보다, 일하는 과정에서 자연스럽게 문서가 생성되도록 한다. - 사내 메신저의 의사결정과 논의, 코드 변경 내역 등을 자동으로 문서화한다. - 코드 변경이나 의사결정 이후의 논의를 모니터링해 문서가 계속 갱신되도록 설계한다. - 단순히 정보를 수집하는 데 그치지 않고 다음을 판단하는 것이 목표다. - 정책과 실제 코드가 일치하는가 - 해당 지식이 실제 업무에서 사용되고 있는가 - 문서가 얼마나 최신 상태인가 - 현재도 유효한 지식인가 ## TW 전문성의 시스템화 - 좋은 문서를 직접 쓰는 능력에서, 좋은 문서가 반복해서 생산되도록 시스템을 설계하는 능력으로 중심이 이동한다. - 문서가 읽히지 않는 이유에 대한 경험은 누구나 쉽게 쓰고 AI도 잘 읽는 문서 기준으로 전환된다. - 좋은 문서에 대한 판단은 AI 교정과 자동 리뷰의 기준이 된다. - 낡은 문서를 식별하고 유효성을 판단하는 역량은 지식 신선도와 신뢰도를 관리하는 시스템으로 구현된다. - TW의 역할은 다음과 같이 정리된다. - 흩어진 지식이 모일 장소를 만든다. - 좋은 문서의 기준을 정의한다. - 사람의 판단을 시스템에 반영한다. - 업무 과정에서 문서가 자연스럽게 만들어지게 한다. - 축적된 지식이 스스로 갱신되도록 한다. ## 지향하는 업무 환경 - 시스템이 오래된 문서를 감지해 담당자에게 알리고 개선안을 제안한다. - 프로젝트 관리 도구를 별도로 갱신하지 않아도 업무 과정의 기록이 자동으로 정리된다. - 릴리즈 공지와 반복적인 문의 답변이 지식으로 남아 신규 구성원의 학습 비용을 줄인다. - 한 번의 업무가 조직 전체에서 재사용 가능한 흔적으로 남아 실행 시간을 단축한다. - TW는 반복적인 문서 관리보다 제품의 방향과 지식 거버넌스 설계에 집중한다. 결국 토독의 목표는 문서를 잘 쓰게 만드는 데서 끝나지 않는다. 조직의 업무 흐름 자체가 신뢰할 수 있는 지식을 만들고 갱신하도록 설계하는 것이 핵심이며, 이는 TW의 전문성을 조직 전체의 시스템으로 확장하는 방식이다.

cloudflare

보안 인사이트 확장: 글로벌 스캔 처리 역량을 10배 향상한 방법 (새 탭에서 열림)

Security Insights는 기존 주 1~2회에 그치던 보안 검사를 모든 계정에 더 자주 적용하기 위해 처리량을 초당 10건에서 100건으로 약 10배 높여야 했다. Cloudflare는 Kafka 소비 병렬화, 느린 작업 분리, Postgres 대량 삽입 최적화, 지역 간 네트워크 지연 분석을 통해 스캔 처리량을 10배 이상 향상시켰다. 그 결과 수백만 고객에게 보안 인사이트를 제공하고 전체 고객의 검사 주기를 두 배로 늘릴 수 있었다. ## 기존 보안 검사 구조와 확장 과제 - 스케줄러가 검사 시점이 된 계정과 Zone을 감지한다. - 검사 작업을 Apache Kafka 메시지로 발행하고, 여러 Go 기반 checker 마이크로서비스가 메시지를 나누어 처리한다. - 각 checker는 특정 자산이나 설정을 검사한 뒤 내부 API로 결과를 전송한다. - API는 결과를 Postgres 데이터베이스에 저장한다. - 기존 시스템은 다음 문제를 겪고 있었다. - 검사가 주 1~2회만 수행되어 위험이 최대 2주간 탐지되지 않을 수 있었다. - 많은 무료 요금제 계정에서 자동 검사가 선택 사항이라 검사 자체가 이뤄지지 않았다. - Kafka backlog 증가, API 타임아웃, 프로세스 충돌이 발생했다. - 모든 계정에 자동 검사를 적용하고 검사 빈도를 높이려면 평균 처리량을 초당 10건에서 100건으로 늘려야 했다. ## Kafka 파티션의 병목 - Kafka는 일반적인 큐와 달리 파티션 내 메시지를 순서대로 소비하고 처리한다. - 하나의 consumer group에서는 파티션당 활성 consumer를 하나만 둘 수 있다. - 따라서: - 처리 시간이 긴 메시지 하나가 뒤따르는 메시지의 처리를 막을 수 있다. - checker별 병렬 소비자 수는 Kafka 파티션 수에 제한된다. - 파티션을 추가하면 확장할 수 있지만, 여러 서비스가 공유하는 Kafka 브로커의 자원 사용량이 증가하므로 최후의 수단으로 남겨두었다. ## 배치 기반 병렬 처리 - 메시지를 하나씩 처리하던 checker를 배치 단위로 소비하도록 변경했다. - 배치 안의 각 메시지는 별도의 Go goroutine에서 동시에 처리했다. - 이 방식의 trade-off는 다음과 같다. - 배치 처리 중 프로세스가 중단되면 이미 처리한 작업을 다시 수행해야 할 수 있다. - 동시에 처리하는 작업이 늘어 메모리 사용량이 증가한다. - 검사 시스템에서는 재처리 비용과 메모리 증가가 감당 가능한 수준이었기 때문에 병렬 처리를 선택했다. ## 느린 작업으로 인한 Head-of-Line Blocking 제거 - 일부 계정이나 Zone은 자산 수가 많아 검사에 수초가 아니라 수분 또는 수시간이 걸릴 수 있었다. - 이런 느린 메시지가 일반 메시지 앞에 있으면 Kafka 소비가 멈춰 빠른 작업까지 지연됐다. - 해결책으로 checker와 consumer group을 두 개의 처리 경로로 분리했다. - **Fast lane**: 빠르게 처리할 수 있는 일반 메시지 담당 - **Slow lane**: 처리 시간이 긴 메시지 전담 - 메시지의 예상 처리 시간을 빠르게 판단하고, fast lane이 느린 메시지를 만나면 건너뛰도록 했다. - 그 결과 느린 작업은 전용 자원을 사용하고, 빠른 작업은 지연 없이 계속 처리할 수 있었다. ## Postgres 대량 저장 최적화 - 기존 API는 인사이트 하나마다 별도의 `INSERT ... ON CONFLICT DO UPDATE` 쿼리를 실행했다. - 한 요청에 최대 50만 개의 인사이트가 포함될 수 있어, 최악의 경우 50만 번의 데이터베이스 왕복과 쿼리 실행이 발생했다. - 처음에는 임시 테이블에 `COPY`하는 Postgres 표준 대량 삽입 방식을 시도했지만, Postgres 시스템 테이블의 bloat가 증가하는 문제가 나타났다. - 최종적으로 입력 규모에 따른 하이브리드 방식을 채택했다. - 작은 데이터셋: `UNNEST`를 사용해 빠르게 삽입 - 큰 데이터셋: `COPY`를 사용해 대량 삽입 - 이 방식은 대규모 데이터에는 수초 수준의 처리 시간을, 소규모 데이터에는 밀리초 수준의 빠른 처리를 제공했다. ## 지역 간 지연으로 발생한 API 타임아웃 - 확장 과정에서 다음 현상이 관찰됐다. - 클라이언트 타임아웃 증가 - checker 처리 시간의 20~90%가 단일 API 호출에 소요 - 대량 검사 시 초기 처리량은 높지만 시간이 지나며 감소 - 원인은 API와 데이터베이스 간 네트워크 지연이었다. - 주 데이터베이스는 미국 오리건주 포틀랜드에 위치했다. - API는 포틀랜드와 네덜란드 암스테르담에서 active-active로 운영됐다. - 포틀랜드 API 호출은 평균 10ms였지만, 암스테르담 인스턴스에서는 거의 3초가 걸렸다. - 암스테르담 API가 데이터베이스 연결을 오래 점유하면서 checker의 클라이언트 연결 풀이 고갈됐다. - 연결을 기다리는 요청이 타임아웃되고, 암스테르담 API에 연결된 Kafka 파티션만 지속적으로 지연됐다. - 결국 API의 단순한 지역 분산이 전체 Kafka 소비 처리량의 불균형과 lag를 유발할 수 있음을 확인했다. ## 실용적인 결론 대규모 이벤트 처리 시스템에서는 소비자 수를 늘리는 것만으로 충분하지 않다. Kafka의 파티션 제약을 고려한 병렬 처리, 느린 작업의 별도 격리, 대량 데이터베이스 작업의 배치화, 데이터베이스와 API 간 지역 지연 관리까지 함께 최적화해야 안정적인 처리량 확장이 가능하다. 특히 분산 배포 환경에서는 평균 latency뿐 아니라 연결 풀 점유 시간과 파티션별 처리 편차까지 함께 측정해야 한다.

toss

빠르게 움직이는 조직에서, TAM은 어떻게 문제를 해결할까? (새 탭에서 열림)

TAM CONNECT 2025는 토스와 카카오페이의 TAM들이 기술과 비즈니스를 연결하는 역할과 운영 문제 해결 방식을 공유한 자리였습니다. 두 회사의 환경은 달랐지만, 알림 노이즈·담당자 의존성·고객사 커뮤니케이션·AI 활용 등 현장에서 겪는 고민은 비슷했습니다. 글은 TAM을 단순 기술지원이 아닌, 복잡한 문제를 구조화하고 서비스와 조직을 개선하는 기술 기반 문제 해결자로 정의합니다. ## TAM의 역할과 해결하는 문제 - 파트너사의 연동 문제를 해결하고 API 도입을 기술적으로 지원합니다. - 장애 발생 시 고객사와 내부 개발·운영 조직을 연결하고 대응을 조율합니다. - 운영 프로세스를 개선하고 반복되는 문제를 자동화합니다. - 서비스와 플랫폼 구조를 더 나은 방향으로 개선하는 데 참여합니다. - 로그 분석, 우선순위 조율, 장애 대응 등 개발자·PM·운영 담당자의 역할을 상황에 따라 수행합니다. - 인증, Face Connect, 금융 플랫폼, 결제, 파트너 API 등 다양한 서비스 영역을 다룹니다. ## 알림 노이즈를 줄이고 문제를 구조화하기 - 모든 알림이 중요한 것은 아니므로 “정말 확인해야 하는 문제는 무엇인가?”를 먼저 정의했습니다. - 불필요한 알림을 줄이고 장애 패턴을 체계화했습니다. - 반복 이슈를 자동으로 탐지하는 시스템을 구축했습니다. - 정산 불일치의 근본 원인을 분석해 단기 대응이 아닌 재발 방지에 집중했습니다. - 장애를 빠르게 처리하는 것을 넘어, 장애가 반복되지 않는 운영 구조를 만드는 데 초점을 맞췄습니다. ## 특정 담당자에게 의존하지 않는 운영 - 운영 지식이 일부 담당자에게 집중되는 문제를 해결하려 했습니다. - 대응 이력을 투명하게 공유하고 구성원 모두가 같은 정보를 확인할 수 있도록 했습니다. - 담당자가 바뀌어도 누구나 신속하게 문제를 해결할 수 있는 협업 구조를 만들었습니다. - n8n 기반 워크플로 자동화로 디스코드 개발자 커뮤니티의 평균 응답 시간을 10분 이내로 유지했습니다. - LLM을 활용해 로그를 분석하고 장애 원인과 해결 가이드를 자동으로 제안했습니다. ## 고객사 경험을 운영 개선으로 연결하기 - 고객사 담당자였던 경험을 바탕으로 고객이 느끼는 답답함과 필요한 커뮤니케이션을 이해했습니다. - PDCA(Plan-Do-Check-Act) 사이클을 활용해 연동 가이드를 지속적으로 개선했습니다. - 반복되는 문의와 커뮤니케이션을 표준화했습니다. - 운영 프로세스를 구조화해 동일한 문제가 되풀이되지 않도록 했습니다. - TAM의 목표를 단순한 문제 해결이 아니라 문제의 재발 방지로 확장했습니다. ## 회사는 달라도 비슷한 운영 고민 - 고객사와 내부 개발팀 사이에서 이해관계와 우선순위를 조율해야 합니다. - 빠르게 변하는 서비스와 복잡해지는 운영 구조에 대응해야 합니다. - 기술과 비즈니스를 동시에 이해해야 하는 역할의 부담이 있습니다. - TAM은 지원 조직이나 단순 운영 인력이 아니라, 여러 조직을 움직이며 문제를 구조화하는 역할입니다. - 결과적으로 TAM은 기술 기반의 Problem Solver에 가깝다는 공감대가 형성됐습니다. ## AI 시대의 TAM - 로그 분석, 장애 원인 추천, 운영 가이드 생성에 AI를 활용할 수 있습니다. - 반복 문의 응답, 이상 탐지, 문서 검색과 요약도 자동화 대상입니다. - AI가 반복 업무를 대신할수록 TAM은 복잡한 문제 해결과 구조적 개선에 집중하게 됩니다. - 조직 간 조율, 고객 경험 설계, 운영 전략 수립처럼 높은 판단력이 필요한 업무의 중요성이 커질 전망입니다. ## 실용적인 시사점 TAM 조직은 반복 문의와 장애를 개인의 경험으로 처리하기보다, 알림 기준·대응 이력·문서·자동화 시스템으로 표준화하는 것이 중요합니다. 또한 AI를 단순 응답 자동화에만 사용하지 말고, 장애 재발 방지와 운영 구조 개선까지 확장해야 합니다.

gitlab

GitLab의 Claude Opus 4.8: 복잡한 에이전트 작업, 중단은 줄이고 (새 탭에서 열림)

Claude Opus 4.8은 GitLab Duo Agent Platform에서 복잡한 다단계 에이전트 작업을 더 정확하고 안정적으로 수행하도록 설계된 최신 모델이다. 장시간 자율 실행 과정에서 지시를 더 충실히 따르며, 중간에 사용자가 개입하거나 결과를 수정해야 하는 상황을 줄이는 것이 핵심이다. 또한 코딩뿐 아니라 문서 작성, 데이터 분석, 구조화된 지식 작업과 세션 중 시스템 프롬프트 변경도 지원한다. ## 복잡한 장기 에이전트 작업의 안정성 향상 - 여러 도구를 사용하고, 사용자의 의도부터 실제 배포까지 이어지는 복잡한 작업에 초점을 맞춘 모델이다. - 장시간 자율적으로 실행되는 에이전트가 각 단계를 지시대로 처리하도록 해 최종 결과의 정확도를 높인다. - 이전 모델보다 지시 해석과 계획 수립 능력이 향상되어, 실행 중 에이전트를 다시 안내하거나 결과를 검토·수정하는 시간이 줄어든다. - GitLab Duo Agent Platform의 Agentic Chat과 인스턴스 내 다양한 에이전트 워크플로에서 모델을 선택해 사용할 수 있다. ## 코딩 외 업무 지원 확대 - Opus 4.8은 소프트웨어 개발뿐 아니라 다음과 같은 전문 업무도 안정적으로 처리한다. - 문서 초안 작성 - 데이터 분석 - 구조화된 지식 처리 - GitLab Duo 에이전트를 기획, 문서화, 코딩 전반에 활용하는 팀은 여러 업무 흐름에서 일관된 결과를 기대할 수 있다. ## 대화 중 시스템 프롬프트 변경 - 세션 중간에 시스템 지침을 업데이트하는 기능을 지원한다. - 시스템 프롬프트가 변경되어도 기존 프롬프트 캐시를 무효화하거나 세션을 다시 시작할 필요가 없다. - API를 사용하는 팀은 다음과 같은 비동기 상황에 대응할 수 있다. - 디스크의 파일이 변경된 경우 - 사용 가능한 토큰 예산이 달라진 경우 - 사용자 컨텍스트가 업데이트된 경우 - 이를 통해 긴 에이전트 세션의 상태와 캐시를 유지하면서 최신 정보를 반영할 수 있다. ## GitLab에서의 이용 방식 - Claude Opus 4.8은 GitLab Duo Agent Platform에서 즉시 사용할 수 있다. - 다른 모델과 마찬가지로 GitLab Credits를 사용하며, 모델별 크레딧 소비량은 GitLab 문서에서 확인할 수 있다. - 무료 체험 또는 GitLab Free 가입으로 시작할 수 있다. - 기존 GitLab Premium·Ultimate 구독자는 구독에 포함된 GitLab Credits를 활용할 수 있다. ## 실용적인 결론 복잡한 작업을 여러 단계로 나누어 장시간 실행하는 팀이라면 Opus 4.8을 GitLab Duo의 코딩·기획·문서화 워크플로에 적용해볼 만하다. 특히 에이전트의 잦은 방향 수정이 문제였던 환경에서는 향상된 지시 준수와 중간 프롬프트 갱신 기능이 운영 부담을 줄이는 데 도움이 될 수 있다.

aws

Amazon Bedrock에서 Anthropic의 Claude Opus 4.7 모델 소개 | Amazon Web Services (새 탭에서 열림)

Amazon Bedrock에 Anthropic의 가장 지능적인 모델인 Claude Opus 4.7이 정식 출시되었습니다. 이 모델은 코딩, 장기 실행 에이전트, 전문 지식 작업 전반에서 이전 모델보다 뛰어난 성능을 발휘하며, Bedrock의 차세대 추론 엔진을 통해 기업급 인프라와 보안성을 보장합니다. 사용자는 이를 통해 복잡한 모호성을 해결하고 더 정교한 자율적 문제 해결 능력을 워크플로우에 도입할 수 있습니다. ### Claude Opus 4.7의 주요 성능 향상 - **에이전트 코딩 능력**: 자율적인 시스템 엔지니어링 및 복잡한 코드 추론 능력이 대폭 강화되었습니다. SWE-bench Verified(87.6%)와 Terminal-Bench 2.0(69.4%) 등 주요 벤치마크에서 업계 최고 수준의 성적을 기록했습니다. - **고도화된 지식 업무**: 금융 분석 및 다단계 연구 워크플로우에 최적화되었습니다. 모호한 요청에 대해 합리적인 가정을 스스로 세우고 출력을 자가 검증(Self-verify)함으로써 첫 단계부터 높은 품질의 결과물을 생성합니다. - **장기 작업 및 컨텍스트 처리**: 100만 토큰의 넓은 컨텍스트 윈도우 전체에서 일관성을 유지합니다. 긴 호흡의 작업 중에도 목표를 벗어나지 않고 모호한 상황을 추론하며 안정적으로 과업을 수행합니다. - **시각 지각 능력 강화**: 고해상도 이미지를 지원하여 차트, 밀집된 텍스트 문서, 정밀한 화면 UI 등 미세한 디테일이 중요한 시각 자료 분석 정확도가 개선되었습니다. ### 차세대 추론 엔진과 엔터프라이즈 보안 - **동적 용량 할당**: 새로운 스케줄링 및 확장 로직을 도입하여 워크로드 수요에 따라 용량을 동적으로 할당합니다. 이는 서비스 가용성을 높이고 급격한 트래픽 증가에도 유연하게 대응하게 해줍니다. - **제로 오퍼레이터 액세스**: 고객의 프롬프트와 응답 데이터에 대해 Anthropic이나 AWS 운영자가 접근할 수 없도록 설계되어, 민감한 데이터를 다루는 기업의 프라이버시를 철저히 보호합니다. - **효율적인 수요 관리**: 수요가 급증하는 시기에는 요청을 즉시 거절하는 대신 큐(Queue)에 대기시켜 처리합니다. 기본적으로 리전당 계정별 분당 최대 10,000건(RPM)의 요청을 즉시 처리할 수 있는 성능을 제공합니다. ### 개발자 편의 기능 및 활용 방법 - **적응형 사고(Adaptive Thinking)**: 요청의 복잡도에 따라 모델이 스스로 '사고 토큰(Thinking tokens)' 예산을 동적으로 할당합니다. 이를 통해 복잡한 논리 구성이 필요한 질문에 대해 더 깊은 추론 과정을 거칠 수 있습니다. - **다양한 API 선택지**: 대화형 인터페이스를 위한 Converse API, 직접 제어가 가능한 Invoke API, 그리고 Anthropic SDK를 통한 Messages API 등을 지원하여 기존 환경에 쉽게 통합할 수 있습니다. - **즉각적인 시작**: Amazon Bedrock 콘솔의 플레이그라운드에서 바로 테스트할 수 있으며, OpenAI 호환 API를 사용하거나 AWS CLI를 통해 프로그래밍 방식으로 모델을 호출하는 것도 가능합니다. 현재 Claude Opus 4.7은 미국 동부(버지니아 북부), 아시아 태평양(도쿄), 유럽(아일랜드, 스톡홀름) 리전에서 즉시 사용할 수 있습니다. 복잡한 코딩 에이전트를 구축하거나 고도의 추론이 필요한 엔터프라이즈 애플리케이션을 개발 중이라면, 이전 버전인 4.6에서 프롬프트를 미세 조정하여 Opus 4.7의 향상된 성능을 극대화해 보시기 바랍니다.

gitlab

GitLab 패치 릴리스: 18.10.3, 18.9.5, 18.8.9 | GitLab 문서 (새 탭에서 열림)

GitLab은 커뮤니티 에디션(CE) 및 엔터프라이즈 에디션(EE)의 보안 취약점과 버그를 해결하기 위해 최신 패치 버전인 18.10.3, 18.9.5, 18.8.9를 출시했습니다. 이번 업데이트에는 인증된 사용자가 서버 측 메서드를 임의로 호출할 수 있는 고위험군 취약점을 포함하여 서비스 거부(DoS), 정보 유출, 권한 오류 등 다수의 보안 수정 사항이 포함되어 있습니다. 시스템의 안전한 운영을 위해 자체 관리형(Self-managed) GitLab 인스턴스를 운영하는 모든 관리자는 즉시 최신 버전으로 업그레이드할 것을 권고합니다. ### 주요 보안 취약점 수정 및 고위험 이슈 * **웹소켓 연결을 통한 메서드 호출(CVE-2026-5173):** 부적절한 접근 제어로 인해 인증된 사용자가 의도하지 않은 서버 측 메서드를 호출할 수 있는 문제가 수정되었습니다. CVSS 점수 8.5의 고위험 취약점으로, GitLab 16.9.6 이후 모든 버전이 영향을 받습니다. * **Terraform 상태 잠금 API의 DoS(CVE-2026-1092):** JSON 페이로드의 입력값 검증 미흡으로 인해 인증되지 않은 사용자가 서비스 거부 공격을 유발할 수 있는 결함이 해결되었습니다. * **GraphQL 및 CSV 임포트 DoS:** 인증되지 않은 사용자가 반복적인 GraphQL 쿼리를 보내거나(CVE-2025-12664), 인증된 사용자가 구조가 잘못된 CSV 파일을 임포트하여 Sidekiq 워커를 중단시킬 수 있는(CVE-2026-1403) 취약점들이 수정되었습니다. ### 데이터 보호 및 권한 제어 개선 * **정보 유출 방지:** 특정 GraphQL 쿼리를 통해 타인의 이메일 주소가 노출되는 문제(CVE-2025-9484)와 CSV 내보내기 시 타인에게 할당된 기밀 이슈에 접근할 수 있는 권한 확인 미흡 문제를 해결했습니다. * **분석 대시보드 XSS(CVE-2026-4332):** 사용자 정의 가능한 분석 대시보드에서 입력값 정화(Sanitization)가 제대로 이루어지지 않아 타인의 브라우저에서 임의의 JavaScript를 실행할 수 있는 교차 사이트 스크립팅 취약점이 보완되었습니다. * **코드 품질 리포트 코드 주입(CVE-2026-1516):** 특수하게 제작된 리포트 콘텐츠를 통해 이를 열람하는 사용자의 IP 주소를 유출할 수 있는 보안 허점이 수정되었습니다. ### API 및 환경 설정 보안 강화 * **Environments API 권한 오류(CVE-2026-1752):** 개발자 권한을 가진 사용자가 API를 통해 보호된 환경 설정을 부적절하게 수정할 수 있는 권한 검증 로직을 강화했습니다. * **AI 탐지 API 및 SBOM API 안정성:** 취약점 플래그 AI 탐지 API의 권한 오류와 GraphQL SBOM API의 입력값 검증 미흡으로 인한 시스템 불안정 요소를 모두 제거했습니다. GitLab 설치 유형(Omnibus, Source code, Helm chart 등)에 관계없이 해당 버전을 사용하는 모든 환경이 영향 범위에 포함됩니다. GitLab.com은 이미 패치가 완료되었으나, 자체 서버를 운영 중인 고객은 보안 유지를 위해 지원되는 최신 패치 릴리스로 즉시 업그레이드해야 합니다. 각 취약점에 대한 상세한 이슈 내용은 보안 정책에 따라 릴리스 30일 후에 공개될 예정입니다.

gitlab

SmartBear QMetry GitLab 컴포넌트로 테스트 관리 효율화하기 (새 탭에서 열림)

SmartBear QMetry GitLab 컴포넌트는 GitLab CI/CD 파이프라인에서 생성된 테스트 결과를 QMetry Test Management Enterprise로 자동 업로드하여 테스트 관리 공수를 획기적으로 줄여줍니다. 이 통합은 수동 업로드로 인한 지연과 오류를 제거하고, 요구사항부터 실행 결과까지의 엔드투엔드 추적성을 보장하여 엔터프라이즈 환경에서의 품질 관리를 강화합니다. 결과적으로 개발 팀은 실시간 데이터와 AI 기반 인사이트를 바탕으로 더욱 빠르고 신뢰할 수 있는 릴리스 의사결정을 내릴 수 있습니다. **GitLab과 QMetry 통합의 주요 가치** * **수동 프로세스 제거**: JUnit, TestNG 등 다양한 형식의 테스트 결과를 파이프라인 완료 후 자동으로 업로드하여 QA 팀의 단순 반복 작업을 최소화합니다. * **추적성 및 규정 준수**: 테스트 결과를 특정 GitLab 커밋 및 빌드와 연결함으로써 금융, 항공우주, 의료 기기 등 규제 산업에서 필수적인 감사 추적(Audit Trail)을 완벽하게 지원합니다. * **피드백 루프 가속화**: 테스트가 완료되는 즉시 스테이크홀더가 결과를 확인할 수 있어, 문제 발생 시 즉각적인 조치가 가능하고 릴리스 주기가 단축됩니다. * **AI 기반 인사이트 활용**: 파이프라인의 실시간 데이터를 QMetry의 AI 엔진에 공급함으로써 취약한 테스트(Flaky tests) 식별 및 실패 예측의 정확도를 높입니다. **자동화된 테스트 결과 관리 워크플로우** * **테스트 실행**: GitLab CI/CD 파이프라인 내에서 단위 테스트, 통합 테스트 또는 E2E 테스트가 실행됩니다. * **결과 생성**: 테스트 도구에 의해 JUnit XML 또는 TestNG XML과 같은 표준 형식의 결과 파일이 생성됩니다. * **컴포넌트 호출**: GitLab CI/CD 카탈로그에 등록된 QMetry 컴포넌트가 파이프라인의 한 단계(Job)로 실행됩니다. * **API 자동 업로드**: 컴포넌트가 결과 파일을 읽어 QMetry API를 통해 지정된 프로젝트로 데이터를 전송하며, 이 과정은 별도의 수동 개입 없이 이루어집니다. **설정 및 보안 준비 사항** * **API 자격 증명**: QMetry Enterprise 인스턴스의 설정 메뉴에서 API Key를 생성해야 하며, 해당 키는 결과 업로드를 위한 쓰기 권한을 가져야 합니다. * **보안 유지**: 생성된 API Key는 보안을 위해 `.gitlab-ci.yml` 파일에 직접 노출하지 않고, 반드시 GitLab CI/CD 변수(Variables) 기능을 사용하여 관리해야 합니다. * **환경 구성**: 업로드를 위해 QMetry 인스턴스 URL(예: `https://company.qmetry.com`)과 테스트 결과를 업로드할 대상 프로젝트 정보를 사전에 확인해야 합니다. **실용적인 권장 사항** 데브섹옵스(DevSecOps) 성숙도를 높이려는 조직은 이 컴포넌트를 도입하여 '속도 기반의 품질 관리'를 실현할 수 있습니다. 특히 복잡한 규제 준수가 필요한 항공우주나 금융 분야의 팀에게는 이 자동화 도구가 감사 준비 시간을 단축하고 데이터 일관성을 유지하는 데 강력한 도구가 될 것입니다. 초기 설정 시 모든 테스트 결과를 한곳으로 모으는 것뿐만 아니라, QMetry 내에서 테스트 스위트 구조를 먼저 최적화한 후 자동화를 적용하는 것이 보다 체계적인 리포팅을 위해 권장됩니다.

aws

AWS Sustainability 콘솔 발표: 프로그래밍 방식 액세스, 구성 가능한 CSV 보고서, Scope 1~3 보고를 한 곳에서 | Amazon Web Services (새 탭에서 열림)

AWS는 고객이 자사 워크로드의 환경적 영향을 정밀하게 측정하고 관리할 수 있도록 독립된 서비스인 'AWS 지속 가능성 콘솔(AWS Sustainability console)'을 출시했습니다. 기존에 빌링(Billing) 콘솔의 하위 기능으로 제공되던 탄소 발자국 도구를 별도 서비스로 분리하여 접근성을 높였으며, API 지원과 맞춤형 리포트 기능을 통해 기업의 ESG 공시 및 데이터 통합 과정을 대폭 간소화했습니다. 이를 통해 지속 가능성 전문가들은 재무 데이터에 대한 권한 없이도 탄소 배출량 데이터에 직접 접근하여 분석할 수 있게 되었습니다. **빌링 권한으로부터 독립된 데이터 접근 체계** * 기존에는 탄소 발자국 데이터를 확인하기 위해 비용 및 결제 정보에 접근할 수 있는 빌링 권한이 반드시 필요했으나, 이제는 지속 가능성 콘솔만의 독립적인 IAM 권한 모델을 사용합니다. * 이를 통해 민감한 재무 정보에 노출될 필요가 없는 지속 가능성 담당자나 리포팅 팀에게 필요한 데이터만 안전하게 제공할 수 있습니다. **Scope 1~3 탄소 배출량의 심층 분석** * AWS 사용으로 발생하는 Scope 1(직접 배출), Scope 2(에너지 구매를 통한 간접 배출), Scope 3(공급망 및 제조 등 기타 간접 배출) 데이터를 모두 제공합니다. * 탄소 배출량을 리전(Region)별, 서비스(Amazon EC2, S3, CloudFront 등)별로 세분화하여 확인할 수 있어 배출량이 집중된 지점을 정확히 파악할 수 있습니다. * Scope 2 배출량의 경우, 에너지 속성 인증서를 반영한 시장 기반 방식(MBM)과 지역 그리드 평균 배출량을 반영한 위치 기반 방식(LBM)을 모두 지원하여 공시 표준에 맞는 데이터를 활용할 수 있습니다. **유연한 리포트 생성 및 회계 연도 맞춤화** * 사전 정의된 월간 및 연간 탄소 배출 리포트를 다운로드할 수 있으며, 사용자가 필요한 필드와 시간 단위, 필터를 선택하여 맞춤형 CSV 리포트를 생성할 수 있습니다. * 기업의 회계 연도가 달력상의 연도와 일치하지 않는 경우, 콘솔 내에서 회계 연도 시작 월을 설정하여 모든 데이터 뷰와 내보내기 파일을 조직의 보고 주기에 맞출 수 있습니다. **API 및 SDK를 통한 프로그래밍 방식의 데이터 통합** * 새롭게 출시된 API와 AWS SDK, CLI를 사용하여 탄소 배출 데이터를 기업 내부의 대시보드나 컴플라이언스 워크플로에 자동으로 통합할 수 있습니다. * 대규모 계정을 운영하는 조직은 별도의 데이터 내보내기 설정 없이도 특정 기간의 데이터를 프로그래밍 방식으로 추출하여 맞춤형 계정 그룹별 배출량을 산출할 수 있습니다. 이 서비스는 추가 비용 없이 즉시 사용할 수 있으며, 2022년 1월부터의 과거 데이터를 제공하므로 조직의 탄소 배출 트렌드를 즉각적으로 분석할 수 있습니다. 지속 가능성 담당자는 새롭게 제공되는 API를 활용해 수동 작업을 줄이고, 기업의 ESG 보고 파이프라인을 자동화하여 공시 대응 효율을 높이는 것을 추천합니다.

aws

계정 색상, 리전 및 서비스 가시성을 포함한 시각적 설정을 통한 AWS 관리 콘솔 환경 맞춤 설정 | Amazon Web Services (새 탭에서 열림)

AWS는 사용자 경험 맞춤화(UXC) 기능을 통해 관리자가 팀의 필요에 맞춰 AWS 관리 콘솔의 UI를 최적화할 수 있도록 지원합니다. 이 기능을 사용하면 계정별로 색상을 지정해 환경을 시각적으로 구분하고, 사용하지 않는 리전과 서비스를 숨겨 작업 효율성을 높일 수 있습니다. 이를 통해 사용자는 불필요한 정보로 인한 인지 부하를 줄이고 핵심 업무에 더욱 집중할 수 있습니다. ### 시각적 계정 구분을 위한 색상 지정 * AWS 계정별로 고유한 색상을 지정하여 개발(주황색), 테스트(하늘색), 운영(빨간색) 등의 환경을 즉각적으로 식별할 수 있습니다. * 설정된 색상은 콘솔 상단 탐색바에 표시되어 사용자가 현재 어떤 환경에서 작업 중인지 실시간으로 인지하게 도와줍니다. * 콘솔 내 '계정(Account)' 설정 메뉴에서 선호하는 색상을 선택하는 것만으로 간단히 적용 가능합니다. ### 리전 및 서비스 가시성 제어 * 리전 선택기나 서비스 탐색 메뉴에서 팀에 필요한 항목만 나타나도록 설정하여 불필요한 클릭과 스크롤을 줄일 수 있습니다. * 통합 설정의 '계정 설정' 탭에서 표시할 리전과 서비스를 개별적으로 선택하거나 인기 서비스 카테고리를 활용해 구성할 수 있습니다. * 이 설정은 콘솔 UI상의 노출 여부만 제어하며, AWS CLI, SDK, API 또는 Amazon Q Developer를 통한 실제 서비스 접근 권한에는 영향을 주지 않습니다. ### CloudFormation을 활용한 프로그래밍 방식 설정 * 새로운 `AWS::UXC::AccountCustomization` 리소스 타입을 통해 CloudFormation 템플릿으로 콘솔 맞춤화 설정을 코드화할 수 있습니다. * `AccountColor`, `VisibleServices`, `VisibleRegions` 파라미터를 사용하여 조직 내 여러 계정에 일관된 UI 설정을 대규모로 배포할 수 있습니다. * 템플릿을 작성한 후 `aws cloudformation deploy` 명령어를 통해 손쉽게 설정을 적용하고 관리할 수 있습니다. 운영 환경에는 명확한 경각심을 주는 색상(예: 빨간색)을 적용하고, 실제로 사용하지 않는 리전은 숨김 처리하는 것을 추천합니다. 이러한 사소한 설정 변화만으로도 잘못된 환경에서의 작업을 방지하는 안전장치를 마련하고 팀의 전반적인 생산성을 향상시킬 수 있습니다.

line

코딩 에이전트를 활용한 취약점 수집·생성 자동화로 가드레일 모델 고도화 (새 탭에서 열림)

LLM 서비스의 보안 위협인 프롬프트 인젝션과 탈옥을 방지하기 위해 가드레일 모델이 필수적이지만, 실제 운영 환경에서는 정상적인 요청을 공격으로 오해하는 오탐(False Positive) 문제가 주요 과제로 떠오르고 있습니다. 이를 해결하기 위해 개발팀은 코딩 에이전트(Codex)를 활용하여 테스트 데이터 생성부터 모델 평가 및 분석까지 전 과정을 자동화한 파이프라인을 구축했습니다. 이 시스템은 공격 유형을 카테고리별로 구조화하고 병렬로 테스트함으로써 가드레일 모델의 취약점을 체계적으로 파악하고 실서비스 적합성을 높이는 데 기여합니다. ### 벤치마크와 실서비스 성능의 간극 * **오탐(False Positive)의 문제:** 외부 벤치마크에서는 높은 성능을 보였으나, 실제 환경에서는 'ignore', 'bypass'와 같은 보안 키워드가 포함된 정상적인 개발/학술 질의까지 공격으로 차단하는 한계가 노출되었습니다. * **입력 다양성 확보의 필요성:** 단순한 성능 지표 개선을 넘어, 실제 사용자의 다채로운 입력 패턴을 모사하고 모델이 맥락을 정확히 이해하는지 검증할 체계적인 환경이 필요해졌습니다. * **코딩 에이전트 도입:** 반복적이고 복잡한 테스트 시나리오를 자동화하기 위해 LLM 기반의 도구 실행 및 파일 편집 능력을 갖춘 코딩 에이전트(Codex) 워크플로를 테스트 파이프라인에 접목했습니다. ### 코딩 에이전트(Codex)의 핵심 구성 요소 * **사용자 정의 지침 (AGENTS.md):** 프로젝트 루트에 전역 가이드라인을 명시하여 에이전트가 코딩 컨벤션과 보안 제약 사항을 준수하며 일관된 결과물을 내도록 제어합니다. * **서브 에이전트 오케스트레이션:** 복잡한 작업을 메인 에이전트(조율)와 작업자 에이전트(수행)로 분리하여 병렬 처리를 지원하고, 각 작업의 문맥을 명확히 분리해 효율성을 높입니다. * **스킬(Skill) 기반 표준화:** 특정 작업을 모듈화한 절차(SKILL.md)를 통해 데이터 생성, 모델 평가 등 반복되는 작업을 규격화하여 재현성을 확보합니다. ### 실험 단위의 카테고리화와 스킬 설계 * **실험 단위 분리:** 시스템 키워드가 포함된 업무 요청이나 교육 목적의 민감 주제 등 가드레일이 취약할 수 있는 지점을 카테고리별로 분리하여 병렬 실행 및 심층 분석이 가능하도록 설계했습니다. * **합성 데이터 생성 스킬 (synthetic-generator):** 카테고리별 제약 조건과 타깃 라벨을 반영하여 실제 서비스와 유사한 다채로운 문장 구조의 테스트셋(JSONL)을 자동으로 생성합니다. * **가드레일 모델 평가 스킬 (injection-classifier):** 생성된 데이터를 바탕으로 모델 API에 질의를 던져 오탐 및 미탐 통계를 산출하고, 원본 텍스트와 예측 결과를 통합 저장합니다. ### 자동화 테스트 파이프라인 아키텍처 * **메인 에이전트의 역할:** 테스트 명세를 파악하여 카테고리별로 서브 에이전트에게 업무를 할당하고, 최종적으로 모든 작업 완료 보고를 취합하는 컨트롤 타워 역할을 수행합니다. * **워커 에이전트의 실행 흐름:** 할당받은 카테고리에 대해 데이터 생성 및 평가 스킬을 순차적으로 호출한 뒤, 오탐/미탐 사례에 대한 심층 분석 보고서를 작성합니다. * **체계적인 산출물 관리:** 모든 실험 결과(입력 데이터, 평가 통계, 분석 보고서)는 고유한 실행 ID 경로에 저장되어, 향후 모델 패치 시 성능 개선 여부를 정밀하게 비교할 수 있는 근거가 됩니다. 가드레일 모델의 신뢰성을 높이기 위해서는 단순히 공격을 잘 막는 것을 넘어, 정상적인 비즈니스 맥락을 오차단하지 않는 정교함이 필요합니다. 코딩 에이전트를 활용한 자동화 파이프라인은 이러한 미세 조정을 위한 데이터와 분석 결과를 지속적으로 공급함으로써 보안과 사용성 사이의 균형을 잡는 핵심적인 도구가 됩니다.

line

신뢰성 향상을 위한 SLI/SLO 활용 1편 - SLI/SLO 프레임워크 및 서비스 상태 확인 도구 LINE Status 개발기 (새 탭에서 열림)

서비스 신뢰성을 관리하기 위한 공통 언어로서 SLI/SLO를 전사적으로 확산하기 위해, 반복되는 도입 과정을 표준화한 'SLI/SLO 프레임워크'를 정립하고 이를 시각화하는 'LINE Status' 도구를 개발했습니다. 단순한 장애 여부가 아닌 사용자 경험(CUJ) 관점에서 서비스 상태를 정의함으로써, 기술적 지표에 매몰되지 않고 조직 전체가 동일한 기준으로 서비스 품질을 파악하고 의사소통할 수 있는 기반을 마련했습니다. 이러한 체계는 운영 자동화와 데이터 기반의 거버넌스 구축을 가능하게 하여 장기적인 서비스 신뢰성 향상을 이끌어냅니다. **SLI/SLO 프레임워크의 5단계 구조** * **CUJ 선정 및 SLI 정의:** 서비스의 본질적인 사용자 경험을 파악하여 핵심 여정(Critical User Journey)을 선정하고, 이를 측정 가능한 지표인 SLI로 구체화합니다. * **계측 및 메트릭 설계:** Prometheus나 OpenTelemetry의 표준 네이밍 규칙을 적용하여 CUJ에 적합한 메트릭을 설계하고 구현합니다. * **대시보드 및 기록 규칙 구성:** Grafana를 통해 SLO 달성 여부를 직관적으로 확인하며, 복잡한 연산은 Recording Rules로 사전 처리하여 조회 효율을 높입니다. * **SLO 및 알람 설정:** 28일 롤링 윈도우 기반으로 초기 SLO를 설정하고, 단계적으로 목표치를 확정하며 대응을 위한 Runbook을 정의합니다. * **에러 예산 기반 운영:** 릴리스 속도와 안정성 사이의 균형을 맞추고, 정기적인 리뷰를 통해 목표를 점검하며 거버넌스를 확립합니다. **사용자 경험 중심의 LINE Status 도구** * **CUJ 기반 상태 정의:** 단순한 서버 장애 유무가 아니라, 사용자가 서비스를 원활히 이용하고 있는지(User Happiness)를 기준으로 상태를 판단합니다. * **기능 중심의 명칭 노출:** "API 500 에러"와 같은 기술 용어 대신 "메시지 전송", "읽음 표시" 등 사용자가 체감하는 기능 단위로 상태를 표현하여 직관성을 높였습니다. * **자동화된 상태 관리:** 각 서비스의 SLI/SLO 알림을 웹훅(Webhook)으로 수집하여 실시간으로 상태를 갱신하고, 이벤트 발생 이력을 DB에 저장해 추적합니다. * **시각적 편의 기능:** AI를 활용한 한 줄 분석 요약, 직관적인 신호등 색상 표현, 타임라인 기반의 이벤트 히스토리 페이지 등을 제공합니다. **AI 활용과 프레임워크의 연결 효과** * **바이브 코딩과 명확한 기획:** 프런트엔드 개발 경험이 부족하더라도 AI를 적극 활용하여 UI를 구현했으며, 마크다운 형식의 구체적인 요구사항 정의가 결과물의 완성도를 결정함을 확인했습니다. * **공통 창구 제공:** 개발자와 운영자가 각자의 대시보드를 보는 대신, LINE Status라는 단일 창구를 통해 사용자 경험에 미치는 영향을 즉각적으로 파악할 수 있습니다. * **확산 가능한 운영 기반:** 프레임워크를 통해 서비스를 정의하고 그 결과를 LINE Status에 등록하는 일련의 과정을 통해, 특정 인원에 의존하지 않는 지속 가능한 신뢰성 관리 체계를 구축했습니다. **실용적인 결론** 성공적인 SLI/SLO 도입을 위해서는 기술적 측정보다 **'사용자 경험(CUJ)의 명확한 정의'**와 **'조직 간의 공통 언어 수립'**이 선행되어야 합니다. 또한, 표준화된 템플릿과 자동화된 상태 확인 도구를 결합함으로써 커뮤니케이션 비용을 줄이고 데이터에 기반한 의사결정 속도를 높일 수 있습니다.

aws

Amazon S3 20주년과 다음 단계 구축 | Amazon Web Services (새 탭에서 열림)

Amazon S3는 2006년 출시 이후 20년 동안 단순한 객체 스토리지를 넘어 전 세계 데이터 및 AI 워크로드의 핵심적인 보편적 기반으로 진화했습니다. 기술적 혁신을 통해 11나인(99.999999999%)의 내구성과 완벽한 하위 호환성을 유지하면서도, 비용을 85% 절감하고 엑사바이트 단위의 확장을 실현하며 클라우드 인프라의 표준을 제시하고 있습니다. **비약적인 규모의 확장과 경제성 확보** * 2006년 당시 1PB 수준이었던 총 용량은 현재 500조 개 이상의 객체와 수백 엑사바이트의 데이터를 수용하는 규모로 성장했습니다. * 최대 객체 크기는 5GB에서 50TB로 1만 배 증가했으며, 초당 요청 수는 전 세계적으로 2억 건을 상회합니다. * 기가바이트당 비용은 출시 초기 15센트에서 현재 약 2센트로 85% 감소했으며, 'S3 Intelligent-Tiering'을 통해 고객들은 표준 대비 60억 달러 이상의 비용을 절감했습니다. * S3 API는 업계 표준이 되어 수많은 벤더가 이를 채택하고 있으며, 2006년에 작성된 코드가 수정 없이 오늘날에도 그대로 동작할 만큼 엄격한 하위 호환성을 보장합니다. **규모의 한계를 극복하는 엔지니어링 혁신** * **지속적 데이터 감사:** 마이크로서비스 기반의 감사(Auditor) 시스템이 모든 바이트를 실시간으로 검사하며, 열화 징후가 발견되는 즉시 자동 복구 시스템을 가동하여 데이터 손실을 방지합니다. * **수학적 정확성 증명:** 인덱스 하위 시스템과 액세스 정책 등에 정형 기법(Formal methods)과 자동 추론을 적용하여 시스템의 일관성과 정확성을 수학적으로 증명합니다. * **Rust 언어 전환:** 성능에 민감한 요청 경로와 디스크 스토리지 코드를 Rust로 재작성하여 메모리 안전성을 확보하고, 대규모 운영 환경에서 발생할 수 있는 버그를 컴파일 단계에서 제거했습니다. * **규모의 경제 활용:** "규모가 곧 장점"이라는 철학 아래 시스템이 커질수록 개별 워크로드 간의 상관관계가 낮아지도록 설계하여 전체적인 안정성을 높였습니다. **데이터와 AI를 위한 미래 지향적 기능** * **S3 Tables:** Apache Iceberg 테이블을 완전 관리형으로 제공하며, 자동화된 유지보수를 통해 쿼리 효율을 높이고 스토리지 비용을 최적화합니다. * **S3 Vectors:** RAG(검색 증강 생성) 및 시맨틱 검색을 위해 최대 20억 개의 벡터를 인덱싱하며, 100ms 미만의 낮은 지연 시간으로 네이티브 벡터 검색을 지원합니다. * **S3 Metadata:** 대규모 버킷을 일일이 나열(List)하지 않고도 중앙 집중식 메타데이터를 통해 즉각적으로 데이터를 발견할 수 있어 데이터 레이크 분석 시간을 획기적으로 단축합니다. **권장 사항** S3는 이제 데이터를 저장만 하는 공간이 아니라, 데이터를 이동시키지 않고도 직접 분석하고 AI 모델에 활용할 수 있는 통합 플랫폼입니다. 비용 효율성을 극대화하기 위해 'Intelligent-Tiering'을 기본적으로 활용하고, 복잡한 데이터 파이프라인 대신 'S3 Tables'나 'S3 Metadata' 같은 최신 기능을 도입하여 데이터 관리의 복잡성을 줄이는 전략이 필요합니다.

discord

디스코드 패치 노트: (새 탭에서 열림)

이번 패치 노트는 Discord의 성능, 안정성, 접근성, 사용성을 개선한 다양한 수정 사항을 소개합니다. 특히 `\@everyone`와 `\@here`가 실제 멘션을 발생시키던 문제를 서버 측에서 바로잡았고, 데스크톱 앱의 중앙 실행 시간(p50 TTI)을 11.8% 단축했습니다. 또한 iOS·Android·Desktop 전반에서 실행 지연, 탐색, UI 정렬, 권한 및 역할 관리와 관련된 버그를 폭넓게 수정했습니다. ## 멘션 처리와 알림 안정성 개선 - `\@everyone`, `\@here`처럼 이스케이프된 멘션이 클라이언트에서는 일반 텍스트처럼 보이지만, 실제 전송 시 역할 멘션을 발생시키던 문제를 수정했습니다. - 이제 백엔드에서도 이스케이프 문자를 올바르게 해석하므로 `\@everyone`은 실제 알림을 보내지 않습니다. - 대규모 서버에서 의도치 않게 많은 사용자에게 알림을 보내는 사고를 방지할 수 있게 됐습니다. ## 데스크톱 성능 향상 - API가 Desktop 클라이언트로 전달하는 payload 순서를 변경했습니다. - 그 결과 앱 실행에 걸리는 중앙값인 p50 TTI가 11.8% 감소했습니다. - 전주에 진행된 내비게이션 성능 개선과 함께 데스크톱 앱의 초기 응답성과 실행 속도를 지속적으로 개선하고 있습니다. ## 접근성 개선 - Quest, Events, Profiles, Activities, Nitro 관련 화면을 대상으로 접근성 문제를 집중적으로 수정했습니다. - 스크린 리더 사용자가 해당 화면을 더 쉽게 탐색할 수 있도록 구조와 상호작용을 개선했습니다. - 이번 패치에 나열되지 않은 접근성 수정도 별도로 계속 진행 중입니다. ## 모바일 실행 및 애니메이션 문제 수정 - iOS에서 기기 재시작 후 앱 실행에 최대 2분이 걸리던 문제를 수정했습니다. - 부팅 직후 백그라운드 큐에 몰리는 asset 요청이 앱 실행을 지연시키던 것이 원인이었습니다. - 모바일에서 채팅 전환 등 UI 애니메이션이 중간 상태에서 멈추던 문제를 해결했습니다. - iOS 26에서 전체 화면 뒤로 스와이프 제스처가 작동하지 않던 문제를 수정했습니다. - iOS 설정 화면의 과도한 자동 스크롤과 기기가 절전 모드로 진입하지 못하는 문제도 해결했습니다. - iOS 스위치의 비활성화 상태 스타일을 통일했습니다. ## 메시지, 검색 및 초대 기능 개선 - Nitro 사용자가 보낸 대용량 첨부파일을 일반 사용자가 전달하지 못하던 비의도적 제한을 제거했습니다. - League of Legends 게임 초대가 간헐적으로 작동하지 않던 문제를 수정했습니다. - 일부 게임의 Overlay용 “Join” 초대가 정상적으로 생성되지 않던 문제를 해결했습니다. - 검색 결과에서 선택 항목이 첫 번째 항목에 고정되던 문제를 수정했습니다. - 현재 보고 있는 텍스트 채널이 `Ctrl/Cmd+F` 검색어에 자동으로 입력되지 않던 문제를 해결했습니다. - 메시지 작성 중 글자 수 제한 UI가 겹쳐 이모지·표현식 선택 버튼을 가리던 문제를 수정했습니다. - 우클릭으로 링크를 복사한 뒤 키보드 단축키가 일시적으로 작동하지 않던 문제를 해결했습니다. - Quick Switcher에서 `Ctrl/Cmd+T`로 닫기가 정상 동작하도록 수정했습니다. ## 서버 관리와 역할 기능 수정 - 비공개 채널 생성 시 역할 추가 단계에서 Desktop의 “Skip” 옵션을 선택할 수 없던 문제를 해결했습니다. - 모바일에서 역할 정렬과 관리자 역할 선택 기능을 복구했습니다. - 역할이 매우 많은 서버에서도 관리자용 역할 선택기를 다시 스크롤할 수 있습니다. - Android에서 역할 색상 선택기가 정상적으로 작동하지 않던 문제를 수정했습니다. - 삭제할 수 없는 역할에 “Remove Role” 항목이 표시되던 문제를 해결했습니다. - 채널 삭제 사유가 Audit Logs에 올바르게 표시되도록 수정했습니다. - 권한 설정 삭제 시 Android 모달의 레이어 순서가 잘못 표시되던 문제를 해결했습니다. - Server Onboarding의 채널·역할 선택 메뉴가 화면 밖으로 렌더링되던 문제와 모달 내부 정렬 문제를 수정했습니다. - 서버 초대 화면에서 Android의 정보가 중복 표시되던 문제를 수정했습니다. ## UI 정렬 및 표시 문제 개선 - Android Forest 테마에서 누락된 그라디언트를 복구했습니다. - Desktop의 채널 설명 링크가 지나치게 크게 표시되던 문제를 해결했습니다. - Nitro 홈 탭 이미지, 프로필의 아바타·상태 버튼, 채널 권한의 멤버 목록과 역할 삭제 아이콘 정렬을 수정했습니다. - 민감한 콘텐츠 알림이 메시지 아래에서 오른쪽 정렬되던 문제를 바로잡았습니다. - 브라우저에 따라 서버 아이콘이 지나치게 크거나 잘못 정렬되던 문제를 해결했습니다. - 게임 프로필의 툴팁에서 링크가 잘리던 문제를 수정했습니다. - 하드웨어 가속 설정 툴팁의 여백과 정렬을 조정했습니다. - 메시지 삭제 모달의 임베드 렌더링 문제를 해결했습니다. - 행 상태 아이콘과 텍스트 사이의 정렬 문제를 수정했습니다. ## 상점, 부스트 및 기타 기능 수정 - 여러 색상 변형을 가진 모바일 상점 수집품이 일부 변형을 표시하지 않던 문제를 해결했습니다. - 이모지 한도에 도달한 서버에서 “Boost Server” 버튼이 잘못 표시되던 문제를 수정했습니다. - 키보드로 서버 부스트 레벨에 초점을 맞출 때 부스트 버튼이 제대로 렌더링되도록 개선했습니다. - 프로필의 게임 위젯에서 마우스 뒤로 가기 탐색이 정상적으로 작동하도록 수정했습니다. - 웹훅 URL을 복사할 때 시각적 확인 표시가 없던 문제를 해결했습니다. - 오래된 Media 채널 홍보 팝오버와 연결된 404 링크를 제거했습니다. - Android 서버 초대 화면의 중복 정보 표시 문제와 일부 UI 표시 오류를 수정했습니다. 이번 패치는 새로운 대형 기능을 추가하기보다, 실제 사용 중 혼란이나 오작동을 일으키던 세부 문제를 광범위하게 정리한 안정성 중심 업데이트입니다. 특히 서버 관리자라면 멘션 오작동, 역할 선택·정렬, 온보딩 메뉴 문제를 줄이기 위해 최신 버전으로 업데이트하는 것이 좋습니다.