figma·2025년 6월 3일원문

MCP 서버 소개: 워크 (새 탭에서 열림)

Figma는 개발자가 LLM 기반 협업 도구에서 디자인 맥락을 실시간으로 활용할 수 있도록 지원하는 'Figma MCP(Model Context Protocol) 서버'를 베타 버전으로 출시했습니다. 이 서버는 단순한 이미지 전달을 넘어 디자인 시스템의 컴포넌트, 변수, 스타일링 정보를 AI에게 직접 제공함으로써, 개발자가 사용하는 코드베이스의 패턴에 최적화된 고품질 코드를 생성하도록 돕습니다. 결과적으로 Cursor, VS Code Copilot 등 AI 기반 코딩 도구에서 디자인 의도를 더욱 정확하고 효율적으로 구현할 수 있게 되었습니다. ### 디자인 의도를 코드로 전환하는 MCP 서버의 역할 * **표준화된 컨텍스트 제공**: MCP는 애플리케이션이 LLM에 맥락을 제공하는 표준 규격으로, 이를 통해 Figma의 디자인 데이터를 가공 없이 AI 에이전트(Cursor, Windsurf, Claude Code 등)에 직접 연결합니다. * **학습 데이터의 한계 극복**: LLM은 일반적인 코드는 잘 작성하지만 특정 팀의 고유한 코드 구조나 프레임워크 패턴은 알지 못합니다. MCP 서버는 팀 고유의 디자인 의도를 전달해 이 간극을 메웁니다. * **효율적인 워크플로우**: 단순히 디자인을 보고 코드를 짜는 단계를 넘어, AI가 디자인의 구조와 논리를 스스로 이해하고 멀티 레이어 애플리케이션 흐름을 구축할 수 있도록 지원합니다. ### 디자인 시스템 및 패턴 메타데이터 활용 * **정밀한 코드 매칭**: 디자인에 정의된 컴포넌트, 변수(Variable), 스타일 정보를 직접 전달합니다. AI가 단순히 비슷한 색상을 찾는 것이 아니라, 시스템에 정의된 정확한 토큰 이름과 변수명을 사용하게 합니다. * **Code Connect 연동**: Figma에 설정된 'Code Connect' 정보를 바탕으로 AI에게 해당 디자인이 구현된 실제 코드 파일의 경로를 정확히 안내하여 중복 컴포넌트 생성을 방지합니다. * **토큰 절약 및 정확도 향상**: 디자인 시스템의 패턴을 직접 참조함으로써 AI가 탐색에 소모하는 토큰 양을 줄이고, 디자인 시스템을 벗어난 코드를 생성할 확률을 낮춥니다. ### 시각적 정보와 상호작용의 결합 * **고수준 스크린샷 제공**: 텍스트 데이터로 설명하기 어려운 전체적인 화면 흐름, 반응형 레이아웃, 섹션 간의 관계를 스크린샷을 통해 AI에게 시각적으로 보완 설명합니다. * **인터랙션 및 의사 코드(Pseudocode)**: 복잡한 상태 변화나 UI 시퀀스를 설명하기 위해 '의사 코드' 형태의 프로토타입 데이터를 제공합니다. 이는 단순한 메타데이터 트리보다 AI가 컴포넌트의 동작 논리를 이해하는 데 훨씬 효과적입니다. * **선택적 컨텍스트 제어**: 사용자는 특정 도구가 반환하는 정보의 양을 설정하여, 현재 작업 중인 코드 구현에 가장 적합한 수준의 디자인 컨텍스트를 조절할 수 있습니다. ### 실용적인 활용 및 향후 계획 현재 Figma MCP 서버는 베타 단계로, VS Code의 Copilot이나 Cursor 같은 도구에 연결하여 즉시 디자인 기반 코드 생성을 테스트해 볼 수 있습니다. 향후 Figma는 원격 서버 기능 지원과 코드베이스와의 더욱 깊은 통합을 포함한 업데이트를 지속할 예정입니다. 디자인 시스템이 잘 구축된 팀일수록 이 서버를 통해 디자인과 코드 간의 일치성을 극대화하는 경험을 할 수 있을 것입니다.

대규모 언어 모델FigmaAI 에이전트모델 컨텍스트 프로토콜+3

google·2025년 6월 2일원문

명확화 학습: Action-Based (새 탭에서 열림)

구글 리서치와 딥마인드 연구진이 발표한 '행동 기반 대조적 자기 훈련(Action-Based Contrastive Self-Training, 이하 ACT)'은 LLM이 다회차 대화에서 모호함을 해소하는 능력을 획기적으로 개선하는 방법론입니다. 기존 모델들이 사용자의 의도를 성급하게 추측하거나 답변을 회피하는 경향이 있는 반면, ACT는 대화의 맥락에 따라 질문을 던져 의도를 명확히 할지 아니면 바로 답변할지를 스스로 판단하도록 훈련합니다. 이 알고리즘은 데이터 효율적인 방식으로 멀티턴 대화의 궤적(trajectory)을 최적화하여 복잡한 정보 탐색 작업에서 기존의 지도 학습 기반 미세 조정(SFT)이나 직접 선호도 최적화(DPO)보다 뛰어난 성능을 보였습니다. ### 대화형 추론을 위한 암시적 행동 계획 * 전통적인 대화형 에이전트는 대화 관리(질문할지 답변할지 결정)와 생성 모듈이 분리되어 있었으나, ACT는 이를 생성 과정의 일부인 '암시적 행동 계획'으로 통합했습니다. * LLM이 별도의 계획 단계 없이 응답 생성 과정 내에서 적절한 대화 행동(의도 확인 질문 vs 답변 시도)을 수행하도록 직접 최적화합니다. * 이는 대화의 흐름에 따라 모델이 스스로 판단을 내리는 능력을 강화하여 더욱 자연스럽고 지능적인 상호작용을 가능하게 합니다. ### 1단계: 행동 기반 대조 데이터 생성 * 학습을 위해 먼저 각 대화 턴에서 '승리한 행동(예: 질문을 통한 확인)'과 '패배한 행동(예: 성급한 답변)'으로 구성된 선호도 데이터 쌍을 구축합니다. * 기존 대화 데이터셋의 정답 턴을 승리 응답으로 삼고, 조건부 생성 모델을 활용해 이와 반대되는 성격의 부정적 응답(Rejected response)을 합성합니다. * 이 과정을 통해 모델은 특정 상황에서 어떤 대화 행동이 더 적절한지에 대한 대조적인 시각을 학습하게 됩니다. ### 2단계: 온폴리시(On-policy) 대조적 자기 훈련 * 고정된 데이터셋으로 학습하는 오프라인 방식 대신, 학습 중인 모델이 직접 응답을 샘플링하는 온폴리시 방식을 채택했습니다. * 모델이 생성한 응답이 올바른 대화 행동(예: 질문하기)을 수행했는지 확인한 뒤, 전체 대화 궤적을 시뮬레이션하여 최종 결과가 사용자의 의도와 부합하는지 평가합니다. * 시뮬레이션 결과가 성공적일 경우 해당 궤적을 학습 데이터에 반영함으로써, 단일 턴의 응답 품질뿐만 아니라 멀티턴 대화 전체의 성공 확률을 높이도록 모델을 최적화합니다. ### AmbigSQL 도입 및 성능 검증 * 연구진은 복잡한 SQL 코드 생성 시 발생하는 모호한 요청을 해소하기 위한 새로운 과제인 'AmbigSQL'을 도입하여 데이터 분석 에이전트의 능력을 시험했습니다. * 표 기반 질의응답(Tabular-grounded QA) 및 기계 독해(MRC) 등 실제 환경과 유사한 다양한 과제에서 ACT의 효용성을 입증했습니다. * 실험 결과, ACT는 대화 내의 모호성을 인지하고 추론하는 능력이 표준적인 튜닝 방식들보다 월등히 높음을 보여주었습니다. 사용자의 모호한 질문에 대해 단순히 답변을 생성하는 것에 그치지 않고, 적절한 시점에 확인 질문을 던지는 에이전트를 구축하고자 한다면 ACT와 같은 다회차 궤적 시뮬레이션 기반의 정렬(Alignment) 방식이 매우 효과적인 대안이 될 수 있습니다. 특히 데이터 분석이나 기술 지원처럼 정확한 의도 파악이 필수적인 도메인에서 모델의 신뢰도를 높이는 데 기여할 것으로 기대됩니다.

대규모 언어 모델reinforcement-learningsupervised-fine-tuningaction-based-contrastive-self-training+4

google·2025년 5월 22일원문

사용자 수준 차분 프 (새 탭에서 열림)

Google Research는 대규모 언어 모델(LLM)을 사용자 수준의 차분 프라이버시(User-level Differential Privacy)를 유지하며 미세 조정하는 알고리즘을 연구하고 개선했습니다. 기존의 예시 수준 프라이버시보다 강력한 이 기법은 모델이 특정 사용자의 전체 데이터 포함 여부를 노출하지 않도록 보장하지만, 모델이 커질수록 노이즈가 증가하여 성능이 저하되는 한계가 있었습니다. 연구진은 데이터센터의 유연한 환경을 활용해 사용자 수준 샘플링(ULS) 알고리즘을 최적화함으로써, 프라이버시 보호와 모델 성능 사이의 균형을 효과적으로 맞출 수 있음을 증명했습니다. ### 사용자 수준 차분 프라이버시의 의의 * **프라이버시 강화:** 예시 수준 차분 프라이버시(Example-level DP)가 개별 데이터 포인트만 보호하는 반면, 사용자 수준 DP는 특정 사용자가 제공한 모든 데이터의 영향을 제한하여 훨씬 강력한 익명성을 보장합니다. * **실제 데이터 소유 구조 반영:** 오늘날 데이터는 개별 기기나 계정 단위로 묶여 있는 경우가 많으며, 공격자가 사용자의 특정 데이터 한 조각이 아닌 전체 활동 내역을 유추하는 것을 방지하는 데 최적화되어 있습니다. * **LLM 미세 조정의 필수성:** LLM을 특정 도메인에 맞게 최적화할 때 민감한 데이터가 포함되는 경우가 많으므로, 성능을 유지하면서도 프라이버시를 지키는 기술적 장치가 필수적입니다. ### ELS와 ULS 알고리즘 비교 * **예시 수준 샘플링(ELS):** 전체 데이터셋에서 무작위로 예시를 샘플링한 후, 기존 DP-SGD 알고리즘에 더 많은 노이즈를 추가하여 사용자 수준의 프라이버시를 확보하는 방식입니다. * **사용자 수준 샘플링(ULS):** 학습 배치(Batch)를 구성할 때 예시 단위가 아닌 사용자 단위로 무작위 샘플링을 진행하며, 선택된 사용자의 모든 데이터를 학습에 활용합니다. * **연합 학습과의 유사성:** ULS는 분산된 기기에서 학습하는 연합 학습(Federated Learning)과 유사한 구조를 가지지만, 데이터센터 환경에서는 모든 사용자의 데이터를 자유롭게 쿼리할 수 있어 더 유연한 최적화가 가능합니다. ### 기여 제한(Contribution Bound)을 통한 성능 최적화 * **데이터 전처리:** 각 사용자가 학습에 기여할 수 있는 예시의 최대 개수를 제한하는 '기여 제한' 설정이 성능의 핵심 변수로 작용합니다. * **노이즈와 정보의 균형:** 기여 제한을 너무 낮게 잡으면 사용자당 정보량이 부족해지고, 너무 높게 잡으면 프라이버시를 위해 추가해야 할 노이즈가 급격히 늘어나 학습 품질이 떨어집니다. * **데이터센터의 유연성 활용:** 연구진은 데이터센터 학습의 장점을 활용해 사용자와 예시를 모두 쿼리하며 기여 제한 파라미터를 정밀하게 조정함으로써, 연합 학습 기반의 알고리즘보다 더 높은 품질의 LLM 미세 조정이 가능함을 보여주었습니다. 사용자 수준의 프라이버시를 보장하면서 LLM을 미세 조정할 때는 **사용자 수준 샘플링(ULS)** 방식을 우선적으로 고려해야 합니다. 특히 데이터센터 환경에서 학습을 진행한다면, 특정 사용자의 데이터가 지나치게 편중되어 모델에 영향을 주지 않도록 **기여 제한(Contribution Bound)** 파라미터를 사전에 실험적으로 최적화하는 것이 모델의 정확도 손실을 최소화하는 가장 실용적인 전략입니다.

대규모 언어 모델AIdifferential-privacyfederated-learning+4

google·2025년 5월 13일원문

검색 확대 생성에 대한 깊이 있는 통찰: 충분한 맥락의 역할 (새 탭에서 열림)

검색 증강 생성(RAG) 시스템의 성능을 최적화하기 위해 단순히 질문과 '관련된' 정보를 찾는 것을 넘어, 답변을 내기에 '충분한 문맥(Sufficient Context)'이 제공되었는지를 판단하는 새로운 관점을 제시합니다. 연구팀은 문맥의 충분성을 측정하는 자동 평가 도구(autorater)를 개발하여 RAG 시스템의 실패 원인을 분석하고 할루시네이션(환각)을 줄일 수 있는 방법론을 입증했습니다. 이를 통해 최신 대규모 언어 모델(LLM)이 충분한 정보 환경에서 어떻게 작동하는지 규명하고, 실제 서비스인 Vertex AI RAG 엔진에 해당 기술을 적용하여 정확도를 개선했습니다. **충분한 문맥의 정의와 필요성** * **관련성 vs 충분성**: 기존 RAG 연구는 질문과 문맥의 '관련성'에 집중했으나, 관련성이 높더라도 정답을 도출하기 위한 핵심 정보가 빠져 있으면 LLM은 잘못된 답변을 내놓을 위험이 큽니다. * **충분한 문맥**: 질문에 대해 확정적인 답변을 제공하는 데 필요한 모든 정보가 포함된 상태를 의미합니다. * **불충분한 문맥**: 질문과 관련은 있지만 정보가 불완전하거나, 결론을 내릴 수 없거나, 모순되는 정보가 포함된 경우를 말합니다. **LLM 기반 자동 평가 도구(Autorater)의 설계 및 성능** * **평가 메커니즘**: 질문과 검색된 문맥 쌍을 입력받아 해당 문맥이 답변에 충분한지 여부를 'True/False'로 분류하며, 체인 오브 쏘트(CoT) 및 1-샷 프롬프팅을 통해 성능을 최적화했습니다. * **높은 분류 정확도**: Gemini 1.5 Pro를 활용한 이 방식은 별도의 미세 조정 없이도 전문가가 직접 레이블링한 데이터와 비교했을 때 93% 이상의 높은 일치율을 보였습니다. * **기존 방식과의 비교**: 정답 키워드 포함 여부를 확인하는 방식이나 기존의 자연어 추론(NLI) 모델 기반 방식보다 Gemini를 활용한 프롬프팅 방식이 뛰어난 문맥 이해력을 바탕으로 더 정교한 판단을 내리는 것으로 나타났습니다. * **효율적 대안**: 계산 자원의 효율성이 필요한 경우, Gemini보다는 다소 성능이 낮지만 미세 조정된 FLAMe(PaLM 24B 기반) 모델이 대안이 될 수 있음을 확인했습니다. **RAG 시스템 성능 분석 및 실무적 통찰** * **SOTA 모델의 특성**: Gemini, GPT, Claude와 같은 최신 모델들은 충분한 문맥이 주어지면 정답률이 매우 높지만, 문맥이 불충분할 때 "모른다"고 답하며 할루시네이션을 방지하는 능력에는 차이가 있었습니다. * **성능 최적화 도구**: 이번 연구의 개념은 Google Cloud Vertex AI RAG 엔진의 'LLM Re-Ranker' 기능으로 구현되었습니다. 이는 검색된 스니펫을 질문과의 관련성 및 충분성에 따라 재정렬하여 nDCG와 같은 검색 지표 및 전체 시스템 정확도를 높입니다. * **실패 분석**: RAG 시스템의 실패는 단순히 검색 품질의 문제뿐만 아니라, 충분한 정보가 있음에도 모델이 이를 제대로 추출하지 못하거나 불충분한 정보에서 억지로 답을 지어내는 과정에서 발생함을 확인했습니다. RAG 시스템의 신뢰도를 높이기 위해서는 단순히 더 많은 문서를 검색하는 것보다, 검색된 결과가 질문에 답하기에 '충분한지'를 먼저 검증하는 단계가 필수적입니다. 개발자는 고성능 LLM을 활용한 자동 평가 단계를 파이프라인에 추가하거나, 리랭커(Re-ranker)를 도입하여 문맥의 질을 관리함으로써 할루시네이션을 획기적으로 줄일 수 있습니다.

대규모 언어 모델AIgemini프롬프트 엔지니어링+5

google·2025년 5월 5일원문

복잡한 텍스트를 이해하기 쉽게 만들기: 제미니를 통한 최소 손실 텍스트 간소화 (새 탭에서 열림)

구글 리서치는 전문적인 지식을 일반 사용자가 더 쉽게 이해할 수 있도록 정보의 손실을 최소화하면서 텍스트를 단순화하는 Gemini 기반 시스템을 공개했습니다. 이 시스템은 단순히 정보를 생략하는 요약이나 새로운 내용을 덧붙이는 설명과 달리, 원문의 세부 사항과 뉘앙스를 완벽하게 유지하면서 가독성만을 높이는 '고충실도(High-fidelity) 단순화'를 목표로 합니다. 대규모 무작위 대조 실험 결과, 이 기술은 사용자의 정보 이해도를 높이는 동시에 텍스트를 읽을 때 느끼는 인지적 부담을 유의미하게 감소시키는 것으로 나타났습니다. ### 최소 손실 텍스트 단순화의 정의와 목표 * **요약과의 차별화**: 정보를 누락시키는 일반적인 요약과 달리, 원문의 모든 핵심 주장과 세부 사항을 보존하는 '최소 손실(Minimally-lossy)' 방식을 지향합니다. * **정확성 유지**: 의학, 법률, 금융 등 전문 용어가 많고 복잡한 텍스트에서 의미 왜곡 없이 문장 구조와 단어 선택을 최적화하여 명확성을 확보합니다. * **사용자 임파워먼트**: 복잡한 정보 때문에 의사결정에 어려움을 겪는 사용자가 스스로 텍스트를 변환하여 내용을 파악할 수 있도록 돕습니다. ### Gemini를 활용한 자동 평가 및 프롬프트 정제 루프 * **가독성 및 충실도 평가**: 기존의 단순한 가독성 지표(Flesch-Kincaid 등)를 넘어, Gemini가 1~10점 척도로 가독성을 정밀 평가하며 원문과 단순화된 텍스트 간의 정보 일치 여부를 분석합니다. * **LLM 기반 프롬프트 최적화**: Gemini 1.5 Pro가 Gemini 1.5 Flash가 생성한 결과물을 평가하고, 이를 바탕으로 더 나은 결과를 낼 수 있도록 프롬프트를 스스로 수정하는 루프를 구축했습니다. * **반복적인 성능 향상**: 수동 프롬프트 엔지니어링의 한계를 극복하기 위해 총 824회의 자동 반복(Iteration)을 거쳐 최적의 단순화 전략을 발견했습니다. ### 대규모 연구를 통한 실증적 효과 검증 * **연구 설계**: 4,500명 이상의 참가자를 대상으로 의학, 항공우주, 철학 등 복잡도가 높은 31개 분야의 실제 텍스트를 활용하여 무작위 대조 실험을 진행했습니다. * **이해도 측정**: 단순화된 텍스트를 읽은 그룹은 원문을 읽은 그룹보다 객관식 문제(MCQ) 정답률이 높았으며, 텍스트를 참고할 수 없는 상황에서도 더 높은 이해도를 보였습니다. * **인지 부하 감소**: NASA-TLX(작업 부하 지수)를 활용해 측정한 결과, 사용자들은 단순화된 텍스트를 읽을 때 정신적 노력이 덜 들고 더 높은 자신감을 느낀다고 답했습니다. 이러한 기술적 성과는 현재 iOS용 구글 앱의 'Simplify' 기능을 통해 실제 서비스에 적용되었으며, 전문가 수준의 지식 장벽을 낮추어 정보의 민주화를 실현하는 데 기여하고 있습니다. 전문가의 언어를 대중의 언어로 정확하게 번역해야 하는 다양한 도메인에서 Gemini의 이 시스템은 매우 유용한 도구가 될 것입니다.

대규모 언어 모델AIgemini자연어 처리+3

google·2025년 5월 1일원문

앰플리파이 이 (새 탭에서 열림)

구글 리서치가 발표한 ‘엠플리파이 이니셔티브(Amplify Initiative)’는 전 세계의 다양한 언어와 문화를 반영한 데이터를 수집하여 AI의 지역적 한계를 극복하려는 개방형 커뮤니티 기반 데이터 플랫폼입니다. 이 프로젝트는 현지 전문가들과의 협업을 통해 각 지역의 특수한 요구사항과 가치관이 담긴 고품질 데이터를 구축함으로써, 특정 지역에 치우치지 않는 책임감 있는 글로벌 AI 생태계를 조성하는 것을 목표로 합니다. 특히 사하라 이남 아프리카에서의 성공적인 파일럿 사례를 통해 데이터 저자권 인정과 보상을 결합한 지속 가능한 데이터 수집 모델의 가능성을 증명했습니다. **엠플리파이 이니셔티브의 핵심 가치** * **참여형 데이터 공동 생성:** 지역 연구자들과 커뮤니티가 직접 데이터 요구사항을 정의하고, 현지 문제를 해결하는 데 필요한 구조화된 데이터셋을 함께 만듭니다. * **글로벌 사우스(Global South)를 위한 개방형 데이터:** 수집된 다국어 데이터셋은 미세 조정(Fine-tuning) 및 평가용으로 공개되어, 저개발 국가의 연구자들이 현지 맞춤형 AI 도구를 개발할 수 있도록 지원합니다. * **기여자 인식 및 보상:** 데이터 생성에 참여한 전문가들에게 저자권 부여, 전문 자격증 제공, 연구 기여 인정 등의 보상 체계를 운영하여 참여 동기를 강화합니다. **사하라 이남 아프리카 파일럿 프로젝트 성과** * **전문가 협업 네트워크:** 우간다 마케레레 대학교 AI 연구소와 협력하여 가나, 케냐, 말라위, 니제르 등 5개국에서 건강, 교육, 금융 분야의 전문가 259명을 온보딩했습니다. * **대규모 다국어 데이터셋 구축:** 155명의 전문가가 직접 참여하여 7개 언어로 작성된 8,091개의 주석 달린 적대적 쿼리(Adversarial queries) 데이터셋을 생성했습니다. * **현지 맞춤형 콘텐츠:** 스와힐리어 기반의 미분별 정보 벤치마킹 데이터나 인도의 금융 문해력이 낮은 사용자를 위한 용어 단순화 데이터 등 실질적인 지역 난제 해결에 초점을 맞췄습니다. **데이터 수집 및 검증 프로세스** * **도메인 전문가 기반 접근:** 보건 의료 종사자나 교사와 같이 특정 분야의 전문 지식을 갖춘 인력을 선발하여 온라인에 존재하지 않는 심층적인 지식을 캡처합니다. * **전용 안드로이드 앱 활용:** 프라이버시가 보호되는 전용 앱을 통해 교육 자료를 배포하고, 책임감 있는 AI 실천 방안과 편향성 방지 교육을 실시합니다. * **자동화된 품질 관리:** 앱 내 자동 피드백 시스템을 통해 중복되거나 의미론적으로 유사한 쿼리의 생성을 방지하고, 데이터 수집 목표와의 정렬을 실시간으로 확인합니다. * **정교한 주석(Annotation) 작업:** 전문가가 자신의 도메인에 특화된 테마와 주제별로 각 쿼리에 상세한 주석을 달아 데이터의 구조적 완성도를 높입니다. 엠플리파이 이니셔티브는 아프리카에서의 성과를 바탕으로 향후 브라질과 인도 등으로 범위를 확장하여, 온라인에서 접근하기 어려운 현지 지식을 데이터화하는 혁신적인 방법론을 지속적으로 발굴할 계획입니다. AI 모델의 성능만큼이나 데이터의 다양성과 대표성이 중요한 시점에서, 이러한 커뮤니티 중심의 데이터 구축 방식은 진정한 의미의 '글로벌 AI'를 실현하는 필수적인 기반이 될 것입니다.

대규모 언어 모델AI생성형 AIAndroid+5

google·2025년 4월 30일원문

AMIE, 시각을 갖 (새 탭에서 열림)

구글 딥마인드가 텍스트를 넘어 이미지와 문서 등 멀티모달 정보를 통합하여 진단 대화를 수행하는 인공지능 에이전트 '멀티모달 AMIE'를 공개했습니다. 이 시스템은 제미나이 2.0 플래시(Gemini 2.0 Flash)를 기반으로 구축되었으며, 환자의 상태와 진단적 불확실성에 따라 지능적으로 정보를 요청하고 분석하는 능력을 갖췄습니다. 연구 결과, AMIE는 실제 의료 현장의 문진 과정을 효과적으로 모사하며 전문의에 필적하는 수준의 진단 및 관리 계획 수립 능력을 보여주었습니다. **상태 인지 기반의 추론 프레임워크와 문진 과정의 최적화** * AMIE는 실제 의사가 문진을 진행하는 방식과 유사하게 '병력 청취', '진단 및 관리', '사후 관리'의 3단계로 대화 흐름을 관리하는 '상태 인지 단계 전환 프레임워크'를 채택했습니다. * 모델의 내부 상태를 지속적으로 업데이트하여 환자에 대한 지식 격차와 진단적 불확실성을 실시간으로 추적합니다. * 특정 정보가 부족하다고 판단될 경우 피부 사진, 실험실 검사 결과, 심전도(ECG) 등 구체적인 멀티모달 자료를 환자에게 능동적으로 요청하고 이를 해석하여 진단을 정교화합니다. **시뮬레이션 환경 구축 및 전문가 평가를 통한 성능 검증** * SCIN(피부과) 및 PTB-XL(심전도)과 같은 실제 의료 데이터셋을 활용해 멀티모달 시나리오와 환자 에이전트를 생성하여 시스템을 훈련하고 평가할 수 있는 환경을 조성했습니다. * 전 세계 의료 교육에서 표준으로 사용되는 객관적 구조화 진료 시험(OSCE) 형식을 도입하여 1차 진료의(PCP)들과 AMIE의 성능을 비교 분석했습니다. * 평가 결과, AMIE는 다양한 임상 시나리오에서 의사들에 준하는 수준의 진단 정확도와 공감 능력을 보여주었으며, 복합적인 시각 데이터를 논리적으로 통합하는 역량을 입증했습니다. 이번 연구는 AI 에이전트가 단순한 대화 상대를 넘어 시각적 증거를 바탕으로 고도화된 임상적 추론을 수행할 수 있음을 보여줍니다. 향후 제미나이 2.5 플래시 등 최신 모델과의 결합을 통해 성능이 더욱 향상될 것으로 기대되며, 이는 의료진의 의사결정을 보조하고 원격 의료의 정확도를 높이는 혁신적인 도구가 될 것으로 전망됩니다.

대규모 언어 모델AIAI 에이전트멀티모달 AI+5

google·2025년 4월 29일원문

글로벌 보건을 위한 (새 탭에서 열림)

구글 리서치는 전 세계적인 보건 불평등을 해소하고 저개발 지역의 의료 지원을 강화하기 위해, 열대 및 감염성 질환(TRINDs)에 특화된 LLM 벤치마킹 데이터셋과 평가 파이프라인을 개발했습니다. 연구 결과, 기존 의료 시험(USMLE)에서 우수한 성적을 거둔 모델들도 특정 지역의 질병 데이터나 맥락 정보가 부족할 경우 성능이 현저히 저하되는 '분포 변화' 문제를 겪는 것으로 나타났습니다. 이 연구는 LLM이 실제 글로벌 보건 현장에서 진단 보조 도구로 활용되기 위해서는 증상뿐만 아니라 지역, 위험 요인 등 구체적인 컨텍스트를 정밀하게 학습해야 함을 시사합니다. ### TRINDs 데이터셋 구축과 합성 페르소나 기술 * WHO, CDC 등 신뢰할 수 있는 기관의 데이터를 기반으로 50가지 질병에 대한 '시드 페르소나' 템플릿을 생성했습니다. * LLM 프롬프팅을 활용해 증상, 인구통계학적 특성, 임상 및 소비자 관점의 표현, 언어(영어 및 프랑스어) 등을 변주하여 11,000개 이상의 합성 페르소나 데이터셋을 구축했습니다. * 단순한 질병 정의를 넘어 환자의 생활 방식, 위치 정보, 위험 요인 등 실제 의료 현장에서 발생할 수 있는 복합적인 시나리오를 포함했습니다. ### 모델 성능과 컨텍스트의 상관관계 * Gemini 1.5 모델을 대상으로 평가한 결과, 증상 정보만 제공했을 때보다 위치 정보(Location)와 특정 위험 요인(Risk factors)을 결합했을 때 진단 정확도가 가장 높게 나타났습니다. * 일반적인 증상만으로는 정확한 진단에 한계가 있으며, 질병이 발생하는 지역적 맥락이 LLM의 추론 성능을 최적화하는 핵심 요소임을 확인했습니다. * 이는 LLM이 의료 지원 도구로 작동할 때 환자의 거주지나 여행 기록 같은 외부 환경 데이터를 통합하는 것이 필수적임을 뒷받침합니다. ### 편향성 및 언어적 다양성 분석 * 인종이나 성별 언급이 모델 성능에 미치는 통계적으로 유의미한 차이는 발견되지 않았으나, 언어에 따른 차이는 존재했습니다. * 시드 데이터를 프랑스어로 번역하여 테스트했을 때 영어에 비해 성능이 낮게 나타나, 비영어권 지역에서의 활용을 위해 다국어 성능 개선이 필요함을 입증했습니다. * '반사실적 위치(Counterfactual location)' 실험을 통해 질병 발생 지역을 임의로 변경했을 때 모델의 판단이 흔들리는 현상을 확인했으며, 이는 모델이 특정 질병과 지역을 고정관념적으로 연결하고 있을 가능성을 시사합니다. 의료용 AI가 전 세계적으로 공정하게 기여하기 위해서는 표준화된 의료 시험 점수를 넘어, 지역 특화된 데이터셋을 통한 정밀한 검증이 선행되어야 합니다. 특히 저의료 지역의 보건 요원들이 LLM을 신뢰할 수 있는 도구로 쓰기 위해서는 지역적 맥락(Context-aware)을 반영한 모델 튜닝과 벤치마킹이 지속적으로 이루어져야 할 것입니다.

대규모 언어 모델AIgemini프롬프트 엔지니어링+5

google·2025년 4월 17일원문

InstructPipe: 인간의 지시 (새 탭에서 열림)

InstructPipe는 사용자의 자연어 명령을 기반으로 머신러닝 워크플로우를 자동 생성하는 AI 비주얼 프로그래밍 어시스턴트입니다. 두 단계의 대규모 언어 모델(LLM) 프로세스와 코드 인터프리터를 활용해 복잡한 노드 선택 및 연결 과정을 자동화하며, 초보자가 백지상태에서 파이프라인을 구축할 때 겪는 진입 장벽을 대폭 낮췄습니다. 이를 통해 기술적 숙련도와 상관없이 누구나 창의적인 아이디어를 시각적인 ML 파이프라인으로 신속하게 구현할 수 있는 환경을 제공합니다. ### 효율적인 파이프라인 표현 방식 * 기존 비주얼 블록 시스템이 사용하는 장황한 JSON 형식을 '의사코드(Pseudocode)' 형태로 압축하여 처리 효율을 극대화했습니다. * 의사코드 방식을 통해 파이프라인 표현에 필요한 토큰 수를 기존 2,800개에서 123개 수준으로 약 95% 이상 절감하여 LLM의 연산 부담을 줄였습니다. * 각 의사코드는 노드의 고유 ID, 유형, 입출력 변수명, 매개변수 정보를 포함하는 간결한 문법으로 정의되어 LLM이 구조를 정확히 파악하도록 돕습니다. ### 2단계 LLM 기반 생성 프로세스 * **노드 선택기(Node Selector):** 수많은 노드 라이브러리 중 사용자의 명령과 관련된 후보 노드들만 1차적으로 필터링합니다. 이는 마치 라이브러리 문서의 요약본을 훑어보는 것과 같아 시스템의 정확도를 높입니다. * **코드 작성기(Code Writer):** 선택된 노드들의 상세 사양(데이터 타입, 입출력 구조, 연결 예시 등)을 바탕으로 실제 작동 가능한 의사코드를 작성합니다. 상세한 컨텍스트를 제공하여 노드 간의 유효한 연결을 보장합니다. * **코드 인터프리터(Code Interpreter):** 최종 생성된 의사코드를 해석하여 비주얼 블록 에디터에서 즉시 수정 및 실행이 가능한 시각적 노드 그래프로 렌더링합니다. ### 사용자 경험 및 기술적 효용 * 초보 사용자가 적절한 노드를 찾고 수동으로 연결하는 데 드는 학습 곡선과 시간을 획기적으로 단축하여 프로토타이핑 속도를 가속화합니다. * 사용자는 단순히 명령어를 입력하는 것만으로 멀티모달 파이프라인을 구축할 수 있으며, 생성된 결과물은 사용자가 직접 세부 조정할 수 있는 유연성을 가집니다. * LLM의 추론 능력과 비주얼 프로그래밍의 직관성을 결합하여, 복잡한 ML 설계를 인간과 AI의 협업 체계로 전환했다는 점에 의의가 있습니다. InstructPipe는 복잡한 AI 모델을 조합하여 서비스 프로토타입을 빠르게 만들어야 하는 기획자나 개발자에게 강력한 도구가 될 수 있습니다. 단순히 결과를 자동 생성하는 것에 그치지 않고, 생성된 결과물을 사용자가 시각적으로 직접 편집할 수 있는 '수정 가능한 자동화' 워크플로우를 채택할 것을 권장합니다.

대규모 언어 모델AI머신러닝프로토타이핑+5

google·2025년 4월 16일원문

생물학의 언어를 기계에 가르치기: 차세대 단일 세포 분석을 위한 대형 언어 모델 확장 (새 탭에서 열림)

예일 대학교와 구글 리서치는 복잡한 단일 세포 RNA 시퀀싱(scRNA-seq) 데이터를 텍스트 형식으로 변환하여 대규모 언어 모델(LLM)이 해석할 수 있도록 하는 'C2S-Scale(Cell2Sentence-Scale)'을 공개했습니다. 이 기술은 유전자 발현 수준에 따라 유전자 이름을 정렬해 '세포 문장(cell sentence)'을 생성함으로써, 고차원의 생물학적 데이터를 자연어처럼 처리하고 분석할 수 있는 혁신적인 접근법을 제시합니다. 이를 통해 연구자들은 전문적인 코드 없이도 세포의 상태나 약물 반응 등을 일상 언어로 질문하고 답변을 얻을 수 있는 대화형 분석 환경을 갖게 되었습니다. ### 세포 데이터를 문장으로 변환하는 메커니즘 * 단일 세포의 유전자 발현 프로필을 수치 데이터가 아닌, 발현량이 높은 순서대로 유전자 이름을 나열한 '세포 문장'으로 변환합니다. * 유전자 이름, 세포 유형, 실험 메타데이터 등 이미 텍스트로 존재하는 생물학적 정보와 결합하여 LLM이 생물학적 문맥을 자연스럽게 학습하도록 설계되었습니다. * 자연어를 인터페이스로 사용함으로써 복잡한 고차원 데이터를 직관적이고 유연하게 해석할 수 있으며, 기존 LLM 인프라를 그대로 활용할 수 있는 확장성을 확보했습니다. ### C2S-Scale 모델 제품군 및 아키텍처 * 구글의 오픈 모델인 '젬마(Gemma)' 아키텍처를 기반으로 구축되었으며, 실제 전사체 데이터와 생물학적 문헌 등 10억 개 이상의 토큰을 포함한 데이터셋으로 학습되었습니다. * 연구자의 컴퓨팅 자원과 목적에 맞게 선택할 수 있도록 4억 1,000만 개(410M)부터 270억 개(27B)의 매개변수를 가진 다양한 크기의 모델 라인업을 제공합니다. * 모든 모델은 오픈 소스로 공개되어 HuggingFace와 GitHub를 통해 누구나 미세 조정(Fine-tuning)하거나 연구에 즉시 활용할 수 있습니다. ### 자연어를 통한 생물학 데이터 해석 및 성능 * **대화형 질의응답:** "이 T 세포가 항암 치료제에 어떻게 반응할까?"와 같은 질문에 대해 모델이 세포 데이터와 사전 학습된 생물학 지식을 결합하여 자연어로 답변합니다. * **자동 데이터 요약:** 단일 세포의 유형 식별부터 조직 전체의 실험 결과 요약까지, 복잡한 데이터를 생물학적 의미가 담긴 텍스트로 자동 생성하여 연구자의 해석을 돕습니다. * **생물학적 스케일링 법칙:** 일반적인 LLM과 마찬가지로 모델의 크기가 커질수록 세포 유형 주석(Annotation) 및 데이터 생성 능력이 예측 가능한 수준으로 정교해지는 '스케일링 법칙'이 적용됨을 입증했습니다. C2S-Scale은 생물학 데이터를 '언어'의 영역으로 통합함으로써 전문가 위주의 단일 세포 분석 문턱을 크게 낮췄습니다. 생물학 연구자들은 공개된 모델을 활용해 자신의 실험 데이터를 시각화하는 수준을 넘어, 세포와 직접 대화하며 가설을 검증하는 새로운 차원의 연구 워크플로우를 구축해 볼 수 있을 것입니다.

대규모 언어 모델AI자연어 처리gemma+5

google·2025년 4월 2일원문

과학적 문제 해결 능력의 진전 (새 탭에서 열림)

구글 리서치는 대규모 언어 모델(LLM)이 실제 과학 연구 워크플로우에서 복잡한 문제를 해결할 수 있는지를 측정하기 위한 새로운 벤치마크인 'CURIE'를 공개했습니다. 기존의 과학 벤치마크들이 단답형 지식 회상에 치중했던 것과 달리, CURIE는 수 만 단어에 달하는 전문 논문 전체를 읽고 정보를 추출하며 다단계 추론을 수행하는 능력을 평가합니다. 이는 AI가 단순한 지식 검색 도구를 넘어 과학자의 실질적인 연구 보조자로 진화하는 과정에서 필수적인 평가 지표가 될 것입니다. **CURIE: 과학적 추론 및 긴 문맥 이해를 위한 다학제 벤치마크** * 재료 과학, 응집 물질 물리학, 양자 컴퓨팅, 지리 공간 분석, 생물 다양성, 단백질 등 6개 과학 분야의 전문 지식을 다룹니다. * 평균 15,000단어에 달하는 전문 연구 논문을 입력값으로 사용하여, 정보 추출, 개념 추적, 대수적 조작, 다중 모드 이해 등 10가지의 구체적인 태스크를 수행합니다. * 단순한 선택지형 문항이 아닌 실제 연구 과정에서 발생하는 워크플로우를 반영하며, 정답 데이터는 평균 954단어에 달하는 상세한 설명을 포함합니다. * 각 도메인의 전문가들이 과제 정의, 정답 생성, 난이도 등급 부여 등에 직접 참여하여 벤치마크의 정확성과 전문성을 확보했습니다. **SPIQA 및 FEABench를 통한 시각적 데이터와 도구 활용 평가** * SPIQA 데이터셋은 모델이 과학 논문에 포함된 복잡한 그림(Figure)과 표(Table)의 정보를 바탕으로 질의응답을 수행하는 멀티모달 능력을 측정합니다. * FEABench는 LLM 에이전트가 유한요소해석(FEA) 소프트웨어를 사용하여 물리, 수학, 공학적 문제를 시뮬레이션하고 해결할 수 있는지 평가하는 도구 활용 능력을 테스트합니다. * 이러한 추가 벤치마크들은 텍스트 기반 추론을 넘어 실험 데이터 해석과 시뮬레이션 도구 실행이라는 실제 과학적 방법론을 포괄합니다. **프로그래밍 방식과 모델 기반 평가의 결합** * 과학적 답변의 특성상 정답 형식이 JSON, Latex 수식, YAML 등 매우 다양하기 때문에, ROUGE-L이나 IoU(Intersection-over-Union) 같은 전통적인 프로그래밍 방식의 지표를 활용합니다. * 자유 형식의 서술형 답변을 평가하기 위해 'LLM-as-a-judge' 방식을 병행하여, 전문가의 주관적 평가와 높은 상관관계를 가지는 정밀한 채점 시스템을 구축했습니다. * Gemini 1.5 Pro와 같은 최신 모델들에 대한 평가 결과, 복잡한 과학적 워크플로우 처리 능력이 크게 향상되었으나 여전히 심층적인 추론 영역에서는 개선의 여지가 있음이 확인되었습니다. CURIE와 관련 데이터셋은 과학 분야 LLM의 성능을 객관적으로 측정하는 데 중요한 도구가 될 것입니다. 연구자들은 모델이 장문의 전문 텍스트뿐만 아니라 수식과 시각적 데이터를 통합적으로 이해하고 도구를 활용할 수 있도록 개발 방향을 설정해야 하며, CURIE가 제공하는 복합적인 태스크를 통해 모델의 한계를 점검하고 실제 연구 현장에 적용 가능한 AI를 구축할 수 있습니다.

대규모 언어 모델AI멀티모달 AIbenchmarking+4

google·2025년 4월 1일원문

ECLeKTic: LL (새 탭에서 열림)

Google Research가 발표한 ECLeKTic은 대규모 언어 모델(LLM)이 특정 언어로 학습한 지식을 다른 언어로 얼마나 잘 전달하는지 평가하기 위해 설계된 새로운 벤치마크입니다. 이 데이터셋은 특정 언어의 위키피디아에만 존재하는 고유 정보를 활용하여, 모델이 소스 언어에서 습득한 지식을 12개의 대상 언어에서 폐쇄형 질문 답변(Closed-book QA) 형식으로 인출할 수 있는지 측정합니다. 최신 모델인 Gemini 2.5 Pro가 52.6%의 성공률을 기록하며 가장 우수한 성능을 보였으나, 이는 여전히 언어 간 지식 전이 능력을 개선할 여지가 많음을 시사합니다. **언어 간 지식 접근성 격차의 문제** * 인간은 여러 언어를 구사할 때 언어와 상관없이 동일한 지식에 접근할 수 있지만, 현재의 LLM은 특정 언어(예: 인도네시아어)로 질문했을 때만 답변하고 다른 언어(예: 독일어)로 질문하면 답하지 못하는 지식의 파편화 현상을 보입니다. * 이러한 격차는 정보가 적은 언어 사용자들의 지식 접근권을 제한할 뿐만 아니라, 정보가 많은 언어 사용자들 역시 전 세계의 다양한 지식을 활용하지 못하게 만듭니다. * ECLeKTic은 모델의 내부 지식만을 이용하는 블랙박스 평가 방식을 채택하여, 모델의 내부 구조를 알 수 없는 상용 모델(Proprietary models)까지도 쉽게 평가할 수 있도록 설계되었습니다. **데이터셋 구성 및 검증 프로세스** * 한국어, 영어, 인도네시아어, 힌디어 등 총 12개 언어를 포함하며, 특정 언어의 위키피디아에만 단독으로 존재하는 문서를 기반으로 384개의 고유 질문과 4,224개의 번역된 예시를 생성했습니다. * 질문의 타당성을 높이기 위해 원어민 검수자들이 '폐쇄형 질문 답변 가능 여부'와 '특정 문화권의 고유 지식 여부'를 엄격히 필터링했습니다. * '탈맥락화(Decontextualization)' 과정을 통해 질문 내 모호한 대명사나 고유 명사를 구체화(예: "대법원"을 "이스라엘 대법원"으로 수정)하여 번역된 언어에서도 충분히 답변 가능한 형태를 갖추었습니다. * 자동 번역 후 다시 원어민이 번역의 정확성을 검증하고, 원어의 의미가 훼손되어 번역이 불가능한 사례는 데이터셋에서 제외했습니다. **벤치마크 결과 및 성능 지표** * 핵심 지표인 '전체 성공률(Overall success)'은 모델이 소스 언어와 대상 언어 모두에서 질문에 올바르게 답한 비율을 측정합니다. * 8개의 주요 LLM을 테스트한 결과, Gemini 2.0 Pro는 41.6%의 성공률을 보였으며, 최신 버전인 Gemini 2.5 Pro는 52.6%를 달성하여 성능 개선을 입증했습니다. * 결과적으로 최고 수준의 모델조차 절반 수준의 성공률에 머물러 있어, 모든 사용자가 언어 장벽 없이 공평하게 정보에 접근할 수 있는 모델을 만들기 위한 추가적인 연구가 필요함을 보여줍니다. ECLeKTic은 Kaggle을 통해 오픈 소스로 공개되어 있으며, 개발자들은 이를 활용해 자신들의 모델이 가진 다국어 지식 전이 성능을 정밀하게 측정하고 개선하는 지표로 삼을 수 있습니다.

대규모 언어 모델AI머신러닝gemini+4

google·2025년 3월 20일원문

LLM 표현을 통한 인간 뇌 (새 탭에서 열림)

거대 언어 모델(LLM)의 문맥적 임베딩이 실제 대화 중인 인간의 뇌 신경 활동과 선형적으로 정렬된다는 연구 결과가 발표되었습니다. 연구팀은 LLM의 내부 표현이 인간의 언어 이해 및 생성 과정을 설명하는 강력한 프레임워크가 될 수 있음을 증명했습니다. 결과적으로 이는 LLM이 단순히 성능이 뛰어난 도구를 넘어, 인간의 복잡한 언어 처리 메커니즘을 해독하는 핵심적인 열쇠로 작용할 수 있음을 시사합니다. **LLM과 인간 뇌의 언어 처리 유사성** * 기존의 심리언어학 모델은 상징적인 문법 규칙에 의존했으나, LLM은 다음 단어 예측과 강화 학습을 통해 언어의 통계적 구조를 다차원 임베딩 공간에 인코딩합니다. * 구글 리서치와 프린스턴 대학교 등 공동 연구진은 5년간의 연구를 통해 모델의 내부 표현(임베딩)과 자유로운 대화 중 발생하는 뇌 신경 활동 사이의 유사성을 탐구했습니다. * 연구 결과, 모델의 단어 수준 임베딩이 인간의 언어 중추인 브로카 영역(Broca’s area)과 상측두회(STG) 등의 활동 패턴과 긴밀하게 일치함을 확인했습니다. **Whisper 모델을 통한 신경망 분석 및 정렬** * Transformer 기반의 음성-텍스트 변환 모델인 'Whisper'를 활용해 실제 대화 중인 피험자의 뇌 신호와의 상관관계를 분석했습니다. * 분석을 위해 모델의 음성 인코더에서 추출한 '음성(Speech) 임베딩'과 디코더에서 추출한 단어 기반 '언어(Language) 임베딩'을 사용했습니다. * 두개강 내 전극(Intracranial electrodes)으로 측정된 뇌 활동 데이터에 선형 변환을 적용하여, 모델의 임베딩 값으로 뇌의 신경 신호를 예측하는 모델을 구축했습니다. **언어 이해와 생성의 신경학적 시퀀스** * **언어 이해(Comprehension):** 단어가 들릴 때 먼저 상측두회(STG)에서 음성 임베딩이 신경 활동을 예측하고, 수백 밀리초 후 브로카 영역(IFG)에서 언어 임베딩이 의미 해독 과정을 예측하는 순차적 흐름을 보입니다. * **언어 생성(Production):** 단어를 뱉기 약 500밀리초 전, 브로카 영역에서 언어 임베딩이 활동을 예측하며 발화를 계획합니다. 이후 운동 피질(MC)에서 음성 임베딩이 조음 과정을 예측하는 역순의 역동성이 관찰됩니다. * **자기 모니터링:** 발화 직후에는 자신의 목소리를 듣고 모니터링하기 위해 상측두회의 청각 영역에서 다시 한번 음성 임베딩과 신경 활동의 정렬이 나타납니다. 이 연구는 인공지능의 내부 메커니즘이 인간의 생물학적 언어 처리 과정을 모사하고 있음을 보여줍니다. 따라서 향후 뇌 기능 장애의 이해나 더 정교한 뇌-컴퓨터 인터페이스(BCI) 개발에 LLM의 임베딩 구조를 활용하는 것이 매우 효과적인 전략이 될 것입니다.

대규모 언어 모델AI자연어 처리transformer+4

google·2025년 3월 17일원문

차분 프라이버시 LL (새 탭에서 열림)

구글 리서치는 별도의 미세 조정(Fine-tuning) 과정 없이 기성 대규모 언어 모델(LLM)의 추론만을 활용하여 차분 프라이버시(Differential Privacy, DP)가 보장된 합성 데이터를 생성하는 새로운 접근 방식을 제안했습니다. 이 방법은 여러 개의 민감한 예시를 병렬 프롬프트로 입력하고 그 응답을 프라이버시를 보호하는 방식으로 집계하여, 기존 방식보다 훨씬 많은 양의 고품질 데이터를 생성할 수 있게 합니다. 결과적으로 복잡한 DP 학습 파이프라인 없이도 민감한 데이터를 안전하게 대체할 수 있는 고성능 합성 데이터셋 구축이 가능해졌습니다. ### 병렬 프롬프팅과 토큰 집계 메커니즘 * 민감한 데이터 하나당 하나의 프롬프트를 할당하여 여러 개의 독립적인 프롬프트를 LLM에 동시에 입력합니다. * 각 프롬프트에서 도출된 다음 토큰 예측(Next-token prediction) 결과들을 집계하고, 특정 개인의 데이터가 결과에 과도한 영향을 미치지 않도록 DP 기법을 적용해 토큰을 최종 선택합니다. * 선택된 토큰을 모든 프롬프트 끝에 다시 추가하고 다음 토큰을 예측하는 과정을 반복함으로써, 개별 데이터의 세부 정보는 가리면서도 데이터셋 전체의 통계적 특성은 유지하는 합성 텍스트를 생성합니다. ### 지수 메커니즘을 통한 프라이버시 예산 최적화 * LLM의 표준 생성 과정인 소프트맥스 샘플링(Softmax sampling)과 DP의 핵심 기법인 지수 메커니즘(Exponential mechanism) 사이의 수학적 연결 고리를 활용합니다. * 다음 토큰을 샘플링할 때 발생하는 고유한 무작위성을 프라이버시 보호를 위한 노이즈로 활용하여, 제한된 프라이버시 예산 안에서도 출력 데이터의 양을 극대화했습니다. * 이를 통해 기존 연구들이 10개 미만의 데이터 포인트 생성에 그쳤던 것과 달리, 수천 개의 고품질 합성 데이터를 성공적으로 생성하며 실무 적용 가능성을 입증했습니다. ### 연산 효율성 개선 및 공개 드래프터 도입 * 기존 방식은 매 토큰 생성 시마다 새로운 데이터 배치를 사용해야 했으나, 이번 연구에서는 동일한 문맥을 유지하며 여러 토큰을 생성할 수 있는 새로운 프라이버시 분석 기법을 도입했습니다. * 이를 통해 KV 캐싱(KV caching)과 같은 표준적인 추론 최적화 기술을 그대로 적용할 수 있어 연산 속도와 효율성을 비약적으로 높였습니다. * 또한, 민감한 데이터가 아닌 공개 데이터에만 기반해 토큰을 제안하는 '공개 드래프터(Public Drafter)' 모델과 희소 벡터 기법(Sparse Vector Technique)을 결합했습니다. 문장 구조나 서식 등 일반적인 정보 생성에는 프라이버시 예산을 소모하지 않도록 설계하여 효율성을 더욱 강화했습니다. 이 방식은 민감한 개인 정보를 다루는 조직이 복잡한 DP 모델 학습 없이도 안전한 합성 데이터를 생성하여 데이터 과학자나 외부 협업 팀에 제공할 수 있는 실무적인 인터페이스 역할을 할 수 있습니다. 특히 데이터 형식이 정형화된 작업에서 높은 성능을 보이므로, 보안이 중요한 환경에서의 데이터 활용도를 높이는 데 적극 권장됩니다.

대규모 언어 모델AI머신러닝differential-privacy+5

figma·2025년 3월 13일·3분 읽기큐레이션 요약

딜런 필드와 게리 탄

AI는 디자인을 대체하기보다 아이디어를 더 넓게 탐색하고 인간의 능력을 확장하는 도구로 자리 잡고 있다. Dylan Field는 빠른 피드백 루프가 사용자를 몰입 상태로 이끌지만, 현재 AI 도구는 프로토타입을 만드는 단계와 완성도 높은 결과물 사이에 간극이 있다고 말한다. 결국 소프트웨어의 경쟁력은 “작동하는가”를 넘어 “어떻게 작동하고 경험되는가”에 있으며, 디자인과 디자이너의 역할은 AI 시대에 오히려 중요해질 가능성이 크다. ## AI가 넓히는 디자인의 가능성 - 현재의 AI는 다양한 분야를 인간처럼 이해하는 AGI라기보다 특정 작업을 돕는 **도구**에 가깝다. - ChatGPT나 Midjourney 같은 도구는 특정 작업을 보강해 사람들이 더 많은 아이디어를 시도하도록 한다. - AI는 디자인의 진입 장벽을 낮추는 동시에, 숙련자가 도달할 수 있는 결과의 수준도 높인다. - 제품을 구상하는 과정은 여러 갈래로 나뉘는 ‘아이디어 미로’와 같다. - AI는 더 많은 경로와 가능성을 빠르게 탐색하게 해준다. - 그러나 각 경로를 깊이 있게 검토하고 좋은 방향을 선택하는 일에는 여전히 인간의 판단과 시간이 필요하다. ## 빠른 피드백 루프와 ‘몰입’ - 최근 사람들이 AI 활용을 두고 “락인됐다”, “요리 중이다”, “바이브 코딩을 한다”고 표현하는 것은 빠른 개발 과정에서 느끼는 몰입감과 관련이 있다. - 머릿속의 생각을 화면에 옮기고 결과를 확인하는 **호출과 응답의 피드백 루프**가 빨라질수록 사용자는 더 쉽게 플로우 상태에 들어간다. - Figma가 중요하게 여기는 ‘놀이’의 가치는 도구와 조직 문화를 재미있고 창의적으로 만드는 데 있다. - 이상적인 AI 도구는 전문가가 아니더라도 빠르게 아이디어를 만들고 실험하게 해야 한다. - 다만 현재 도구는 다음 단계에서 한계를 보인다. - 빠른 시작과 프로토타이핑은 가능하다. - 실제 제품 수준의 완성도와 마무리까지 연결하는 과정은 여전히 어렵다. - 이 문제는 디자인뿐 아니라 AI 기반 코드 생성에도 동일하게 나타난다. ## 작동하는 것과 잘 작동하는 것의 차이 - 창업자와 개발자가 디자인을 중요하게 여기는 정도는 해마다 높아지고 있다. - 제품은 단순히 기능이 구현되는 것만으로 충분하지 않다. - 사용자가 기능을 어떻게 경험하는지, 즉 인터랙션·맥락·완성도·사용성이 제품의 가치를 결정한다. - AI가 코드를 빠르게 생성하더라도, 결과물이 실제 사용자에게 자연스럽고 이해하기 쉬운지는 별도의 디자인 문제다. ## AI 시대의 디자이너 역할 - 디자인은 단순한 시각적 표현이 아니라 **문제 해결에 적용된 예술**로 볼 수 있다. - 현재 AI 모델은 이미지 생성 분야의 확산 모델과 코드 생성 분야의 LLM처럼 서로 다른 능력에 특화되어 있다. - 예술적 표현과 문제 해결 능력을 효과적으로 결합하는 방법은 아직 충분히 정립되지 않았다. - 실제 디자인에는 다음과 같은 폭넓은 맥락이 필요하다. - 현재의 문화적 분위기 - 브랜드 경험 - 제품이 놓인 사회적·시장적 환경 - 사용자의 구체적인 요구와 기대 - 따라서 디자이너는 단순히 화면을 만드는 사람이 아니라, 다양한 맥락을 통합해 문제의 본질과 제품 경험을 정의하는 역할을 맡게 된다. - Field는 소프트웨어를 만드는 미래에서 디자이너가 핵심적인 역할을 계속 수행할 것이라고 본다. ## 실용적인 시사점 AI를 활용할 때는 아이디어를 빠르게 많이 만들어보는 데서 멈추지 말고, 사용자 경험과 제품 맥락을 검토하며 완성 단계까지 다듬어야 한다. AI는 탐색 속도를 높이는 강력한 도구지만, 무엇을 만들지 결정하고 그것을 제대로 작동하게 만드는 판단과 디자인 역량은 여전히 중요하다.

원문 읽기(새 탭에서 열림)

대규모 언어 모델FigmaAIsoftware-design+4