google·2026년 8월 11일·4분 읽기큐레이션 요약

AMIE를 전문가 수준의 시청각 임상 상담으로 발전시키기

AMIE는 텍스트 기반 진료의 한계를 넘어, 실시간 영상과 음성을 활용하는 임상 상담 AI로 발전했다. 새로운 AMIE(Video)는 환자의 비언어적 신호를 관찰하고 가상 신체검사를 안내하면서 동시에 진단적 추론을 수행한다. 100개 시나리오와 300회 상담으로 구성된 무작위 연구에서 전문의 수준의 성능을 보였다는 것이 글의 핵심 주장이다. ## 텍스트 기반 의료 AI의 한계 - 기존 텍스트 인터페이스는 환자가 증상을 글로 설명하도록 요구한다. - 걸음걸이, 호흡, 불편함의 표정, 신체 움직임 같은 시각적 정보가 사라진다. - 환자가 신체검사 동작을 수행하도록 안내하거나 그 결과를 직접 관찰할 수 없다. - 디지털 문해력이나 건강 문해력이 낮은 환자에게 특히 불리할 수 있다. - 이러한 비언어적 단서는 진단뿐 아니라 환자 신뢰와 의사소통에도 중요하다. ## AMIE의 기존 발전 - AMIE(Articulate Medical Intelligence Explorer)는 임상 추론과 대화에 특화된 연구 의료 AI다. - 텍스트 기반 진단 대화에서 전문의 수준의 성능을 보였고, 임상의의 감별진단 보조 도구로 활용 가능성을 보였다. - 이후 질병 치료와 장기 관리, 종양학·심장학·안과 분야의 전문 평가로 기능을 확장했다. - 의료 이미지와 임상 문서를 활용한 멀티모달 진단 추론도 실험했다. - 실제 의료 적용을 위해 의사 중심의 감독 체계와 병원·의료 서비스 기업과의 임상 연구도 진행 중이다. ## 실시간 영상 상담을 위한 AMIE(Video) - AMIE(Video)는 Gemini와 Project Astra를 기반으로 한다. - 실시간 영상 상담에서 다음 기능을 수행한다. - 환자의 표정, 움직임, 신체적 징후 등 비언어적 단서 관찰 - 음성에서 호흡 이상이나 기타 임상적으로 의미 있는 신호 파악 - 환자에게 가상 신체검사 동작 안내 - 수집한 정보를 바탕으로 실시간 진단 추론 - 말의 자연스러운 속도와 깊은 임상 추론을 동시에 달성하는 것이 주요 설계 목표다. ## 비동기 멀티 에이전트 구조 AMIE(Video)는 하나의 에이전트가 모든 작업을 순차적으로 처리하는 대신, 세 에이전트가 병렬로 작동한다. - **Talker 에이전트** - 환자와 직접 대화한다. - 낮은 지연 시간으로 자연스러운 음성 상호작용을 유지한다. - 다른 에이전트의 분석과 지침을 대화에 반영한다. - **Planner 에이전트** - 백그라운드에서 임상 추론을 지속적으로 갱신한다. - 감별진단과 치료 계획을 정교화한다. - 부족한 정보를 찾고, 여러 임상 목표의 우선순위를 재조정한다. - **Perception 에이전트** - 영상과 음성 스트림을 계속 분석한다. - 고통의 징후, 신체 소견, 청각적 이상 등 임상적 단서를 식별한다. - 관찰 결과를 현재 대화 맥락과 연결한다. 이 구조는 깊은 추론 때문에 대화가 끊기는 문제를 줄이면서, 자연스러운 상담 속도와 지속적인 영상·음성 분석을 가능하게 한다. 자동 평가에서는 세 에이전트 모두 병력 청취, 임상 추론, 치료 권고, 환자 중심 의사소통, 응답 속도 등의 개선에 기여한 것으로 나타났다. ## 자동 평가 체계 - 연구진은 원격의료에 필요한 오디오·비주얼 임상 역량을 의학 문헌을 바탕으로 분류했다. - 평가 항목에는 다음이 포함된다. - 비언어적 시각 단서 인식 - 청각적 임상 신호 파악 - 신체검사 동작 안내 - 해부학적 좌우 구분 - 호흡 곤란 등 이상 징후 인식 - 단일 턴 평가에서는 특정 시각·청각 단서를 올바르게 인식하고 추론하는 능력을 측정했다. - 다중 턴 시뮬레이션에서는 대화 전체의 임상 성능을 평가했다. - 시각 정보는 환자 시뮬레이터가 “[카메라를 향해 종이를 들고 있음]”과 같은 텍스트 설명으로 주입됐다. - 이 평가를 통해 실제 사람을 대상으로 한 연구 전에 시스템의 강점과 실패 양상을 빠르게 파악하고 설계를 반복 개선했다. ## 무작위 영상 상담 연구 - 연구진은 동기식 영상 인터페이스를 이용한 대규모 무작위 OSCE(Objective Structured Clinical Examination)를 실시했다. - 100개 임상 시나리오가 포함됐으며, 심폐·복부·두경부·신경정신·근골격계 등 다섯 신체 계통을 다뤘다. - 15명의 훈련된 환자 역할 배우가 총 300회의 표준화 상담을 수행했다. - 비교군은 세 가지였다. - **AMIE(Video):** 실시간 영상 상담을 수행하는 AMIE - **AMIE(Text):** 오디오·비주얼 기능의 효과를 분리해 보기 위한 텍스트 기반 버전 - **PCP(Video):** 동일한 영상 인터페이스를 사용하는 보드 인증 일차의료 전문의 - 30명의 보드 인증 일차의료 전문의가 참여했고, 독립 평가단이 표준화된 임상 평가 기준으로 상담을 평가했다. 이 연구는 의료 AI가 단순한 텍스트 문답을 넘어, 환자를 보고 들으며 신체검사를 안내하는 실시간 임상 상담으로 확장될 수 있음을 보여준다. 다만 실제 의료 도입을 위해서는 환자 안전, 의사 감독, 다양한 환자군에서의 검증과 같은 추가 임상 연구가 필요하다.

원문 읽기(새 탭에서 열림)

gemini멀티모달 AItelehealthmulti-agent-architecture+3

google·2026년 7월 22일·3분 읽기큐레이션 요약

SymptomAI: 일상적인 증상 평가를 위한 대화형 AI 에이전트를 향하여

SymptomAI는 일상적인 대화만으로 증상을 파악하고 감별진단 목록을 제시하는 AI 에이전트의 실효성을 대규모 실제 사용자 연구로 평가했다. 13,917명이 참여한 연구에서 SymptomAI의 감별진단은 임상의가 작성한 감별진단보다 전문가 평가에서 더 자주 선호되고, 실제 의료진의 최종 진단을 상위 5개 안에 포함하는 경우도 많았다. 다만 모든 결과는 연구용 분석이며, 확정적인 의료 진단이나 공식 의료 평가를 의미하지 않는다. ## 실제 환자 대화를 반영한 연구 설계 - 기존 언어모델 평가는 의료 지식이 정리된 사례나 합성 환자 문진에 의존해 실제 환자의 불완전하고 비정형적인 증상 설명을 충분히 반영하지 못했다. - 연구진은 이러한 한계를 보완하기 위해 13,917명의 동의한 참가자를 모집했다. - 참가자는 5개 유형 중 하나의 Gemini Flash 2.0 기반 SymptomAI 에이전트와 대화했다. - AI는 증상을 듣고 추가 질문을 진행한 뒤, 가능한 질환 목록인 감별진단(DDx)과 다음 단계에 대한 권고를 제시했다. - 참가자는 이후 의료기관을 방문했고, 2주 뒤 의료진에게 받은 실제 진단을 설문으로 보고했다. ## 임상의와의 비교 평가 - 세 명의 보드 인증 임상의가 대화 기록을 검토하고 독립적으로 감별진단을 작성했다. - 임상의들은 SymptomAI의 감별진단과 다른 임상의들의 감별진단을 모르는 상태에서 비교·순위를 매겼다. - SymptomAI의 감별진단은 전체 사례의 50% 이상에서 다른 임상의의 결과보다 선호됐다. - 전문가들은 SymptomAI의 감별진단을 전반적인 품질 측면에서 가장 우수한 목록으로 평가하는 경우가 더 많았다. - 실제 의료진이 참가자에게 내린 진단이 감별진단 상위 5개 안에 포함되는 비율도 SymptomAI가 다른 임상의들보다 높았다. ## 추가 질문이 진단 성능을 높임 연구에서는 문진 방식에 따라 다섯 가지 실험군을 비교했다. - **Dynamic Live, Dynamic Final** - AI가 대화 흐름에 따라 제한 없이 추가 질문을 생성했다. - **Fixed Canonical, Flexible Canonical** - 의과대학에서 가르치는 표준 병력 청취 질문 집합을 사용했다. - **Base** - 사용자가 주도적으로 질문하고 설명하는 일반적인 챗봇 사용 방식에 가까운 조건이었다. - AI가 적극적으로 후속 질문을 한 모든 방식은 Base 조건보다 감별진단 정확도가 유의미하게 높았다. - 이는 환자가 처음부터 제공하지 않은 정보까지 체계적으로 끌어내는 문진 능력이 진단 성능에 중요하다는 점을 보여준다. ## 임상의가 확신하지 못한 사례에서의 강점 - SymptomAI의 임상적 기준선 대비 우위는 임상의가 자신의 감별진단에 낮은 확신을 보인 사례에서 가장 크게 나타났다. - 증상이 모호하거나 정보가 부족해 사람도 판단하기 어려운 상황에서, AI의 체계적인 추가 질문과 후보 질환 비교가 도움이 될 가능성을 시사한다. - 다만 이 결과는 전문가 평가와 참가자의 사후 자기보고 진단을 기반으로 한 비교이며, 실제 임상 진료를 대체한다는 의미는 아니다. ## 웨어러블 생체신호와의 연관성 - 연구진은 SymptomAI의 진단 결과를 참가자 Fitbit 기기의 생체신호와 비교했다. - 참가자들의 대화 전 최대 30일 동안 수집된 일일 생체 데이터를 분석했다. - 특히 급성 호흡기 감염으로 분류된 사례에서 증상 보고 시점에 가까워질수록 생체신호가 변화하는 경향이 관찰됐다. - 이러한 변화는 감염이나 면역 반응과 관련된 생리적 추세일 가능성을 보여주며, SymptomAI의 대규모 증상 분류 결과를 웨어러블 데이터 분석에 활용할 수 있는 가능성을 제시한다. - 현재는 대규모 생리 데이터에 신뢰할 만한 임상 라벨을 붙이는 데 비용이 많이 들기 때문에, 정확한 증상 평가 시스템이 자동화된 참조 라벨 역할을 할 수 있다는 것이 연구진의 관점이다. ## 실용적인 시사점 SymptomAI 연구는 의료 챗봇이 단순히 사용자의 질문에 답하는 것보다 적극적으로 병력을 청취할 때 더 유용해질 수 있음을 보여준다. 그러나 연구 결과는 진단 보조 기술의 가능성을 평가한 것이므로, 실제 증상이 있을 때는 AI 결과만으로 판단하지 말고 의료진의 진료와 검사를 받아야 한다.

원문 읽기(새 탭에서 열림)

geminiconversational-aidifferential-diagnosislanguage-models+3

google·2026년 5월 28일·4분 읽기큐레이션 요약

혁신의 새로운 시대: I/O 2026에서의 Google Research

Google I/O 2026에서 Google Research는 AI를 과학적 발견과 헬스케어 혁신을 가속하는 ‘에이전트 시대’의 핵심 기술로 제시했다. 연구용 AI 에이전트가 가설 생성부터 코드 작성·실험·검증까지 수행하고, 건강 분야에서는 개인화된 코칭과 진료 준비를 지원한다. Google은 이러한 기술이 인간의 연구 역량을 증폭할 수 있다고 강조하면서도, 실제 연구자·의료진과의 협업 및 책임 있는 공개를 병행하고 있다. ## 과학적 발견을 가속하는 AI - **Gemini for Science** - 과학 연구 전 과정을 지원하는 실험적 도구 모음이다. - 가설 생성, 계산 실험, 문헌 분석, 연구용 에이전트 활용 등을 하나의 생태계로 묶는다. - Google Cloud, Google DeepMind, Google Labs와 협력해 개발됐다. - **Empirical Research Assistance(ERA)** - 과학자가 전문가 수준의 경험적 연구 소프트웨어를 작성하도록 돕는 연구 코딩 시스템이다. - 문제와 평가 기준을 입력하면 새로운 개념을 제안하고, 코드를 작성한 뒤 결과를 평가한다. - 트리 탐색을 사용해 수천 개의 코드 변형을 반복적으로 생성·검증하며 성능을 최적화한다. - 신경과학과 우주론 연구에 활용됐으며, 호흡기 질환 입원 예측과 캘리포니아 강 유역의 계절별 유출량 예측에도 적용됐다. - **Co-Scientist** - Gemini를 기반으로 한 다중 에이전트 협업 시스템이다. - 전문화된 여러 에이전트가 가설을 생성하고, 서로 평가·토론·수정한다. - 항균제 내성, 식물 면역, 간 섬유화 등 연구 난제를 다루는 데 활용되고 있다. - **Computational Discovery** - ERA와 AlphaEvolve를 결합한 에이전트형 연구 엔진이다. - 수천 개의 코드 변형을 병렬로 생성하고 점수화해, 사람이 수개월 걸려 시험할 모델과 가설을 빠르게 비교한다. - **Hypothesis Generation과 Literature Insights** - Hypothesis Generation은 연구자와 함께 문제를 정의한 뒤, 다중 에이전트 ‘아이디어 토너먼트’를 통해 가설을 생성·논쟁·평가한다. - 생성된 주장은 클릭 가능한 인용을 제공해 과학적 검증 가능성을 높인다. - Literature Insights는 NotebookLM을 활용해 방대한 과학 문헌의 결과를 요약하고 구조화한다. - 매년 수백만 편의 논문이 발표되는 상황에서 문헌 종합을 자동화하는 것을 목표로 한다. ## 연구 자동화와 과학 검증 - Google Antigravity 같은 에이전트형 코딩 플랫폼에서 사용할 수 있는 **Science Skills**를 제공한다. - 구조 생물정보학과 유전체 분석처럼 복잡한 연구 작업을 수시간이 아닌 수분 단위로 수행할 수 있도록 지원한다. - 학술대회의 논문 심사와 검증에도 AI를 실험적으로 적용하고 있다. - **Paper Assistant Tool(PAT)**은 ICML, STOC, NeurIPS 등에서 1만 편 이상의 논문을 검토했다. - PAT의 피드백을 통해 저자가 이론적 허점을 발견하거나 새로운 실험을 수행할 수 있었다. - **Gemini Deep Think**는 수학·물리학·컴퓨터과학 연구자들과 협력해 네트워크 퍼즐의 미해결 문제, 최적화 추측, 머신러닝 최적화 현상, 경매 경제학, 우주끈의 물리적 특이점 등 전문가 수준의 난제를 다뤘다. ## AI를 활용한 헬스케어 발전 - Google은 증상 이해부터 진료 준비, 의료 기록 해석, 진료 이후 관리까지 이어지는 건강 관리 여정 전반을 AI로 지원하려 한다. - 이러한 연구를 바탕으로 **Google Health 앱**과 **Google Health Coach**를 개발했다. - Google Health 앱은 기존 Fitbit 사용자에게 순차적으로 제공되며, 개인별 상황에 맞춘 종합적이고 적응형인 건강 코칭을 제공한다. ## 증상 분석과 진료 준비 지원 - **Symptom AI** - 대화형 건강 데이터를 분석해 사용자의 증상과 관련된 감별 진단을 추론하는 연구용 도구다. - Fitbit 앱을 통한 무작위 연구에 13,917명이 참여했다. - 독립 임상의의 맹검 비교에서 Symptom AI의 감별 진단이 다른 임상의의 결과보다 약 두 배 자주 선호됐다. - 이는 AI가 다양한 표현 방식과 실제 질병 분포를 반영한 대화 데이터를 활용할 가능성을 보여준다. - **Plan for Care** - 사용자가 의사와의 진료를 준비하도록 돕는 파일럿 연구다. - 1,779명이 참여했으며, 기준 모델과 비교해 진료 준비가 더 잘 됐다고 느낀 사용자가 15% 증가했다. - 진료를 최대한 활용할 자신감이 있다고 답한 사용자도 13% 늘었다. - **개인 건강 기록(PHR) 연구** - 모델의 문맥에 개인 건강 기록을 포함했을 때 건강 관련 AI의 효과가 어떻게 달라지는지 평가했다. - 제공된 글은 PHR 연구의 구체적인 결과가 이어지기 전에 중단되어 있어, 해당 부분의 결론은 확인할 수 없다. ## 실용적인 의미 Google이 제시한 방향은 AI를 단순한 답변 도구가 아니라 가설을 세우고 실험하며 결과를 검증하는 연구 파트너로 발전시키는 것이다. 다만 과학적 정확성, 의료 안전성, 개인정보 보호가 중요한 영역인 만큼, 실제 활용에서는 AI의 결과를 연구자와 의료진이 검토하고 제한된 범위에서 단계적으로 도입하는 접근이 필요하다.

원문 읽기(새 탭에서 열림)

gemini머신러닝생성형 AImulti-agent-systems+2

google·2026년 5월 19일·4분 읽기큐레이션 요약

경험적 연구 지원(ERA): Nature 게재에서 계산적 발견 촉진까지

ERA는 Gemini를 활용해 과학 문헌을 탐색하고, 실험 코드를 작성·개선하며, 수천 가지 해결책을 비교하는 과학 연구 지원 도구다. Nature 논문에서 유전체학, 공중보건, 위성영상, 신경과학, 시계열 예측, 수학 등 다양한 벤치마크에서 전문가 수준의 성능을 보였다. Google은 ERA를 활용한 여러 과학 연구 결과를 공개하고, AlphaEvolve와 결합한 Computational Discovery를 Google Labs의 신뢰할 수 있는 테스터 프로그램으로 제공하기 시작했다. ## 과학 코드를 자동으로 탐색하고 최적화하는 ERA - 사용자가 과학적 문제와 성공 기준을 제시하면 ERA가 다음 작업을 수행한다. - 관련 과학 문헌 검색 - 분석 및 예측 코드 작성 - 여러 알고리즘과 기법 조합 - 실행 결과 평가 - 성능이 낮은 접근법 수정 및 반복 실험 - 트리 탐색(tree search) 방식으로 수천 가지 후보를 검토하고, 주어진 목표에 맞춰 코드를 최적화한다. - 단순한 코드 생성이 아니라, 가설과 구현 방법을 실험적으로 비교해 가장 성능이 좋은 계산 모델을 찾는 데 초점을 둔다. ## 다양한 과학 분야에서의 전문가 수준 성능 - Nature 논문에서는 다음 분야의 문제를 대상으로 ERA를 평가했다. - 유전체학 - 공중보건 - 위성영상 분석 - 신경과학 예측 - 일반 시계열 예측 - 수학 - 여러 벤치마크에서 전문가 수준의 결과를 달성했다. - 이 결과는 고급 계산 모델링 기술에 대한 접근성을 넓히고, 기존 전문가의 연구 역량도 확장할 가능성을 보여준다. ## 감염병 입원 환자 예측 - 미국 각 주의 독감, 코로나19, RSV 병원 입원 건수를 최대 4주 앞서 예측했다. - ERA 기반 예측은 세 감염병 모두에서 미국 질병통제예방센터(CDC) 예측 리더보드의 최상위권 또는 1위를 기록했다. - 다른 국가나 질병에도 비교적 쉽게 적용할 수 있는 기법을 사용했다는 점이 강조됐다. ## 캘리포니아 물 공급과 적설 유출량 예측 - 눈으로 물이 공급되는 캘리포니아 강 유역의 계절성 유출량을 예측하는 모델을 개발했다. - ERA 모델은 봄철 유출량을 조기에 예측하는 데 기존 공식 전망인 Bulletin 120(B120)보다 높은 정확도를 보였다. - 예측 정확도가 향상되면 농업과 주민 생활에 중요한 수자원 관리와 배분을 개선할 수 있다. ## 위성 데이터를 활용한 대기 CO₂ 지도 작성 - 정지궤도 기상위성 데이터와 추가 정보를 결합해 대기 중 CO₂ 농도를 추정했다. - 기존 위성인 Orbiting Carbon Observatory-2가 약 16일마다 특정 지점을 측정하는 것과 달리, ERA 모델은 넓은 지역의 CO₂ 농도를 약 10분 간격으로 추정할 수 있다. - 로스앤젤레스 분지의 도시 배출 증가를 식별하고, 식물이 낮 동안 CO₂를 흡수하면서 농도가 감소하는 현상도 포착했다. - 이러한 고해상도 추정치는 온실가스의 공간적·시간적 변화를 모니터링하고 모델링하는 데 활용될 수 있다. ## 태양에너지 장치 설계 최적화 - ERA와 Google Antigravity를 함께 사용해 3차원 태양에너지 포집 구조를 탐색했다. - ERA는 500개의 삼각형으로 구성된 입체 팬(volumetric fan) 형태가 산란된 태양광을 가두면서 후방 음영을 만들지 않아 에너지 포집을 극대화할 수 있다고 제안했다. - 이는 AI 시스템들이 서로 다른 설계·최적화 작업을 결합할 수 있음을 보여주는 사례다. ## 소매 판매 예측 - 미국 경제지표, Google Trends, 과거 판매 패턴, 소비자 심리 등을 입력으로 사용했다. - ERA가 설계한 모델은 상용 컨센서스 전망과 Chicago Fed의 CARTS 월간 소매 판매 예측을 충족하거나 넘어섰다. - 정확한 소매 예측은 재고 부족과 폐기물을 줄이고, 기업 운영과 경제 정책 수립을 지원할 수 있다. ## Computational Discovery로의 확장 - Google은 ERA와 AlphaEvolve를 결합한 Computational Discovery를 공개하기 시작했다. - Computational Discovery는 과학 문제를 계산적으로 탐구하는 보다 넓은 실험 도구로 소개됐다. - Gemini for Science의 다른 도구들과 역할이 구분된다. - Computational Discovery: 계산 실험과 모델 탐색 - Hypothesis Generation: AI Co-Scientist 기반의 가설 생성 - Literature Insights: 과학 문헌 분석 - 이 도구들은 과학적 방법의 서로 다른 단계를 지원하도록 설계됐다. ERA는 과학자의 반복적인 코드 작성과 실험 최적화 작업을 자동화해, 복잡한 계산 연구를 더 빠르고 폭넓게 수행하도록 돕는 도구다. 특히 감염병 예측, 수자원 관리, 기후 모니터링처럼 실제 정책과 공공복지에 직접 연결되는 문제에서 활용 가능성이 크며, 연구자는 ERA를 최종 판단을 대신하는 시스템이라기보다 다양한 계산적 가설을 빠르게 검증하는 연구 파트너로 활용하는 것이 적절하다.

원문 읽기(새 탭에서 열림)

geminiAI머신러닝time-series-forecasting+4

google·2026년 4월 9일원문

ConvApparel: 사용자 시뮬레이터의 현실성 격차 측정 및 해소 (새 탭에서 열림)

ConvApparel은 LLM 기반 사용자 시뮬레이터와 실제 인간 사이의 '리얼리즘 격차(Realism Gap)'를 정량화하고 이를 좁히기 위해 설계된 새로운 데이터셋이자 평가 프레임워크입니다. 이 연구는 시뮬레이터가 단순히 인간의 말투를 흉내 내는 것을 넘어, 시스템의 오류나 불친절한 응답에 대해 인간처럼 좌절하거나 반응하는지 검증하는 데 중점을 둡니다. 이를 통해 실제 환경에서도 견고하게 작동하는 대화형 AI 에이전트를 학습시키고 테스트할 수 있는 신뢰할 수 있는 기반을 제공합니다. ### 리얼리즘 격차와 시뮬레이터의 한계 현재 대화형 AI 학습에 사용되는 LLM 기반 시뮬레이터는 실제 사용자 행동과 시스템적으로 괴리된 모습을 보입니다. * **비현실적인 특성:** 시뮬레이터는 과도하게 장황하거나, 일관된 페르소나가 부족하며, 실제 인간이라면 느낄 법한 좌절감을 표현하지 못하고 비정상적인 인내심을 보이는 경향이 있습니다. * **과적합의 위험:** 특정 데이터로만 학습된 시뮬레이터는 훈련 시 보지 못했던 새로운 에이전트 정책을 만났을 때 적절히 반응하지 못하고 훈련 패턴만 맹목적으로 반복하는 한계가 있습니다. * **훈련 결과의 불일치:** 현실성 없는 시뮬레이터로 학습된 에이전트는 실제 사용자에게 배포되었을 때 예상치 못한 상황에서 실패할 가능성이 높습니다. ### ConvApparel 데이터셋과 이중 에이전트 프로토콜 의류 쇼핑 도메인(CRS)을 배경으로 구축된 ConvApparel은 인간의 다양한 감정 스펙트럼을 포착하기 위해 독특한 실험 설계를 채택했습니다. * **이중 에이전트 구조:** 사용자를 무작위로 '좋은(Good) 에이전트'와 의도적으로 불친절하고 혼란을 주는 '나쁜(Bad) 에이전트'에 배정하여 만족부터 분노까지의 폭넓은 반응을 수집했습니다. * **대규모 데이터:** 총 4,000건 이상의 인간-AI 대화와 약 15,000회의 턴(turn)으로 구성되어 통계적 유의성을 확보했습니다. * **세밀한 주석(Annotation):** 각 대화의 턴마다 사용자가 느낀 만족도, 좌절감, 구매 가능성 등 주관적인 내부 상태를 직접 보고하게 하여 시뮬레이터 검증을 위한 지표(Ground Truth)로 활용했습니다. ### 시뮬레이터 신뢰도 측정을 위한 3대 지표 연구팀은 시뮬레이터가 실제 인간과 얼마나 유사한지 다각도로 평가하기 위해 세 가지 핵심 지표를 제안합니다. * **인구 통계적 통계 정렬(Population-level Alignment):** 대화의 길이, 턴당 단어 수, 거절이나 수락과 같은 대화 행위(Dialog Acts)의 분포가 실제 인간 군집의 통계와 일치하는지 확인합니다. * **인간 유사성 점수(Human-likeness Score):** 실제 대화와 합성 대화를 구분하도록 학습된 판별기(Discriminator)를 통해 시뮬레이션된 대화가 얼마나 인간적인 스타일을 갖췄는지 정량화합니다. * **인과적/반사실적 검증(Counterfactual Validation):** '좋은' 에이전트와의 대화만 학습한 시뮬레이터가 생소하고 불친절한 '나쁜' 에이전트를 만났을 때, 실제 인간처럼 만족도가 급감하고 좌절감이 상승하는지 테스트하여 적응력을 평가합니다. ### 결론 및 제언 성공적인 대화형 AI 개발을 위해서는 시뮬레이터가 단순히 친절한 조수 역할에 머물러서는 안 되며, 불완전하고 때로는 쉽게 짜증을 내는 인간의 본성을 정확히 반영해야 합니다. ConvApparel 프레임워크는 프롬프트 기반, 인메모리 학습(ICL), 지도 미세 조정(SFT) 등 다양한 방식으로 구축된 시뮬레이터의 성능을 엄격하게 평가할 수 있는 도구를 제공합니다. 향후 대화형 시스템 개발자들은 이러한 다각적 검증 지표를 활용함으로써, 실험실 환경을 넘어 실제 복잡한 사용자 환경에서도 안정적으로 작동하는 에이전트를 구축할 수 있을 것입니다.

gemini데이터베이스 설계대규모 언어 모델conversational-ai+4

google·2026년 3월 25일원문

바이브 코딩 XR: XR Blocks와 Gemini를 활용한 AI + XR 프로토타이핑 가속화 (새 탭에서 열림)

Google XR 팀에서 발표한 **Vibe Coding XR**은 제미나이(Gemini)와 오픈 소스 프레임워크인 'XR Blocks'를 결합하여 자연어 프롬프트만으로 상호작용 가능한 XR(확장 현실) 애플리케이션을 생성하는 혁신적인 워크플로우입니다. 이 시스템은 복잡한 게임 엔진이나 센서 통합 과정 없이도 물리 법칙이 적용된 WebXR 앱을 60초 이내에 구축함으로써, 개발자가 아이디어를 Android XR 헤드셋에서 즉각적으로 검증할 수 있게 합니다. 결과적으로 공간 컴퓨팅의 진입 장벽을 낮추고 프로토타이핑 속도를 획기적으로 가속화하는 것이 이 기술의 핵심입니다. ### XR 프로토타이핑의 변화와 Vibe Coding * **전통적 방식의 한계:** 기존 XR 개발은 파편화된 인식 파이프라인, 복잡한 게임 엔진, 저수준 센서 통합 등으로 인해 숙련된 개발자에게도 진입 장벽이 높았습니다. * **Vibe Coding의 도입:** LLM이 인간의 의도를 직접 실행 가능한 코드로 변환하는 'Vibe Coding' 개념을 도입하여, 복잡한 코딩 과정 없이 의도(vibe)만으로 결과물을 만들어냅니다. * **효율성 극대화:** 며칠이 소요되던 공간 시각화 및 상호작용 테스트를 단 몇 분 만에 완료할 수 있어 아이디어의 신속한 검증과 폐기가 가능해집니다. ### Vibe Coding XR 워크플로우 * **자연어 묘사:** 사용자는 Android XR 헤드셋이나 데스크톱의 크롬 브라우저에서 "민들레를 만들어줘"와 같은 단순한 명령어를 입력합니다. * **AI 설계 및 구현:** 제미나이가 XR Blocks의 구조와 샘플을 학습하여 장면 구성, 인식 로직, 상호작용 방식을 설계하고 코드를 작성합니다. * **즉각적인 배포 및 테스트:** 생성된 앱은 'Enter XR' 버튼 클릭 한 번으로 실행되며, 핀치(Pinch) 제스처 등 손동작 인터랙션을 즉시 테스트할 수 있습니다. * **시뮬레이션 환경 제공:** 데스크톱 환경에서도 가상현실 시뮬레이터를 통해 실제 헤드셋 없이도 물리 기반 상호작용을 미리 확인하고 수정할 수 있습니다. ### 기술적 구성 요소 및 메커니즘 * **XR Blocks 프레임워크:** WebXR, three.js, LiteRT.js 등 접근성 높은 웹 기술을 기반으로 구축되어 환경 인식, AI 통합, 공간 상호작용을 관리합니다. * **전문화된 시스템 프롬프트:** 제미나이에게 공간 레이아웃, 스케일, 상호작용 거리 등 XR 환경의 모범 사례와 디자인 패턴을 가르치는 정교한 지침이 포함되어 있습니다. * **소스 코드 템플릿:** 엄선된 XR Blocks 템플릿과 소스 코드를 프롬프트 컨텍스트에 포함하여 AI의 환각(Hallucination) 현상을 방지하고 유효한 API 호출을 보장합니다. ### 실제 적용 사례 * **수학 및 과학 교육:** 오일러의 정리 시각화, 지레의 원리를 이용한 물리 실험실, 분자 연소 반응을 관찰하는 화학 실험 등 교육용 콘텐츠를 즉석에서 생성합니다. * **양자 역학 시뮬레이션:** '슈뢰딩거의 고양이' 개념을 XR로 구현하여, 상자를 열기 전까지 생사 상태가 공존하는 퀀텀 상태를 직접 체험할 수 있게 합니다. * **스포츠 프로토타이핑:** 손으로 공을 치고 주변 환경과 충돌하는 배구 게임과 같은 물리 기반 스포츠 경험을 빠르게 구축합니다. Vibe Coding XR은 복잡한 도구 학습에 시간을 쓰는 대신 아이디어의 본질에 집중할 수 있게 해줍니다. XR 개발 경험이 적은 교육자나 기획자라면 이 워크플로우를 활용해 추상적인 개념을 3차원 공간에서 시각화하는 용도로 활용해 보길 권장하며, 숙련된 개발자는 복잡한 기능을 구현하기 전 인터랙션의 "감(vibe)"을 잡는 초기 프로토타이핑 도구로 강력히 추천합니다.

geminivibe-codingspatial-computingwebxr+4

google·2026년 3월 16일원문

초전도 연구 질문에 대한 LLM 테스트 (새 탭에서 열림)

현대 물리학의 난제인 고온 초전도체 연구에서 대규모 언어 모델(LLM)이 전문가 수준의 파트너가 될 수 있는지를 검증한 결과, 선별된 고품질 자료를 기반으로 한 모델이 일반 범용 모델보다 압도적으로 우수한 성능을 보였습니다. 구글 리서치와 코넬 대학교 연구팀은 6개의 LLM을 대상으로 전문 지식을 묻는 67개의 질문을 던져 답변의 정확성과 신뢰성을 평가했으며, 이를 통해 특정 학문 분야에 특화된 데이터 큐레이션의 중요성을 입증했습니다. 결과적으로 NotebookLM과 맞춤형 RAG 시스템이 증거 제시와 균형 잡힌 시각 측면에서 가장 높은 점수를 받으며 전문 과학 연구를 돕는 도구로서의 가능성을 보여주었습니다. **연구 배경 및 고온 초전도체 사례 선정** * 고온 초전도체(구프레이트 화합물)는 영하 140도 이상의 온도에서 전기 저항이 0이 되는 현상으로, 1987년 노벨상 수상 이후에도 여전히 메커니즘 규명이 진행 중인 복잡한 분야입니다. * 수십 년간 축적된 방대한 논문과 서로 대립하는 다양한 이론들로 인해, 신규 연구자가 지식의 전체상을 파악하고 중립적인 관점을 유지하기가 매우 어렵습니다. * 이번 연구는 LLM이 이러한 전문 분야에서 편향되지 않은 지식을 제공하고, 가설 설정을 돕는 '연구 파트너'로서 기능할 수 있는지 확인하기 위해 설계되었습니다. **평가 설계 및 실험 방법론** * 평가 대상은 웹 접근이 가능한 범용 모델 4종(GPT-4o, Perplexity, Claude 3.5, Gemini Advanced Pro 1.5)과 엄선된 자료만 사용하는 폐쇄형 시스템 2종(NotebookLM, 맞춤형 RAG)으로 구성되었습니다. * 폐쇄형 시스템 구축을 위해 초전도체 전문가 12명이 선정한 15개의 핵심 리뷰 논문과 이들이 인용한 약 1,726개의 실험 및 이론 논문을 데이터 소스로 활용했습니다. * 전문가 패널은 "LSCO의 어느 도핑 수준에서 립시츠 전이가 발생하는가?"와 같이 고도의 전문성을 요구하는 67개의 질문을 작성하여 각 모델의 답변을 블라인드 테스트로 평가했습니다. **주요 결과 및 모델별 성능 평가** * 6가지 평가지표(균형 잡힌 시각, 포괄성, 간결성, 증거 토대, 시각적 관련성, 정성적 피드백)에서 구글의 NotebookLM이 가장 뛰어난 성과를 거두었으며, 맞춤형 RAG 시스템이 그 뒤를 이었습니다. * 특히 NotebookLM은 문헌 근거를 제시하는 '증거 토대' 항목에서 가장 높은 점수를 받았으며, 이는 전문가가 검증한 신뢰할 수 있는 소스 내부에서 답을 찾도록 제한한 것이 주효했음을 보여줍니다. * Gemini Advanced Pro 1.5와 NotebookLM은 여러 대립하는 이론적 관점을 골고루 다루는 '균형 잡힌 시각' 항목에서 우수한 점수를 기록하여 과학적 중립성을 잘 유지했습니다. 이번 사례 연구는 범용적인 웹 검색 기반 AI보다 신뢰할 수 있는 학술 출처를 사전에 큐레이션한 '폐쇄형 데이터 시스템'이 전문 과학 연구에서 훨씬 유용하다는 사실을 시사합니다. 향후 과학적 발견을 가속화하기 위해서는 모델 자체의 성능 개선뿐만 아니라, 검증된 데이터셋을 효과적으로 활용하는 검색 증강 생성(RAG) 기술의 고도화가 필수적입니다. 연구자들은 AI를 단순한 정보 검색 도구를 넘어, 복잡한 이론적 쟁점을 정리하고 논리적 허점을 찾아주는 비판적 사고의 동료로 활용할 수 있을 것입니다.

gemini데이터베이스 설계대규모 언어 모델notebooklm+2

google·2026년 3월 12일원문

Groundsource 소개: Gemini를 활용해 뉴스 보도를 데이터로 전환하기 (새 탭에서 열림)

Google Research가 공개한 'Groundsource'는 비정형 뉴스 데이터를 고품질의 정형 데이터로 변환하는 AI 기반 프레임워크입니다. 이 기술은 Gemini를 활용해 전 세계 150개국 이상의 뉴스에서 260만 건의 돌발 홍수 기록을 추출했으며, 이를 통해 데이터가 부족했던 기후 과학 분야에 전례 없는 규모의 역사적 베이스라인을 제공합니다. 결과적으로 이 시스템은 돌발 홍수 예보의 정확도를 높여 인명 구조와 도시 계획 등에 실질적인 도움을 줄 수 있는 데이터 생태계를 구축했습니다. **글로벌 재난 데이터의 부족 문제** * 홍수와 같은 수문 기상학적 재난은 지진과 달리 표준화된 관측 인프라가 부족하여 모델 학습을 위한 데이터가 매우 희귀한 '데이터 사막' 현상을 겪고 있습니다. * 기존의 위성 기반 데이터베이스는 구름의 간섭, 위성 재방문 주기 등으로 인해 규모가 크고 오래 지속되는 홍수 위주로만 기록되는 한계가 있었습니다. * UN과 유럽 위원회 등이 운영하는 GDACS 시스템은 약 1만 건의 기록을 보유하고 있으나, 이는 전 지구적 규모의 AI 모델을 훈련하기에는 턱없이 부족한 양입니다. **Gemini를 활용한 Groundsource 파이프라인** * **텍스트 추출 및 표준화:** 80개 언어로 작성된 뉴스 기사와 정부 보고서에서 텍스트를 추출한 뒤, Cloud Translation API를 통해 영어로 표준화합니다. * **Gemini 기반 정밀 분석:** 고도화된 프롬프트 엔지니어링을 통해 Gemini가 세 가지 핵심 분석 작업을 수행합니다. * **분류:** 단순한 홍수 주의보나 정책 기사가 아닌, 실제 발생 중이거나 발생했던 홍수 사건만을 정확히 구별합니다. * **시간 추론:** 기사 발행일을 기준으로 '지난 화요일'과 같은 상대적 시점 표기를 구체적인 날짜와 시간으로 변환합니다. * **공간 정밀도:** 기사 속의 동네나 거리 이름을 식별하고, Google Maps Platform을 사용해 이를 표준화된 공간 폴리곤(Polygon) 데이터로 매핑합니다. **데이터의 신뢰도와 확장성 검증** * 수동 검토 결과, 추출된 이벤트의 60%가 위치와 시간 측면에서 완벽하게 정확했으며, 82%는 실무 분석에 유효한 수준(특정 행정 구역 및 발생 당일 일치)의 정확도를 보였습니다. * Groundsource는 기존 GDACS에 기록된 주요 홍수 사건의 85~100%를 포착하는 동시에, 기존 시스템이 놓쳤던 국지적이고 소규모인 홍수 사건까지 방대하게 수집했습니다. * 전 세계 260만 건의 홍수 데이터는 기존 감시 시스템 대비 데이터 밀도를 수백 배 이상 높인 성과입니다. **미래 예측 기술로의 응용** * 구축된 구조화 데이터를 통해 이제 도시 돌발 홍수를 발생 최대 24시간 전에 예보할 수 있게 되었으며, 이는 현재 Google의 'Flood Hub' 서비스에 통합되어 제공되고 있습니다. * 이 프레임워크는 뉴스라는 '비정형 기억'을 체계적인 과학적 베이스라인으로 변환할 수 있음을 증명했으며, 향후 가뭄, 산사태, 산사태 등 데이터가 부족한 다른 자연재해 분야로도 확장될 예정입니다. 이처럼 LLM을 활용해 흩어진 뉴스 정보를 정교한 데이터셋으로 구축하는 방식은 데이터 부족 문제를 겪는 기후 및 환경 연구자들에게 매우 강력한 도구가 될 수 있습니다. 단순한 기록 보관을 넘어 실시간 예보 시스템과 연동할 때 기술의 사회적 가치가 극대화될 것입니다.

gemini생성형 AIflood-forecastinggroundsource+4

google·2026년 2월 16일원문

AI에게 지도 읽는 법 가 (새 탭에서 열림)

구글 연구진은 멀티모달 거대언어모델(MLLM)이 지도의 기하학적 구조를 이해하고 경로를 추적할 수 있도록 돕는 합성 데이터 생성 파이프라인인 'MapTrace'를 제안했습니다. 기존 모델들이 이미지 내 객체 인식에는 능숙하지만 벽과 길을 구분하는 정밀한 공간 추론에는 한계를 보인다는 점에 착안하여, 200만 개의 데이터 쌍을 자동으로 생성해 학습시키는 방법론을 정립했습니다. 연구 결과, 이러한 합성 데이터를 통한 미세 조정(Fine-tuning)만으로도 모델의 공간 추론 능력을 비약적으로 향상시킬 수 있음이 증명되었습니다. **공간 추론 능력 결여와 데이터 확보의 어려움** * 기존 MLLM은 물리적 세계에 대한 '접지(Grounding)'가 부족하여 지도의 선을 벽으로 인식하지 못하고 통과하는 등 물리적 제약을 무시하는 경향이 있습니다. * 이를 해결하기 위한 정밀한 경로 데이터는 수동으로 구축하기에 비용이 지나치게 비싸고, 쇼핑몰이나 테마파크 같은 복잡한 지도는 대개 저작권 문제로 수집이 어렵습니다. * 결과적으로 모델은 지도를 구조화된 공간이 아닌 단순한 픽셀의 집합으로만 인식하게 되는 '데이터 병목 현상'을 겪게 됩니다. **MapTrace: 4단계 합성 데이터 생성 파이프라인** * **다양한 지도 생성:** LLM이 동물원, 쇼핑몰 등 다양한 장소에 대한 묘사를 생성하면, 이를 이미지 생성 모델(Imagen-4 등)에 입력하여 복잡한 지도 이미지를 얻습니다. * **이동 가능 영역 식별(Mask Critic):** 색상 기반 클러스터링으로 통행 가능한 경로 마스크를 추출한 뒤, MLLM '마스크 비평가'가 실제 사람이 다닐 수 있는 길인지 품질을 검증합니다. * **내비게이션 그래프 구축:** 검증된 2D 마스크를 노드(교차로)와 엣지(길)로 구성된 디지털 그래프 형태로 변환하여 계산 가능한 네트워크를 만듭니다. * **최적 경로 생성 및 검증(Path Critic):** 다익스트라(Dijkstra) 알고리즘으로 최단 경로를 계산한 후, 최종적으로 '경로 비평가' MLLM이 해당 경로가 논리적이고 인간의 이동 양식에 부합하는지 최종 승인합니다. **성능 검증 및 기술적 성과** * 연구진은 생성된 200만 개의 Q&A 쌍 중 일부(23,000개)만으로 Gemma 3 27B 및 Gemini 2.5 Flash 모델을 학습시켰으며, 실제 지도 데이터셋인 MapBench에서 성능 향상을 확인했습니다. * 성능 측정에는 두 좌표 시퀀스 사이의 거리를 비교하는 NDTW(Normalized Dynamic Time Warping) 지표를 활용하여 경로의 정확도를 정밀하게 평가했습니다. * 이미지 생성 과정에서 텍스트 렌더링 오류가 간혹 발생하지만, 경로 추적의 정확성 측면에서는 합성 데이터만으로도 충분한 학습 효과를 거둘 수 있음을 시사합니다. **실용적 제언** AI 모델에 물리적 공간에 대한 상식을 부여하고 싶다면 대규모 수동 레이블링 대신 '비평가(Critic)' 모델이 포함된 자동화된 합성 데이터 파이프라인을 구축하는 것이 비용 효율적입니다. 특히 복잡한 제약 조건이 있는 도메인일수록 모델의 크기를 키우는 것보다 특정 태스크에 맞춤화된 '공간 문법'을 데이터로 가르치는 것이 더 효과적입니다.

geminisynthetic-data-generationmllmspatial-reasoning+3

google·2026년 2월 5일원문

AI 도구가 접근성을 높 (새 탭에서 열림)

구글 리서치는 장애인 커뮤니티와의 긴밀한 협력을 통해 사용자의 고유한 요구에 실시간으로 적응하는 '기본 적응형 인터페이스(Natively Adaptive Interfaces, NAI)' 프레임워크를 공개했습니다. NAI는 정적인 디자인에서 벗어나 멀티모달 AI 에이전트를 활용함으로써, 디지털 환경을 단순한 도구가 아닌 사용자의 맥락을 이해하는 능동적인 협업자로 변모시키는 것을 핵심으로 합니다. 이를 통해 기술이 사용자의 특성에 맞춰 스스로 형태를 바꾸는 진정한 의미의 유니버설 디자인을 구현하고, 기능 출시와 보조 기술 지원 사이의 시차인 '접근성 격차'를 해소하고자 합니다. **공동 설계: "우리 없이 우리에 대해 논하지 말라"** * 장애인 커뮤니티의 오랜 원칙인 "Nothing About Us Without Us"를 개발 생애 주기 전반에 도입하여 실질적인 생활 경험을 기술의 중심에 두었습니다. * RIT/NTID, The Arc, RNID, Team Gleason과 같은 전문 단체들과 협력하여 다양한 의사소통 방식을 이해하는 AI 도구를 공동 개발하고 있습니다. * 이러한 협력 모델은 단순히 도구를 만드는 것을 넘어, 장애인 커뮤니티 내의 경제적 역량 강화와 고용 기회 창출로 이어지는 선순환 구조를 지향합니다. **에이전트 중심의 다중 시스템 아키텍처** * 복잡한 메뉴를 사용자가 직접 탐색하는 대신, 중앙 관리자인 '오케스트레이터(Orchestrator)'가 사용자의 문맥을 파악하고 적절한 하위 에이전트에게 작업을 할당합니다. * **요약 에이전트(Summarization Agent):** 방대한 정보를 분석하여 사용자가 이해하기 쉬운 핵심 통찰로 변환합니다. * **설정 에이전트(Settings Agent):** 텍스트 크기 조절 등 UI 요소를 실시간으로 동적 변경하여 최적의 가독성을 제공합니다. * 이를 통해 사용자는 특정 기능을 찾기 위해 버튼을 헤맬 필요 없이, 시스템과 직관적으로 상호작용하며 문제를 해결할 수 있습니다. **멀티모달 유창성을 활용한 주요 프로토타입** * 제미나이(Gemini) 모델의 시각, 음성, 텍스트 동시 처리 능력을 활용하여 주변 환경을 실시간으로 설명하고 질의응답을 주고받는 기능을 구현했습니다. * **StreetReaderAI:** 시각 장애인을 위한 가상 가이드로, 과거 시각 프레임을 기억하여 "방금 지나친 버스 정류장이 어디인가요?"와 같은 질문에 "뒤로 12미터 지점에 있습니다"라고 구체적으로 답변합니다. * **MAVP (Multimodal Agent Video Player):** 정적인 음성 해설을 넘어, 검색 증강 생성(RAG) 기술을 통해 사용자가 영상 속 특정 세부 사항(예: 등장인물의 의상)을 질문하면 실시간으로 응답하는 양방향 비디오 시청 경험을 제공합니다. * **Grammar Laboratory:** 미국 수어(ASL)와 영어를 동시에 지원하는 이중 언어 AI 학습 플랫폼으로, 사용자의 학습 패턴에 맞춘 맞춤형 콘텐츠와 피드백을 제공합니다. **유니버설 디자인의 확장: 커브 컷 효과** * 장애인을 위해 설계된 기능이 결과적으로 모든 사용자의 편의를 증진하는 '커브 컷 효과(Curb-cut effect)'를 강조합니다. * 시각 장애인을 위해 개발된 음성 인터페이스가 멀티태스킹이 필요한 비장애인에게도 유용하게 쓰이듯, NAI 프레임워크는 모든 사용자에게 더 나은 디지털 경험을 제공합니다. * 학습 장애를 지원하기 위한 요약 및 합성 도구는 복잡한 정보를 빠르게 파악해야 하는 모든 현대인에게 보편적인 가치를 제공하게 됩니다. AI 기술은 이제 단순한 접근성 지원 도구를 넘어, 모든 사람의 고유한 개성과 상황에 맞춰 인터페이스가 스스로 진화하는 '개인화된 유니버설 디자인' 시대를 열고 있습니다. 개발자와 디자이너들은 설계 초기 단계부터 장애인 사용자를 파트너로 참여시키고, 멀티모달 AI를 활용해 정적인 UI를 동적인 에이전트 시스템으로 전환함으로써 더욱 포용적인 디지털 세상을 구축할 수 있습니다.

geminiAI 에이전트생성형 AI접근성+4

google·2026년 1월 22일원문

작은 모델, 큰 결과 (새 탭에서 열림)

구글 연구진은 대규모 멀티모달 모델(LLM) 대신 소형 모델을 사용하여 사용자의 UI 상호작용 의도를 효과적으로 추출하는 '분해(Decomposition)' 접근 방식을 제안했습니다. 이 방법은 전체 과정을 각 화면별 요약과 최종 의도 추출이라는 두 단계로 나누어 처리함으로써, 개인정보 보호와 비용 효율성이 중요한 온디바이스(On-device) 환경에서도 대형 모델인 Gemini Pro에 비견되는 높은 성능을 기록했습니다. 결과적으로 복잡한 추론 과정을 세분화하는 것만으로도 소형 모델의 한계를 극복하고 정교한 사용자 의도 파악이 가능함을 증명했습니다. ### 단계별 분해를 통한 의도 추출 워크플로우 * **1단계: 개별 화면 요약:** 사용자의 상호작용이 일어나는 각 화면을 소형 멀티모달 모델이 독립적으로 요약합니다. 이때 현재 화면을 중심으로 이전과 다음 화면을 포함한 3개의 화면(Sliding Window)을 참조합니다. * **요약의 구성 요소:** 모델은 "관련된 화면 컨텍스트는 무엇인가?", "사용자가 방금 수행한 작업은 무엇인가?", "이 상호작용을 통해 사용자가 달성하려는 목적은 무엇인가?(추측)"라는 세 가지 핵심 질문에 답하며 요약을 생성합니다. * **2단계: 요약본 기반 의도 추출:** 1단계에서 생성된 시계열 요약 데이터들을 입력값으로 하여, 파인튜닝된 소형 모델이 최종적으로 사용자의 전체 의도를 한 문장으로 추출합니다. ### 소형 모델의 성능 극대화 기술 * **레이블 정제(Label Preparation):** 학습 데이터의 의도 문장에 요약본에 없는 세부 정보가 포함되어 있으면 모델이 환각(Hallucination)을 일으킬 수 있습니다. 이를 방지하기 위해 요약본에 포함되지 않은 정보는 학습용 레이블에서 미리 제거하는 과정을 거칩니다. * **추측 데이터의 전략적 제거:** 1단계에서 생성한 '사용자 목적에 대한 추측' 데이터는 1단계 요약의 품질은 높여주지만, 2단계 의도 추출 시에는 오히려 혼란을 줄 수 있습니다. 따라서 최종 의도 추출 단계에서는 이 추측 부분만 제외하고 실제 행동 요약만 활용하는 것이 성능 향상에 도움이 됨을 확인했습니다. * **자동화 데이터셋 활용:** 고품질의 의도 문장 예시를 학습시키기 위해, 의도와 행동 시퀀스가 잘 매칭된 공개 자동화 데이터셋을 활용하여 모델을 파인튜닝했습니다. ### Bi-Fact 기반의 정밀한 성능 평가 * **원자적 사실(Atomic Facts) 분해:** 모델이 예측한 의도와 실제 정답(Reference) 의도를 더 이상 쪼갤 수 없는 최소 단위인 '원자적 사실'들로 분해합니다. (예: "런던행 편도 항공권" -> "런던행 항공권", "편도 여정"으로 분해) * **정밀도와 재현율 측정:** 분해된 사실들을 바탕으로 모델이 예측한 사실 중 정답이 얼마나 있는지(Precision), 그리고 정답 중 모델이 얼마나 맞췄는지(Recall)를 계산하여 F1 점수를 산출합니다. * **단계별 오류 추적:** 이 평가 방식을 통해 요약 단계에서 정보가 누락되었는지, 아니면 추출 단계에서 환각이 발생했는지를 정교하게 추적하여 시스템을 개선했습니다. ### 실험 결과 및 성과 * **대형 모델 수준의 성능:** 분해 전략을 적용한 Gemini 1.5 Flash 8B 모델은 훨씬 거대한 모델인 Gemini 1.5 Pro와 대등한 수준의 F1 점수를 기록했습니다. * **기존 기법 대비 우위:** 단순한 Chain-of-Thought(CoT) 프롬프팅이나 엔드투엔드(E2E) 파인튜닝 방식보다 모바일 및 웹 환경 모두에서 일관되게 뛰어난 성능을 보였습니다. * **실용적 가치:** 저비용·고속 처리가 가능한 소형 모델로도 복잡한 UI 궤적을 이해할 수 있게 됨에 따라, 향후 모바일 기기 내에서 개인정보 노출 없이 실시간으로 사용자를 돕는 지능형 비서 기능의 핵심 기술로 활용될 전망입니다.

gemini자연어 처리멀티모달 AIfine-tuning+4

google·2025년 12월 14일원문

Gemini, STOC 20 (새 탭에서 열림)

Google Research는 이론 컴퓨터 과학 분야의 최고 권위 학회인 STOC 2026 제출 논문을 대상으로, Gemini를 활용한 자동 피드백 도구를 실험적으로 도입했습니다. 이 도구는 복잡한 논리 구조와 수식을 검증하여 인간 연구자가 수개월 동안 발견하지 못한 치명적인 오류를 24시간 이내에 찾아내는 성과를 거두었습니다. 결과적으로 참여 저자의 97%가 피드백이 유용했다고 답하며, AI가 전문적인 연구 워크플로우를 보조하는 강력한 협업 도구가 될 수 있음을 증명했습니다. **추론 확장 기술을 통한 수학적 엄밀성 확보** * Gemini 2.5 Deep Think의 고급 버전에 적용된 '추론 확장(Inference Scaling)' 메서드를 활용하여 단순한 선형적 사고를 넘어 여러 해결 경로를 동시에 탐색합니다. * 다양한 추론 및 평가 흔적(traces)을 결합함으로써 LLM 특유의 환각 현상을 줄이고, 논문의 가장 핵심적인 논리적 결함에 집중할 수 있도록 최적화되었습니다. **구조화된 피드백 제공 방식** * 저자들에게는 논문의 기여도 요약, 주요 정리(Theorem) 및 보조 정리(Lemma)에 대한 구체적인 오류 지적 및 개선 제안, 오타 및 단순 교정 사항이 포함된 체계적인 리포트가 제공됩니다. * 단순한 문구 수정을 넘어 변수 이름의 불일치, 부등식의 잘못된 적용, 증명 과정에서의 논리적 공백 등 기술적인 디테일을 심층 분석합니다. **실제 연구 현장에서의 성과와 사용자 반응** * 실험에 참여한 논문의 80% 이상이 AI 리뷰를 선택했으며, 저자들은 수개월간 발견하지 못했던 '논문 전체를 부정하게 만드는 치명적인 버그'를 AI가 찾아냈다는 점에 주목했습니다. * 설문 결과 참여자의 97%가 재사용 의사를 밝혔으며, 81%는 논문의 명확성과 가독성이 크게 향상되었다고 평가했습니다. * 인간 리뷰어와 달리 중립적인 톤으로 신속하게(2일 이내) 피드백을 제공한다는 점이 큰 장점으로 꼽혔습니다. **전문가와 AI의 협업 모델 및 한계점** * 모델이 복잡한 표기법이나 그림을 해석하는 과정에서 간혹 환각을 일으키기도 하지만, 해당 분야의 전문가인 저자들은 AI의 출력물에서 '노이즈'를 걸러내고 유익한 통찰만을 선택적으로 수용하는 능력을 보여주었습니다. * 이는 AI가 인간을 대체하는 것이 아니라, 전문가의 판단을 돕고 검증의 시작점 역할을 수행하는 '보조적 파트너'로서 최적화되어 있음을 시사합니다. **교육적 가치와 미래 전망** * 설문에 응한 연구자의 75%는 이 도구가 학생들에게 수학적 엄밀성과 논문 작성법을 교육하는 데 큰 가치가 있다고 응답했습니다. * 연구 커뮤니티의 88%는 연구 프로세스 전반에 걸쳐 이러한 도구를 지속적으로 사용하기를 희망하고 있으며, Google은 향후 동료 검토(Peer Review) 과정을 대체하는 것이 아닌, 이를 보완하고 강화하는 방향으로 기술을 발전시킬 계획입니다. 연구자들은 이 도구를 단순한 자동 검토기가 아닌, 연구 초기 단계부터 논리의 빈틈을 메워주는 '상시 접속 가능한 동료 연구자'로 활용할 것을 권장합니다. 특히 복잡한 증명이 포함된 논문을 투고하기 전, 예상치 못한 논리적 오류를 사전에 필터링하는 용도로 매우 유용합니다.

geminiAI대규모 언어 모델생성형 AI+5

google·2025년 11월 17일원문

생성형 UI: 모든 프롬 (새 탭에서 열림)

구글 리서치가 발표한 '제너레이티브 UI(Generative UI)'는 AI 모델이 단순한 텍스트 답변을 넘어 웹페이지, 게임, 도구, 시뮬레이션 등 완전한 사용자 경험(UX)을 실시간으로 생성하는 새로운 기술 패러다임입니다. 이 기술은 사용자의 질문이나 지시사항의 의도를 파악하여 고정된 형식이 아닌, 목적에 최적화된 맞춤형 인터페이스를 즉석에서 설계하고 코딩합니다. 현재 제미나이(Gemini) 앱과 구글 검색의 AI 모드에 통합되어 정적 인터페이스를 동적이고 상호작용 가능한 디지털 환경으로 변모시키고 있습니다. **정적 인터페이스를 넘어서는 새로운 패러다임** * 사용자가 카탈로그에서 기존 앱을 선택하는 대신, AI가 사용자의 니즈에 맞춰 동적으로 인터페이스를 생성하여 제공합니다. * 단일 단어부터 상세한 지침까지 모든 형태의 프롬프트에 대응하며, 단순한 정보 전달을 넘어 학습, 놀이, 탐색이 가능한 상호작용 환경을 구축합니다. * 사용자 평가 결과, 생성 속도를 제외한 품질 측면에서 일반적인 LLM의 텍스트 출력보다 제너레이티브 UI에 대한 선호도가 압도적으로 높게 나타났습니다. **실시간 제품 통합 및 활용 사례** * **제미나이 앱(Dynamic View):** 사용자의 대상층(예: 5세 아이 vs 성인)에 따라 콘텐츠와 기능을 다르게 설계하며, 패션 조언이나 이벤트 계획 등 실질적인 과업 수행을 돕습니다. * **구글 검색(AI Mode):** 제미나이 3의 멀티모달 이해 능력과 에이전트 코딩 역량을 활용하여 복잡한 과학적 시뮬레이션(예: RNA 중합효소 작용 기전) 등을 즉석에서 시각화합니다. * **맞춤형 도구 생성:** 소셜 미디어 포스트 갤러리 제작부터 수학 교육용 게임까지, 프롬프트의 의도에 따라 완전히 고유한 레이아웃과 기능을 갖춘 도구를 생성합니다. **제너레이티브 UI의 기술적 구현 원리** * **제미나이 3 Pro 기반:** 구글의 최신 모델을 핵심 엔진으로 사용하며 세 가지 주요 구성 요소를 추가하여 완성도를 높였습니다. * **도구 액세스(Tool Access):** 서버를 통해 이미지 생성 및 웹 검색 도구에 접근하며, 이를 통해 생성된 결과물을 브라우저에 직접 전송하여 효율성을 극대화합니다. * **정교한 시스템 지침:** 목표 설정, 계획 수립, 기술 사양 및 오류 방지 팁이 포함된 상세한 가이드를 통해 모델이 기능적인 UI를 설계하도록 유도합니다. * **사후 처리(Post-processing):** 모델이 출력한 결과물을 사후 처리 프로세스에 통과시켜 흔히 발생하는 기술적 오류를 수정하고 안정성을 확보합니다. 제너레이티브 UI는 소프트웨어가 사용자의 언어만큼이나 유연하고 적응력 있게 변화하는 미래를 보여줍니다. 구글 검색의 AI 모드나 제미나이 앱의 실험적 기능들을 통해, 정해진 틀에 갇히지 않은 진정한 개인화된 인터페이스를 직접 경험해 보시길 권장합니다.

geminiAI대규모 언어 모델멀티모달 AI+4

google·2025년 10월 28일원문

StreetReaderAI: 문맥 인식 (새 탭에서 열림)

StreetReaderAI는 구글 리서치에서 개발한 시각장애인 및 저시력자를 위한 혁신적인 스트리트 뷰 프로토타입으로, 멀티모달 AI인 Gemini를 활용해 시각적 정보를 실시간 음성 정보로 변환합니다. 기존 지도 서비스가 제공하지 못했던 스트리트 뷰 이미지의 맥락과 지리적 특성을 실시간 대화형 인터페이스로 설명함으로써, 시각장애인이 가상 세계를 자유롭게 탐색하고 실제 경로를 미리 파악할 수 있도록 돕는 것이 이 기술의 핵심입니다. **사용자 중심의 직관적 내비게이션** * 키보드 화살표 키나 음성 명령을 사용하여 게임을 하듯 가상 공간 내 시점 전환 및 이동이 가능합니다. * 사용자가 시점을 회전할 때마다 현재 방위(예: "북동쪽을 보고 있습니다")와 정면에 랜드마크나 장소가 있는지를 음성으로 즉각 피드백합니다. * "가상 걸음(Virtual steps)" 기능을 통해 앞뒤로 이동하며 이동 거리와 도로 정보, 주변 상점 및 시설물에 대한 정보를 실시간으로 수신할 수 있습니다. **AI 디스크라이버(AI Describer)를 통한 상황별 맥락 인식** * 단순한 이미지 분석을 넘어 사용자의 위도·경도, 도로 데이터, 현재 시야의 스트리트 뷰 이미지를 결합해 맞춤형 설명을 생성합니다. * 보행 안전과 내비게이션 정보에 집중하는 '기본 모드'와 지역의 역사적·건축적 배경을 상세히 설명하는 '투어 가이드 모드'를 제공합니다. * 사용자가 현재 장면에서 궁금해할 만한 후속 질문(예: "저 건물의 입구는 어디인가요?")을 AI가 스스로 예측하여 제안함으로써 탐색의 효율성을 높였습니다. **AI 채팅과 강력한 세션 메모리 기능** * Gemini Multimodal Live API를 활용하여 사용자와 실시간 대화가 가능하며, 사용자의 질문에 맞춰 시각적 정보를 해석합니다. * 약 100만 토큰 이상의 긴 컨텍스트 윈도우를 활용해 사용자가 세션 동안 탐색한 모든 경로와 이미지를 기억합니다. * 이를 통해 "방금 지나온 버스 정류장에 벤치가 있었니?" 또는 "아까 본 편의점에서 여기까지 얼마나 떨어져 있어?"와 같은 과거의 맥락이 포함된 복합적인 질문에 정확히 답변할 수 있습니다. **사용자 평가 및 실무적 시사점** 11명의 시각장애인을 대상으로 한 연구 결과, 사용자들은 StreetReaderAI를 통해 목적지의 지형지물을 미리 확인하고 보행 경로를 계획하는 데 큰 도움을 얻었습니다. 이 기술은 수조 개의 스트리트 뷰 이미지를 텍스트 기반의 데이터로 변환할 필요 없이, 필요할 때마다 실시간으로 AI가 해석해 준다는 점에서 확장성이 매우 높습니다. 향후 이와 같은 멀티모달 AI 기술이 지도 앱에 통합된다면 시각장애인의 이동권과 정보 접근성을 획기적으로 개선할 수 있을 것입니다.

geminiAI접근성멀티모달 AI+5

google·2025년 10월 22일원문

구글 어스 AI: 파운데 (새 탭에서 열림)

구글 어스 AI(Google Earth AI)는 최신 제미나이(Gemini) 모델 기반의 추론 에이전트와 지리 공간 파운데이션 모델을 결합하여, 지구 규모의 복잡한 문제에 대해 실질적인 통찰을 제공하는 생태계입니다. 이 시스템은 위성 이미지, 인구 통계, 환경 데이터 등 서로 다른 영역의 정보를 통합 분석함으로써 기존 단일 모델로는 해결하기 어려웠던 교차 도메인 추론을 가능하게 합니다. 구글은 이를 통해 원격 탐사 및 인구 역학 분야에서 상태 최첨단(SOTA) 성능을 달성했으며, 구글 어스와 구글 클라우드를 통해 이러한 기능을 개발자와 기업에 확대 제공하고 있습니다. **원격 탐사 파운데이션 모델의 혁신** * 시각-언어 모델(VLM), 개방형 어휘 객체 탐지(Open-vocabulary detection), 적응형 비전 백본의 세 가지 핵심 기능을 통해 위성 이미지 분석 속도와 정확도를 대폭 향상했습니다. * 사용자는 "폭풍 후 침수된 모든 도로 찾기"와 같은 자연어 질의를 통해 고해상도 항공 이미지에서 즉각적이고 정확한 답변을 얻을 수 있습니다. * 텍스트 기반 이미지 검색 작업에서 기존 대비 평균 16% 이상의 성능 향상을 보였으며, 미학습 객체에 대한 제로샷(Zero-shot) 탐지 정확도는 기존 베이스라인 모델보다 2배 이상 높습니다. **인구 역학 및 모빌리티 AI 분석** * 인구 역학 파운데이션(Population Dynamics Foundations) 모델을 통해 사람과 장소 간의 복잡한 상호작용을 이해하고, 시간에 따른 인구 이동 및 활동 변화를 분석합니다. * 전 세계 17개국에 걸친 일관된 임베딩 데이터와 매월 업데이트되는 시계열 정보를 제공하여, 인구 밀도, 수목 피복도, 야간 조명 등 다양한 지표를 정밀하게 예측합니다. * 실제 활용 사례로 옥스퍼드 대학의 연구에 따르면, 브라질의 뎅기열 확산 예측 모델에 이 임베딩을 적용했을 때 12개월 장기 예측 정확도(R²)가 0.456에서 0.656으로 크게 개선되었습니다. **지능형 공간 추론 에이전트의 역할** * 제미나이 모델을 기반으로 하는 공간 추론 에이전트는 복잡하고 추상적인 질문을 단계별 실행 계획으로 분해하는 지능형 오케스트레이터 역할을 수행합니다. * 에이전트는 파운데이션 모델 호출, 방대한 데이터 저장소 쿼리, 지리 공간 분석 도구 활용 등을 직접 실행하며, 각 단계에서 도출된 결과를 종합하여 최종적인 해답을 제시합니다. * 예를 들어 "허리케인 상륙 가능성이 높은 지역과 가장 취약한 공동체는 어디인가?"라는 질문에 대해 이미지, 환경, 인구 데이터를 융합 분석하여 구체적인 대비책을 도출할 수 있습니다. 구글 어스 AI는 기후 변화 대응, 재난 관리, 도시 계획 등 전 지구적 과제를 해결하려는 기업과 연구자들에게 강력한 도구를 제공합니다. 현재 구글은 개발자와 기업 사용자를 대상으로 이 새로운 기능에 대한 접근 권한을 확대하고 있으므로, 고도화된 공간 데이터 분석이 필요한 조직은 구글 클라우드 및 구글 어스 AI 웹사이트를 통해 기술 도입을 검토할 것을 권장합니다.

geminiAIfoundation-modelsembeddings+5