구글 Gemini 3.7 Flash, 대체 뭘 바꾼건지... 초당 340토큰, 코딩만 아니라 에이전틱 AI 특화
지금 보고 있는 영상
구글 Gemini 3.7 Flash, 대체 뭘 바꾼건지... 초당 340토큰, 코딩만 아니라 에이전틱 AI 특화
조회수 45,588
영상 설명 · 눌러서 펼치기
구글이 Gemini 3.7 Flash를 공개했습니다.
이번 모델에서 가장 눈에 띄는 숫자는 Artificial Analysis가 측정한 초당 약 340토큰의 출력 속도입니다.
첫 토큰까지 걸리는 시간은 긴 편인데, Decode가 시작된 뒤에는 매우 빠르게 결과를 생성하는 독특한 특성도 살펴봤습니다.
이 속도가 Prefill과 Decode, KV Cache와 어떤 관계가 있는지도 간단히 짚어봅니다.
구글은 이번 업데이트에서 Algorithmic Innovations를 언급했지만 구체적인 Decode 기술은 공개하지 않았습니다.
불과 3주 전의 Gemini 3.6 Flash를 기반으로 코딩과 Tool Use, Agent 성능이 크게 개선된 점도 흥미롭습니다.
Artificial Analysis Intelligence Index 56, 초당 340토큰, 그리고 API 비용을 함께 놓고 이 모델의 성격을 살펴봤습니다.
특히 여러 번 생각하고 도구를 호출해야 하는 AI Agent에서 생성 속도가 왜 중요해지는지도 이야기합니다.
단순히 새로운 Gemini 모델의 벤치마크를 소개하기보다, 이번 Flash에서 눈여겨볼 기술적인 포인트들을 중심으로 정리했습니다.
Written by 패치
Edited by 이재현
[email protected]
이번 모델에서 가장 눈에 띄는 숫자는 Artificial Analysis가 측정한 초당 약 340토큰의 출력 속도입니다.
첫 토큰까지 걸리는 시간은 긴 편인데, Decode가 시작된 뒤에는 매우 빠르게 결과를 생성하는 독특한 특성도 살펴봤습니다.
이 속도가 Prefill과 Decode, KV Cache와 어떤 관계가 있는지도 간단히 짚어봅니다.
구글은 이번 업데이트에서 Algorithmic Innovations를 언급했지만 구체적인 Decode 기술은 공개하지 않았습니다.
불과 3주 전의 Gemini 3.6 Flash를 기반으로 코딩과 Tool Use, Agent 성능이 크게 개선된 점도 흥미롭습니다.
Artificial Analysis Intelligence Index 56, 초당 340토큰, 그리고 API 비용을 함께 놓고 이 모델의 성격을 살펴봤습니다.
특히 여러 번 생각하고 도구를 호출해야 하는 AI Agent에서 생성 속도가 왜 중요해지는지도 이야기합니다.
단순히 새로운 Gemini 모델의 벤치마크를 소개하기보다, 이번 Flash에서 눈여겨볼 기술적인 포인트들을 중심으로 정리했습니다.
Written by 패치
Edited by 이재현
[email protected]
안될공학 - IT 테크 신기술 다른 영상
AI 작업은 싸졌는데 GPU 임대료는 왜 오를까? | 구글·MS·AWS 실적으로 살펴본 처리 효율, AI가 더 많이 쓰이면 한국 메모리도 바로 늘어날까?
조회수 32,136
구글이 또 큰 거 하나 꺼내네요... AI가 만든 세계, 이제 소리와 행동까지? Genie 4의 가능성과 빈틈
조회수 75,241
공장 증설, 중국 위협에도 2029년까지 솔드아웃 | SK하이닉스 전망, 증설과 솔드아웃이 함께 나오는 이유
조회수 44,574
AI가 내 비밀을 남에게 말했다 | 클라우드플레어 사고... 엔비디아가 DPU를 만든 이유
조회수 36,876
AI는 이미 전방위로 적용되는 중... 구글 AI가 지도에 표시한 구역... 비행기는 고도를 낮춘다| 예측이 실제 운항으로 이어지는 과정 [구글 PM 케말 아르마다 인터뷰]
조회수 42,318
티맵은 왜 멍청해졌을까? 65분 예상이 100분으로 바뀐 사례… 내비게이션이 길을 고르는 원리와 운전자가 확인할 네 가지
조회수 39,460
메모리 시장 변곡점? HBM은 빼고 CXL은 키운다… 인텔의 480GB GPU 등장 | 인텔의 진짜 목표는 서버 주도권
조회수 146,110
아틀라스 손가락이 4개인 이유
조회수 10,920