메모리 시장 변곡점? HBM은 빼고 CXL은 키운다… 인텔의 480GB GPU 등장 | 인텔의 진짜 목표는 서버 주도권
지금 보고 있는 영상
메모리 시장 변곡점? HBM은 빼고 CXL은 키운다… 인텔의 480GB GPU 등장 | 인텔의 진짜 목표는 서버 주도권
조회수 144,398
영상 설명 · 눌러서 펼치기
인텔이 HBM 대신 LPDDR5X를 사용하는 데이터센터용 AI GPU, D270을 공개했습니다. 인텔 자체 카드는 160GB, 협력사 설계에서는 최대 480GB의 메모리를 지원하는 구성입니다. 이번 영상에서는 인텔과 퀄컴이 대용량 저전력 메모리를 선택한 배경과 겨냥하는 고객을 살펴봅니다.
MoE 모델을 통해 실제 계산에 참여하는 파라미터와 모델 전체를 저장하는 공간의 차이를 설명합니다. 여러 에이전트의 작업 상태를 보관하는 KV 캐시와 GPU·호스트 메모리의 역할도 정리합니다. 이어 GPU 밖에서 CPU가 처리하는 도구 실행과 데이터 조회를 통해 인텔의 제온 서버 전략을 짚어봅니다. PCIe와 CXL의 메모리 확장 방식은 D270에서 확인된 기능과 구분해 다룹니다.
대용량 메모리의 장점을 평가하려면 프리필·디코드 성능과 실제 업무의 응답 시간도 함께 비교해야 합니다. 외부 AI 서비스와 자체 서버 사이의 선택에는 장비 가격뿐 아니라 소프트웨어 이전과 운영 비용도 포함됩니다. 마지막으로 LPDDR 기반 추론 제품의 확대가 한국 메모리 업체의 수요와 수익성에 어떤 변수가 될지 생각해봅니다.
Written by 패치
Edited by 이진이
[email protected]
MoE 모델을 통해 실제 계산에 참여하는 파라미터와 모델 전체를 저장하는 공간의 차이를 설명합니다. 여러 에이전트의 작업 상태를 보관하는 KV 캐시와 GPU·호스트 메모리의 역할도 정리합니다. 이어 GPU 밖에서 CPU가 처리하는 도구 실행과 데이터 조회를 통해 인텔의 제온 서버 전략을 짚어봅니다. PCIe와 CXL의 메모리 확장 방식은 D270에서 확인된 기능과 구분해 다룹니다.
대용량 메모리의 장점을 평가하려면 프리필·디코드 성능과 실제 업무의 응답 시간도 함께 비교해야 합니다. 외부 AI 서비스와 자체 서버 사이의 선택에는 장비 가격뿐 아니라 소프트웨어 이전과 운영 비용도 포함됩니다. 마지막으로 LPDDR 기반 추론 제품의 확대가 한국 메모리 업체의 수요와 수익성에 어떤 변수가 될지 생각해봅니다.
Written by 패치
Edited by 이진이
[email protected]
안될공학 - IT 테크 신기술 다른 영상
구글이 또 큰 거 하나 꺼내네요... AI가 만든 세계, 이제 소리와 행동까지? Genie 4의 가능성과 빈틈
조회수 50,018
공장 증설, 중국 위협에도 2029년까지 솔드아웃 | SK하이닉스 전망, 증설과 솔드아웃이 함께 나오는 이유
조회수 38,364
AI가 내 비밀을 남에게 말했다 | 클라우드플레어 사고... 엔비디아가 DPU를 만든 이유
조회수 35,459
AI는 이미 전방위로 적용되는 중... 구글 AI가 지도에 표시한 구역... 비행기는 고도를 낮춘다| 예측이 실제 운항으로 이어지는 과정 [구글 PM 케말 아르마다 인터뷰]
조회수 40,527
티맵은 왜 멍청해졌을까? 65분 예상이 100분으로 바뀐 사례… 내비게이션이 길을 고르는 원리와 운전자가 확인할 네 가지
조회수 38,012
아틀라스 손가락이 4개인 이유
조회수 11,013
삼성 7만 원·하이닉스 20만 원? 진짜인지 반도체 제조 과정에 대입해 봤습니다 | 가동률과 감산 논쟁에서 빠진 조건들
조회수 109,951
일론 머스크, 우주통신을 넘어 지상 통신까지 다 먹는다
조회수 7,185