GPU·LLM까지 로드밸런싱한다고? [김재홍 상무 / F5, 세미남934@토크아이티]
지금 보고 있는 영상
GPU·LLM까지 로드밸런싱한다고? [김재홍 상무 / F5, 세미남934@토크아이티]
조회수 13
영상 설명 · 눌러서 펼치기
#F5, #AI인프라, #로드밸런서, #ADC, #GPU최적화, #LLM라우팅, #TokenEconomics, #AI트래픽관리, #MCP, #AgenticAI
▶유튜브 챕터 기능(목차)
00:00 개요 설명
00:40 로드밸런싱으로 GPU 활용률 개선
03:10 GPU 상태까지 보는 지능형 LLM 라우팅
04:08 Token 사용량·사용자 정책 기반 라우팅
▶게스트 : 김재홍 상무 / Principal Solutions Engineer, F5
▶호스트 : 고우성 PD / 토크아이티
**원본 풀영상** https://youtube.com/live/yTTP0vXauX0?feature=share
▶문의 메일 : [email protected]
▶토크아이티 웨비나 안내 : https://bit.ly/TalkIT_page
IT전문방송 토크아이티에서는 매일 테크분야 전문가의 생방송 웨비나가 진행됩니다. 누구든지 무료로 참여하실 수 있으며, 남겨주신 질의에 대한 전문가의 실시간 응답을 경험하실 수 있습니다.
2006년부터 2,000회이상 진행된 다양한 웨비나를 통해 국내외 최신 IT 기술을 확인하세요.
▶ 토크아이티 웨비나 참여 및 자료 다운로드 : https://talkit.tv
[토크아이티 IT 웨비나 또는 콘텐츠 마케팅 문의] : [email protected], 02-565-0012
▶유튜브 챕터 기능(목차)
00:00 개요 설명
00:40 로드밸런싱으로 GPU 활용률 개선
03:10 GPU 상태까지 보는 지능형 LLM 라우팅
04:08 Token 사용량·사용자 정책 기반 라우팅
▶게스트 : 김재홍 상무 / Principal Solutions Engineer, F5
▶호스트 : 고우성 PD / 토크아이티
**원본 풀영상** https://youtube.com/live/yTTP0vXauX0?feature=share
▶문의 메일 : [email protected]
▶토크아이티 웨비나 안내 : https://bit.ly/TalkIT_page
IT전문방송 토크아이티에서는 매일 테크분야 전문가의 생방송 웨비나가 진행됩니다. 누구든지 무료로 참여하실 수 있으며, 남겨주신 질의에 대한 전문가의 실시간 응답을 경험하실 수 있습니다.
2006년부터 2,000회이상 진행된 다양한 웨비나를 통해 국내외 최신 IT 기술을 확인하세요.
▶ 토크아이티 웨비나 참여 및 자료 다운로드 : https://talkit.tv
[토크아이티 IT 웨비나 또는 콘텐츠 마케팅 문의] : [email protected], 02-565-0012
토크아이티(Talk IT) 다른 영상
데이터를 옮기지 않고 AI를 가속하라: AI-Ready Data 인프라 [한국넷앱]
조회수 438
MES가 잘 되있으면, 자동화도 잘 되는건가? [서주원 매니저 / 라온피플, 1분테크899@토크아이티] #shorts
조회수 1,235
제조업의 맥락을 이해하는 것이 경쟁력 [장해진 실장 / 현대오토에버, 1분테크886@토크아이티] #shorts
조회수 1,151
이제는 AI때문에 안 불안해요! [황상철 대표 / 에스프레소북, 1분테크905@토크아이티] #shorts
조회수 474
기업마다 "보안" 신용등급이 있다! 글로벌 공급망의 새로운 거래조건 [신승목 본부장 / 동훈아이텍, 세미남 929@토크아이티]
조회수 493
왜 대형 제조사는 자기 돈으로 협력사 보안을 강화시켰나? [신승목 본부장 / 동훈아이텍, 1분테크915@토크아이티] #shorts
조회수 1,109
현대차 휴머노이드 적용 계획 [이지아 매니저 / 라온피플, 1분테크896@토크아이티] #shorts
조회수 1,192
ASM(공격표면관리) vs TPRM(제3자위험관리) [신승목 본부장 / 동훈아이텍, 1분테크917@토크아이티] #shorts
조회수 3