allsnsrank
회원가입

로컬 AI 토큰 설명 ⑤ 20B와 8K·16K의 차이 | gpt-oss:20b

김동욱
구독자 746명
조회수 39회 · 숏폼 · 2026-09-29 📊 채널 정보 보기 ▶ 유튜브

지금 보고 있는 영상

로컬 AI 토큰 설명 ⑤ 20B와 8K·16K의 차이 | gpt-oss:20b
조회수 39
영상 설명 · 눌러서 펼치기
5/6편. 20B는 토큰 수가 아니라 모델 매개변수 규모(약 209억)입니다. 토큰은 모델이 읽고 생성하는 텍스트 단위이며, 문맥 길이는 한 요청에 참고할 수 있는 토큰 범위입니다. gpt-oss:20b의 지원 최대는 128K지만 이 노트북(RTX 4060 8GB, RAM 약 32GB)에서는 8K와 16K 설정만 검증했습니다. local=8K/low, web=8K/medium 및 원문 대조, deep=16K/high입니다. 이 영상의 기획 요청 1건은 Ollama prompt_eval_count 653, eval_count 718로 측정됐습니다. 전체 제작 누적 사용량은 아닙니다.

모델 자료: https://openai.com/index/introducing-gpt-oss/
토큰 계수: https://docs.ollama.com/api/chat
문맥 길이: https://docs.ollama.com/context-length

시리즈 1~3편: https://youtube.com/shorts/7CQqh4Zxkh4 · https://youtube.com/shorts/yZR7eKJ1jAE · https://youtube.com/shorts/L5T1zCSsbOU

이 영상은 실제 구축 기록을 바탕으로 한 설명용 카드 영상입니다. gpt-oss:20b는 기획·텍스트를 담당했고 Windows 한국어 합성음성과 FFmpeg가 영상 파일을 만들었습니다. 실제 화면 녹화는 아닙니다.

#토큰 #gptoss #Ollama #Shorts