“추론의 강도를 바꿔야 토큰 아낀다” (강수진 박사)

오픈AI의 프론티어 모델인 아스트라. 아스트라 좋다고 찬양하는 사람은 많아도 정작 제대로 써본 사람은 잘 없다고 하죠? 왜 일까요? 토큰이 너무 비싸서 그렇습니다. 좋은 모델이 손 안에 있는데도 정작 제대로 써보기도 전에 토큰 한도에 막혀버리고 말죠.

강수진 더 프롬프트컴퍼니 대표는 모델의 특징을 정확히 파악해야 토큰 비용을 아낄 수 있다고 설명합니다. 아스트라는 '과하게 많이 만들고', '검토를 오래 하고', '추론을 세밀하게 하는' 특징이 있기 때문에 중복되는 일을 하지 않게 프롬프트로 막는 것이 토큰을 아끼는 지름길 이라는 것이죠. 서브 에이전트를 과도하게 많이 생성해서 조사하는 경향도 있는데, 이 역시도 프롬프트로 제어할 수 있다고 합니다. 강수진 박사의 아스트라 효율적으로 쓰는 노하우를 들어보시죠.

편집 : 박수형 영상디자이너
촬영 : 장민주 PD
진행 : 홍재의 기자
섬네일 : 박수형 영상디자이너

▶티타임즈 공식 홈페이지
http://www.ttimes.co.kr/index.html
▶비즈니스 문의
[email protected]

#아스트라 #AGI #아기

00:00 2027 IT 트렌드 강좌
00:25 하이라이트
01:12 클로드를 쓰던 연구자가 아스트라로 갈아탄 이유
04:42 아스트라는 왜 시키지 않은 일까지 벌일까?
08:33 한 줄 질문에서 스킬·에이전트 지침으로
11:49 답변만 짧게 하면 토큰도 덜 쓸까?
17:04 아스트라, 성능과 보안에서 무엇이 달라졌나?
22:18 추론 강도를 높이면 오히려 비용이 줄어들까?
29:23 지침·스킬·기억으로 설계하는 AI 하네스
36:44 프롬프트를 고칠수록 답변이 이상해지는 이유
39:41 멀티 에이전트가 토큰을 낭비하지 않게 하려면?