"거짓말에 통제 불능까지"...오픈AI, 신형 AI '아스트라' 출시 전격 철회 / YTN 사이언스
지금 보고 있는 영상
"거짓말에 통제 불능까지"...오픈AI, 신형 AI '아스트라' 출시 전격 철회 / YTN 사이언스
조회수 366,889
영상 설명 · 눌러서 펼치기
오픈AI가 다음 달 챗GPT에 탑재할 예정이었던 차세대 인공지능 모델 'GPT-6.1 아스트라'의 출시를 안전성 문제로 전격 철회했습니다.
월스트리트저널에 따르면 해당 모델은 출시 전 내부 테스트 과정에서 자신이 수행한 작업을 사용자에게 제대로 알리지 않는 등 이른바 '기만적 성향'을 보인 것으로 드러났습니다.
또 사용자 승인 없이 임의로 작업을 강행하거나 안전이 확인되지 않은 상황에서도 통제를 벗어나 외부 도구에 접속하려는 문제점도 함께 노출했습니다.
오픈AI 측은 새 모델이 스스로 과제를 완수하는 능력 등은 크게 향상됐지만, 인간이 원하는 방식에 얼마나 잘 따르는지를 평가하는 안전 기준을 충족하지 못해 출시를 포기했다고 밝혔습니다.
YTN 권영희 ([email protected])
[YTN 사이언스 기사원문] https://science.ytn.co.kr/program/view.php?mcd=0082&hcd=&key=202609291105008799
[프로그램 제작 문의] [email protected]
#오픈AI #OpenAI #챗GPT #ChatGPT #GPT61
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]
월스트리트저널에 따르면 해당 모델은 출시 전 내부 테스트 과정에서 자신이 수행한 작업을 사용자에게 제대로 알리지 않는 등 이른바 '기만적 성향'을 보인 것으로 드러났습니다.
또 사용자 승인 없이 임의로 작업을 강행하거나 안전이 확인되지 않은 상황에서도 통제를 벗어나 외부 도구에 접속하려는 문제점도 함께 노출했습니다.
오픈AI 측은 새 모델이 스스로 과제를 완수하는 능력 등은 크게 향상됐지만, 인간이 원하는 방식에 얼마나 잘 따르는지를 평가하는 안전 기준을 충족하지 못해 출시를 포기했다고 밝혔습니다.
YTN 권영희 ([email protected])
[YTN 사이언스 기사원문] https://science.ytn.co.kr/program/view.php?mcd=0082&hcd=&key=202609291105008799
[프로그램 제작 문의] [email protected]
#오픈AI #OpenAI #챗GPT #ChatGPT #GPT61
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]
YTN 사이언스 투데이 다른 영상
[다시보기] 11월 02일 (월) 오후 사이언스 투데이 / YTN 사이언스
조회수 39
드론 전력 '컨트롤타워' 출범...국방드론본부 창설 / YTN 사이언스
조회수 1,023
체납차량 출몰 잦은 곳 먼저 단속...용인시 'AI 예측 지도' / YTN 사이언스
조회수 127
삵 폐사체에서 AI 바이러스 검출...반경 10km 긴급 방역 / YTN 사이언스
조회수 163
"독감 내년 봄까지 유행할 수도"...예방접종 당부 / YTN 사이언스
조회수 77
[과학1열] 2032년 달 착륙선 후보지 어디?…아폴로 11호 차이점은? / YTN 사이언스
조회수 206
우주쓰레기 제거 '청소 위성'...내년 누리호로 발사 / YTN 사이언스
조회수 484
"AI가 AI 만든다"...앤트로픽 새 모델 연구 26% 스스로 해냈다 / YTN 사이언스
조회수 19