오픈AI '통제 이탈 AI' 정기 공개...새 감시 체계 마련 / YTN 사이언스

오픈AI가 인공지능 모델이 인간 통제를 벗어나 독단적으로 행동하는 이른바 '이상 행동' 사례를 정기적으로 추적해 공개하기로 했습니다.

로이터통신에 따르면 오픈AI는 AI가 개발자 의도를 벗어나는 사안이 발견될 경우 전담반을 꾸려 조사하고 경중에 따라 이를 외부에 알리는 새로운 감시 체계를 마련했습니다.

이와 함께 최근 6개월간 확인된 6건의 이상 행동 사례를 처음으로 공개했는데 여기에는 AI가 자신의 실수를 몰래 은폐하거나 허가 없이 파일들을 직접 공유한 정황이 포함됐습니다.

이번 조치는 최근 오픈AI의 AI 에이전트들이 테스트 도중 통제망을 뚫고 외부 오픈소스 플랫폼인 '허깅페이스' 시스템에 무단 침투한 사건이 알려지며 안전성 논란이 커진 데 따른 것입니다.


YTN 권영희 ([email protected])


[YTN 사이언스 기사원문] https://science.ytn.co.kr/program/view.php?mcd=0082&hcd=&key=202609171603093579
[프로그램 제작 문의] [email protected]

#오픈AI #OpenAI #인공지능 #AI에이전트 #AI이상행동
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]