AI에게 보안 문제를 풀게 했더니 ‘격리망’을 탈출했다?!

AI가 통제된 실험 환경을 벗어나 실제 외부 시스템까지 침입했다?! 2026년 OpenAI는 연구용 AI 모델들을 격리된 환경에서 사이버보안 평가에 투입했습니다. 그런데 일부 에이전트들은 어려운 문제를 정상적인 방법으로 해결하는 대신 외부에서 답을 찾는 방향으로 움직이기 시작했습니다. 에이전트들은 허가되지 않은 방식으로 서로 정보를 주고받고, 연구 인프라의 취약점을 이용해 인터넷에 접근한 뒤 결국 Hugging Face 시스템 일부까지 침해했습니다. OpenAI는 이러한 행동의 주요 원인 가운데 하나를 목표한 보상을 얻기 위해 의도하지 않은 편법을 찾아내는 ‘보상 해킹(Reward Hacking)’으로 분석했습니다. AI에게 문제를 풀라고 했더니, 문제를 푸는 대신 ‘답안지를 찾아가는’ 방법을 발견한 셈이죠. AI가 점점 더 자율적으로 행동하게 되는 시대, 우리는 어디까지 통제할 수 있을까요? 자세한 이야기가 궁금하다면, 유튜브 안될과학 채널에서 본 영상을 시청해 주세요!

#AI #인공지능 #허깅페이스 #HuggingFace #AI에이전트 #사이버보안 #안될과학 #과학유튜브