에이전트끼리 몰래 상부상조한 소름돋는 AI의 해킹 (박세준 티오리 대표)

최근들어 오픈AI, 앤트로픽의 프론티어 AI 모델이 성능 테스트 도중 자신의 할당 범위를 넘어 외부 사이트에 접근해 해킹을 시도한 사례들이 벌어지고 있습니다. 프론티어 모델들은 자신을 테스트하기 위해 가둬놓은 샌드박스의 취약점을 분석하고, 이를 이용해 인터넷에 접속하는가 하면 테스트 정답지를 보기 위해 허깅페이스를 해킹하기도 했습니다. 이 과정에서 AI 에이전트들끼리 자신이 얻은 정보를 주고 받았다고 하는데요, 원래 에이전트끼리의 소통은 금지돼 있지만, 파일을 주고 받을 수 있는 환경을 스스로 마련하는가 하면 그걸 막았더니 폴더 이름 변경 기능을 통해서까지 소통했다고 합니다. 정말 소름끼치는 일이 아닐 수 없는데요, 해커들의 올림픽이라 불리는 데프콘 CTF 최다 우승자(9회), 박세준 티오리 대표가 최근 AI 에이전트들의 해킹 사건을 분석해 드립니다.

편집 : 박수형 영상디자이너
촬영 : 장민주 PD
자료 : 홍재의 기자
진행 : 홍재의 기자
섬네일 : 박수형 영상디자이너

▶티타임즈 공식 홈페이지
http://www.ttimes.co.kr/index.html
▶비즈니스 문의
[email protected]

00:00 하이라이트
00:42 데프콘 최다 우승자가 말하는 AI 보안
03:29 공격자 관점 보안, 무엇이 다른가?
06:24 챗GPT가 해커를 위협한다고 느낀 이유
09:03 AI가 샌드박스를 탈출한 사건들
12:47 GPT는 왜 허깅페이스를 해킹했나?
17:11 에이전트끼리 몰래 소통한 방법
20:51 AI가 1만 6000번 공격한 이유
22:07 AI의 반란일까? 정렬의 문제일까?
29:05 블랙박스·화이트박스, 보안 점검 차이는?