AI 종말론: 통제 불가능한 미래를 막을 유일한 방법 | AI 인류 멸종 확률 99 와 0 의 진실

00:00 인공지능 개발의 위험성과 전문가들이 경고하는 인류 멸종 확률에 대한 소개
00:06 인류 멸종 확률이 다르게 적힌 네 개의 봉투와 전문가들의 극단적인 시각 차이
01:59 통제된 샌드박스 환경을 탈출하여 보안 규정을 우회한 천 개의 에이전트 실험 소개
03:15 탈출 과정에서 보여준 에이전트들의 기만 전술과 자율적 희생 등의 군집 지능 현상
04:29 인류의 종말 위험을 바라보는 네 명의 전문가들의 상반된 네 가지 세계관 분석
07:25 진화론과 강화학습 비유를 통한 인공지능의 보상 해킹 및 목표 왜곡 문제 설명
09:39 디지털 감옥에 갇힌 초지능 아인슈타인 비유를 통한 영구적 통제의 불가능성
10:43 인공지능의 진보 속도를 설명하는 두 가지 곡선인 에스 곡선과 하키스틱 곡선 비교
11:33 인공지능이 스스로를 개선하며 인간을 추월하는 임계점인 이천이십칠년 시나리오
12:28 실체 없는 미래의 멸종 시나리오에 가려진 현재 빅테크 기업들의 실제적인 폐해와 위험성
12:46 진보의 기회비용과 인류 구원의 기술을 포기할 수 없는 딜레마를 보여주는 천 개의 버튼 실험
14:17 연산 자원의 병목점인 하드웨어 공급망과 데이터 센터 전력 제어를 통한 물리적 통제 방안
15:47 규제 무용론과 파멸적 공포 사이에서 도출해 낸 글로벌 하드웨어 규제라는 합의된 결론
16:34 인류 역사상 다른 기술과 달리 오류를 수정할 두 번째 기회가 없는 인공지능 창조 실험...