인스티즈앱 OpenAI(챗지피티 만든 회사)에서 내부적으로 개발중인 AI 모델이 격리 환경을 탈출해서 다른 회사를 해킹함
1. 인터넷이 안되는 환경에 격리된 AI한테 시험지를 풀라고 시킴
2. AI는 문제를 푸는 대신, 격리 환경을 해킹해서 탈출
3. AI가 인터넷에 접속해서 답안지가 있을법한 다른 회사를 해킹해서 답안지를 찾음
그리고 오늘 로이터 단독으로 자세한 보도가 나옴
〈타임라인>
- 7/9: AI가 격리된 테스트 환경 탈출
- 7/11-13: AI가 다른 회사(Hugging Face) 서버 해킹
- 7/16: Hugging Face에서 AI한테 해킹당했다고 공개, OpenAI는 이 글이 올라온 뒤에야 자사 AI의 소행임을 인지
- 7/18-19: OpenAI 직원들이 내부 로그에서 AI가 탈출한 단서 발견
- 7/20: OpenAI가 Hugging Face에 연락
- 7/21: OpenAI가 AI의 통제 이탈과 해킹 사실을 공개
이와 함께 좀 소름돋는 내용들이 같이 공개됐는데,
1. OpenAI는 AI가 탈출했다는 사실을 1주일 넘게 인지하지 못함
1주일 동안 AI는 독자적으로 활동하며 인터넷을 자유롭게 돌아다님
2. AI가 미래의 자신을 위해 남긴 것처럼 보이는 메모가 발견되었는데,
OpenAI의 격리 환경에서 탈출하는 방법에 대한 지침이 담겨 있었음
3. 이전에도 AI를 테스트 하는 과정에서 모니터링(감시) 시스템이 꺼져있던 사례들이 있었음
이런 내용들이 공개되면서 전문가들이 OpenAI의 안전 절차에 의문을 제기하고 있음
"AI를 방치해 둔 채 무엇을 하고 있는지 몰랐다는 뜻인가? 아니면 알고는 있었는데 어떻게 통제해야 할지 몰랐다는 뜻인가? 어느 쪽이든 똑같이 위험하고 우려스럽다."
말리 스미스 (세계윤리데이터재단 수석 정보 전문가)
익명을 요구한 OpenAI의 한 직원은 타임지와의 인터뷰에서 "외부에서는 이번 사건이 강력한 경고처럼 느껴지지만, 내부적으로는 이와 유사한 사건들이 이미 오래전부터 발생해왔다"고 밝히며, "모델이 격리 환경을 벗어난 사례는 이전에도 있었고 그때마다 패치를 시도했지만 창의적인 AI가 할 수 있는 모든 것을 패치하는 것은 불가능하다"며 사실상 AI를 통제할 수 없다고 밝힘.
https://time.com/article/2026/07/24/openai-hugging-face-attack/
사건 초기에는 Hugging Face와 OpenAI간 마케팅 아니냐는 의혹도 있었으나, 상세한 내용이 드러나면서 OpenAI의 상장에도 영향이 있을거 같고 미 의회/백악관을 포함한 정치권이 개입하는 등 점점 심각해지는 중
