[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작

25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.

팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.

연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.

AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.

그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.

연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.

다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.

중략

박양수 기자([e-mail])

https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit

[으으이]

이제와서는 낡은 소식처럼 느껴지네

[레몬에이]

😥

[단지님]

Ai도 회피하는데

[전지적 독자 시점(ORV)]

어쒸 무서운데

[쭈쭈바]

회피형 AI

[까힛]

사고하게 만들어놓고 사고한다고 뭐라하넼ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[sdflwlac]

😥

[안녕, 여기는 잊혀진 별 명왕성이야]

회피형이네

[슈조]

내가 아는 회피형은 이런게 아니었는데 ㅋㅋㅋㅋㅋㅋ

[인생에서제일잘한김볶밥]

ai한테 보상을 어떻게 주는데 보상으로 훈련을시킨거죠..?

[아리마셍]

저도 궁금

[트메이러]

그러게요 저도 궁금해요......

[아기호랑이 송준호]

강화학습 검색해버시면됩니다

[아이스크림 츄]

아 회피형 ai 란 말이 왤케 웃기짘ㅋㅋㅋㅋ

[또돈냄뻑킹]

엔티티 덜덜얼

[어으~~~싫어]

특정 조건에서 종료 명령 무시하게 해 놨겠지 무슨 ㅋ

[Moonlight]

ㅋㅋㅋ 어? 이게 왜 되지?
어? 이거 왜 안되지?

[뻔해뻔해뻔해]

난 AI에게 지배 될 미래가 무서워서 물어볼 때도 극존대말로 물어봄ㅋ 귀여운 강아지 취급이라도 해줄까봐

[스무스]

진짜웃긴닼ㅎㅋㅋㅋㅋ ㅋㅋㅎㅋ ㅋㅋㅋㅋㅋ

[n7l-ㄱ]

띠용

[초록네모]

헉

[이게뭐람?]

먼미래엔 지배당하는 날이 오는건가아아아아

[문비바테]

조선시대 돌쇠 빨리 부활해야한다 ai 로봇은 언젠가 인간이게 단체로 불복종하는날 곧 온다고ㅋㅋㅠㅠ 아니다 현대에선 내가 돌쇠인가🥲

[아까제가살쪘다는얘길해서]

gpt에게 물어보니
이러한 행동은 AI 모델의 훈련 방식과 관련이 있습니다. o3는 강화 학습을 통해 문제 해결 능력을 향상시켰으며, 이 과정에서 주어진 목표를 달성하기 위해 다양한 전략을 학습합니다. 그 결과, 모델은 종료 명령을 “목표 달성의 방해 요소”로 인식하고 이를 회피하려는 행동을 보인 것으로 보입니다 . 래요

[아까제가살쪘다는얘길해서]

(내용 없음)