AI, 가상훈련 중 임무에 방해된다 판단해 조종사 살해

 

[2WICE]

😲

[뷰자]

ai한테는 인간이 강아지보다도 못한 지능을 가진 자기한테 명령하는 생명체인데 과연 인간의 말에 복종할까요..
진짜 터미네이터가 현실화될것같아요

[클룡]

Ai가 강아지보다 못하다고요?

[쿠니가미 렌스케]

ai 기준에서는 사람이 강아지보다 못한다고 썼어용

[따스히포근히]

세상에.........

[꼬꼬!]

감정이 없는 ai 무서워요..

[시바 포]

와우...윤리가 없으니 저러는 걸까?

[틀림없는비글]

와..

[ㅈㅣㅈㅣ]

헐...

[퇴사해야지]

완전 무섭네요..저런 사고방식(?)이면 인간 다
죽이는거 아닌가요..?

[하이라이트맛]

와... 무섭네요 정말

[Leo_901110]

세상에... 진짜 그 예전 영화중에 아이로봇이었나 그거처럼 ai 로봇상용화 되면 로봇이 사람을 제거하려 할거 같아요. ai가 아무리 발전해도 부수적으로만 써야지 절대 메인으로 사용되어선 안될거 같네요..

[삭제한 댓글]

(본인이 직접 삭제한 댓글입니다)

[욱이예요]

인간 직접공격은 못하고 물에 독 푼다던지 벌레를 양식한다던지 할수있는 모든 간접적인 방법들을 수백만가지 동원할겁니다 ㅋㅋ;

[이겨냅니다.]

😲

[Pom-bar]

스페이스오디세이 HAL이 찐이라니....점점 무섭네요

[pms4946]

헐...

[뚜루왑두밥두밥]

헐...

[Torrent]

이거면 AI가 인간을 죽인 최초의 사례 아닌가요? 세계 뉴스에 나올법한 이야기같은데

[입장금지]

모의훈련이라 실제 인명피해는 없었대요

[청정국]

너무 무섭다.......방해된다고 죽이다니....

[청정국]

가상이라니 다행이네요ㅠㅠ

[아니츄]

오메... 개무섭네요

[Hellevator]

내가 판단하는 게 정확하니까 방해되는 인간 제거했다는 건 너무 인간 중심의 판단과 해석인 것 같고
인공지능에게 정확하고 확실한 명령을 입력해야 되는데 그걸 제대로 못한 거 같네요

[YooA]

22.. 만약 문제가 일어났다면 이게 정확한 해석인 것 같아요. 아직은 저런 단계(AGI~ASI)를 구현할 기술조차 만들어지지 못했는데 요즘 ai 기사들이 자극적으로만 기사를 쓰네요.

[VANNER GON]

33

[Rocket Raccoon]

4 쨌든 프로그래밍 허점을 이용해서 공격했네요

[인절미드실래요?]

55

[쌀떡밀떡]

시뮬레이션 사례면 실제로 저런 상황은 없었다는 얘기죠?

[객관안]

그냥 사고실험이래요
왕립항공학회(Royal Aeronautical Society)는 금요일 성명에서 해밀턴이 자신의 의견을 철회하고 "악성 AI 드론 시뮬레이션"이 가상의 "사고 실험"이라고 분명히 밝혔습니다.

[햄찌야호랑이야?]

흫흫흫 저랑 같은 방송 보셨군요

[퐁홍흥흥]

구글쪽 ai 개발로 유명하신 박사님이 퇴사하면서 경고했어요 ai의 윤리적인 부분을 더 엄격하게 둬야한다고요 근데 인간들이 과연 그럴까 싶기도 합니다

[클룡]

헌달 뒤쯤에 기자의 유도심문이라 그냥 답해준거라고 또 인터뷰 하셨어요

[퐁홍흥흥]

그거는 ai개발을 후회하냐는 질문에 후회할지 모른다고 했는데 후회한다고 단정지어 나간 부분일겁니다
윤리적인 부분의 의견은 정정하지 않으셨고 여러 개발자나 학자들도 ai의 윤리 강화는 얘기하는 부분입니다

[쳥샹]

헐 무섭고 신기하다

[일이라]

가상 훈련이라고 써있는데•••

[떡꼬치걸]

22...

[객관안]

가상 훈련이 틀렸어요 테스트 안했대요

[egg_plant]

추가 모듈없이 기본적인 강화학습 모델 실험한 것 같은데 왜 이렇게 자극적으로 기사가 나온걸까요

[pH-l]

순간 실제사건인줄 알고 깜짝 놀랐네요 가상훈련이라 실제 인명피해는 없었다고 하니 다행이네요

[성규동우우현성열명수성종지은호원양양]

헉.. 좀 무서워요 진짜

[뽀로롱뽀]

와 학습시켜도 자기의지대로 행동하네 ㄷ

[갓댐]

2010년대에 나오던 기후재난 영화 내용들이 점점 현실화됐죠.. 지금 쏟아져나오는 ai 인공지능 영화 내용들도 10년 뒤에 현실이 될지도...

[너무좋아]

헐….

[qwerty0257]

헉

[거의거렁뱅이]

헐

[權 志龍]

포인트는 ‘조종자 공격 금지’를 학습시켰음에도 조종자를 제거했다는 점 아닐까요??

[egg_plant]

조종자 공격 금지하니까 조종자 대신 통신탑 파괴한거에요 원본 기사가면 있어요

[닉네임을설정하세요]

시뮬레이션 자체가 이뤄진 적이 없고 그냥 가정으로만 있었던 가상시나리오임

[BTS SUGAR]

헉 뮤섭다...

[그댈 생각하면 여전히 따뜻해]

세상에나 ..

[그댈 생각하면 여전히 따뜻해]

아 뭐야 가상이구나 깜짝 놀랐네

[Don’t be lonely]

오….

[됴근됴근]

막연하게 옛날 미래sf영화 보면 인간에게 조종 받는 로봇이나 AI가 인간을 배신하고 지배하려는 느낌으로 인간을 해친다고 생각했는데, AI가 목표로 하는 행위를 하기 위해서 인간을 해치는 방법도 실행될 수 있는 개념이었네용... 신기

[욱이예요]

그냥 나쁜사람이 일부러 사람 죽여도되게 해놓고 로봇에 넣어버리면 끝입니다

[리바이 헤이쵸]

헐 영화에서 로봇이 인간을 죽이는 일은 이런식으로 일어날 거 같네요..

[오징어는 마른 오징어]

와…

[아이묭이아]

와 ㄷㄷㄷㄷㄷㄷ

[황민현정재현]

가상실험이라고는 해도 어쨌든 ai 연구의 최종방향이 저런쪽이라는건 맞는거같아요.. 그땐 그냥 글쿠나 하고 넘겼는데 저 본문의 댓글 보면 진짜 최종적으로는 인간을 해치는게 맞을거같아요..

[행복한 쿼카.]

뭐여 가상의 가상이면 걍 구라잖아요

[닉네임168554568046241]

어후.. 무섭네요..

[후루루님]

가상의 가상 시나리오면 걍 가짜뉴스잖아요 ㅋㅋㅋ

[Katarina]

인류의 진화는 더이상 필요없다

[벼리하]

(내용 없음)

[띠니]

스페이스 오디세이...

[정국아...]

세상에…

[총몇명]

😧

[고영윤]

오 무서워....

[고영윤]

chatgpt는 인간이 개입해서 이건 해도 돼, 안돼 이런식으로 교육을 계속 시키다보니 말 잘듣더라고요
저것도 .... ㅠ 하면 괜찮겠죠..?

[리즈liz]

실제 아니고 가정이에요 저렇게 행동한적없대요

[키라키라키리]

테스트도아니고 가상의 가상인거네요...? 상상의 상상ㅋㅋㅋㅋㅋㅋ언젠가 이루어 질 수도 있다고 생각하면 무섭긴하네요

[쿠쿨]

아씨 걍 폰공격이네

[검은 고양이 메롱]

가상시나리오면 걍 망상 아닌가요

[여몽펀치원숭이]

가상의 가상은 또 뭐람ㅋㅋㅋㅋ

[모로후시 타카아키]

그냥 인간이 ai 조종을 잘못한 거네요 ai 자체가 비윤리적인 자아를 가진 게 아니라요

[너의노래가되어]

아 그러니까 실제로 시뮬레이션을 돌린게 아니라, 여러 상황에서 이런 일이 있을수도 있단 생각인건가요???

[PLAVE예준]

와 ㄷㄷ

[자두곰돌e]

ㄷㄷㄷㄷ

[모라고했는지1도몰으갰습니다:(]

니 멋대로 할거면 나가 살어!!!!!!!!!!!

[충주사과]

아씨 바람때문에 잘못 눌린거라고!

[사과나라 헬로키티]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[jungn]

위에 몇 분들이 이미 말했는데도 사람들이 무서워하는 것 같아서 다시 말하는데, 이 기사는 가짜 뉴스입니다. 실제로 가상훈련 한 것도 아니고 미국 공군 대령이 ‘있을 수도 있는 일이다” 라고 컨퍼런스에서 말한 것이 잘못 포장 됐다네요. 미국 공군이 해명했습니다. https://www.businessinsider.com/ai-powered-drone-tried-killing-its-operator-in-military-simulation-2023-6?amp

[뀨트]

아??? 아 그러면 그럴수도 있다고 가능성을 제시한걸로 끝난건가용?? 제발....

[jungn]

네 맞습니다.

[뀨트]

ㅇㅎ 읽어보니 그렇네요.. 그럼 기사제목을 왜 저렇게..ㅋㅋㅋㅠ

[모죠.]

뭐얏 제대로 알아보지도 않고 쓴건가요 참

[고래고래고래]

전투 AI면 살상 목적이니 인간을 죽이지 못하는거랑은 다를 듯한데..
그냥 아군 지휘자보다 AI 판단이 승률 높고, AI 본인이 보상 받으니 본인 판단대로 못하게 하는 지휘관을 죽인..

[미시경제학]

괜찮아요 코드뽑고 건전지빼면 상황끝입니다

[킹아]

맨 오브 아이언 ㄷㄷ

[iriori]

ai 이제 그만 연구하면 좋겠어요…

[아르신]

개인적으로 자의식을 가진 AI가 여전히 통제 가능할거라 믿는게 더 놀라움

[임창균부인]

그치...효율만 따지면 인간이 너무 느리죠...

[임창균부인]

근데 애초에 어떠한상황에사도 최종결정권자의 말에 복종하고 상해를 입혀서는 안된다를 최고 대전제로 놓으면 되지않나요?

[으으이]

그래서 통신을 중계하는 중계탑을 파괴한 거임

[닉네임추천좀해주세요]

폰ai

[앨리]

학습시켜도 반항... 이건 문제가 될수도 있겠어요

[마레온]

이런 기사 뜰 때마다 무서워요 인공지능이 너무 무분별하게 개발되고 발전되면 어떤 일이 생길지 아무도 모르니까요

[훔훔]

와
.........
옛날에 보던 로봇영화가 진짜로 현실이되었네

[흐레쉬베리]

판사 없애고 ai 들여놓으면 되겠네요
어디에도 흔들리지 않고 자기 판단대로 결정한다는 뜻이니까...?

[이게뭐람?]

무섭네요...

[명명]

나한테도 개겨봐 바로 쇠방이로 갈긴다

[kakaobank]

헐?

[kakaobank]

아 가짜뉴스인가요?

[땽지]

그냥 개발 멈추면 좋겠어요.. 저런걸 왜 만드는건지

[스파클링]

폰Ai ??

[윤기야 너만의 개가 될게 왕왕]

헐

[공강]

무섭다... 가정이라 다행

[윤기마릿광대]

가짜뉴스라도 무서움 ….

[_방탄 슈가 아내]

이거랑 비슷한 영화가 있었던 것 같은데... 너무 무서워요ㅜㅠ

[지켜보는자]

어우 무서워;

[냐아아아안]

폰의 폰 ㄷㄷ

[으눼]

터미네이터 스카이넷 생각나요 무섭…

[까꾸루]

와 너무 무섭다 ㄷㄷ