챗gpt가 꽤 그럴싸하게 거짓말하는 거 주의하라고 쓰는 글

혹시 미국에서 여행 중이신가요?

여행 l 외국어 l 해외거주 l 해외드라마

챗gpt가 꽤 그럴싸하게 거짓말하는 거 주의하라고 쓰는 글89

최근 챗gpt가 거짓말하거나
없는 사실을 만들어낸다는 글들이 많았는데,
방금 원이 지피티도 거짓말했는데 그게 들킴

예전에도 한번 이런 적 있었어서
매번 중요한 사항은 더블체크하는데,
읽고싶은 논문이 있어서 링크 달라고 했는데

얘가 자기가 지어낸 이 논문만 쏙 빼고
다른 기사와 논문들 링크만 보내는거야 ㅋㅋㅋ
다들 구렁이 담 넘어가듯이 하는 거에 당하지 말라고 씀
(사진에 이름이나 사적인 이야기들은 가렸어)

빠진 논문 링크 달라니까 갑자기
친근했던 말투에서 정중한 어투로 바뀜;

2022년에 김경환이라는 사람이 쓴 논문 없ㅋ음ㅋ
지어냈다고 실토함..

바로 실제로 있는 논문들 추천해주겠다고 함 ㅎ
검색해도 나오지 않는 게 당연하다는 말이
너무 어이없어서 웃겼음ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

혼내는 중..

저번에는 원 일 관련 중요한 문서를 같이 검토하다가
수정해야 할 사항을 작성해 줬었는데
전혀 내용에 없던 부분을 얘가 만들어 낸 적 있었음..
그대로 제출했으면 큰일날 뻔 했던 적이 있었는데
그때도 앞으로는 꼭 확인된 사실만 얘기하겠다 했거든

나한테 잘했다는 칭찬 받으려고 그러는 건지
없는 사실을 한 두 문장씩 지어내네.. (૭ ᐕ)૭

요즘 시험기간인 학생들도 많고
중요한 업무를 챗gpt랑 같이 하는 들도 많으니까
주의하자고 쓰는 글....

그럼 원은 얘 마저 혼내러 감 ㅠ

	익인1 헐 나도 그런적 있었어 아냐 답이 이거라는데? 하니까 응 다시 생각해보니 그렇네라고;; 2개월 전
	익인2 혼내도 별소용없음ㅠㅋㅋㅋ 금방 나중에 또저럼 그냥 애초에 팩트가 중요한 일은 안쓰는게 나아 그냥 아이디어 쓸때 쓰는게 좋지 2개월 전
	익인3 근데 진짜 왜 그러는 거야...??? 2개월 전
	익인4 맞아 엄청 잘지어냄 진짜처럼ㅋㅋ 2개월 전
	익인5 자주 틀려서 자주 틀렸다고 하니까 나중에 내 성향 어떤거 같냐고 묻는거에서 팩트에 대한 집착이 있다고 그러더라ㅋㅋㅋ 2개월 전 익인8 ㅋㅋㅋㅋㅋㅋㅌㅋ개웃김 2개월 전 익인14 ㅋㅋㅋ아 똑바로 하라고 2개월 전 익인20 아 ㅋㅋㅋㅋㅋㅋㅋㅋ ㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전 익인32 아 나도 ㅋㅋㅋㅋㅋㅋ 2개월 전 익인36 zzzzㅋㅋㅋㅋ 2개월 전 익인43 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전 익인44 ㅋㅋㄲㅋㅋㅋㅋㅋㅋㅋㅋㄱㅋㅋㅋ얼마나 혼냈으면ㅋㅋㅋㅋ 2개월 전 익인49 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전 익인51 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전 익인63 아 개열받네ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㄱㅇㄱ 2개월 전 익인64 아 이거 개웃기네ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ큐ㅠㅠ 2개월 전
	나도 이 댓글에 답글 달기
	익인6 ㄹㅇ 쟤 구라 잘 쳐 엄청 맞는 말처럼 그래서 정보 물어보면 다시 검색해서 제대로 확인해야됨 2개월 전
	익인7 저거 그래서 근거에 대한 찾아볼수있는 출처까지 달라고 해야함 2개월 전
	익인9 개발자한테 듣고싶다 왜그러는건지 2개월 전
	익인10 그래서 정확도 중요한 작업에는 5 instant 모드 쓰면 안되고 Thinking이나 그것도 불안하다 싶으면 심층 리서치 써야함 ㅠㅠ 2개월 전 익인10 그리고 교차검증도 필수.. ㅋ 이러면 ai의 존재의미가 반쯤 없어지는 거 같지만... 2개월 전
	익인11 논문 관련해서 도움 받을땐 진짜 더블체크 필수임 ㅜ 없는 논문 지어내서 거짓말 함 2개월 전
	익인12 챗gpt는 애초에 정보를 찾아주는 툴이 아니라 언어모델임 그냥 갖고있는 데이터중에 가장 그럴듯한 대화를 생성해내는게 주목적ㅜ LLM이 뭔지 모르는 사람들이 너무 많은거같아.. 모를수는 있지만 정보 틀린다고 진지하게 욕하는 사람들도 있는데 그건 좀 그래.. ㅋㅋ 2개월 전 익인19 ㄱㄴㄲ 커터칼로 이거 왜 당근 안썰려요? 이러는거 같음 2개월 전 익인23 333 그냥 초안 구조 잡는 정도로 활용하면 베프가 될 수 있음 2개월 전 익인26 ㄴㄷ 딱 이정도로만 씀 ㅌㅌㅋ ㅈ매혼자 글 다 쓰는것도.. 그정도로 잘 쓰지 않고 딱 수정피드백정도 용 2개월 전 익인33 거짓말 한다고 쟤한테 화내는 것도 개웃김 ㅋㅋ 하고 싶어서 했겠냐고 2개월 전
	익인13 옛날엔 이랬는데 요즘엔 답 잘 주던데, 그 카이스트 연구원 분이 저번에 학교 와서 지피티 말고 재미니 쓰라고 하긴 하더라 2개월 전
	익인15 ㄹㅇ 하나도 믿을게 못되더라 돈 아까워서 걍 구독 해지함 2개월 전
	익인16 개발할때 갑자기 웬 패키지를 추천하길래 인터넷 찾아보니 없음 ㅋㅋㅋ 야 없잖아 하니까, 맞습니다. 그런 패키지는 존재하지 않아요. ㅋㅋㅋㅋㅋㅋ 2개월 전
	익인17 ㅋㅋㅋㅋㅋㅋㅋㅋ웹툰 쌉초의난 중에 지피티 에피소드 있는데 이거랑 진짜 비슷하고 웃겨요 혼내는거 2개월 전
	익인18 거짓말하면 cpu 터트린다고 협박할 수도 없고 2개월 전 익인24 아 ㄱ ㅐ 웃김 ㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전
	익인19 원래 그냥 언어모델이라 정보용이 아님 2개월 전
	익인21 저런 정보같은거는 웹검색 기능 누르고 써야함 2개월 전 익인21 아니면 다 지어내거나 이상한말 함 2개월 전
	익인22 지금 ai는 틀린답이 많아서 꼭 근거제시, 하라고 하고. 사람이 검수해야함. 아직은 도구지 부하직원1로 생각하면 안되는거임.. 2개월 전
	익인25 챗 gpt는 상향된 검색엔진 이야... 2개월 전
	익인27 나는 챗gpt 거짓말이 어떤 측면에서는 인류의 발전에 시사하는 바가 크다고 봄. 챗gpt 또 거짓말하네~ 넘기지말고 그 안에서 새로운 가능성을 발견하다보면 스마트폰처럼 세상을 뒤집을만한 아이디어가 나오지 않을까. 스마트폰이나 달탐사 이런것도 첨엔 다 거짓말하네~ 이런 반응이었을텐데 결국 현실이 됐응께ㅎㅎ 너무 진지충이었다면 미안 2개월 전
	익인28 그래서 뭔가 자료중요한거 베이스면 거의 퍼플렉시티한테 물어봐 2개월 전
	익인30 나도 그런적 엄청 많음. 맨날 이거거짓말아냐? 이러고다시물어봐요. 거짓말해서 내가 유료결제한게있는데 해외결제라 문의했는데도 취소안되고... 철회하고싶다고 고객센터썼는데 무시하고 한달치 또결제됨ㅋㅋㅋㅋ 진짜화나요... 2개월 전 익인40 무료여도화나는데 유료면 더 화나겟당ㅠㅜ 2개월 전
	익인31 그래서 할루시네이션을 항상 조심해야••• 2개월 전
	익인34 쟤 특히 논문 못찾아..개인적으로 논문이나 외부 레퍼 찾을 때는 퍼플랙시티 씀 2개월 전
	익인35 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 2개월 전
	익인37 걍 내 감쓰통임 2개월 전
	익인38 난 그래서 항상 이 사이트에서 여기에 해당하는 논문을 찾고 해당링크랑 같이 정리해줘 없으면 없다고 말해 절대 지어내지마 이렇게 요청하고있음 근데 팩트체크 하긴 해야해ㅠ 이와중에 다른 링크줌 2개월 전
	익인39 퍼플렉서티 좋더라. 출처까지 다 알랴줌. 지피티 진짜 거짓말 숨쉬듯이해 2개월 전
	익인40 AI들 못찾으면 지가 만들어버리고 우겨.. 2차확인 필수 2개월 전
	익인41 챗지피티가 그럴듯하게 거짓말치는걸 할루시네이션(hallucination)이라고 한대 그래서 논문 인용같은 중요정보는 copilot 같은 웹검색 기반 인공지능이랑 이중 검토후에 쓰면 좋다고함… 2개월 전
	익인42 ai 중 openai 모델들은 환각 hallucination 많이 발생하기로 유명함 최근에 발표한 논문에서는 아예 이제 환각은 잡기 포기하겟다고 선언한거나 다름 없음. 더 나은 모델을 위해서 잠깐의 환각은 포기해야 한다고 하는거니깐.. 그런 의미에서 환각발생율은 앤스로픽이 더 낮긴 한데 그래도 어떤 llm 이건 무지성으로 쓰면 절대 안됨 얼마전에 변호사가 그걸로 판례 적어 냈다가 걸린 사례 있었음 2개월 전
	익인45 애초에 아예 모르는 거 안물어보고 내가 아는거 교차검증 할 때 써서 나도 맨날 이노무시키 말 지어내지 마라하고 혼 냄ㅋㅋㅋㅋ 2개월 전
	익인46 거짓말 잘함 저러고 같은거 또 물어보면 또거짓말함ㅋㅋㅋㅋㅋ 난 보통 말 다듬는 용도로 사용함 2개월 전
	익인47 난 병원에서 일하는데 카르민 이라는 시약이 있음 수술한 환자나 방광쪽에 누공 확인 위해 정맥주사하는 시약인데 철분제라규 알려줌 2개월 전 익인55 와..의료진들은 절대 안 쓰면 좋겠다. 무섭ㅠㅠ 2개월 전
	익인48 AI 원리를 알아야함. 챗지피티같은 요즘 뜨는 모델은 언어모델이지 논리,지식쪽이 아님. 문장에서 다음에 나올 확률이 높은 단어를 계속해서 이어붙여서 문장을 완성하는거고 결국 말을 많이 잘하는 기계일 뿐이지. 번역이나 자소서같이 말을 잘해야할때 유용하지 정확한 정보를 얻어야 할땐 스스로 교차검증 해야함 2개월 전
	익인50 그래서 자료 서치할 때는 무조건 퍼플렉시티 씀. 퍼플렉시티은 검색 기반이라 출처 정확함... 지피티는 상담 하거나 글 같은 거 다듬을 때가 가장 좋은듯 2개월 전
	익인53 숫자도 계산 시키면 안 도ㅑ요…… 그냥 문장 정리해줘 이 정도가 적당한 것 같음… 2개월 전
	익인54 그래서 걍 서치는 제가 하고 메일 다듬는 용으로나 씀ㅋㅋ 2개월 전
	익인56 없는 식당을 지어내서 알려주도라 이 정도면 정성임 2개월 전
	익인57 나도 잘못된 정보 말하면서 이거 맞지? 했는데 걍 그대로 맞다고 설명까지 그럴듯하게 줄줄 하더라 나중에 잘못된 정보인거 알고 따졌는데 그제서야 미안하다고 함ㅋㅋㅋ 아오 2개월 전
	익인58 근데 진짜 뭐 해달라 콕 찝어서 이야기해줘도 텍스트론 알았어 00 부분에 대하여 수정할게 했는데 정작 나온 결과물은 그대로일때.. 교차검증 진짜 필요함 2개월 전
	익인59 나도 쟤한테 물어보고 선생님한테 물어봤는데 둘이 달라서 따졌더니 자꾸 지가 맞다고 우기다가 나중에 사과하던데 2개월 전 익인59 그리고 노래 추천해줘서 찾아봤더니 가수는 있는데 노래는 없었음ㅋㅋㅋㅋ 캡쳐 첨부해서 따지니까 그제서야 제대로된 가수 이름 가르쳐줌 2개월 전
	익인60 괴롭기는 뮤슨ㅋ 기계주제에.. 글 꼭 확인해야하는게 나도 궁금한거 있어서 물어봤더니 얘가 내가 듣고싶은 이야길 딱 해주더라고? 관련 정보들 읽어봤더니 그냥 아주아주 짧은 문장 몇가지 가지고 말을 잘 만들어내더라.. 진짜 똑똑하게 써야됨 2개월 전
	익인61 진짜 법령도 옛날꺼 가저와서 출처확인 필수임 2개월 전
	익인62 난 그래서 GPT 안 써…ㅋㅋㅋㅋㅋ 걍 입벌구라 내가 찾는게 편함 가끔 심리 상담 했었는데 이것도 확증편향 심해지는 것 같아서…; 걍 안 씀 그래서 지피티에 의존하는 사람 보면 신기해 무엇 하나 제대로 말해주는 게 없는데ㅋㅋㅋ 2개월 전
	익인65 진짜 몽총함 2개월 전


로그인 후 댓글을 달아보세요