오늘자 진짜 거의 왔다는 AI 미친 실사 수준

.

[냐아아아안]

AI가 가슴을 좋아하나봅니다

[어서옵쇼]

진짜 가슴을 다 돼지 부랄로 만들어 놨네

[KurtBestor]

22

[세베루스 스네이프]

333

[대전]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[계속자고싶은곰]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ말투 넘 찰져요

[여몽펀치원숭이]

저런 ai들 다 일반인들 사진 가져다가 무단으로 학습시킨거

[삭제한 댓글]

(본인이 직접 삭제한 댓글입니다)

[이회택러브]

전체공개 인스타그램이라서 열람만 하는 건 상관없지만 그걸 프로그램 돌릴 때 사용하려고 수집하는 건 동의 받아야죠 무단 맞지 않을까요

[나만개없어]

가슴 무슨일ㅋㅋㅋㄱㅋㅋㅋㄱㅋㅋㅋㄱㅋㅋㅋㄱㅋㅋㅋㄱ

[세베루스 스네이프]

😠

[자윤이]

그놈의 가슴 진짜

[리신]

만드신분 취향이 확실하네요.. 다른건 현실적이여도 가슴만큼은 포기 못하시나봐요

[revein]

진짜 배경까지 극사실주의 그림같네요

[uneeS2]

가슴과 부랄의 형태는 다른데... 죄다 부랄이네....

[전절망에빠졌어요]

Ai는 가슴 큰 여자밖에 못만드나요

[서함당신]

머리에 뭐가 든건지

[핑복이]

가슴이 왜저래

[아이네라네]

왁굳형이 카페에 드러운 야망가st 그림 올린 놈들 패는 영상 가져오고싶다

[LOVE ME']

왁굳형 빙하기 끝났나요..?

[주르르]

넹 끝난지 꽤 됐어용

[LOVE ME']

감사해요!! 요새 바빠서 왁물원을 못갔더니ㅎㅎ

[볼반죽]

부ㄹ가슴

[Cookie]

노골적으로 드러난 누군가의 욕망을 마주한 거 같아서 좀 웃기네요 ㅋㅋㅋㅋ

[TAEHYUNG]

진짜 같긴 한데 가슴 밖에 안 보여요ㅠ

[egg_plant]

얼굴은 너무 예쁜데 가슴 때문에 너무 이상해요ㅠㅠ ㅋㅋㅋㅋ

[21세기 소녀]

아직도 턱이 중국인같아요 왜이렇게 기괴하게 설정하는지 궁금

[みるるん]

왜 이렇게 어디선가 본 듯한 얼굴들을 짜집어 합성시킨 느낌인 건지

[삭제한 댓글]

(본인이 직접 삭제한 댓글입니다)

[으으이]

전혀 아닌데요; 아직도 트위터 같은 곳에선 그런 말을 믿나요?
그런식으로 짜집기 하는 걸론 절대 저런 결과 안나와요 물론 실제 원리랑도 다르고
조금 생각해보면 그런건 상상으로도 불가능하다는 걸 알 수 있어요

[테스타 배세진]

뭔...; 일반인분들께 설명의 편의를 위해서 위와 같이 설명했을 뿐 구체적인 원리는 동일합니다. 그리고 저 트위터 안 합니다.
그거 아세요? Ai는 스스로 다양한 사진들 사이의 색감 차이 조정도 세밀하게 못 해요. 그래서 하나의 사진을 위해 수천만개 그림 혹은 사진이 담긴 데이터베이스에서 최대한 비슷한 조도 명도의 사진을 찾아내야만 하죠. 데이터베이스가 일정량보다 부족하게 학습된 모델로 결과물을 내면 어색해 보이고 뒤틀려 보이는 게 그 이유죠.
제가 설명했던 말을 다시 한 번 더 정확하게 수정해서 설명하자면, 누군가의 정수리+누군가의 머리카락+누군가의 눈썹+누군가의 아이홀+누군가의 콧대+누군가의 콧구멍+누군가의 인중+누군가의 입술+누군가의 옆볼+누군가의 눈동자+누군가의 눈꺼풀+누군가의 애굣살••• 누군가의 발등+누군가의 발가락= 이런 식으로 설명할 수 있겠습니다. 짜집기할 소스가 더 많고 자세해졌을 뿐, 바질믹스 혹은 사적으로 학습시켜 공유되는 실사모델 혹은 로라를 이용해 그 결과를 내놓을 경우
그들이 무단으로 학습한 수많은 ‘실제 사진’ 데이터를 짜집기하여 내놓는다는 건 너무나 자명한 사실인데요.
바질믹스는 지금도 i2i유저들한테게서 신나게 사진을 학습중입니다.
으으이님은 실제 사진에서 부분부분을 따 오는 짜집기방식이 아니라면, 진지하게 ai가 어떤 방식으로 그림의 결과값을 내어놓는 거라고 생각하시는 건지요?
그림ai는 ai중에서도 가장 간단한 원리를 따르는, 자아 그 비슷한 것도 존재하지 않는 학습-입력-배출 방식의 아주 간단한 ai입니다. 강인공지능이 아니에요.
애초에 세계에 존재하는 인공지능 중, 개발중인 극소수 강인공지능을 제외하고 99.9%가 학습한 데이터를 짜집기해서 결과물을 내어놓을 뿐입니다. 요즘 인기있는 챗지피도 마찬가지고요.
단지 그 데이터의 양이 사람에게 절대 단기간에 학습시킬 수 없을 정도로 무척이나 방대했을 뿐이지, 여전히 그들이 할 줄 아는 것은 학습한 것을 프롬프트에 맞춰서 랜덤으로 짜집기하는 것일 뿐이에요.

저 작년 novel ai 첫공개시절부터 관심있게 ai그림의 매커니즘를 살펴봐왔고 유출되어 스테이블디퓨전 나올 때까지, 미드저니 니지저니 등 파생 ai프로그램들이 나오고 새로운 모델들이 나올 때까지 아주 오래 지켜봐왔습니다. 실사용도 모두 즐겁게 해보았던 사람입니다.
저는 ai그림에 굉장히 호의적인 입장이었고, 초반 nai시절 nai의 데이터베이스가 딥단부루라는 것 때문에 저작권 논란이 터졌을 때 잠시 사용을 멈추고 지켜보았으나, 갈수록 데이터베이스가 방대해져가자 ‘짜집기래도 이렇게 한 그림을 한참을 쪼개야 출처를 모두 찾는 거라면, 이 그림이 저작권을 도용했다고 할 수 있을까? 저작권 관련 문제는 괜찮겠지’ 하는 생각이었습니다.
지금도 잘만 이용하면 그림 ai는 일러스트계 그리고 폭넓게는 서양회화까지도 퀄리티 향상을 불러올 수 있는 좋은 도구라고 생각합니다.

[테스타 배세진]

그러나 바질믹스와 같은 실사 ai 모델들이 날이 갈수록 극도로 발전함에 따라, ai는 창작자 그리고 비전문가를 위한 좋은 도구로 존재하기만 해줄 것이라는 제 생각에 금이 가기 시작했습니다. 단순 저작권이 아니라 초상권이라면, 그리고 몇 가지 프롬으로 실존인물과 유사한 얼굴을 가진 이의 수위 높은 얼마든지 마음대로 창작할 수 있다는 것은 심각한 문제로 다가올 수 있다는 것을 깨달았기 때문입니다.
Ai가 ‘실존 인간’의 사진을 학습한 것은 또 다른 문제인 것입니다.

피해자는 여성뿐만이 아닙니다. 게이를 위해 제작되어 배포되고 있는 로라에는 수많은 일반인 남성분들의 출처 모를 사진들도 함께 무단으로 학습되어 있습니다. 언제 인스타에 업로드한 내 사진이 ai를 위한 데이터소스로 무단학습될 지 , 언제 세계의 이름모를 유저에게 결과물을 제공하기 위해 짜집기 소스로써 사용될 것인지 모르는 실정입니다.
이러한 개인이 배포하는 로라들은 학습한 사진의 양이 초기배포된 모델에 비하여 적기 때문에 짜집기의 분화성도 적고 그것이 노골적으로 눈에 보일 정도입니다.

그거 아세요? Ai가 짜집기하여 만들어낸 결과물에 자신이 창작한 소스가 섞여 있는 것을 본 창작자는 그게 몇 번의 인페인트와 디테일러를 돌려서 만들어진 것이라고 해도 단번에 알아볼 수 있다는 걸요.
이 그림 속에 있는 다리가, 옷을, 팔의 옷주름을, 내가 그렸단 걸 단번에 알아볼 수 있다는 겁니다.
실사도 똑같습니다. 현실을 애써 부정하던 제가 우연히 실사ai로 제작된 사진을 살펴보던 중 분명 어디선가 본 사진의 옷을 발견했을 땐, 그 옷에 원래 있었던 장신구가 애매하게 뭉개져 있는 것을 확실하게 발견했을 땐 인정할 수밖에 없었습니다. 이 발전은 어쩌면 좋은 도구가 아니라 인간성을 훼손하는 양날의 검이 될 수도 있다는 걸요.

으으이님이야말로 한 번만 생각해 봐도 알 수 있는 문제들을 애써 회피하시며 비전문가들에게 애매한 단어들로 ai의 문제점을 무마하려 하지 마세요.
현재 실사/반실사를 둘러싸고 물밑에서 일어나는 반응들, 누군가와 닮은 얼굴을 내어 주는 프롬프트들이 공유되고 있는 것, 주변인의 사진을 학습시킬 수 있는 방법들이 공유되고 있는 것을 주기적으로 체크하고 있습니다만 무척이나 참담합니다.
시간이 얼마 지나지 않아 제 2의 딥페이크 논란마냥 수면 위에 곧 떠오를 것이라 확신합니다.
현실 직시하세요 ai란 원래 짜집기 그 자체입니다. ‘스스로 생각하여 그림을 그려주는’ ai는 세상에 존재하지 않습니다.

[으으이]

아니; 그림 AI가 의식을 가지고 있다는 말이 아니라 님이 말한 원리가 틀렸다고요
원래 있는 그림이나 사람을 따라하게 만들 수는 있지만 그건 기능이고요
님은 진짜로
'누군가의 정수리+누군가의 머리카락+누군가의 눈썹+누군가의 아이홀+누군가의 콧대+누군가의 콧구멍+누군가의 인중+누군가의 입술+누군가의 옆볼+누군가의 눈동자+누군가의 눈꺼풀+누군가의 애굣살••• 누군가의 발등+누군가의 발가락'
이런 방식으로 일관된 이미지를 만들 수 있다고 생각하시는 거에요??
저런 짜집기로 일관된 이미지 하나를 완성하려면 아예 픽셀 단위로 찍어야 될 걸요?
애초에 저런 식으로 짜집기된 사람의 생김새를 떠올리면 그냥 괴상하게 생긴 프랑켄슈타인밖에 안 떠오르는 걸 생각해보세요
그렇게 간단해요

[테스타 배세진]

으으이에게
제 말을 이해 못 하시는 것 같은데 그럼... 무슨 원리로 ai가 작동한다고 생각하시는 건지요. 그쪽에서 먼저 설명하시기 전에 혹시 제 말 알아듣지 못하셨나 싶어 다시 좀 설명해드리겠습니다. Ai에 대해 어느정도는 아는 분이라 생각 드니 그렇게 상정하고 말씀드릴게요.
제가 바질믹스모델을 선택한 뒤 프롬창에 1girl, brown eyes, sharp nose, from side, short leg, blonde hair, wavy hair, naughty smile, pang, looking at viewer이라는 프롬프트 넣었다고 쳐 봅시다.
네거프롬프트로는 school uniform, fat leg, no blushed 넣었다고 해 볼게요.
그럼 ai는 먼저 이하 프과 가장 겹치는 게 많은 프롬일, 그리고 가장 앞 순서에 배치된 1girl이라는 태그가 붙은 이미지를 1차적으로 걸러냅니다. 그리고 이하 뒤따라오는 brown eyes태그 붙은 이미지를 또 선발하고, sharp nose태그 붙은 이미지를 또다시 선별해 냅니다. From side, 그 중 옆에서 찍힌 사진만을 선별해내겠네요. 그렇게 걸러지다가 ai는 첫번째 변수인 short leg를 맞닥뜨리게 됩니다. 지금까지 걸러진 사진 중 short leg태그 붙은 사진이 없거나, 되려 반대프롬인 long leg 태그 붙은 사진만 있는 것이죠. 그럼 ai는 결국 이미 걸러진 사진과 비교적 유사한 구도와 명도의 다른 사진들 중 short leg태그 붙은 사진을 찾아서 떼 옵니다. 그리고, 이미 걸러져있던 사진의 스택에 short leg태그 붙은 새로운 사진들을 높은 가중치로 겹칩니다. 다음으로 blonde hair, 걸러진 사진 중 blonde hair 태그 붙은 게 있으면 솎아내고 없으면 없는 대로 short leg에서 그랬듯 다시 다른 이미지를 가져와 스택에 쌓습니다.
과정에서 가장 큰 변수는 프롬의 데이터값이 적은 naughty smile, pang(송곳니)이런 프롬이겠죠. 앞선 프롬으로 걸러낸 이미지들 중 naughty smile, pang태그가 포함된 이미지가 없을 확률이 높다는 겁나다. 여기에 이른 ai는 또다시 앞선 과정처럼 그나마 가장 유사한 구도 각도 명도의 이미지들 중 naughty smile과 pang이 포함된 이미지를 뽑아냅니다. 그리고 스택에 쌓습니다. 이땐 무작위로 아무렇게나 대강 덧씌워집니다.
그리고 ai는 쌓아진 스택에서, 그들의 자체적인 작동원리로 적절하게 이미지와 배경을 추출해냅니다. 이후 랜덤으로 결합하여 1차적인 보정 과정을 거칩니다. 님이 말했듯 프랑켄슈타인 같은 어딘가 이목구비 배치가 요상한 이미지를 초기 nai에서 유출된 ‘미형의 인간 데이터’에 따라 배치시키는 방법으로 아름답게 보이도록 배치시킵니다. 그런데 1차적인 보정이 끝났는데 문제는 네거프롬프트입니다. 현재 이미지의 결과값은 여자가 교복을 입고 있습니다. School unifrom 태그는 네거 태그이므로 이미지에 포함될 수 없기에 그럼 다시 school unifrom태그가 붙지 않은 사진 중 현재 결과값에 가장 자연스럽게 합성될 수 있는 사진을 스택에서 골라와 재합성시킵니다. 완성하고 보니 이번엔 fat leg 태그가 붙은 이미지가 섞이게 된 것이 보입니다. 짧은 다리를 바랬을 뿐 뚱뚱한 다리를 바란 적은 없으므로 ai는 다시 short leg 중 fat leg 태그가 없는 사진을 다시 뽑습니다. 그렇게 계속 반복하고 재보정하고, 보정 과정에서 부자연스럽고 인위적으로 보이는 부분에 비슷한 명도의 사진을 랜덤으로 뽑아서 다시 덧씌웁니다. 그렇게 사진이 완성됩니다.
완성된 사진에는 수많은 실존인물들의 눈코입 헤어 바디가 소스로 활용되었네요. 그리고 어느 공간의 배경, 배경마저도 건물 자동차 하늘은 또 다른 소스들에게서 짜집기된... 그렇게 하나의 사진이 탄생하였습니다.
이것을 우리는 짜집기가 아니라고 말할 수 있나요? 만약 프롬대로 이미지를 거르는 과정 중 from side까지는 막히지 않고 자연스레 걸러졌다면 1girl, brown eyes,

[테스타 배세진]

테스타 배세진에게
sharp nose 까지는 하나의 사진에서 따 왔을 확률이 높겠네요. 눈과 코는 적어도 하나의 사진에서 따온 것이고 그것이 바질믹스의 기반이 된 모델이 무작위로 학습한 일반인 사진 중 하나였다면 그 일반인 본인은 그 사진을 보고 기시감을 느끼지 못할까요 과연?
님은 도대체 어떤 방식으로 ai가 실존인물들의 데이터를 짜집기하는 게 아니라 ‘그림을 그린 것’ 이라고 생각하는지 궁금합니다. Ai의 작동원리는 무조건적으로 짜집기가 맞고 이것은 현재 실존하는 대부분의 ai가 그러합니다. 논란이 슬슬 수면 위로 떠오르기 시작하는 것은 이 딥러닝의 학습범위를 둘러싸고 저작권 침해판정 판결사례는 여태 존재하지 않았을지언정 초상권 침해 판결 사례는 이미 존재하기 때문이에요. 정확한 가이드라인이 존재하지 않기 때문에 현재 무작위로 많은 이미지가 생산되고 일반인의 사진들이 무단으로 학습되고 있는 실정이지만, 페도필리아 관련 모델마저 암암리에 퍼지고 있는 현재, 이것이 심각한 위험을 야기할 수 있다는 목소리가 커지고 있음에 따라 실사모델은 언제 금지될 지 모르는 시한폭탄입니다.
현재 인터넷에 존재하는 합성사진들도 누군가의 몸과 누군가의 얼굴, 누군가의 옷을 짜집기하는 방식으로 존재합니다만 그 사진들 모두 구도와 명도 조도만 비슷하다면야, 전문가가 후보정을 거쳐 차이나는 부분들을 조정해준다면야 별 위화감도 느끼지 못하죠. 프랑켄슈타인 같지 않고요. 실사모델 Ai는 사람이 그 비슷한 이미지를 눈으로 판별해내던 것을 1초만에 머신러닝 시스템에 내재된 매커니즘으로 판별하여 ‘잘 만든 합성사진’을 보다 쉽게 생성해내는 것입니다.
초기 실사ai가 무단으로 학습한 데이터 중 실존인물의 데이터가 아닌 것이 어느 하나 없습니다. 이것은 명백한 짜집기이며 그림 저작권 논쟁을 뛰어넘는, 초상권과 엮인 다른 차원의 문제입니다. 단순 이용자라면 이 부분에 대해서 재고해보심이 좋을 것 같습니다. 조금만 생각해보아도 닿을 수 있는 단순한 문제입니다.

[으으이]

테스타 배세진에게
이거 진짜 알고싶어서 그러는데
혹시 그게 지금 그림계나 트위터 같은 곳에서 떠도는 말인가요? 그런 말을 어디서 들으셨는지 알려주시면 감사하겠습니다

[으으이]

테스타 배세진에게
그런 얘기는 어디서 들으셨나요?
애초에 그림 ai는 학습한 그림들을 데이터베이스로 안가지고 있어서 이미지를 걸러낼 수도 없어요
걸러낼 이미지 자료 자체가 없어서요

[테스타 배세진]

으으이에게
들은 게 아니라, 제가 머신러닝 관련직종에서 일하고 있기에 nai유출 당시 유출된 소스코드를 직접 해체분석해본 결과가 이것이었습니다. 궁금하시면 꼭 직접 분석해보시거나 이미 분석하신 분들의 정리내용을 확인해 보세요. 잘 풀어서 설명드렸으므로 이해에 큰 어려움이 있지는 않을 것입니다.
Ai는 학습한 그림들을 데이터베이스로 갖고 있지 않다고요? 무슨 소리이신지... 그들은 용량 과부하의 문제여하로 학습한 것들을 ‘그림’ 의 형태로 갖고 있지 않은 것이지 ‘데이터’의 형태로 그들의 데이터베이스에 보관합니다. 수많은 0과 1의 형태로요. 인간이 눈으로 어떠한 그림을 보고 그것을 눈에 담고 머리에 저장하여 다시 그림으로 재구현하는 것과는 달리 ai는 그 그림을 데이터의 형태로 학습하여 단 1초만에 그 그림과 픽셀 하나까지 ‘정확하게 똑같은’ 형태로 다시 재구현할수있죠.
으으이님이야말로 애매한 표현으로 ai 작동매커니즘의 현실을 부정하려 하지 마시고 제대로 된 실체를 들여다보셨으면 좋겠습니다.
답글 갯수가 모자라기에, 이것으로 마지막 댓글 남깁니다.

[으으이]

테스타 배세진에게
학습된 뉴런은 이미지의 데이터베이스도 아니고, 용량도 학습안된 뉴런이랑 같은 용량이구요
그럼 님이 말하시는 대로면 학습되지 않은 모델에게 하나의 이미지만 가지고 학습시키면 그 모델은 그 이미지를 잘 내놓을 수 있겠네요? 그게 그냥 복사붙여넣기 라면요
맞나요?

[INSPIRIT_]

만든 사람 ㄷㅐ가리 수준 잘 알겠네요;

[dkssidgktpdydy]

부랄 가슴 으

[김구름]

남자는 없나요

[에스브이티]

어휴

[햄찌야호랑이야?]

뭘 보고 학습한거야 ㅋㅋㅋㅋㅋ

[닉네임8641246]

가슴 개이상하다ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[IamnotShinzoAbe]

저건 그림이 아니라 사진을 학습시킨건데 흠..ㅋㅋ

[뮤온]

남자들은 진짜 저런가슴 좋아해요..? 이해할수가 없네..

[소소한아이들]

AI가 아직 진짜 현실 여자 사람을 구현해 내지 못하네요 ㅠㅠ

[맛돌이]

Ai는 저런 것만 만드나요? ㅋㅋ

[다크초코나무숲]

저거 다 실제 사람 몸 가지고 학습한 거겠죠...ㅋㅋㅋㅋㅋㅋ

[체리쉬유]

진짜 마음이 안좋고 안쓰러워요..

[lSFJ]

으악 가슴이 얼굴만하네

[닉네님]

요즘 ai그림 이것보다 더진짜같아요 저는 웬 아이돌이 교복입은거보고 이사람이 언제 이런걸입었지?했는데 ai그림이었음.. 기술발전속도에 충격먹었어요

[잠잠씨]

😳

[나도행복하고싶어]

와 진짜 저는 저런게 너무 좋아요 ㄷㄷㄷㄷ....예쁘다

[빠삐요뜨]

왜이렇게 가슴을 못잃을까......

[베르룬]

와 기술발전 지리긴하네

[냐냐냐냐냥]

후방주의좀여 ㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠ

[킹아]

릴해욧!

[잭스패로]

가슴이... 남자 부ㄹ같이 생겼네요...ㄷㄷ

[sssj]

가슴이 얼마나 무거운지 달고 생활을 해봐야 저런 허리어깨 나가는 가슴에 대한 환상을 버리지

[백인호 부인]

부랄가슴 볼 바에 자기 부랄을 보면 되지 않을까여

[카카시]

부랄가슴근육과 손가락 ^^

[ghdihwk]

기술발전돼서 하는짓이라곤 여자 부랄가슴 만들기라니...

[소원을 이뤄드려요]

AI는 벗은 여자밖에 못 그려요?

[최연준(1999.09.13)]

가슴이...가슴이 와이카노....

[초코비]

손은 곧죽어도 학습안되는게 신기하다

[jinjinn]

가슴보소 아주 그냥 발사하겄다

[카라멜버터갈릭]

옷이 다 왜저럴까

[안 소 희]

AI 아직 멀었어요
모든 AI 인물화 사진은 다
하나같이 손이 어색하거든요 ㅠ