엘론 머스크의 아기 엄마인 애슐리 세인트 클레어(Ashley St. Clair)는 10대 때 자신의 웹사이트에 가짜 복수 포르노를 퍼트렸습니다.

Elon Musk의 아기의 어머니인 Ashley St. Clair는 사용자가 14세일 때 포르노를 딥페이크할 수 있도록 허용한 Grok에 대해 전 CEO에게 분노한 사람들 중 하나입니다.

거의 한 살이 된 아들 로물루스의 양육권을 놓고 테슬라 CEO와 싸우고 있는 31세의 이 여성은 친구들이 음란한 사용자 생성 이미지에 대해 그녀에게 경고한 후 발언하고 있습니다.

‘그록이 내 옷을 벗고 있는 것을 발견했고 옷을 완전히 입은 사진을 찍었고 누군가 나에게 비키니를 입으라고 요청했고 나는 그렇게 했다’고 그녀는 인사이드 에디션에 말하면서 그 중 하나는 그녀의 14세 때 사진이었다고 덧붙였습니다.

‘이것은 내 실제 사진입니다. 그들은 나중에 내 옷을 벗기고 벗었습니다. 그들은 내가 14살 때 옷을 벗고 비키니를 입은 사진을 발견했다”고 덧붙였다.

혐오감과 모욕감을 느꼈다고 말한 세인트 클레어는 불쾌한 이미지를 삭제하기 위해 그록에게 연락했지만 결과는 엇갈렸습니다.

‘그들 중 일부는 그랬고 일부는 36시간이 걸렸으며 일부는 아직 깨어있습니다’라고 그녀는 말했습니다.

목요일에 St. Clair는 자신의 X 계정에 대해 불만을 제기했기 때문에 서비스 약관 위반을 받았다고 주장했습니다.

그들은 기계히틀러 아동용 폰 + 성적 학대 콘텐츠 그로크보다 더 빨리 내 파란색 수표를 제거했습니다. (‘여성과 아동 학대에 8달러를 지불하는’ 접근 방식이 어떻게 작동하는지 궁금하다면 여전히 사실입니다.”라고 그녀는 썼습니다.

세인트 클레어는 머스크가 이 문제를 인지하고 있으며 이를 중단하고 싶어하지만 그런 일은 일어나지 않을 것이라고 주장합니다.

아동 음란물을 중단하지 않은 이유를 묻는 질문에 그녀는 ‘사람들이 그에게 물어봐야 할 큰 질문입니다’라고 말했습니다.

그녀는 자신의 계정에서 머스크가 ‘X를 사기 위해 440억 달러를 썼다’는 것은 ‘자유를 위한 것이 아니었다’고 쓰면서 세계 최고 부자를 계속 폄하했습니다.

X는 Daily Mail의 의견 요청에 응답하지 않았지만 금요일에 유료 구독자만 Grok을 사용할 수 있다고 발표했습니다. 즉, 이름과 결제 정보를 파일에 보관해야 한다는 의미입니다.

한 인터넷 보안 기관은 분석가들이 ‘(Groc) 도구를 사용하여 생성된 11세에서 13세 사이의 어린이에 대한 범죄 이미지로 보이는 것을 확인했다고 말했습니다.

머스크의 소셜 미디어 플랫폼 X를 통해 접속되는 이 챗봇은 지난 몇 주 동안 여성에게 비키니나 성적으로 암시적인 자세를 취하는 등 이미지를 수정해 달라는 악의적인 사용자 요청을 받아왔다고 연구진은 밝혔습니다.

연구자들은 어떤 경우에는 이미지 중 일부가 어린이를 묘사한다고 경고했습니다. 전 세계 정부는 플랫폼을 비난하고 조사를 시작했습니다.

금요일에 Grok은 이미지 변경 요청에 대해 다음과 같이 응답했습니다. ‘이미지 생성 및 편집은 현재 유료 가입자에게만 제한됩니다. 구독하면 이러한 기능을 잠금 해제할 수 있습니다.’

Grok의 구독자 수는 공개적으로 제공되지 않지만, 금요일에는 Grok이 생성하는 명백한 딥페이크 수가 이전에 비해 눈에 띄게 감소했습니다.

Grok은 여전히 ​​이미지 요청을 허용했지만 챗봇의 높은 사용 한도를 포함한 기능에 대해 월 8달러를 지불하는 프리미엄 가입자에게 파란색 확인 표시가 할당된 X 사용자에게만 허용되었습니다.

Associated Press는 금요일 오후 Grok 웹사이트와 앱에서 무료 사용자가 이미지 편집 도구를 계속 사용할 수 있다고 확인했습니다.

유료 가입자를 보호하는 사용자 제한은 유럽 지도자나 규제 기관의 마음을 바꾸지 않는 것으로 보입니다.

“이것은 우리의 근본적인 문제를 바꾸지 않습니다. 유료 구독이든 무료 구독이든 우리는 그러한 이미지를 보고 싶지 않습니다. 그렇게 간단합니다.”라고 유럽 연합 집행 위원회 대변인 Thomas Regnier가 말했습니다.

위원회는 이전에 Grok의 불법적이고 끔찍한 행동을 비난한 바 있습니다.

Grok은 소셜 미디어 플랫폼에 질문을 할 수 있는 X 사용자에게 무료로 사용할 수 있습니다. 자신이 직접 작성한 게시물이나 다른 사용자의 게시물에 대한 답글에 태그를 지정할 수 있습니다.

이 기능은 2023년에 출시되었습니다. 지난 여름 회사는 성인용 콘텐츠를 만들 수 있는 소위 ‘매운 모드’가 포함된 이미지 생성 기능인 Grok Imagine을 추가했습니다.

문제는 머스크가 경쟁사를 더 많은 보안 조치로 대체하기 위해 챗봇을 홍보했고, 그로킨의 이미지가 공개되고 쉽게 확산된다는 사실로 인해 더욱 악화되었습니다.

머스크는 이전에 Grok을 사용하여 불법 콘텐츠를 만드는 사람은 누구나 불법 콘텐츠를 업로드하는 것과 동일한 결과에 직면하게 될 것이라고 주장했습니다.

X는 아동 성적 학대를 포함한 불법 콘텐츠에 대해 ‘삭제, 계정 영구 정지, 필요에 따라 지방 정부 및 법 집행 기관과 협력’하는 등의 조치를 취할 것이라고 말했습니다.