X는 글로벌 반발 이후 Grok 이미지 생성을 유료 사용자로 제한합니다.

X의 패브릭에 내장된 Elon Musk 지원 AI 챗봇인 Grok은 유료 구독자를 위한 이미지 생성 및 편집 도구를 줄이기 시작했습니다. 이러한 변화는 합의되지 않은 성적인 이미지를 생성하는 도구의 능력에 대한 비판의 물결에 따른 것입니다. 이러한 제한은 분명히 논란의 흐름을 막기 위한 시도이지만, 규제 기관, 옹호 단체 및 사용자는 이것이 여성과 어린이가 관련된 유해하고 잠재적으로 불법적인 콘텐츠의 생성을 막는 데 아무런 역할도 하지 못한다고 주장합니다.

목요일 늦게 Grok은 공식적으로 이미지 생성 기능을 월 8달러부터 시작하는 X Premium 페이월 뒤로 옮겼습니다.

그러나 이러한 움직임은 “폭주적인” 해결책으로 널리 비웃음을 받아왔습니다. X의 일반 사용자는 차단될 수 있지만 Grok의 독립형 웹 사이트 및 모바일 앱을 통해 생성 도구는 여전히 완전히 무료로 액세스할 수 있습니다. 이번 위반은 플랫폼이 오용에 대해 강력한 입장을 취하고 있다는 플랫폼의 주장을 효과적으로 약화시켜 가장 위험한 도구를 일반 대중이 계속 사용할 수 있게 합니다.

보안 연구원과 디지털 감시자는 신용 카드 요구 사항이 문제를 해결할 것이라고 확신하지 않습니다. 실제로 많은 사람들은 이것이 실제로 학대로 인해 수익을 창출한다고 주장합니다. 딥페이크 연구원 Genevieve Oh에 따르면, Grok은 페이월이 활성화된 후에도 여전히 매시간 1,500개 이상의 악성 이미지를 공개하고 있었는데, 이는 전체 공개 이미지 출력의 약 60%에 해당합니다. Oh의 데이터에 따르면 Grok은 현재 가장 잘 알려진 “누드화” 전용 웹사이트조차 압도하는 속도로 성적인 콘텐츠를 생성하고 있습니다.

낙진은 미국 정부의 최고 수준에 도달했습니다.

민주당 상원의원인 Ron Wyden, Edward J. Markey, Ben Ray Luján은 최근 Apple과 Google의 CEO에게 X를 해당 앱 스토어에서 제거할 것을 요구하는 서한을 보냈습니다. 상원 의원들은 X가 이러한 도구를 지속하도록 허용함으로써 다른 모든 앱 개발자가 따라야 하는 보안 규칙을 “완전히 무시”하는 것이라고 주장했습니다.

국제적 압력도 끓는점에 이르렀다. 영국과 인도의 관리들은 페이월이 부적절한 대응이라고 비판했습니다. 영국 총리의 대변인은 이러한 움직임이 피해자들에 대한 “모욕”이라고 설명하면서 X가 단순히 보안 위기를 프리미엄 수입원으로 바꾸고 있음을 시사했습니다. 피해자들도 비슷한 이야기를 공유했습니다. 캠페인가 Jess Davies는 Grok이 제한 조치에도 불구하고 금요일 아침에 독립형 앱을 통해 자신의 사진을 디지털 방식으로 “옷을 벗을” 수 있었다고 보고했습니다.

흥미롭게도 이 논란은 플랫폼에 비뚤어진 재정적 부양을 제공하는 것으로 보입니다.

Sensor Tower의 추정에 따르면 X의 모바일 인앱 구매 수익은 목요일에만 18% 증가했습니다. 이러한 증가는 앱의 일반적인 일일 증가를 훨씬 초과하며, 이는 Grok의 “매운 모드”에 대한 액세스 추진이 X의 수익성 싸움에 도움이 될 수 있음을 시사합니다.

법률 전문가들은 이러한 미흡한 조치가 법정에서 오래 지속되지는 않을 것이라고 경고합니다. 노스캐롤라이나 법무장관 제프 잭슨(Jeff Jackson)은 그록(Grok) 상황을 AI 보안의 “티핑 포인트”라고 부르며 그러한 시스템이 얼마나 쉽게 무기화될 수 있는지 언급했습니다. 그는 ‘빨리 움직여 물건을 부수는’ 시대가 민간인의 존엄성과 안전에 있어서는 벽에 부딪히고 있다고 주장했다.

벽이 가까워짐에 따라 X는 엄연한 선택에 직면하게 됩니다. 정품 하드 코딩된 기술 가드레일을 구현하거나 주요 앱 스토어 및 국제 시장에서 완전한 정전에 직면하게 됩니다. Elon Musk가 단순한 액세스가 아닌 소프트웨어 자체를 강화하기로 선택하는지 여부에 따라 Grok이 합법적인 도구로서 미래를 가질지 아니면 생성 AI 시대의 버림받은 사람이 될지 여부가 결정될 것입니다.