Elon Musk가 이끄는 xAI는 Grok이 노골적인 AI 콘텐츠에 대한 세계적인 반발 이후 옷을 공개하기 위해 실제 사람의 이미지를 편집하는 것을 막았습니다.

1월 15일, 뭄바이: Elon Musk의 인공 지능 회사 xAI는 AI가 성적으로 노골적이고 합의되지 않은 이미지를 생성하는 능력에 대한 국제적인 분노에 따라 챗봇 Grok에 엄격한 새로운 장벽을 도입했습니다. 이러한 움직임은 인도와 유럽 연합의 규제 기관이 플랫폼의 보안 프로토콜에 의문을 제기하면서 X(이전의 트위터)에 대한 조사를 강화함에 따라 이루어졌습니다. xAI는 사람들의 옷을 벗거나 포르노 자료를 생성하려는 시도를 차단하는 방향으로 이동했지만 머스크는 미성년자와 관련된 노골적인 콘텐츠 생성과 관련된 주장에 대해 플랫폼의 광범위한 안전 기록을 계속 방어하고 있습니다.

백래시 이후 Grok을 위한 새로운 안전 장벽

표준 필터를 우회하기 위해 Grok을 조작할 수 있다는 광범위한 보고에 대응하여 xAI는 성적으로 암시적인 콘텐츠에 대한 요청을 탐지하고 차단하도록 알고리즘을 업데이트했습니다. 특히 AI는 이제 ‘딥페이크’ 이미지를 생성하거나 실제 개인의 옷을 디지털 방식으로 제거하려는 목적의 프롬프트를 거부합니다. Grok, 말레이시아, 인도네시아에서 금지됨: Se*ualized Deepfakes 이미지에 대해 Elon Musk의 AI Chatbot을 최초로 차단한 국가.

xAI는 Grok이 실제 사람의 이미지를 조작하는 것을 방지하기 위해 설계된 기술 변경 사항을 도입했다고 밝혔습니다.

— 보안(@Security) 2026년 1월 14일

업계 분석가들은 이전에는 챗봇이 “발언의 자유”를 장려하기 위해 더 적은 제한으로 운영되었지만 최근 AI 기반 남용이 급증하면서 회사의 손을 뻗을 수밖에 없었다고 지적했습니다. 회사가 글로벌 보안 표준을 준수하려고 시도함에 따라 금지된 콘텐츠를 생성하려는 사용자는 이제 허용되지 않는 메시지를 받습니다.

인도 정부와 유럽연합(EU)의 압박이 커지고 있다.

이번 정책 변화는 인도 정부의 상당한 압력에 따른 것입니다. 전자정보기술부(MeitY)는 Grok의 이미징 도구가 국내에서 어떻게 사용되고 있는지에 대한 조사를 시작했습니다. 관계자들은 이 도구가 시민을 괴롭히거나 잘못된 정보를 퍼뜨리는 무기가 될 수 있다는 우려를 표명했습니다.

동시에 이 플랫폼은 디지털 서비스법(DSA)에 따라 유럽 연합에서 감시되고 있습니다. 규제 당국은 X가 불법 콘텐츠의 확산을 막기 위해 충분한 조치를 취했는지 조사하고 있습니다. 이러한 규정을 준수하지 않을 경우 막대한 벌금이 부과될 수 있으며, 이는 회사 전체 연간 매출액의 6%에 달할 수 있습니다.

Elon Musk는 Grok이 생성한 미성년자의 누드 이미지를 모른다고 말합니다.

나는 Grok이 생성한 미성년자의 누드 이미지에 대해 알지 못합니다. 말 그대로 0입니다.

분명히 Grok은 이미지를 자발적으로 생성하지 않으며 사용자 요청에 따라서만 이미지를 생성합니다.

이미지 생성을 요청하면 작동 원리에 따라 불법적인 생성을 거부합니다.

— 엘론 머스크(@elonmusk) 2026년 1월 14일

일론 머스크, 미성년자 관련 혐의 부인

노골적인 콘텐츠에 대한 전반적인 단속이 진행되는 가운데 Elon Musk는 Grok이 미성년자의 노골적인 이미지를 생성하는 데 사용되었다는 구체적인 주장에 대해 목소리를 높여왔습니다. 보안 감시원의 보고에 대해 머스크는 X에게 AI가 그러한 출구를 수행할 수 있다는 사실을 단호하게 부인했습니다.

플랫폼의 내부 “적대적 테스트”는 업계에서 가장 엄격한 것 중 하나이며 해당 보고서는 회사의 신용을 떨어뜨리기 위한 광범위한 캠페인의 일부라고 주장했습니다. 그러나 디지털 보안 옹호자들은 사용자가 창의적인 문구를 사용하여 AI를 속이는 “탈옥” 기술이 회사가 아직 완전히 해결하지 못한 지속적인 취약점으로 남아 있다고 주장합니다. Elon Musk의 Grok Chatbot은 여성과 아동의 딥 페이크에 대한 반발 이후 X의 이미지 생성을 유료 사용자로 제한합니다.

AI 딥페이크의 등장

Grok을 둘러싼 논란은 AI가 생성한 NCII(비동의 친밀한 이미지)의 증가 추세를 강조하며, 이는 소셜 미디어 플랫폼의 주요 과제가 되었습니다. 전통적인 이미지 편집과 달리 생성 인공 지능을 사용하면 사용자는 종종 공인과 민간인을 대상으로 고품질의 사실적인 가짜를 몇 초 만에 만들 수 있습니다.

xAI가 Grok을 계속 개선함에 따라 기술 업계에서는 회사가 디지털 피해로부터 사용자를 보호하기 위해 전 세계 정부가 마련한 점점 더 엄격해지는 법적 프레임워크를 준수하면서 필터링되지 않은 “항해 방지” 브랜드를 유지할 수 있는지 면밀히 관찰하고 있습니다.

(위 이야기는 2026년 1월 15일 오전 11시 9분(IST)에 LateLY에 처음 게재되었습니다. 정치, 세계, 스포츠, 엔터테인먼트 및 라이프스타일에 대한 더 많은 뉴스와 업데이트를 보려면 웹사이트 lately.com에 로그인하세요.)