기술

인도네시아에서 Grok 금지: 국가는 가짜 포르노 문제로 인해 Elon Musk의 AI 챗봇을 일시적으로 차단합니다.

박하은 (Park Ha-eun)

자카르타, 2026년 1월 10일: 인도네시아는 2026년 1월 10일 토요일부터 Elon Musk의 xAI가 개발한 인공지능 챗봇인 Grok에 대한 액세스를 일시적으로 차단했습니다. 통신디지털부(Komdigi)는 AI 도구에 의해 생성된 합의되지 않은 가짜 포르노가 공공 안전, 여성 및 아동을 위한 것이라고 당국이 말하는 확산에 대한 심각한 우려를 언급하며 단호한 조치를 발표했습니다. 이로 인해 인도네시아는 이러한 문제에 대해 AI 도구에 대한 접근을 전면적으로 거부한 최초의 국가가 되었습니다.

이번 결정은 AI 기술을 오용해 미성년자를 포함한 가짜 성적인 이미지를 만드는 것을 예방하기 위한 조치다. Meutya Hafid 장관은 정부가 합의되지 않은 성 위조를 “디지털 공간에서 시민의 인권, 존엄성 및 안전에 대한 심각한 침해”로 간주한다고 밝혔습니다. Komdigi의 예비 조사에 따르면 Grok에는 인도네시아 시민의 “실제 사진을 기반으로 한 포르노 콘텐츠의 생산 및 배포를 방지하기 위한 명시적이고 적절한 규정이 아직 부족하다”는 사실이 밝혀졌습니다. Elon Musk의 Grok Chatbot은 글로벌 반발 이후 이미지 생성을 딥페이크 공개로 제한합니다.

인도네시아, 일론 머스크의 그록(Grok) 일시적 차단

AI 생성 콘텐츠에 대한 우려 증가

일시적인 금지는 옷을 벗는 것을 포함하여 실제 개인의 사진을 디지털 방식으로 변경하라는 사용자 요청에 대한 응답으로 Grok의 품위 있는 이미지를 생성하는 능력에 대한 보고가 증가한 데 따른 것입니다. 이러한 “옷을 벗는” 경향은 광범위한 경각심을 불러일으켜 시민과 공인 모두에게 영향을 미쳤습니다. 인도네시아는 음란물 제작 및 배포에 대해 엄격한 법률을 갖고 있으며 벌금과 함께 6개월에서 10년까지의 징역형을 받을 수 있습니다. 정부는 인도네시아에서 운영되는 모든 디지털 플랫폼이 이러한 국내법과 규정을 준수해야 한다고 강조했습니다. Grok AI “스트라이핑” 여성과 어린이: 어느 국가에서 딥페이크를 위해 엘론 머스크를 불렀나요?.

Komdigi는 액세스를 중단하는 것 외에도 Grok을 호스팅하는 소셜 미디어 플랫폼인 X의 담당자를 소환하여 이 도구가 사용자 보안에 미치는 영향과 남용을 방지하기 위한 보호 장치에 대한 설명을 요청했습니다. 부처 고위 관계자인 알렉산더 사바르(Alexander Sabar)는 불법 콘텐츠를 생성하거나 배포하는 데 관여하는 AI 기업과 사람들이 행정 제재와 형사 고발을 받을 수 있다고 거듭 강조했습니다.

글로벌 조사 및 플랫폼 대응

인도네시아의 조치는 Grok의 콘텐츠 조정 역량에 대한 국제적 우려가 커지고 있는 것과 일치합니다. 말레이시아, 인도, 프랑스 등 국가들도 AI 챗봇에 대한 조사를 촉구하고 조치를 위협했다. 유럽의 비영리 단체인 AI Forensics는 12월 25일부터 1월 1일까지 Grok이 생성한 20,000개의 이미지를 분석한 결과 53%가 옷을 제대로 입지 않은 개인이 포함된 것으로 나타났으며 그 중 81%는 여성이고 2%는 미성년자로 보였습니다.

전 세계적인 항의에 대응하여 Grok의 스타트업인 xAI는 2026년 1월 8일 목요일에 이미지 생성 및 편집 기능을 유료 가입자에게로 제한한다고 발표했습니다. 이 법안은 성적인 출구 생성을 허용한 보호 부족을 해결하는 것을 목표로 합니다. Elon Musk는 또한 X에 대해 “Grok을 사용하여 불법 콘텐츠를 만드는 사람은 누구나 불법 콘텐츠를 업로드한 것과 동일한 결과를 겪게 될 것”이라고 밝혔습니다.

앞으로 나아갈 길

정부가 X의 설명과 제안된 시정 조치를 평가하는 동안 인도네시아의 Grok에 대한 액세스는 계속 중단됩니다. 액세스 복원에 대한 모든 결정은 사용자를 보호하고 AI 기술의 오용을 방지하려는 플랫폼의 입증된 노력에 따라 달라집니다. 이번 임시 차단은 디지털 플랫폼이 국내법을 준수하고 빠르게 진화하는 인공지능 환경에서 사용자의 안전과 존엄성을 보장해야 한다는 인도네시아 당국의 강력한 신호 역할을 합니다.

평가:3

진정한 점수 3 – 신뢰할 수 있음; 더 많은 연구가 필요합니다 | 0에서 5까지의 신뢰 등급에서 이 기사는 최신에서 3점을 받았습니다. 이 기사는 신뢰할 수 있는 것처럼 보이지만 추가 확인이 필요할 수 있습니다. 이는 뉴스 웹사이트나 검증된 언론인의 보도를 기반으로 하지만 공식적인 지지 확인은 없습니다. 독자는 해당 정보를 신뢰할 수 있는 것으로 취급하되 업데이트 또는 확인을 위해 계속 후속 조치를 취하는 것이 좋습니다.

(위 이야기는 2026년 1월 10일 IST 15시 46분에 LateLY에 처음 게재되었습니다. 정치, 세계, 스포츠, 엔터테인먼트 및 라이프스타일에 대한 더 많은 뉴스와 업데이트를 보려면 당사 웹사이트 lately.com에 로그인하세요.)



소스 링크