X는 Grok AI 콘텐츠의 오류를 인정하고 인도 법률을 준수할 것을 약속합니다.

마이크로블로깅 사이트 X는 IT부가 Grok AI의 음란물 문제에 대해 Elon Musk가 주도하는 소셜 미디어 플랫폼에 경고한 후 자신의 실수를 인정하고 인도 법률을 준수하겠다고 밝혔습니다. 이는 2026년 1월 X가 Grok의 이미지 생성 및 편집 기능을 무료 사용자에게만 제한하고, 주로 유료 구독자에게만 기능을 제공하고, 실제 사람의 사실적인 누드 이미지를 생성하는 도구에 대한 반발에 따른 조치입니다.

소식통에 따르면 약 3,500개의 콘텐츠가 차단되었으며 600개 이상의 계정이 삭제되었습니다. 논란의 중심에는 이미지를 빠르게 생성할 수 있는 도구인 ‘그록 이매진(Grok Imagine)’이 있다. X는 자신의 실수를 인정하고 인도 법률을 준수하겠다고 밝혔으며 앞으로 플랫폼에서는 음란한 이미지를 허용하지 않을 것이라고 소식통은 말했습니다.

다른 관할권의 규제 기관도 로비 활동을 하고 있습니다. 2026년 1월, 유럽 위원회는 X에게 디지털 서비스법에 따라 Grok과 관련된 문서를 보존하라고 명령했으며, 영국 장관들은 플랫폼에 책임을 묻기 위해 온라인 안전법을 사용하는 것을 고려했습니다.

앞서 정부는 플랫폼에서 보낸 답변이 미흡하자 X에게 그록 AI와 연계된 음란물에 대한 구체적인 조치와 향후 재발 방지 대책 등 세부사항을 요구한 바 있다. IT부는 원래 2026년 1월 2일 인도에 본사를 둔 X 관계자에게 플랫폼 수준 보호 장치의 실패를 언급하면서 72시간 이내에 시정 조치 보고서를 요청하는 공지를 발행했습니다.

첫 번째 경고가 내려진 후 X는 오해의 소지가 있는 게시물과 합의되지 않은 성적인 이미지와 관련된 게시물에 대해 준수하는 엄격한 콘텐츠 게시 중단 정책을 설명했습니다. 그러나 X는 초기 대응이 불충분하다고 판단된 후 보다 포괄적인 조치 보고서를 제출하기 위해 2026년 1월 초까지 기한을 연장했습니다.

답변은 길고 상세했지만, Grok AI의 음란 콘텐츠 문제에 대해 취한 리콜 세부 사항과 구체적인 조치, 향후 이를 방지하기 위한 조치 등 주요 정보가 ‘누락’되었습니다. 정부의 확고한 입장은 Sahyog 포털에 대한 X의 이의를 기각하고 IT 규칙의 긴급 시행을 위해 행정 채널을 사용할 수 있는 국가의 능력을 확인한 2025년 Karnataka 고등 법원 판결을 포함한 법적 판례에 의해 뒷받침됩니다.

1월 2일, IT부는 ‘Grok’ 및 기타 도구와 같은 AI 기반 서비스의 오용을 통해 음란하고 성적으로 노골적인 콘텐츠가 생성되고 있다고 X에게 엄중 경고했습니다. 이번 조사는 저작권이 있는 콘텐츠에 대한 AI 시스템 교육을 위한 강제 라이센스를 고려하는 산업 진흥 및 내부 무역부의 2025년 말 연구 보고서를 포함하여 더 광범위한 정책 작업 중에 이루어졌습니다.

지난 일요일 X의 ‘보안’ 담당자는 CSAM(아동 성적 학대 자료)을 포함한 자사 플랫폼의 불법 콘텐츠에 대해 삭제, 계정 영구 정지, 필요에 따라 지방 정부 및 법 집행 기관과 협력하는 등의 조치를 취한다고 밝혔습니다.

X는 불법 콘텐츠에 대한 머스크의 입장을 반영하면서 “그록에게 불법 콘텐츠 제작을 사용하거나 요청하는 사람은 누구나 불법 콘텐츠를 업로드한 것과 동일한 결과를 겪게 될 것”이라고 말했다. 머스크는 AI 도구가 중립적이라고 주장하며 고의로 불법 자료를 제작한 사용자는 그에 따른 결과를 감수해야 한다고 주장했다.

(PTI 티켓 소지 시)