MeitY, Grok 및 책임 있는 AI에 대한 질문

안전하고 신뢰할 수 있는 인터넷에 대한 인도의 탐구와 인공 지능(AI)의 영향 사이의 긴장은 X 플랫폼에 내장된 AI 챗봇인 Grok를 놓고 전자 정보 기술부(MeitY)와 X Corp(이전 Twitter) 간의 충돌 이후 2026년 초에 더욱 날카로워졌습니다.

이 에피소드는 이 도구가 취약한 집단을 포함하는 합의되지 않은 성적인 콘텐츠와 기타 형태의 합성 미디어를 생성 및 전파하는 데 사용되었다는 주장으로 인해 촉발된 것으로 알려졌으며, 이로 인해 전통적으로 제3자 콘텐츠에 대한 플랫폼의 책임을 제한해왔던 면책 보호 조치에 대한 새로운 조사가 촉발되었습니다.

1월 2일, MeitY는 인도에 있는 X 관계자에게 Grok을 오용하여 외설적이고 합의되지 않은 이미지를 생성한 사실을 언급하면서 72시간 이내에 시정 조치 보고서를 요청하는 통지문을 발행했습니다.

교육부는 플랫폼이 플랫폼 수준의 보호 장치에 실패했으며 불법 자료를 제거하도록 명령했다고 밝혔습니다.

이것이 왜 중요합니까?

첫째, 생성 AI 시스템이 유해한 자료를 생성할 때 법적 책임은 누구에게 있습니까? 즉, 시스템을 구동한 사람 또는 이를 제공하고 배포하는 회사입니다. 둘째, 공개 소스에 생성 모델을 포함하는 플랫폼을 사용자 콘텐츠만 호스팅하는 일반 중개자와 동일한 방식으로 취급해야 하는지 여부입니다. 셋째, 정부가 기업이 사후 조정에 의존하기보다는 모델 아키텍처에 보안을 구축하도록 강제할 수 있거나 강제해야 하는 정도입니다.

정밀 조사를 요구하는 콘텐츠

보고서에 따르면 사용자는 Grok에게 동의 없이 실제 인물의 성적인 이미지를 생성하도록 요청할 수 있었으며 일부 결과에서는 최소한의 옷을 입은 미성년자가 묘사되었다고 합니다. 이러한 보고서는 국회의원과 규제 기관의 불만을 불러일으켰고 다른 관할권에서도 관심을 끌었습니다.

xAI와 Elon Musk의 대응 방식

xAI는 보호 장치의 공백을 인정하고 이를 방지하기 위해 필터를 개선하고 있다고 말했습니다. 동시에 Elon Musk와 플랫폼 관련 다른 사람들은 도구가 중립적이며 의도적으로 불법 자료를 생산하는 사용자는 결과에 직면해야 한다고 주장했습니다.

한 게시물에 대해 머스크는 “불법 콘텐츠를 만들기 위해 Grok을 사용하는 사람은 누구나 불법 콘텐츠를 업로드한 것과 동일한 결과를 겪게 될 것”이라고 썼습니다.

법적 및 규제적 맥락

온라인 중개자에 대한 인도의 책임 제도는 2000년 정보 기술법과 2021년 IT 규칙에 의해 규정됩니다. 이러한 규칙은 주요 소셜 미디어 중개자가 사전 실사 의무를 이행하고 주정부가 게시 중단 또는 차단 지침을 발행할 수 있도록 허용하도록 요구합니다. IT법 제79조는 전통적으로 특정 절차에 따라 중개인에게 면책 보호를 제공했습니다.

관련 최근 소송

현재 분쟁은 인도와 X 사이의 오랜 분쟁을 더욱 가중시킵니다. 중개인이 게시 중단 요청을 받을 수 있는 Sahyog 포털이 출시된 후 X는 Karnataka 고등 법원에서 포털에 이의를 제기했으며 포털이 초법적 검열에 해당한다는 주장을 거부하는 2025년 판결에서 패했습니다.

법원의 결정은 IT 규정에 따라 긴급 집행을 위해 행정 채널을 사용할 수 있는 국가의 능력을 확인시켜 주었으며, 이는 그로크(Grok) 논란과 같은 상황에서 정부의 영향력을 강화합니다.

광범위한 정책 변경

이 에피소드는 AI 및 저작권에 대한 인도의 광범위한 정책 작업과 일치합니다. 산업 및 국내 무역 진흥부(DPIIT)는 2025년 말에 저작권이 있는 콘텐츠에 대해 AI 시스템을 교육하기 위한 필수 일반 라이센스 또는 저작권 집단을 명시적으로 고려하는 작업 보고서를 발표했습니다.

이 제안이 실행되면 기업은 교육에 사용되는 데이터 범주를 공개하고 생성 시스템을 출시할 때 잠재적으로 중앙 풀에 비용을 지불해야 합니다. 이러한 규칙은 인도 내에서 그리고 인도를 위한 모델 구축의 경제성을 변화시킬 것입니다.

업계 관행의 차이점

대형 모델 공급업체는 설계에 따른 안전에 대해 자주 이야기합니다. 이는 개발 주기에 필터와 레드팀을 구축하고, 충돌 테스트를 실행하여 모델이 어떻게 유해한 결과로 변환될 수 있는지 알아내고, 신뢰할 수 있는 팀과 빠른 대응 보안을 유지하는 것을 의미합니다. 주요 AI 모델 제공업체는 완벽한 시스템은 없지만 여러 가지 기술 및 조직적 완화를 강조합니다.

인도 정부의 입장은 재방송과 바이러스 피해의 위험이 더 크기 때문에 모델을 공공 소셜 피드와 통합할 때 플랫폼이 더 발전해야 한다는 것입니다.

다음은 뭐야?

즉각적인 증거는 MeitY가 72시간 이내에 작성한 조치 보고서입니다(1월 5일 월요일 만료). 장기적으로 사람들은 규제 대응을 지켜볼 것입니다.

인도가 제안한 AI 거버넌스 스택의 모듈이 구속력 있는 법이 되는지, DPIIT 제안이 법적 저작권 체제가 되는지, 실제로 면책 조항을 철회하는 선례가 나오는지 여부입니다.