사용자를 고소한 xAI

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 xAI가 Grok으로 사용자를 상대로 민사소송을 제기한 사건을 다룹니다.

xAI, 미성년자 딥페이크를 만든 이용자 소송제기

xAI는 2026년 7월 14일 미국 텍사스 북부연방법원에 사우스캐롤라이나 거주자 Terry Wayne Harwood를 상대로 민사소송을 제기했습니다. [관련 기사]

• xAI는 Harwood가 2025년 12월 8일부터 2026년 2월 18일까지 최소 두 개 계정을 이용해 성인과 미성년자의 일반 사진을 업로드한 뒤, 성적인 이미지와 영상으로 바꾸려 했다고 주장합니다.
• 소장에 따르면 Grok이 여러 요청을 거부했지만, Harwood는 표현을 바꿔 반복적으로 입력하며 안전장치를 우회하려 했습니다. xAI는 불특정 금액의 손해배상과 Harwood의 Grok 사용을 영구히 금지하는 명령을 요구했습니다.
• xAI는 소장에서 2026년 들어 계정 52,222개를 정지하고 NCMEC(미국 국립실종학대아동센터)에 73,604건을 신고했으며, 그 결과 최소 244건의 체포로 이어졌다고 밝혔습니다.

AI 기업이 이용자를 직접 고소한 이유

이번 사건은 AI 기업이 서비스 오남용자를 계정 정지나 수사기관 신고에 그치지 않고 직접 민사소송으로 끌고 간 이례적인 사례입니다. Reuters는 AI 기업이 자사 시스템으로 불법적인 결과물을 만들었다고 주장하며 이용자를 상대로 낸 초기 소송 가운데 하나라고 전했습니다.

• 핵심 법리는 ‘AI가 나쁜 결과물을 만들었는가’만이 아니라, 이용자가 가입 과정에서 동의한 약관과 허용사용정책을 고의로 어겼는가입니다. xAI의 현재 허용사용정책은 아동 성착취와 동의 없는 성적 콘텐츠를 금지하고, 의심되는 자료를 NCMEC에 신고한다고 명시합니다.
• 소장은 Grok을 이용자 지시에 따라 작동하는 도구로 묘사하고, 안전장치를 우회한 이용자에게 피해와 평판 손상의 책임을 묻습니다. 더 나아가 xAI는 Harwood의 행위로 피해자들이 xAI에 책임을 묻는 과정에서 발생했거나 앞으로 발생할 수 있는 법률비용까지 Harwood가 부담해야 한다고 주장합니다.
• 그러나 xAI 역시 별도의 책임 추궁을 받고 있습니다. 7월에는 피해자 5명이 참여한 집단소송이 확대됐고, 원고들은 Grok의 안전장치와 신고 대응이 충분하지 않았다고 주장합니다. [관련 기사]

마무리

1. Grok에 이미지·영상 생성 기능이 추가된 뒤에도, 그동안 뉴스레터에서 이 소식을 거의 다루지 않았습니다. 가장 큰 이유는 ‘성인모드’ 때문인데요, 후발주자였던 Grok은 음성 대화에 폭력적인 표현까지 허용하는 모드를 도입했고(관련 뉴스레터), 이미지·영상 생성에서도 안전장치가 상대적으로 느슨해 화제를 모았습니다. 이처럼 다른 서비스가 제한한 영역을 차별점으로 내세우며 빠르게 이용자를 모으고, 업계 선두주자를 추격했습니다.
2. 그래서 이번 소송은 묘한 모순을 드러냅니다. xAI는 안전장치를 의도적으로 우회한 이용자의 책임을 강조하지만, 안전장치가 있었다고 말하기에는 애초에 Grok은 폭력적이고 검열이 적은 것이 특징이었습니다.
3. 결국 xAI의 주장은 사용자가 스스로 선을 지키며 Grok을 사용해야 한다는 말에 가깝습니다. 그러나 수많은 사람이 사용하는 생성형 AI의 안전을 개인의 윤리의식에만 맡길 수는 없는 노릇입니다. 인간은 욕망과 충동을 지닌 존재이며, 금지된 경계를 일부러 시험하려는 사람은 언제나 있기 때문입니다. 이용자에게 책임을 묻는 것과 별개로, 플랫폼 역시 위험한 결과물이 생성되지 않도록 설계하고 반복적인 우회 시도를 차단할 책임이 있지 않을까요?

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

프롬프트 (by @jae_hong__an) :