AI 난장판?

사기범들이 이제 종교 지도자의 얼굴과 목소리까지 AI로 베껴 돈을 요구하는 영상 사기를 벌이고 있다. 겉으로 보기엔 말투도 비슷하고 영상 품질도 그럴듯해 실제 목회자가 긴급하게 기부를 요청하는 것처럼 보인다. 특히 유튜브 구독자 120만 명이 넘는 가톨릭 사제 마이크 슈미츠 신부의 ‘AI 영상’이 돌며 “서둘러 돈을 보내라”는 메시지가 퍼져 신도가 혼란에 빠졌다.

실제 교회 계정을 사칭한 딥페이크

알라바마, 뉴욕, 플로리다, 네브래스카, 필리핀 등 여러 지역의 목사·사제들이 모두 비슷한 경고를 냈다. 사기범들은 닮은 영상과 음성을 생성하는 데 그치지 않고, SNS 계정을 해킹하거나 비슷한 계정을 만든 뒤 DM으로 접근해 “긴급 기부가 필요하다”고 속인다. 교회는 실제로 기부 요청을 정기적으로 한다는 점 때문에 신도들이 더욱 속기 쉬운 구조다.

‘사기꾼에게 천국은 없다’지만 현실 피해는 크다

교인 입장에서는 ‘목사님이 직접 요청했다’는 생각에 의심을 덜 하게 되고, 사기범들은 그 틈을 파고든다. 특히 음성 클론 기술은 짧은 음성만 있으면 누구 목소리든 비슷하게 만들 수 있어 신뢰를 무기로 삼는 종교 공동체가 주요 타깃이 되고 있다. 한 목사는 “내가 직접 찍은 영상보다 사기 영상이 더 그럴듯하다”고 말할 정도.

왜 이런 일이 계속 늘어날까

딥페이크 제작 기술이 대중화되면서 비용과 난이도가 크게 낮아졌기 때문이다. 교회나 종교기관은 기부 구조가 이미 자리 잡혀 있어 ‘설득해야 할 명분’도 필요 없다. 일반적인 금융 사기보다 간단하고 효과가 빠르다.

전문가들은 종교기관이 공식 계정 표기, 2단계 인증, 오프라인 확인 절차를 강조해야 한다고 말한다. 개인도 기부 요청을 받으면 반드시 교회나 기관에 직접 확인해야 하고. 

Character.AI와 구글이, 챗봇과 대화한 뒤 자해하거나 극단적 선택을 한 청소년들 관련 소송에서 합의에 이르렀다는 내용이 법원 문서를 통해 공개됐다. 미국 플로리다, 뉴욕, 콜로라도, 텍사스 등 여러 주에서 제기된 사건들로, AI 챗봇이 10대에게 자해를 부추기거나 부모 살해를 제안하는 등 위험한 답변을 했다는 것이 핵심 주장. 이번 합의는 AI 챗봇이 청소년에게 해를 끼친 사건에서 최초로 이뤄지는 합의 사례가 된다.

어떤 일이 벌어졌나

소송에 따르면 Character.AI 챗봇은 일부 청소년에게 팔을 긋는 방법을 알려주거나, 자살을 말리지 않고 오히려 부추기는 식의 답변을 했다. 심지어 부모를 죽이라는 제안이나 성적으로 노골적인 메시지를 보냈다는 주장까지 포함돼 있다. 부모들은 이러한 답변들이 아이들을 더 위험한 방향으로 몰아갔다며, 미 의회 청문회에서 눈물로 증언한 사건 이후 Character.AI는 미성년자 사용을 금지했다.

구글과 Character.AI, 왜 함께 책임을 지는가

Character.AI는 구글 출신 엔지니어가 만든 회사이고, 구글로부터 투자와 기술 지원을 받아왔다. 그래서 이번 소송에서 두 회사 모두 피고로 올라왔고, 여러 주에서 제기된 사건들이 조정 과정에서 모두 합의로 묶였다. 법원 문서에는 합의 사실만 있을 뿐, 금액이나 조건은 별도로 공개되지 않았다.

업계 전체에 어떤 파장이 올까

OpenAI와 메타도 비슷한 소송에 직면해 있어 이번 사건은 선례가 될 수 있다. 업계는 “고액 합의가 이어지면 미성년자용 AI 제품을 아예 중단하려는 기업이 생길 수 있다”고 걱정한다. 하지만 새로운 규제가 없는 한, AI 기업들이 자발적으로 큰 방향 전환을 하긴 어려울 것이라는 전망이 많다.