이같은 현상을 이해하려면 섀도우AI의 변화를 먼저 들여다봐야 합니다. 불과 1, 2년전까지만 해도 기업 보안팀의 가장 큰 고민은 ‘데이터 유출’이었습니다. 임직원들이 보고서 작성이나 데이터 분석을 위해 회사의 대외비 문서나 고객 정보, 핵심 소스 코드를 챗GPT 같은 AI 대화창에 무심코 붙여넣는 행위였죠. 실제로 기업의 내부 회계자료를 붙여넣고 분석해달라거나, 향후 전략을 담은 파일을 올리고 아이디어를 달라고 물어보는 경우가 종종 있었습니다. 그만큼 AI가 일목요연하게 분석을 잘 해줬기 때문이기도 했죠. 문제는 이 자료들이 ‘대외비’라는데 있었습니다.
결국 사내 정보가 AI 학습 데이터로 활용되거나 외부로 유출되는 것을 막기 위해 대기업들은 사내망에서 AI 접속을 차단하는 방식으로 대응에 나섰습니다. 섀도우 AI 코드는 정반대입니다. 정보가 나가는 것이 아니라 정체 불명의 위험이 회사 내부로 들어올 수 있는 인프라가 만들어졌기 때문이죠.
패러다임을 바꾼 것은 커서나 깃허브, 코파일럿 워크스페이스 같은 자율형 코딩 에이전트의 대중화입니다. 개발자는 물론이고 코딩을 모르는 기획자들까지 AI에 의도만 전달하면 순식간에 복잡한 데이터베이스 연동 대시보드나 결제 시스템 기능을 만들 수 있습니다. 문제는 이렇게 생성된 수천, 수만 줄의 코드가 회사의 정식 보안 검수나 시니어 개발자의 코드 리뷰를 거치지 않은 채 기업의 메인 시스템에 그대로 도입된다는 것이죠. 단지 편리하다는 이유 때문입니다.
더 큰 문제는 이 틈을 노리는 사람들이 있다는 것입니다. 최근엔 사람만이 아니라 AI까지 가세하기 시작했죠. 올해 앤스로픽이 공개한 차세대 AI 모델 ‘미토스’ 논란이 이를 잘 보여줍니다. 앤스로픽의 테스트 결과 미토스는 전문가들이 수십년 간 발견하지 못한 운영체제와 브라우저의 보안 취약점을 순식간에 찾아냈습니다. 더 나아가 이를 파고드는 공격 코드까지 자율적으로 만들어냈죠.
최근 미국 상무부는 안보 리스크를 이유로 이 모델(미토스5·페이블5)의 외국인 접근 배포를 전면 중단했다가 최근 앤스로픽과의 합의를 통해 수출통제를 전격 해제하고 서비스를 복구하기로 공지했습니다. 일반용인 페이블5의 전 세계 접근을 복구하고 미토스5 역시 일부 신뢰 기관을 중심으로 재배포를 허용한 것이죠. 편리하다는 이유로 사용한 ‘섀도우 AI 코드’가 만든 취약점이 미토스와 같은 AI의 공격 앞에 무방비로 노출될 수 있는 고속도로를 만들어 준 셈입니다.
