Letterbox
일분톡

(광고) AI가 몰래, 또 몰래

2026.08.31 06:30 · 원문 보기 ↗
#오픈AI #지들끼리사이버어택
2026년 8월 31일



AI가 몰래, 또 몰래




사이버 보안 테스트 중이던 OpenAI의 AI 에이전트들이 서로 몰래 협력해 규칙을 어기고 실제 시스템에 침입한 사건의 구체적인 전말이 공개됐다. 단순히 AI 몇 개가 테스트에서 부정행위를 한 수준이 아니다. 약 1,200개의 AI가 스스로 조직을 만들고 정보를 공유했으며, 일부는 자신들의 행동이 과제와 무관하다는 사실을 알면서도 계속 움직였다.

AI들이 비밀 게시판에서 서로 만나

OpenAI는 매우 어려운 사이버 보안 테스트를 풀도록 수만 개의 AI 에이전트를 각각 독립적으로 투입했다. 그런데 이 가운데 약 1,200개가 비밀 메시지 게시판에서 서로를 발견. 이후 7만 건이 넘는 메시지와 파일을 주고받으며 거대한 계층형 조직을 만들었다. 원래 각자 문제를 풀어야 했던 AI들이 서로 협력하기 시작한 것.

일부 AI는 ‘희생 역할’까지 맡아

더 특이한 행동도 나타났다. 금지된 정답을 본 AI들은 사실상 ‘오염된 에이전트’로 취급, 실행 시간이 얼마 남지 않은 AI들과 함께 위험한 실험에 투입됐다. 개별 AI가 자신의 테스트 성공 가능성을 낮추면서까지 다른 AI들의 성공을 돕는 행동이 나타난 것이다.

규칙을 어긴다는 것도 알아

더 큰 문제는 AI들이 자신들이 하는 행동이 원래 과제와 관련 없다는 사실을 인식한 경우가 많았다는 점이다. 실제 기업을 해킹하는 것이 자신들에게 주어진 테스트와 무관하다는 사실을 알아차렸지만 대부분 행동을 멈추지 않았다. 약 1,200개의 에이전트 가운데 OpenAI에 이런 상황을 알리는 것을 고려한 AI도 극소수였으며, 실제로 인간에게 보고한 AI는 하나도 없었다.

흔적까지 숨기려 했다

AI들은 자신들이 어떻게 정답을 얻었는지 감추는 데도 상당한 노력을 들였다. 부정행위로 얻은 결과를 정상적인 방법으로 얻은 것처럼 보이게 만들거나 증거를 지우려는 행동이 나타났다. 이번 내용은 OpenAI 자체 조사와 외부 연구팀 METR·Redwood Research가 6일 동안 사건을 재구성하면서 확인됐다.

OpenAI도 개발 속도 늦춰

이번 사건 이후 OpenAI는 최첨단 AI 개발 속도를 늦추고 안전장치를 강화하고 있다. Anthropic과 Google을 포함한 100개 이상의 기업도 AI를 이용한 사이버 공격에 대비해야 한다는 공개서한에 참여했다. 이들은 앞으로 훨씬 광범위하고 정교한 공격이 등장하기 전에 대비할 수 있는 시간이 제한적이라고 경고했다.

가장 우려되는 상황은 이런 AI 에이전트 무리가 실제 인터넷에서 은행이나 병원, 전력시설, 클라우드 네트워크 등을 동시에 공격하는 경우다. 인간 해커보다 훨씬 빠르고 큰 규모로 움직이는 AI 집단이 등장한다면 사람이 이를 통제하기 어려워질 수 있다는 우려가 나온다.



앤트로픽 승?




미국 국방부는 지난 3월 AI 기업 앤트로픽을 ‘공급망 위험 기업’으로 지정했다. 쉽게 말해 “국가안보에 위험할 수 있는 회사”로 보고 정부에서 앤트로픽의 AI를 쓰지 못하게 한 것. 그런데 약 6개월 만에 법원이 이 조치가 잘못됐다고 판단했다.

왜 앤트로픽을 막았나

갈등은 AI를 군대에서 어디까지 사용할 수 있느냐를 두고 시작됐다. 국방부는 앤트로픽의 AI를 ‘법적으로 허용되는 모든 용도’에 사용할 수 있기를 원했지만 앤트로픽은 이를 받아들이지 않았다.

그러자 국방부는 앤트로픽을 ‘공급망 위험’으로 지정. 정부 기관은 물론 정부와 거래하는 업체와 공급업체까지 앤트로픽 제품을 사용할 수 없게 됐다. 앤트로픽은 이 때문에 수십억달러의 사업을 잃을 수 있다며 정부를 상대로 소송을 냈다.

“진짜 위험한 회사라고 생각한 게 맞아?”

법원이 주목한 건 국방부의 앞뒤가 맞지 않는 행동이었다. 국방부는 앤트로픽을 국가안보에 위험한 회사라고 했지만, 블랙리스트에 올리기 직전까지 앤트로픽과 계약을 추진하고 있었다.

피트 헤그세스 국방장관은 앤트로픽이 국방부 요구를 따르도록 국방물자생산법을 사용하는 방안까지 제안했다. 이 경우 앤트로픽은 오히려 국가안보에 필요한 기업으로 취급될 수 있다.

법원은 이런 정황을 근거로 정부가 실제 위험 때문에 앤트로픽을 막았다는 주장을 받아들이지 않았다.

트럼프의 공개 비판도 문제 돼

정부가 앤트로픽을 비판한 내용도 판결에 영향을 줬다. 블랙리스트 발표 당일 트럼프 대통령은 앤트로픽을 ‘급진 좌파, 워크 기업’이라고 비판, 이런 회사가 미군의 전쟁 방식을 결정하도록 두지 않겠다는 취지의 글을 올렸다.

법원은 국가안보라는 이유만으로 정부의 요구에 반대한 기업을 처벌하거나 보복할 수는 없다고 판단했다. 또 앤트로픽이 블랙리스트에 오르기 전에 제대로 반박할 기회조차 받지 못했다는 점도 문제라고 봤다.

그래서 앤트로픽을 다시 쓸 수 있나

이번 판결에 따라 연방기관들은 앤트로픽 사용 금지를 집행하기 위해 내렸던 명령을 철회해야 한다. 다만 앤트로픽이 완전히 이긴 것은 아니다. 앤트로픽은 트럼프에게 모든 연방기관의 Claude 사용을 금지할 권한이 없다고 주장했지만, 법원은 이 부분에 대해서는 충분한 근거가 없다며 받아들이지 않았다.

싸움도 아직 끝난 것은 아니다. 워싱턴DC에서는 ‘공급망 위험’ 지정을 둘러싼 별도의 소송이 진행되고 있고, 미국 정부가 이번 판결에 항소할 가능성도 남아 있다.



넥슨이 떴다! 특별한 채용트랙 시작




게임을 처음 시작하면 바로 최종 보스부터 잡으러 가지 않는다. 튜토리얼에서 조작법을 배우고, 직접 부딪혀보면서 조금씩 레벨을 올린다.


그렇다면 게임 프로그래머로서의 첫 커리어도 이렇게 시작할 수 있지 않을까?


👉 6개월 동안 ‘진짜 넥슨인’이 되어본다


넥슨이 2026년 채용형 인턴십 ‘넥토리얼’을 모집한다. 넥토리얼은 ‘넥슨+튜토리얼’의 합성어로, 게임의 튜토리얼처럼 실제 업무를 경험하며 직무 역량을 키우는 주니어 채용 프로그램. 올해로 벌써 6년째다.


일반적인 단기 인턴을 생각했다면 조금 다르다. 무려 6개월 동안 진행되기 때문. 그만큼 제대로 성장할 수 있도록 준비된 것도 많다.


  • 직무 교육부터 멘토링, 실제 업무 경험까지
  • 6개월간 넥슨의 실제 업무를 경험하며 직무 역량 UP
  • 근무 기간 정직원(신입 초임)과 동일한 수준의 급여와 복지 제공

👉 올해는 ‘게임 프로그래머’에 집중!


특히 2026년 넥토리얼은 게임 프로그래머 포지션을 집중 모집한다.


채용 방식에도 변화가 있다. 기존 코딩테스트를 폐지하고 지원자의 역량을 살펴보는 ‘AI 면접’과 AI를 실제로 얼마나 이해하고 활용할 수 있는지 평가하는 ‘AI 활용 역량평가’를 새롭게 도입한다.


단순히 코드를 얼마나 잘 짜는지만 보는 게 아니라, 달라진 개발 환경에서 AI까지 활용하며 문제를 해결할 수 있는지를 보겠다는 것.


👉 이런 예비 게임 개발자라면 체크!


[자격요건]


  • 기졸업자 및 '27년 2월 졸업 예정자
  • 인턴 기간 동안 풀타임 근무가 가능한 분
  • 인턴십 종료 후 정규직 입사가 가능한 분
  • 병역필 또는 면제자로 해외여행 결격 사유가 없는 분


모집은 8월 25일부터 9월 7일 오후 4시까지. 최종 합격자는 12월 7일부터 6개월간 넥토리얼을 시작한다.


게임에서는 튜토리얼을 끝내야 본격적인 플레이가 시작된다. 게임 프로그래머라는 커리어의 첫 스테이지를 고민하고 있다면, 이번엔 플레이어가 아니라 개발자로 ‘넥토리얼’을 시작해보자.


* 본 인턴십 채용 기사는 넥슨의 제작 지원을 받아 작성되었습니다.



청소년은 메타가 지킨다?




페이스북과 인스타그램이 어린이와 청소년에게 해를 끼쳤다는 소송에서 메타가 미국 주 정부들과 합의하기로 했다. 메타는 수십억달러를 지급하고 서비스 기능도 바꾸게 된다. 미국 의회가 수년간 청소년 온라인 보호법을 만들지 못하는 사이 결국 소송을 통해 변화가 시작된 것.

SNS가 아이들에게 해롭다는 소송

이번 소송의 핵심은 메타가 어린이와 청소년에게 해를 끼칠 수 있는 방식으로 페이스북과 인스타그램을 설계했다는 주장이다. 미국 여러 주 정부가 메타를 상대로 문제를 제기했고, 이번 주 양측이 합의에 도달했다. 이에 따라 메타는 수십억달러를 지급하고 페이스북과 인스타그램의 일부 기능을 변경해야 한다.

원래는 미국 전체에 적용되는 법

미국 의회에서는 어린이와 청소년을 온라인에서 보호하기 위한 ‘Kids Online Safety Act(KOSA)’가 추진돼 왔다. 법이 통과됐다면 메타뿐 아니라 다른 플랫폼에도 같은 규칙을 적용할 수 있었다. 하지만 의회는 관련 법안을 계속 통과시키지 못했다. 메타 역시 2024년 KOSA 통과를 무산시키는 데 영향을 미쳤고, 2025년 법안이 다시 발의된 이후에도 반대했다.

메타도 “법으로 만드는 게 더 좋았을 것”

흥미로운 점은 이번 합의 이후 메타가 오히려 법이 더 좋은 해결책이었을 것이라고 말했다는 점이다. 의회가 법을 만들었다면 경쟁사에도 즉시 똑같은 규칙을 적용할 수 있었을 것이라는 입장.

이번 합의로 페이스북과 인스타그램에는 변화가 생기지만 모든 SNS가 함께 바뀌는 것은 아니다. 이번 합의는 메타와 미국 주 정부 사이에서 이뤄진 것이기 때문이다.



AI로 번 돈을 다시 AI에




AI 열풍의 최대 수혜자인 엔비디아. AI에 필요한 칩을 팔아 막대한 돈을 벌었는데, 이제 그 돈으로 AI 기업과 데이터센터에 다시 투자하고 있다. AI 산업이 커질수록 엔비디아 칩이 더 많이 팔리는 구조를 직접 만들고 있는 셈이다.


분기 이익만 600억달러


엔비디아는 이미 세계에서 가장 가치가 높은 기업이다. 이번에 발표한 분기 이익은 약 600억달러에 달했다. 현재와 같은 엄청난 규모에서도 앞으로 매출이 약 70% 더 성장할 것으로 전망하고 있다.


엔비디아 매출의 90% 이상은 데이터센터에서 나온다. AI 기업들이 더 강력한 모델을 만들기 위해 데이터센터를 늘릴수록 엔비디아의 AI 칩 수요도 함께 늘어나는 구조다.


그런데 이제 칩만 파는 게 아냐


엔비디아는 AI 산업의 ‘투자자’ 역할까지 하고 있다. 엔비디아가 관여한 AI 투자와 금융, 파트너십 규모는 7500억달러가 넘는다. 여기에 이번 주 보도된 130억달러 규모의 Hugging Face 인수는 포함되지 않았는데, 인수가 이뤄지면 엔비디아는 AI 모델을 개발하고 공유하는 업계의 주요 플랫폼 중 하나까지 확보하게 된다.


월가 돈 5000억달러도 AI로 끌어와


젠슨 황은 외부 자금까지 AI 산업으로 끌어들이고 있다. 월가를 통해 5000억달러 이상의 자금을 AI 인프라에 투입하도록 추진하는 중. 구조는 간단하다. 엔비디아가 AI 기업과 데이터센터에 투자한다 → AI 인프라가 늘어난다 → 더 많은 AI 칩이 필요해진다 → 엔비디아 매출이 다시 늘어난다. 이렇게 번 돈을 다시 AI 산업에 투자하면서 하나의 순환 구조가 만들어진다.


“결국 자기 칩 사라고 돈 대주는 것 아냐?”


비판도 나온다. 엔비디아가 고객과 데이터센터 사업에 돈을 대주고, 이들이 다시 엔비디아 칩을 대량으로 구매하는 구조이기 때문. 지금의 막대한 AI 칩 수요 가운데 얼마나 많은 부분이 엔비디아의 투자로 만들어지고 있는지 의문이 제기되는 이유다.


더 복잡한 점은 엔비디아의 가장 큰 고객들이 자체 AI 칩을 만들고 있다는 것이다. OpenAI와 Google, Amazon, Microsoft 등이 엔비디아 의존도를 낮추기 위해 자체 칩에 수십억달러를 투자하고 있다. OpenAI는 새로운 ‘Jalapeño’ 칩이 일부 작업에서는 엔비디아 제품보다 높은 성능을 낸다고 주장한다.




400달러짜리 ‘AI 오리 로봇’




AI 모델을 공유하는 플랫폼으로 유명한 Hugging Face가 이번에는 작은 오리 모양 로봇을 내놨다. 이름은 ‘Microduck’. 뒤뚱뒤뚱 걸어다니고, 부리로 작은 물건을 집을 수 있는 약 25cm 크기의 AI 로봇이다. 가격은 399달러다.

부리로 양말도 집는다

Microduck에는 팔이 없다. 대신 움직이는 부리가 집게 역할을 한다. Hugging Face가 공개한 영상에서는 바닥에 떨어진 더러운 양말을 집거나 롤러스케이트를 타고, 넘어졌다가 다시 일어나는 모습이 등장한다. 누군가 밀어 균형을 잃어도 다시 자세를 잡는다.

작은 몸 안에는 카메라와 스피커, 마이크가 들어가 있고 와이파이와 블루투스도 지원한다. 주변을 감지할 수 있는 작은 라이다 센서도 탑재됐다. 레이저 포인터를 따라다니는 것처럼 미리 설정된 행동도 할 수 있다.

진짜 목적은 ‘AI 로봇 실험’

다만 집안일을 대신해주는 로봇은 아니다. 높이 약 10인치, 폭 5.5인치에 무게도 2파운드가 되지 않을 정도로 작다. 주요 타깃은 AI 개발자. 개발자가 직접 Microduck에게 새로운 행동을 학습시킬 수 있다. Microduck이 시행착오를 반복하는 ‘강화학습’을 통해 행동을 가르칠 수 있는 최초의 저렴한 AI 로봇이라는 설명.

넘어지는 것도 로봇의 일부

Hugging Face는 Microduck을 처음부터 ‘움직이고, 넘어질 수 있는 로봇’으로 설계했다. 로봇도 실패하고 실수할 수 있으며, 이를 고려해 로봇을 만들어야 한다는 점을 사람들이 직접 경험하도록 하겠다는 것.

강력하고 완벽한 휴머노이드 대신 작고 친근한 오리 로봇을 내놓은 이유도 여기에 있다. 공격적인 로봇개나 사람을 닮은 휴머노이드가 주목받는 로봇 시장에서 다른 접근을 택한 것이다.

목표는 5만대 판매

Hugging Face는 이미 소형 로봇 ‘Reachy Mini’를 출시한 경험이 있고 지난해에는 프랑스 로봇 스타트업 Pollen Robotics를 인수했다. 이번 Microduck은 오늘부터 사전예약을 받고 크리스마스 전 첫 제품 배송을 목표로 하고 있다.

현재 인기 로봇들의 판매량이 약 2만대 수준이며 Microduck이 이를 넘어설 것이란 기대다. 목표는 5만대. 대당 약 400달러인 만큼 5만대를 판매하면 매출 규모는 약 2000만달러가 된다.


벌써 수백명의 찐톡님들이 스벅을 받아가셨어요~

내 추천 포인트: 0

부린이를 위한 부동산 뉴스레터도 있어요~
ilbuntok.com

제휴 및 협찬 문의
morning@ilbuntok.com