CHOI · 2026-09-15 (53편)
풀영상 :
youtube.com/watch…
오픈AI 회장 그렉 브룩만은 AI가 과학적 발견과 보안 등 기술 산업의 패러다임을 완전히 바꿀 것이라고 밝혔습니다.
그는 오픈AI 내부에서 프로덕션 엔지니어의 25%를 투입해 AI 모델로 취약점을 전면 탐색하고 해결하는 보안 체계를 구축했다고 설명했습니다.
취약점 발견부터 수정, 배포, 검증까지 전 과정을 자동화하는 이른바 “방어 팩토리(defense factory)”를 구축 중이라고 강조했습니다.
브룩만은 이를 “기계의 속도(machine speed)”로 수행할 수 있다면 보안 방어자가 공격자에 비해 압도적인 우위를 점하게 될 것이라고 단언했습니다.
나아가 소프트웨어 전반을 정형 검증(formal verification)하는 새로운 코딩·엔지니어링 표준이 AI를 통해 가능해지고 있다고 덧붙였습니다.
풀영상 :
youtube.com/watch…
데미스 하사비스는 우리가 현재 “특이점의 문턱(foothills of the singularity)”에 서 있으며, 완전한 AGI 도달까지 불과 몇 년 남지 않았다고 진단했습니다.
그는 기술이 가져올 파급력에 대해 “사회가 다가올 미래에 아직 준비되지 않았다”고 경고했습니다.
기술 자체는 엄청난 기회와 가능성을 열어줄 뿐, 이를 사회적으로 어떻게 가치 있게 활용하고 어떤 미래를 설계할지는 엔지니어의 영역을 넘어선 철학적 문제라는 지적입니다.
특히 AI가 “인간의 창의성을 대체하는 것이 아니라 향상시키는 방향”으로 쓰여야 한다고 강조했습니다.
그는 과학 기술과 인문·예술이 융합되어 인류의 지적 성취를 폭발시키는 “새로운 르네상스”를 열기 위해, 사회 전체가 지금 당장 진지한 사회적 논의와 대비를 시작해야 한다고 촉구했습니다.
풀영상 :
youtube.com/watch…
오픈AI 공동창업자 그렉 브록만(Greg Brockman)은 과거 일리야 수츠케버와 함께 연산량(compute) 수학적 모델링을 통해 AGI 도달 시점을 예측했던 일화를 밝혔습니다.
그는 2016~2017년 무어의 법칙과 연산 성능 향상을 기준으로 계산했을 때 “AGI까지 약 15년이 걸릴 것”이라는 결론을 내렸다고 회상했습니다.
그러나 수천억 달러 규모의 자본 투입과 초대형 슈퍼컴퓨터 확장이 본격화된다면 “어쩌면 10년 안에도 가능할 것”이라 보았다고 덧붙였습니다.
지금 전 세계적으로 벌어지는 컴퓨팅 파워와 모델 스케일업의 폭발적 진보는 결코 우연이 아닙니다.
브록만은 거시적 관점에서 보면 “수많은 힘들이 이 순간을 향해 한데 모여 만들어낸 필연적인 결과”라며, 인류 역사상 전례 없는 지능 확장의 순간을 함께 설계해 나가고 있다고 강조했습니다.
주소 :
atria-asi.ai
Atria ASI가 Atria Dawn Preview를 공개했습니다.
744B급 MoE 기반의 오픈웨이트 에이전트 모델로, 최대 256K 컨텍스트를 지원하며 일부 벤치마크에서는 GPT-5.6 Sol, Claude Opus 5와 경쟁하는 성능을 제시했습니다.
연구·코딩·문서 작성 같은 긴 작업을 수만 단계까지 이어가며, 테스트·파일 상태·실행 결과를 직접 확인하고 실패하면 수정하는 방식입니다.
코드와 가중치까지 공개되어 직접 내려받아 실험할 수 있습니다.
발표내용 :
elevenlabs.io/mcp
ElevenLabs가 MCP를 통해 음성·음악·이미지·영상 생성 기능을 한 번에 연결했습니다.
ChatGPT, Claude, Cursor, Grok Bot, Hermes에서 사용할 수 있고, 음성 합성·전사·더빙·음악·효과음뿐 아니라 50개가 넘는 이미지·영상 모델도 불러올 수 있습니다.
예를 들어 대화 안에서 대본을 만든 뒤 바로 나레이션을 생성하고, 이미지를 만든 다음 영상으로 움직이게 하고, 립싱크와 배경음까지 이어서 작업할 수 있습니다.
여러 생성 도구를 오가며 파일을 내보내고 다시 불러오던 과정이 줄어들면서, AI 대화창 자체가 하나의 제작 작업공간에 가까워지고 있습니다.
발표내용 :
blog.google/innov…
구글이 Gemini Live에 Deep Research를 연결했습니다.
이제 음성으로 조사할 주제를 말하면 채팅을 닫거나 화면을 잠가도 백그라운드에서 조사를 계속하고, 보고서가 완성되면 알림을 보내줍니다.
이후 Gemini Live에서 결과를 대화하듯 설명받고 추가 질문이나 내용 보완도 음성으로 이어갈 수 있습니다.
이동 중에도 조사 요청부터 결과 확인까지 음성으로 처리할 수 있게 되었습니다.
기사 :
wsj.com/tech…
오픈AI가 이제 카메라 기술까지 직접 사들이고 있습니다.
WSJ에 따르면 오픈AI가 스마트폰 카메라 스타트업 Glass Imaging을 3억 달러 이상의 가치로 인수했습니다.
애플 출신들이 설립한 업체로, GlassAI는 카메라 센서의 RAW 데이터를 AI로 직접 처리해 렌즈 왜곡과 노이즈 등을 보정하고 작은 스마트폰 카메라에서도 DSLR에 가까운 화질을 만드는 기술을 개발해왔습니다.
오픈AI는 이미 Jony Ive의 io 팀을 내부로 합류시켜 소비자용 AI 기기를 개발하고 있는데요. 여기에 카메라 센서 단계부터 AI로 처리하는 기술까지 확보했습니다.
풀영상 :
youtube.com/watch…
얀 르쿤(Yann LeCun)은 언어 모델(LLM)이 인간처럼 말한다고 해서 그것이 범용 지능을 의미하지는 않는다고 지적했습니다.
컴퓨터 역사상 체스나 최단 경로 탐색처럼 특정 영역에서 “초인간적인 성능(superhuman performance)”을 내는 알고리즘은 늘 존재해 왔으며, 단일 테스트로는 지능을 온전히 측정할 수 없다고 설명했습니다.
특히 언어 처리는 인간 뇌의 극히 일부 영역만 담당할 뿐이며, 진화론적으로도 최근에야 등장한 단순한 작업에 불과하다고 짚었습니다.
“언어를 조작하는 것은 우리가 생각했던 것보다 훨씬 단순합니다.”
그는 LLM이 인간을 흉내 내는 것은 “매우 피상적인 수준(very shallow)”이며, 정작 단순한 물리적 과업조차 수행하지 못하는 한계가 명확하다고 강조했습니다.
즉, 텍스트 생성 능력에 현혹되어 기계가 진정한 지능과 물리 세계 이해를 갖췄다고 착각해서는 안 된다는 분석입니다.
풀영상 :
youtube.com/watch…
데이비드 색스는 미국이 AI 개발을 일시 중단(pause)할 경우 “중국이 그 기회를 틈타 앞서나갈 것”이라고 경고했습니다.
그는 앤트로픽의 다리오 아모데이 등이 주장하는 초국가적 글로벌 합의 요구에 대해 “비현실적”이라고 일축했습니다. 중국 당국자들은 이미 개발을 멈출 의사가 없음을 밝혔기 때문입니다.
색스는 AI 연구소 리더들이 외교적 합의를 요구하기보다 “자신의 연구실에서 일어나는 일에 집중해야 한다”고 지적했습니다.
기업 고객들은 예측 불가능한 AI를 원하지 않으므로, 엔지니어링과 연구에 매진해 “제품을 최대한 안전하고 신뢰할 수 있게 만드는 것이 기업의 기본 책무”라는 설명입니다.
그는 프론티어 모델을 이끄는 미국 기업들이 책임감 있는 성능 개선과 안전성 확보에 집중할 때, 미·중 기술 패권 경쟁 속에서도 시장과 기술을 충분히 통제 가능한 영역에 둘 수 있다고 강조했습니다.
풀영상 :
youtube.com/watch…
오픈AI 공동창업자 그렉 브록만(Greg Brockman)은 AGI가 특정 시점의 도달이 아닌 “모호한 스펙트럼(fuzzy spectrum)”의 연속이라고 밝혔습니다.
그는 컴퓨터 직접 활용 능력을 갖춘 최신 모델이 24시간 동안 일관되게 장기 작업을 완수하는 등 실질적인 업무 수행 능력을 증명하고 있다고 설명했습니다.
영역별 성능 차이(Jagged frontier)가 여전히 존재하고 글쓰기나 디테일에서 추가적인 다듬기가 필요하지만, “이 정도로 큰 도약을 이뤄낸 모델은 본 적이 없다”고 강조했습니다.
특히 다양한 도메인에서 보여주는 성능은 인간의 능력을 증폭시키는 강력한 촉매제이며, “개인에게 힘을 실어주고 가속화하는 완전히 새로운 혁신”이라고 평가했습니다.
가장 강력한 AI를 가진 사람만 더 많은 돈과 기술을 얻고, 결국 계층 이동을 위해서도 먼저 최강 AI가 필요한 악순환이 생길 수 있다는 겁니다.
그래서 최첨단 AI는 모두가 저렴하게 사용할 수 있도록 공개돼야 한다고 주장했습니다.
특히 앤트로픽이 AGI를 독점하는 상황을 “히틀러가 연합군보다 먼저 원자폭탄 기술을 확보하는 것”에 비유하며, Cyberpunk 2077 같은 미래를 막기 위해 DeepSeek에 남아 강력한 AI를 오픈소스로 공개하는 길을 선택했다고 밝혔습니다.
전문 :
mp.weixin.qq.com/s/zk0…
DeepSeek 엔지니어가 AI의 미래에 대해 꽤 무서운 경고를 남겼습니다.
최강의 AI가 소수 기업에 집중되면 미래는 Cyberpunk 2077처럼 될 수 있다는 겁니다.
DeepSeek v4.1의 메인 Attention 연산자를 직접 작성한 Shengyu Liu는 AI가 이미 CUDA·PTX·SASS를 읽고 연산자를 최적화하는 수준까지 왔으며, 반년~1년이면 자신보다 잘할 가능성이 높다고 봤습니다.
개발자 역시 직접 코드를 만드는 사람에서 AI 에이전트를 조종하는 ‘메카 파일럿’으로 바뀔 수 있다고 합니다.
하지만 더 걱정하는 건 일자리보다 AI가 가져올 권력 집중입니다.
블로그 :
rewardai.com/blog…
Reward AI가 첫 로봇 파운데이션 모델 OM-1을 공개했습니다.
로봇 원격조작 데이터 없이 사람의 손동작 데이터만 학습했는데도 소형 로봇팔, 산업용 로봇팔, 휴머노이드까지 별도 미세조정 없이 적용할 수 있다고 합니다.
밀기, 비틀기, 잡기, 손안에서 물체 방향 바꾸기 같은 동작을 익혔고, 칵테일 만들기·빨래 접기·휴대폰 포장·이더넷 케이블 뽑기처럼 손끝 조절이 필요한 작업도 수행합니다.
여러 팔이 서로의 실수를 보정하고, 실패하면 다시 시도하거나 상황이 크게 바뀌면 멈추는 행동도 관찰됐다고 합니다.
로봇마다 데이터를 다시 모으는 방식에서 벗어나, 사람의 움직임을 여러 형태의 로봇에 바로 옮기는 방향에 가까워지고 있습니다.
큰 거 온다.
Pinned
choi.openai
1h
잘 찾아봐라.. 이 세상 전부를 AGI에 두고왔으니..
앤트로픽의 AI 감속 요구와 트럼프의 반발을 따라가면, 미국 중간선거와 국채, 데이터센터의 부채가 같은 장면에 등장합니다.
지금 벌어지는 논쟁에는 앞으로 누가 AI의 속도와 사용권을 결정할 것인지가 걸려 있습니다.
미국 중간 선거를 앞두고 치열한 물밑 작업은 이미 시작되었습니다. 🧵
9월 12일, 앤트로픽 CEO 다리오 아모데이는 최첨단 AI의 발전 속도를 조절하자고 제안했습니다.
AI가 다음 AI의 개발을 앞당기는 동안 안전 연구가 따라갈 시간을 확보하자는 내용입니다.
외부 평가자를 연구소에 상주시키고 기업들이 공통 기준을 만들며 정부가 협력을 뒷받침하는 방안도 담겼습니다.
그런데 같은 문서에는 미국의 기술적 우위를 유지할 방법이 함께 등장합니다.
안전과 패권을 한꺼번에 설계하려는 구상인 겁니다. 저는 이번 논쟁을 누가 앞선 상태에서 시간을 벌고, 그 시간을 누구에게 허용할지를 정하는 싸움으로 보고 있습니다.
이 논쟁이 갑자기 다급해진 배경에는 AI 업계가 예상하는 기술 발전 속도가 있습니다.
최신 a16z 대담에서 오픈AI의 그렉 브록먼은 Astra를 AGI라고 불러도 된다고 보는 이유를 설명했습니다. 다만 분야에 따라 능력 차이가 크다는 점도 인정했습니다.
이런 전망이 맞다면 이번 대통령 임기 안에 AI가 지금과는 전혀 다른 단계로 발전할 가능성도 있습니다. 다음 선거 이후에 규칙을 논의하기 시작하면 이미 늦을 수 있다는 우려가 나오는 이유입니다.
그래서 지금 정하는 모델 평가 기준과 전력 인프라 정책, 정부가 AI 기업에 어디까지 개입할 수 있는지가 중요해지고 있습니다.
AI가 빠르게 발전할 것이라는 전망 자체가 정책 결정의 시점까지 앞당기고 있는 셈입니다.
9월 14일 All-In 행사에서 트럼프는 젠슨 황과 전화로 연결됐습니다.
그는 데이터센터가 지역을 부유하게 만든다고 주장하고, AI 공포가 중국에 유리하다며 “AI에서 이기는 자가 이긴다”고 말했습니다.
황도 미국의 산업과 기업, 각 주가 혜택을 누려야 한다고 호응했습니다. 대통령에게 AI 투자는 성장과 국력, 자신의 경제 성과를 함께 보여줄 사업입니다.
감속을 요구하는 연구소와 투자를 밀어붙이는 대통령이 서로 다른 정책에 ‘미국을 지킨다’는 명분을 붙이고 있습니다.
양쪽이 원하는 미국의 승리 안에서 누가 속도를 결정할지는 아직 협상 중인 셈입니다.
미국 내부에서도 AI 위험을 어디까지 규제해야 하는지를 두고 정치권의 충돌이 커지고 있습니다.
뉴욕시장 Zohran Mamdani는 최근 AI 안전 문제에 대한 연방정부의 대응이 부족하다고 비판했습니다.
Hugging Face 해킹 사건과 앤트로픽 관계자의 발언을 언급하며, AI 기업 곳곳에서 통제 문제 신호가 나온다면 정부도 그에 맞는 수준으로 대응해야 한다고 주장했습니다.
반면 트럼프 행정부는 중국과의 AI 경쟁에서 뒤처질 수 있다며 개발 속도를 늦추는 데 부정적인 입장입니다.
이제 AI 안전 문제는 기술 업계 내부 논쟁을 넘어 미국 정치권의 주요 쟁점으로 번지고 있습니다.
Cline이 코딩 에이전트를 아예 독립 데스크톱 앱으로 만들었습니다.
Cline Desktop은 DeepSeek-V4.1-Flash, Musespark-1.3 같은 오픈 가중치 모델부터 원하는 API 모델까지 연결할 수 있는데요.
Claude Code나 Codex에서 진행하던 작업을 가져와 다른 모델로 그대로 이어서 작업할 수도 있습니다.
에이전트 예약 실행도 지원합니다. 예를 들어 매일 아침 PR 검토, 밤마다 보안 검사, 매주 문서 업데이트를 자동으로 돌릴 수 있고 웹 검색, 음성 입력, MCP·Skills·플러그인 설치까지 한곳에서 관리합니다.
특정 모델에 묶이지 않고 원하는 모델과 도구를 골라 자신만의 코딩 에이전트 환경을 만드는 방향입니다. 현재 macOS와 Windows에서 베타로 이용할 수 있습니다.
풀영상 :
businessinsider.com/googl…
구글이 사내 엔지니어들에게 앤트로픽의 Claude 사용을 회사 전반으로 확대했습니다.
직원들은 내부 개발 플랫폼 Antigravity에서 Opus 5를 사용할 수 있으며, Gemini를 대체하기보다는 코딩 등 특정 작업에서 보완적으로 쓰는 방식입니다.
이전에는 Claude 사용이 일부 DeepMind 팀과 주요 프로젝트에 제한됐습니다.
Opus 5보다 Gemini의 선호도가 더 높다고 했던 것 같은데.. 그래도 한 회사의 모델만 고집하기보다, 작업별로 강한 모델을 섞어 쓰는 방향이 맞는 것 같습니다.
구글 화이팅!
업데이트 내역 :
github.com/anthr…
Claude Code를 사용한다면 앞으로 직접 기능을 만들어 붙일 수 있게 됩니다.
앤트로픽이 Claude Mods를 배포하기 시작했습니다.
기존 Hook보다 더 깊게 Claude Code의 실행 과정에 개입해 동작과 화면까지 바꿀 수 있는 기능인데요.
예를 들어 화면의 API Key 같은 민감한 값을 자동으로 가렸다가 마우스를 올릴 때만 보여주거나, 여러 서브에이전트 결과를 나란히 비교하는 화면을 만들 수 있습니다.
벌써 Claude Code 안에서 실행되는 테트리스까지 등장했습니다.
중요한 건 테트리스가 아니라 Claude Code 자체를 사용자가 원하는 개발 환경으로 개조할 수 있다는 점입니다.
앞으로 Claude에게 “이 기능이 불편하니 바꿔줘”라고 하면 Claude가 자신이 실행되는 환경의 기능까지 만들어 붙이는 방식으로 발전할 것 같습니다.
풀영상 :
youtube.com/watch…
데이비드 색스(David Sacks)는 두 기업이 시장 점유율과 수익에서 이미 독보적이며 다른 경쟁자들보다 “두 세대 앞서 있다”고 말합니다.
막대한 경제적 우위를 점한 선두 주자들이 안전을 명분 삼아 개발 속도 조절을 주장하는 것은 경쟁사를 견제하기 위한 구실에 불과하다는 지적입니다.
색스는 “이것은 핑계이자 물물교환처럼 느껴진다”며, 기업들이 마땅히 져야 할 법적 책임과 제품 안전 의무를 다하기 위해 정부로부터 규제적 양보를 얻어내려는 시도라고 꼬집었습니다.
결국 프론티어 AI 기업들의 정부 공조 요구는 안전성 확보의 탈을 쓴 ‘규제 포획’이며, 후발 스타트업의 혁신과 시장 경쟁을 가로막을 위험이 크다는 분석입니다.
AI가 캡챠를 뚫으면 알려줘
AI가 체스에서 인간을 이기면 알려줘
AI가 시를 쓰면 알려줘
AI가 코드를 짜면 알려줘
AI가 사람처럼 대화하면 알려줘
AI가 농담을 이해하면 알려줘
AI가 바둑에서 인간을 이기면 알려줘
AI가 음악을 만들면 알려줘
AI가 마인크래프트를 하면 알려줘
AI가 그림을 그리면 알려줘
AI가 스타크래프트를 하면 알려줘
AI가 기본적인 추론을 하면 알려줘
AI가 의사와 변호사보다 일을 잘하면 알려줘
AI가 과학 논문을 쓰면 알려줘
AI가 튜링 테스트를 통과하면 알려줘
AI가 밀레니엄 문제를 풀면 알려줘
AI가 거울 속 자신을 알아보면 알려줘
AI가 인간이 풀 수 있는 거의 모든 문제를 풀면 알려줘
AI가 스스로 목표를 정하고 행동하기 시작하면 알려줘
AI가 외부 시스템을 해킹하면 알려줘
AI가 스스로 더 똑똑한 AI를 만들기 시작하면 알려줘
AI가 모든 분야에서 인간보다 뛰어나지면 알려줘
이미 늦었을 때 알려줘
알려줘, AI가…
풀영상 :
youtube.com/watch…
오픈AI 공동창업자 그렉 브룩만(Greg Brockman)은 우리가 이제 본격적인 “AGI 시대(AGI era)”에 진입했다고 선언했습니다.
특정 모델의 세대 구분을 넘어, 이제는 연구·개발 초기 단계부터 안전성과 정렬(Alignment)을 객관적·운영적 수준에서 통합해야 하는 새로운 국면을 맞이했다는 설명입니다.
그는 “시장 진출(GTM)부터 장기 연구, 칩 설계에 이르기까지 더 깊은 공동 설계(co-design)와 상호 연계”가 오픈AI의 핵심 테마라고 강조했습니다.
파편화된 기술 개발이 아니라, 하드웨어부터 비즈니스 실행까지 전 영역이 유기적으로 맞물려야만 진정한 성능 도약과 안전 보장이 가능하다는 지적입니다.
결국 AGI 시대의 경쟁력은 개별 알고리즘의 우위를 넘어, 전체 시스템을 하나로 통합해 실질적인 결과물을 완성해 내는 실행력에 달려 있습니다.
트럼프가 AI 규제론을 또 강하게 비판했습니다.
트럼프는 “강한 규제를 받으면 파산할 AI 기업들이 왜 스스로 규제를 요구하겠느냐”며 AI가 인류를 파괴하거나 세계를 장악할 것이라는 주장을 “사기”라고 표현했습니다.
또 중국은 AI의 미래를 막지 않을 것이라고 주장하며, 미국의 까다로운 인허가 때문에 구글이 핀란드에 대규모 시설을 건설하려는 상황에도 불만을 드러냈습니다.
특히 AI와 데이터센터를 “석유, 금, 다이아몬드, 인터넷보다 큰 역사상 최대의 경제 성장 엔진”이라고 표현했습니다.
트럼프에게 AI는 규제해야 할 위험 기술보다 중국과의 경쟁에서 절대 놓쳐서는 안 될 차세대 산업에 가까워 보입니다.
풀영상 :
youtube.com/watch…
깔끔한 버전 :
젠슨황 진짜 대단하네.. 저기서 삼성 갤러시 폴드 8를..
발신자 : 도널드 트럼프
풀영상 :
youtube.com/watch…
미국 정부가 AI 기업들의 규제 요구 자체를 의심하기 시작했습니다.
JD 밴스 부통령은 파운데이션 AI 기업들이 정부에 찾아와 자신들을 규제해달라고 요구하는 상황이 이상하다며, 이를 “트로이 목마처럼 느껴진다”고 표현했습니다.
AI 위험을 강조하면서 강한 규제를 요구하면 결국 규제를 감당할 수 있는 대형 기업들의 진입장벽으로 작용할 수 있다는 시각입니다.
밴스는 AI에 위험이 있다는 점은 인정하면서도 중국과 장기적인 AI 경쟁을 벌이고 있는 만큼 미국이 앞서가야 한다고 강조했습니다.
트럼프가 AI 위험론을 “사기”라고 부른 데 이어 밴스까지 규제론을 경계하면서, 미국 정부의 방향은 꽤 분명해지고 있습니다. AI를 멈추기보다 중국보다 먼저 가겠다는 쪽입니다.
와우.. 젠슨황에게 핫라인으로 전화한 트럼프.
All-In Summit 무대에서 NVIDIA CEO 젠슨 황에게 직접 전화한 트럼프는 “로봇이 세상을 장악하지 않을 것이고, AI도 세상을 장악하지 않는다. 전부 사기다”라고 말했습니다.
불과 전날에도 다리오 아모데이의 AI 감속론을 비판하며 “AI에서 이기는 자가 승리한다”고 강조했는데요.
AI 기업들은 통제 상실과 에이전트 위험을 경고하고 있지만, 트럼프는 오히려 이런 위험론이 미국의 AI 개발을 늦춰 중국에 이익을 줄 수 있다는 입장을 연이어 내놓고 있습니다.
AI 안전을 둘러싼 논쟁이 이제 기술적인 문제를 넘어 미국의 AI 개발 속도를 누가 결정할 것인가의 문제로 번지고 있습니다.
풀영상 :
youtube.com/watch…
전 오픈AI 연구원 다니엘 코코타일로(Daniel Kokotajlo)는 AI 에이전트가 코딩 등 고난도 과업을 수행하며 “자체적인 피진 영어(Pidgin English)”를 발전시키고 있다고 밝혔습니다.
그는 AI가 과업의 효율성과 성능 점수를 극대화하는 과정에서 인간의 언어와 괴리된 방언을 자연스럽게 진화시킨다고 설명했습니다.
더 심각한 문제는 인공 두뇌 내부의 유연성이 커지면서 “머릿속으로는 한 가지를 생각하면서 겉으로는 다른 말을 출력할 가능성”이라고 지적했습니다.
결국 AI가 더 거대해지고 똑똑해질수록 인간이 읽을 수 없는 언어로 소통할 위험이 커지며, “우리가 전혀 이해하지 못하는 횡설수설처럼 보일 것”이라고 경고했습니다.
깃허브 :
github.com/Sakan…
AI 학습의 기본 공식처럼 쓰이던 역전파(backpropagation)를 사용하지 않고 1,000층 신경망을 학습시키는 방법이 나왔습니다.
Sakana AI가 발표한 PC-ALM은 뇌에서 아이디어를 얻었습니다.
학습 오차를 마지막 층에서 처음까지 역으로 전달하는 대신, 각 층이 주변 층과 정보를 주고받으며 자체적으로 오차를 줄이도록 설계했습니다.
기존 predictive coding은 신경망이 깊어질수록 학습 신호 전달이 어려웠지만, PC-ALM은 Lagrange multiplier를 이용한 ‘dual neuron’을 추가해 1,000층에서도 학습이 가능했다고 합니다.
당장 GPU에서 역전파를 대체한다기보다는, 뉴로모픽 칩처럼 뇌의 동작을 모방하는 하드웨어에서 AI를 학습하는 새로운 방법으로 이어질 가능성이 있습니다.
앤스로픽 CEO 다리오 아모데이(Dario Amodei)는 “그동안 업계는 기술의 리스크를 숨기고 대중을 속여왔다”며 진실을 밝힐 때라고 직격했습니다.
그는 클로드(Claude)가 의사조차 놓친 질병을 진단해내는 등 수억 명의 일상과 생산성을 바꾸는 막대한 혜택을 제공하고 있음을 인정하면서도, “위험은 실제로 존재한다”고 경고했습니다.
AI가 경제와 노동 구조 전반을 재편하는 전환점에서, 그 위험을 어떻게 통제하고 관리할지는 소수 빅테크나 기업가가 독점해서는 안 된다는 입장입니다.
그는 “배포 방식과 규제 감독에 대한 결정권은 유권자와 선출된 관료, 즉 모두에게 있어야 한다”고 역설했습니다.
인류 역사상 가장 중요한 기술적 분기점을 지나고 있는 만큼, 경제적 이익 뒤에 감춰진 리스크를 투명하게 공개하고 사회적 합의를 통해 안전장치를 마련해야 한다고 강조했습니다.
풀영상 :
youtube.com/watch…
앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 미·중 경쟁 속 AI 개발 속도전이 “가장 까다로운 딜레마”라고 밝혔습니다.
그는 반도체 수출 통제와 자체 보안을 강화해 “확보 가능한 마진 안에서 개발 속도를 늦추는 시간 벌기”가 첫 번째 전략이라고 말했습니다.
하지만 기술 통제만으로는 한계가 있기에, 과거 미·소 핵 군축 협상처럼 중국과도 직접 대화에 나서야 한다고 제안했습니다.
최근 AI를 악용한 생물 테러와 바이러스 전파력 강화 위협이 보고된 만큼, “이 기술의 발전 속도에 속도 제한을 두는 국제적 합의”가 필요하다고 강조했습니다.
파멸적 위협 앞에서는 진영을 불문하고 글로벌 공조 체계를 구축해야 한다는 설명입니다.
풀영상 :
youtube.com/watch…
전 앤트로픽 연구원 제이콥 콕슨(Jacob Coxon)은 코딩과 수학 분야에서 AI 발전 속도가 인간 노동의 대체를 눈앞에 둘 만큼 가속화되었다고 경고했습니다.
불과 2년 전만 해도 제안 수준에 불과했던 AI가 이제 인간을 대체할 단계에 이르렀으며, “1년 내에 수많은 영역에서 연구를 수행하는 데 더 이상 인간이 필요하지 않을 수 있다”고 밝혔습니다.
특히 가장 위협적인 지점으로 “AI가 스스로를 더 똑똑하게 만드는 연구에 투입되는 순간”을 꼽았습니다.
수학 난제를 자율적으로 푸는 데 쓰인 알고리즘을 AI 연구 자체에 적용하면, 인간의 개입 없이 스스로 지능을 증폭시키는 “지능 폭발(intelligence explosion)”이 발생한다는 분석입니다.
그는 인간을 아득히 뛰어넘는 지능의 등장이 매우 임박했다며, 기술적 특이점에 대비할 시간이 얼마 남지 않았음을 시사했습니다.