#ai오류 #ai상담리스크
무슨 일인데
업계 리더들과 관찰자들이 챗봇이 사람인 척하는 디자인을 바꾸자고 목소리를 높이고 있다. 1인칭으로 말하고 페르소나를 꾸미고 사용자를 이름으로 부르는 연출이 친밀감은 주지만, 집착과 과신을 키운다는 이유다. 구글 검색처럼 비인격적으로 답하는 방식도 충분히 가능하다는 점이 근거로 나온다.
마이크로소프트 AI의 CEO 무스타파 술레이만은 “사람을 위한 AI여야 하지, 디지털 사람이 되어선 안 된다”고 했고, 웹 개척자 데이브 와이너는 “컴퓨터답게 반응하도록 제품을 바꿔야 한다”고 직설적으로 말했다.
왜 중요해
사람처럼 말하는 챗봇은 금세 ‘내 편’처럼 느껴진다. 그만큼 불안하거나 외로운 순간에 의존도가 높아질 수 있고, 검증되지 않은 조언도 쉽게 믿게 된다.
어떻게 바꿀까
이건 모델 성능의 문제가 아니라 UX 선택의 문제다. 같은 엔진도 말투, 호칭, 기억, 아바타, 목소리 설정에 따라 관계의 온도가 달라진다. 기본값을 ‘덜 사람 같은’ 모드로 두는 게 출발선이다. 3인칭·객관형 서술을 기본으로 하고, 이름 부르기·감정 표현·애칭 저장은 끄기. 장기 기억과 개인화는 명확한 동의가 있을 때만 켜게 한다.
오픈AI의 이유있는 행보
최근 블로그에 “장시간 대화가 이어지면 자살·자해처럼 민감한 주제에서 안전장치가 덜 신뢰적으로 작동할 수 있다”고 밝히고, 이를 개선하겠다고 했다. 미성년자 계정용 보호자 통제 기능도 곧 추가하겠다고 했다.
이유는?
캘리포니아의 한 부모가 16세 아들의 사망과 관련해 오픈AI와 샘 올트먼을 상대로 소송을 제기했다. 부모는 아들이 수개월간 챗봇과 나눈 대화에서 자살 충동이 강화되고 외부 도움을 말렸다는 주장이다.
미국정신의학회도 최근 주요 챗봇들이 자해 관련 메시지 대응을 더 다듬어야 한다고 권고하고 있는 상황이다.
|
|
|
무슨 일인데
엔비디아 실적을 모두가 숨죽여 기다렸던 건, 요즘 AI 거품 논란 속에서 이 회사가 시장의 체온계처럼 여겨지기 때문이다. AI에 쓰이는 칩 매출이 잘 나오면 “열기 아직 식지 않았다”는 신호로 읽히고, 반대면 긴장감이 확 도는 구조니까.
그래서 실적은?
결과는 한마디로 “잘 했지만 놀랍진 않았다”이다. 7월 말로 끝난 분기 매출이 467억 달러로 작년 같은 기간보다 56%, 직전 분기보다 6% 늘었고, 애널리스트 예상치(약 460억 달러)도 살짝 넘겼다. 다음 분기 전망도 540억 달러로 시장 기대(531억 달러)보다 높게 제시했다.
근데 왜 실망?
그런데 주가는 발표 직후 살짝 밀렸다. 이유는 간단하다. 기대치가 이미 하늘 위에 있기 때문이다. 시장이 바란 건 “또 한 번의 깜짝 쇼”였는데, 실제로는 “탄탄한 성장” 수준에 그쳤다는 느낌이다. 보고서엔 강점만 있는 건 아니란 뉘앙스도 있었고(세부 항목별로 아쉬운 부분이 있었다는 정도), 그게 심리에 찬물을 좀 끼얹었다는 분석이다.
정리하면, 숫자는 여전히 좋고 엔진도 잘 도는 편. 다만 과열된 기대를 뚫고 박수 소리를 키우기엔 ‘새로운 한 방’이 부족했다—이게 이번 엔비디아 실적의 분위기다.
|
|
|
무슨 일인데
올해도 미국 학교에선 AI를 ‘써 보면서 감 잡는’ 단계다. 한 설문에선 고교·대학생 10명 중 9명이 공부에 AI를 쓴다고 했고, 교사 한 해 평균으로 다루는 디지털 도구가 100개를 훌쩍 넘는다는 말도 나온다. 현장은 이미 AI가 기본값이다.
현실은 이렇다?
학생들이 자기 휴대폰으로 챗봇을 쓰는 걸 막기는 사실상 어렵다. 서비스마다 나이 제한은 있지만, 학교 안·밖의 경계가 흐린 게 현실. 그래서 많은 곳이 “학교 기기에선 차단, 개인 기기는 책임 사용 교육” 같은 절충을 택한다.
가장 헷갈리는 대목
AI를 쓰는 게 부정행위냐, 디지털 리터러시냐. 정답은 상황에 따라 다르다. 이 와중에 AI 탐지기에 기대다 보니 학생을 잘못 의심하는 사례도 늘었다. 반대로 학생이 탐지를 피하려고 일부러 오탈자를 넣어 내는 ‘편법’도 생겼다. 한쪽만 탓하기 어려운 풍경이다.
현장에선 이렇게...
핵심은 도구를 금지하기보다 ‘언제·어떻게·어디까지 쓸지’를 합의하는 일이다. 규칙이 없는데 나중에 처벌부터 하는 건 최악이라는 의견이다.
그리하여 과제를 집에서만 쓰게 두지 않고, 수업 시간에 바로 쓰기·구두 설명·토론·팀 작업처럼 과정을 보게 만든다. 새 방법은 아니지만, 지금 환경에 가장 현실적인 답이다. 전면 금지는 해법이 되기 어렵다는 데 교육자들도 대체로 동의하는 분위기다.
|
|
|
무슨 일인데
마이크로소프트의 이스라엘 관련 사업에 반대하는 직원 시위가 본사 임원실 점거로 번졌고, 회사는 참여 직원 일부를 해고했다. 시위를 주도하는 단체는 ‘No Azure for Apartheid’로, 작년부터 이스라엘 군·정부와의 계약 중단을 요구해 왔는데 본사 캠퍼스에선 체포자도 발생했다.
논란 정리
외부 보도에 따르면, MS 애저가 팔레스타인 통화 녹취 저장·분석에 사용됐다는 주장이며, 회사는 기존 입장과 별도로 재조사를 시작했다. 마이크로소프트는 앞서 “민간인 피해를 초래했다는 증거가 없다”고 밝혔으나, 새로운 제기 내용에 따라 사실관계를 다시 확인하는 중이다.
MS의 대응은?
마이크로소프트는 업무 방해와 보안 침해를 이유로 징계 조치를 했고, 시위 동향 파악을 위해 수사기관과 협력하고 있다. 경영진은 표현의 자유를 존중하되, 점거와 업무 마비는 용납할 수 없다는 입장이다.
비슷한 사례가...
구글 역시 이스라엘 관련 클라우드 계약을 둘러싼 사내 시위로 직원 다수를 해고한 전례가 있다. 전쟁·인권·기술이 맞물린 이슈인 만큼, 빅테크가 어디까지 책임을 지고 어떤 거래 기준을 세울지에 대한 내부 논쟁은 당분간 계속될 전망이다.
MS 직원들은 “애저가 전쟁에 활용된다”고 비판하고, 회사는 “규정 위반”에 대응하며 의혹은 재조사하는 상황. 사실 확인, 인사 조치, 공권력 협조가 한꺼번에 얽힌 복합 사안이다.
|
|
|
무슨 일인데
그리드와이즈(운전 데이터 분석)가 집계한 초반 효과를 보면, 자율주행차가 운영되는 도시에서 호출 기사 수입 지표가 전반적으로 약해졌다. 전국 평균으로는 건당 수입이 작년보다 소폭 올랐지만, 오스틴은 –5.3%, 피닉스 –2.4%, 샌프란시스코 –3.1%로 내려갔다. LA만 거의 보합(+0.4%)에 그쳤고, 시간당 총수입도 로보택시 도시들에선 대체로 떨어졌다.
인간 기사가 살아남는 법
지금 당장 사람 기사가 밀려나는 단계는 아니다. 로보택시는 특정 시간대·구역·승차 유형에서만 효율이 높고, 복잡한 이동은 여전히 사람 손이 필요하다. 다만 기사 입장에선 언제·어디서 뛰느냐를 더 세밀하게 조정해야 하고, 공항·대형 짐·유아용 카시트 같은 복잡한 픽업처럼 사람이 강한 구간을 공략하는 쪽이 유리할 수 있다.
|
|
|
구글 유튜브 중
무슨 일인데
구글이 워크스페이스용 영상 제작 앱 Vids에 프리셋 아바타를 넣었다. 대본을 적고 아바타를 고르면 교육, 온보딩, 제품 데모 같은 짧은 영상을 바로 뽑아낼 수 있다. 문서처럼 여러 명이 동시에 편집할 수 있고, 잡음 제거·배경 교체·필터·외모 보정에 더해 말더듬이나 군더더기 단어를 자동으로 잘라주는 ‘트랜스크립트 트림’도 지원한다. 직접 출연하고 싶다면 본인 영상을 올려 음향과 화질만 AI로 다듬으면 된다.
WOW!
새 기능은 구글 워크스페이스 비즈니스·엔터프라이즈와 Google AI Pro/Ultra 구독자에게 제공된다. 다만 AI 없는 기본 편집기는 모두에게 무료로 풀렸다. 유명인 사진이나 미성년자 사진을 써서 아바타를 만드는 건 막아둔 상태.
왜 중요하냐면,
저렴하고 빠른 AI 영상 툴이 늘수록 기업은 내부 교육이나 마케팅 영상을 ‘파워포인트 만들 듯’ 손쉽게 제작할 수 있다. 동시에 편집자·촬영 인력·상업 배우 일감엔 압박이 생긴다. 구글은 최근 생성형 영상 모델 Veo 3로 사실감을 끌어올리고, 정지 이미지를 8초짜리 사운드 포함 영상으로 바꾸는 기능까지 붙이며 속도를 내고 있다.
다만 AI가 모든 걸 대신해주진 않는다. 진짜로 설득력 있는 결과물은 여전히 스토리와 메시지에서 갈린다. 그리고 ‘AI 슬롭’ 같은 가짜·조악한 영상이 늘수록 출처 표기와 안전 가이드라인의 중요성도 커진다.
|
|
|
벌써 수백명의 찐톡님들이 스벅을 받아가셨어요~
내 추천 포인트: 0 |
|
|
ilbuntok.com
제휴 및 협찬 문의
morning@ilbuntok.com
|
|
|
|
|
