사내 AI 에이전트 만들면 생기는 문제들이 있습니다.

매일 아침에 IQ 200짜리 천재가 우리 회사의 신입사원으로 채용된다라고 생각을 해 보세요. 천재가 맥락도 모르고 어떻게 일하는지도 모르고 고객이 누구인지 하나도 몰라요. 이 천재가 과연 일을 잘할 수 있을까요? 네, 퇴근길 AI의 망구입니다. 오늘은 제가 출장 가는 길에 잠깐 시간이 남아 가지고 정차해서 이야기 나누려고 하는데요.

저희 팀은 대기업 임직원분들 약 3,000명 정도를 교육을 하면서 여러 가지 AX에 대한 고민과 AI 네이티브 워커로서 어떻게 일할지를 함께 고민하고 있는데요. 최근에는 바이브 코딩을 통해서 개인이 만들 수 있는 미니 솔루션으로 생산성을 올려 드리기도 하고 임원 분들에게 클로드 코드와 같은 범용 에이전트를 알려 드리면서 우리 조직의 에이전트가 구성원으로 들어왔었을 때 어떻게 일을 할 수 있을지를 함께 고민을 하고 있습니다.

그래서 요즘 좀 많이 바쁘긴 한데 다행히 공감을 해 주신 분들이 한두 분이 생기시면서 요즘에 힘을 얻고 있습니다. 궁금한 점이 있으면 언제든지 댓글 남겨 주시고 편하게 연락 주시면 감사하겠습니다. 이렇게 여러 회사와 AX 관련된 논의를 하면서 요즘에 드는 생각은 있습니다. 굳이 AI 에이전트를 만들어야 되나? 범용 에이전트 쓰면 안 되나? 이런 생각인데요. 오늘 이 주제에 대해서 다뤄보도록 하겠습니다.

사실 임원 교육이나 AX 컨설팅을 하다 보면은 자주 부딪히는 문제들이 있습니다. 첫 번째로는 이 에이전트 만들어서 누가 유지보수를 할 것이냐? 몇 개 케이스만 찾아봐도 에이전트를 개인이 만들든 팀이 만들든 우리 업무는 계속 변하고 있고 그 변화된 업무에 맞춰서 에이전트도 변해야 되는데 이미 스트럭처가 정해져 있고 구조가 정해져 있는 에이전트를 그대로 쓰다 보니까 다시 또 그걸 뜯어 고쳐야 되는 거예요.

이걸 쭉 돌이켜 보면은 이게 SI랑 도대체 차이점이 무엇일까라는 생각이 좀 듭니다. 두 번째는 커스텀 에이전트 만들려면 데이터 그리고 IT 인프라 보안까지 다 건들어야 되는데 이게 쉽지가 않습니다. 특히 AX 전부터 DX라고 하는 큰 장벽을 먼저 맞닥뜨리게 돼요. 그래서 암묵지를 형식지로 만들고 데이터들을 라벨링하고 이 과정들을 하다 보면 에이전트를 만드는 시간과 비용이 상당히 많아집니다.

세 번째는 이게 조금 결정적인데 발전 속도가 상당하죠. 저희가 6개월이 걸려서 어떤 커스텀 에이전트를 만들었다고 쳐 봅시다. 그럼 클로드 코드는 얼마나 발전해 있을까요? 범용 AI 에이전트가 너무 발전 속도가 빠릅니다. 지금 아마 클로드 코드 들어가서 릴리즈 노트라는 곳을 들어가 보시면 하루에만 업데이트되는 게 수십 개가 넘고 어 새로운 모델은 두 달 주기로 나오고 있습니다.

6개월 뒤에 완성된 에이전트는 이미 낡고 아무리 빨리 만들어도 서로 소통하고 그리고 데이터 정리하고 IT 인프라 깔고 하다 보면은 아 이미 시간이 상당히 흐른 뒤라서 범용 에이전트의 성능에 게임이 안 될 거다라는 생각을 합니다. 그럼 우리는 뭘 해야 되냐? 여기서부터가 진짜 얘기입니다.

저희도 최근까지 행보관이라고 하는 에이전트로 자동하는데 집중을 했었어요. 제안서, 견적서, 결산까지 모든 부분을 자동하려고 했죠. 문제가 이거였습니다. 결과는 나오는데 이걸 활용하는 사람이 그 결과에 이해를 못 하는 거예요. 왜 이렇게 나왔는지 맥락 파악도 못 하고 다시 검토하고 자동화의 의미가 없어지는 겁니다. 그리고 제일 중요한 거는 이 사람과 AI가 같이 일을 하면서 사람이 성장을 하고 인사이트가 생겨야 그다음 레벨에 있는 일을 할 수가 있는데 그 업무를 자동해 버리는 순간 그 이상의 업무를 나아갈 수 있는 학습 구조가 되지가 않더라고요.

그래서 방향을 완전히 싹 바꿨습니다. AI와 인간이 함께 고민하고 학습할 수 있는 구조로요. 행보관의 역할은 딱 하나입니다. 인간과 클로드의 사이의 중재자 역할이에요. 예를 들어서요. 저희 세일즈 리드가 들어오게 되면은 행보관이, 카톡, 그리고 문의폼까지 모든 내용들을 요약해서 메신저에 넣어 주고요.

클로드 코워크가 이 사항을 이해할 수 있게끔 폴더와 구글 드라이브 폴더에 MD 파일로 이 프로젝트에 대한 내용들을 정리해 줍니다. 리드미 MD, 로그 MD, 회의로그 MD 같은 클로드가 읽어 드릴 수 있는 MD 파일과 그리고 우리 인간이 클로드 코워크로 해당 프로젝트를 연결하게 되면 같이 공동적으로 작업할 수 있는 구조가 되는 거예요.

그러면 우리 팀원들이 클로드 코워크를 연결해서 MD를 바탕으로 서로 같이 제안서를 쓰고 견적서도 검토하는 그런 프로세스를 만들고 있다라고 보시면 되겠습니다. 여기서 중요한 거는 AI 에이전트가 이해할 수 있는 형식과 팀원들이 이해할 수 있는 형식 두 쪽 다 이해 가능한 형태로 만들어서 학습 루프를 돌리는 것이 핵심입니다.

팀원이 쓴 걸 클로드가 다시 읽고 클로드가 쓴 걸 팀원이 다시 읽고 다른 팀원이 작업한 내용도 클로드가 빠르게 학습해서 참여하고 반복이 쌓이게 되면 우리 팀의 지적 자산이 계속 축적되는 겁니다. 이게 저희가 좀 찾은 답이고요. 뭔가 커스텀 에이전트를 대단하게 하나를 만드는 것보다는 우선은 팀원과 AI가 같이 학습할 수 있는 루프 그리고 이 학습 루프가 잘 돌아갈 수 있는 환경을 만드는 게 먼저라고 생각합니다.

자, 여기까지 오면 이런 질문이 좀 들기도 하거든요. 근데 굳이 왜 이런 환경을 만들어야 되냐? 바이브 코딩으로 만들 수 있는데 빠르게 그냥 AI 에이전트 만들면 되지 않냐라는 이야기도 있습니다. 근데 우리는 지금 약간 개념부터 좀 바꿔야 되는데요. 이게 도구를 도입하는 게 아닙니다. AI 에이전트를 가져온다는 것은 지능을 빌려오는 건데요.

근본적으로 좀 다른데 예를 들어서 저희가 엑셀이라고 하는 툴은 되게 정적이죠. 엑셀의 함수와 매크로를 짜 놓으면 스스로 판단하지 않고 그 메커니즘을 계속 돌아가게 할 겁니다. 그런데 클로드 같은 범용 에이전트는 지능이죠. 스스로 추론하고 판단하고 매일 더 똑똑해집니다. 우리가 하는 건 소프트웨어 도입이 아니라 지능을 임대해서 구독하는 거라고 보시면 돼요.

매일 아침에 IQ 200짜리 천재가 우리 회사의 신입 사원으로 채용된다라고 생각을 해 보세요. 근데 이 천재가 우리 회사에 대한 맥락도 모르고 우리 팀이 어떻게 일하는지도 모르고 우리 고객이 누구인지 지난주에 무슨 결정이 났는지 하나도 몰라요. 이 천재가 우리 조직에서 과연 일을 잘할 수 있을까요? 그니까 커스텀 에이전트를 하나 만들어서 던져 주는 게 중요한 게 아니라 범용 AI 에이전트, 이 천재가 일할 수 있는 환경, 온보딩 매뉴얼, 조직도, 프로세스, 지난 결정의 맥락 이런 것들 알려 주는 게 중요하다는 겁니다.

그래서 저는 리더님들께 좀 요청드리고 싶은 거는 우리도 땡땡 에이전트를 만들자라기보다는 처음에는 매일 발전 가능한 이 지능을 우리 조직에 어떻게 도입하고 어떻게 활용할 수 있을까? 범용 AI 에이전트로 일을 잘할 수 있는 환경을 구축하자라고 갔으면 좋겠습니다. 커스텀 에이전트 만드는 곳이 필요할 수도 있습니다. 반복적이고 산업에서 계속 유지되는 그니까 변화가 많이 없고 자주 반복되는 업무들은 에이전트로 해도 괜찮다고 생각을 해요.

하지만 커스텀 에이전트로 계속 만들기만 하게 되면 적게는 열 개, 100개, 1,000개가 되었을 때 과연 누가 그것을 개선하고 보수할 것인가? 그마저도 에이전트에게 맡길 것인가? 근데 그런 에이전트를 우리가 맡길 만큼 데이터가 준비가 돼 있나라는 걸 봤을 때 범용 에이전트로 데이터를 아카이브하고 그리고 일을 잘할 수 있는 환경을 만든 다음에 해도 늦지 않지 않을까라는 생각을 합니다.

그 저도 교육을 나가서 AI 에이전트를 만드는 방법을 알려 드리고 있긴 한데요. 클로드 코드와 같이 환경을 만들 수 있게끔 하는 사례들을 공유드리면서 실질적인 도움이 될 수 있는 것들을 저 전파하려고 노력하고 있습니다. 자 여러분 회사는 지금 어떠신가요? 다들 1인 1 에이전트를 만들자. 그 에이전트는 그럼 누가 관리할 것인가? 그 에이전트는 어느 정도의 비즈니스 임팩트를 가지고 있는 건가에 대한 것을 고민하고 계신가요?

복잡하죠? 제가 추천드린 방식은 클로드 코워크 같은 범용 AI 에이전트를 먼저 써 보자. 그 우리 조직에서 그 에이전트가 일을 잘할 수 있는 환경을 만들어 보자. 그러면 우리가 커스텀하고 싶은 에이전트를 만들 때도 데이터부터 AI 환경이 구축돼 있기 때문에 더 원활할 것이다라는 이야기를 좀 드렸습니다. 자, 오늘은 정말 제가 요즘에 느꼈던 내용을 공유드렸던 내용이라서 여러분들께 도움 되셨으면 좋겠습니다.

요즘 비가 좀 많이 오는데 조심하시고요. 오늘도 수고하셨습니다. 퇴근길 AI의 망구였습니다.