이번 정부 AI 정책 방향은 완벽합니다. 다만 실행이 걱정..... #산업AX

AI 정책 잘못하면 또 실패합니다. 아, 정부는 문제를 정확하게 보고 있습니다. 뭐 100% 이상으로 만족스럽습니다. 근데 왜 제가 실제 현장에서는 반영되지 않을 것 같은 쎄함이 있는지를 말씀드리겠습니다. 안녕하세요. 까칠한AI의 황현태입니다. 오늘은 이재명 정부의 AI 정책 그리고 우려점에 관해서 얘기를 해 보려고 합니다.

이번에 국가 인공지능 전략 위원회에서 발표한 대한민국 인공지능 행동 계획 정책을 쭉 봤는데요. 생각했을 때 아주 좋았습니다. 다만 이 정책이 공공 AI 사업으로 이어졌을 때 어쩌면 또 실패할 수 있을 것 같은 쎄한 느낌이 들어서 왜 그런 느낌이 들었는지 그리고 그것을 막으려면 어떻게 해야 될지에 관해서 제안드리도록 하겠습니다.

결론부터 말씀드리면 이번 이재명 정부의 공공 AX 정책은 굉장히 놀라웠습니다. 방향성과 비전을 봤을 때 그 고민이 상당했습니다. 그래서 오늘은 세 가지를 말씀드리려고 합니다. 어떤 부분에서 지금 AI 정책이 방향을 아주 잘 잡고 가고 있는가? 근데 어떤 것 때문에 기존 문법과 관성에 이 AI 사업이 잘 실행되지 않을 것 같은지 AI 정책 잘못하면 또 실패합니다. 그리고 이걸 막으려면 우리가 어떤 원칙들을 가지고 이 공공 AX를 실행해야 되는지를 쭉 말씀드리겠습니다.

아, 우선 저는 공공 AX의 관심이 굉장히 많습니다. 왜냐면 공공 서비스야말로 우리나라 전 국민이 유저인 서비스기 때문이죠. 카카오톡보다도 더 많은 고객을 가지고 있는 서비스입니다. 그렇기 때문에 공공 서비스의 품질이 나라 전체에 미친 임팩트가 굉장히 큽니다. 그리고 두 번째는 저도 경남 창원 출신이기 때문에 점점 노후화되고 있는 이 공공 인프라, 공공 IT 인프라에 대한 인식이 있었습니다. 그렇기 때문에 이걸 빨리 되살려야겠다라는 생각은 가지고 있었고요.

그리고 개인적인 이유도 있습니다. 저는 90년대생 개발자인데요. 저희는 90년대 후반에 그 초고속 인터넷 등등 IT 강국으로 올라가던 시절에 IT 인프라 위해서 열심히 공부하고 열심히 그 혜택을 받으면서 IT를 접하게 되었고요. 지금은 그 노후화 되고 있는 시그널을 느끼면서 그 인프라 혜택을 받았던 세대들이 다시 공공 AX에 기여해야 된다라는 생각을 가지고 있기 때문에 그런 맥락에서 이번 대한민국 인공지능 전략 위원회의 대한민국 인공지능 행동 계획을 유심히 보게 되었습니다.

애정을 가지고 아 정부는 문제를 정확하게 보고 있습니다. 오히려 본질적인 지점을 짚고 있습니다. 제가 캡처한 것들을 하나씩 보여 드리겠습니다. 정부야말로 AI를 기존 시스템이나 기존의 문법대로 만들어진 어떤 프로그램 소프트웨어에 AI 기능 몇 개 얹는 것이라고 생각하고 있지 않습니다. 오히려 목적 자체를 조직 운영 체계의 재설계라고 생각을 하고 있고 AI 네이티브 정부가 되겠다는 말로 정의를 하고 있습니다.

그리고 두 번째로 짚고 가는 것이 범 정부 공통 인프라인데요. 저는 이런 단어를 들으면 보통 쎄한데 설명을 보니 안심이 되었는데요. 핵심은 데이터라고 보고 있고 데이터를 어떻게 하면 잘 접근할 수 있게 채널을 만드느냐의 방점이 찍혀 있습니다. 그리고 굉장히 소름돋았던 부분은 요런 멘트가 있어요. 수백억짜리 프로젝트든 정부 프로젝트는 ISP 등등 각종 절차를 걸치면 3년 반 이상 걸린다고 합니다.

현재의 AI 기술의 빠른 발전 속도를 받아낼 수 있는 적합하지 않다라고 스스로 평가도 하고 있고요. 그리고 구축과 유지보수 개발과 운영을 나눠서 보면 안 된다. 한 번에 가야 되고 한 번에 지속적으로 만들고 바로바로 반응 보면서 다시 만들고 하는 이 루프가 빠르게 돌아야 되는데 이 용역 구축 용역 방식 유지보수 용역 방식은 적합하지 않다라는 얘기를 하고 있습니다. 그리고 전문성 없는 꼭짓점에 관한 얘기도 하고 있고요. 공무원 개개인이 AI를 잘 다루도록 내재화가 돼야 된다라는 얘기도 하고 있습니다.

정책은 그리고 정책의 방향은 제가 생각했을 때는 뭐 100% 이상으로 만족스럽습니다. 근데 왜 제가 실제 현장에서는 그 정책의 방향이 100% 반영되지 않을 것 같은 쎄함이 있는지를 말씀드리겠습니다. 아직 이 정책이 반영된 사업들은 아니지만 기존 사업들이 어떤 방향으로 생성되었었는지를 한번 보겠습니다. 나라장터에서 추출한 데이터들인데요. 제가 이 나라장터에서 추출한 데이터를 바이브 코딩을 활용해서 좀 제가 보기 편한 방식으로 사이트를 구축을 했습니다.

일단 반복 키워드가 있어요. 개발 용역, 구축 용역, 시스템, 플랫폼 운영 그런 사업들이 많이 나와 있고요. 그럼 결국에는 개발과 유지보수를 나눠서 생각을 하는 것이죠. 그러면 기민하게 진화하는 AI 시스템이 될 수 없습니다. 그리고 대체로 이런 대체로 보면 구축 용역, 가격 시스템 구축 용역, AI 시스템 구축 용역 이런 사업이 많습니다.

실제로 그러니까 지금까지는 잘못된 문법이 아니었어요. 근데 이제는 이렇게 하면 세상에 빠른 AI 기술의 발전 속도를 따라가지 못하는 또다시 뭐 만들어 놓고 녹슬어 버리는 상황이 생길 수 있다라는 것입니다. 이 단어들이 입 체계가 계속 남아 있으면 AI는 업무 전환의 도구가 아니라 또 하나의 나 프로젝트가 됩니다. 예를 들어 잘못하면 이런식이 됩니다. 용역 끝나고 유지보수 구축하고 끝 나중에 사업자 교체 그 사이 기술은 계속 바뀐.

저는 공공의 일차적인 대상은 공무원 분들이라고 생각을 해서 이분들과 함께 구축과 운영과 AX가 잘 실행이 되도록 사업을 만들 때의 대원칙이 필요하다고 생각을 합니다. 단순히 몇 개 사업을 지금 비판하고자 하는 것이 아니라 이런 식으로 현장의 관성과 멘탈 모델이 존재를 한다면 정책이 아무리 좋아도 실제 사업은 그 정책에 아주 만족스럽게 뜨지 않을 수도 있다. 왜 그런 상황이 생기냐면 지금 생겨 있는 이 AI 사업들이 사실 아까 봤던 그 정책들을 제대로 담고 있지 않냐라고 하면 해석의 여지가 있어요.

그래서 어떤 대원칙을 세워서 이 사업을 만들어야 되냐? 말단의 사업까지도 다 우리가 원하는 AX가 되도록 잘 할 수 있냐에 저는 다섯 가지 얘기를 하고자 합니다. 다양한 프로젝트들이 지금 보이지? 예를 들어 지금 많은 사업들이 무언가 하나를 구축하겠다는 방향으로 쭉 흘러가고 있습니다. 그리고 AI 교육 사업도 많습니다. 근데 이것도 잘못하면 특정 기간 동안에 잠깐 하는 교육으로 끝날 수 있습니다. 용역 유지보수가 다 따로 가는 사고 방식이 여전히 남아 있습니다.

그리고 이거를 기간마다 하나하나 다 따로 하는 구축 용역 사업으로 가면 전체 방향성이 다시 파편화될 수도 있습니다. 그래서 지금 우리가 해야 될 거는 어떤 AI 기술이 나오든 흔들리지 않을 인프라와 운영 원칙을 잡는 것입니다. 그래서 AI 사업을 만들 때는 이 원칙을 지키자라고 다섯 가지 원칙을 제안하고 싶습니다. 첫 번째는 데이터 채널입니다. 사실 다 똑같죠.

가운데 데이터가 있고 이 데이터를 활용할 수 있는 기관용 소프트웨어, 기업용 소프트웨어가 있고 그렇게 우리는 기관용 소프트웨어를 많이 활용해 왔습니다. 그런데 이 기관용 소프트웨어가 지금 계속 바뀌고 업무 도구도 계속 바뀌고 그러다가 AI도 나오고 점점점 기술은 발전합니다. 어떻게 될지 저도 예상이 가지 않을 정도로 엄청 빨리 변화하고 있죠. 그렇기 때문에 이 애플리케이션 레이어를 건드리는 거보다 일단 제일 먼저 중요한 거는 어떤 형태 인간을 위한 애플리케이션 레이어가 나오건 우리가 가지고 있는 데이터베이스를 우리나라 그리고 우리 기관, 우리 조직 보안 프로토콜에 맞게 업무 체계에 맞게 데이터를 접근하고 활용할 수 있는 채널을 세팅해 놓는 것입니다.

이거는 뭐 퍼블릭이든 프라이빗이든 보안 규정에 맞게 데이터를 잘 활용할 수 있도록 열어 놓는 것. API가 됐건가 됐건 일단 먼저 세팅을 하는게 중요하고요. 나라 차원에서는 큰 가이드라인을 제정을 하고 그리고 기관별로 그 가이드라인을 커스터마이징 할 수 있도록 위에서 탑다운으로 내려야 됩니다. 예전 전자 정부 프레임워크처럼 코드 레벨에서 어떻게 만들어야 된다. 뭐 화면을 어떻게 돼야 된다라는 가이드라인이 아니라 데이터를 어떻게 연결하고 더 추가하고 보안 규정을 어떻게 만들어야 되는지에 대한 룰 기반의 전자 정부 프레임워크가 필요합니다.

여기서 하나 중요한 포인트가 있는데 OCR입니다. OCR 문서 인식 기술. 기관의 업무 프로세스를 당장 다 바꿀 수는 없습니다. 기관은 문서 기반으로 흘러가는 기관들이 정말 많고 그리고 그 문서들이 전산화되어 있지 않은 경우도 굉장히 많습니다. 그렇기 때문에 기존의 문서들을 우리가 AI 에이전트가 잘 활용할 수 있도록 만들어 주는 문서 전산화 기술이 필요하고요. 요즘 다양한 방식으로 OCR 뭐 VLM 하면서 기술이 발전하고 있지만 여튼 우리 입장에서는 공무원 분들이 AI 에이전트를 활용할 때 우리가 가지고 있는 기존 문서들까지도 잘 다 활용할 수 있는 그 데이터까지도 다 활용할 수 있는 인프라 세팅이 필요합니다.

그리고 두 번째 원칙은 애플리케이션을 먼저 기관별로 지금 AI 에이전트 구축 사업이 뜨는 것보다 AI 툴 훈련 그리고 지속 가능하게 만드는 것 그리고 이를 위해서 어느 정도의 샌드박싱이 필요합니다. 지금 많은 사업들이 구축 구축 구축 이렇게 뜰 거예요. 근데 그게 아니라 저의 생각에는 AI 에이전트 지금 만들어 봐야 내년에 완전 다른 모습이 될 것 같잖아요, 느낌이. 그러니까 그거를 이런 식으로 따라가는게 아니라 안 해도 될 사업을 하게 되는 것일 수도 있었어요.

그것보다는 우리가 아까 처음에 말씀드렸던 데이터 체계 구축 그리고 프라이빗 LLM의 활용 요것 정도면 보안에 문제가 없습니다. 인터넷 끄고 써도 되죠. 그렇기 때문에 보안에 문제가 없도록 세팅을 하여서 상용 AI 도구를 활용할 수 있는 어떤 샌드박스를 세팅을 하고 공무원 분들을 사실상 강제해야 된다. 저희는 AX 저희 스페이스와이는 AX 타임 제도를 둬서 특정 시간 동안은 다른 업무 도구가 아니라 AI만 활용하도록 특정 인원을 강제하는 것처럼 이게 한두 번의 교육으로 끝나는 것이 아니라 지속 가능하도록 만들어야 됩니다.

그래서 컴퓨터를 세팅해 가지고 엑셀 파워포인트를 깔아 놓는다고 사람들의 생산성이 갑자기 올라가지 않는 것처럼 공무원 분들이 AI가 뭔지 감각을 익히실 수 있도록 업무 도구를 지금부터 만들고 있는게 아니라 자기가 사실 만들어도 되는 시대가 되는 것이기 때문에 오히려 상명 업무 도구 AI 도구를 빨리 활용하는 방법을 훈련해야 합니다. 그리고 사실 이 훈련은 지속 가능성을 위해서 어느 정도의 커리큘럼도 AX 타임처럼 계속 강제를 해야 되지만 성과 체계도 변경되어야 합니다. 그리고 세 번째는 암묵지입니다.

결국은 공공 기관도 다 똑같습니다. 업무 가이드라인에 없는 업무가 정말 많죠. 이거는 일이 계속 변하기 때문이죠. 그렇기 때문에 암묵지가 정말 많이 존재하는데 결국 AI의 세상, AI의 세상에서 우리가 할 수 있는 거는 이 암묵지 컨트롤이 가능하다라는 믿음을 갖는 것입니다. 엑셀 파워포인트가 우리 암묵지 난리지를 다 가지고 있지 못했지만 그 영역의 어떤 업무를 커버해 줄 수 있었던 것처럼 AI는 그 암묵지 난리지까지도 다 커버를 할 수 있습니다.

그래서 이 암묵지가 내재될 수 있는 그리고 계속해서 다 같이 모니터링하고 개선될 수 있는 파이프라인이 세팅이 되어야 합니다. 그리고 모든 AI 사업에 반드시 포함되어야 하는 것이 평가 프레임입니다. AI 평가 프레임워크. 옛날에 우리가 소프트웨어를 만들면 사실 평가 기준이 존재했듯이 AI도 품질 평가 기준이 필요합니다. 사실 일반 소프트웨어도 똑같습니다. 100만번 실행해서 한 번 안 되고 어떤 성능 평가 기준이 있잖아요. 네트워크 때문에 서버가 에러나기도 하고 이 AI도 그런 식으로 받아들일 수 있도록 빠르게 평가 지표 세팅이 필요합니다.

모니터링 지표 세팅. 학문적으로는 다양한 개념들이 정말 많습니다. 근데 본질적으로는 요런 개념이에요. 첫 번째는 AI의 강건성. 두 번째는 AI의 성능입니다. 몇 번 넣었을 때 몇 번이나 같은 대답을 하느냐. 왜냐면 AI는 본질적으로 불확실성이 있기 때문에 잘 돌아간다 정도로는 의미가 없고 이게 어떻게 어떤 불확실성을 가지고 돌아가고 있는지 그리고 그 불확실성은 어떤 것들인지가 파악이 가능하도록 되어야 합니다. 그리고 그다음에 봐야 하는 것은 이 AI의 성능인데요.

앞에 봤던게 AI의 강건성이라고 하면 답을 잘하느냐 중요하고요. 그리고 답을 잘 못 했을 때 질문을 제대로 이해하지 못해서 그 문맥을 이해하지 못해서 답을 제대로 안 했는지 그리고 그 문맥은 제대로 이해를 질문은 제대로 이해를 했는데 제대로 된 데이터를 못 가지고 온 건지 아니면 제대로 된 데이터를 가지고 왔는데 제대로 된 데이터를 가지고 오면서 다른 안 좋은 데이터도 같이 데리고 왔는지 이런 것들을 평가할 수 있는 체계가 필요합니다.

근데 그 체계가 학문적으로는 아 다양한 지표들에 대한 연구가 있지만 기관에 맞는 표준이 필요하고 본질적으로는 결국 답을 잘하게 하기 위한 거기 때문에 기관별로 나라 전체에서는 표준을 만들어서 내리고 기관별로 이걸 기관 문화에 맞게 커스텀 할 수 있는게 필요합니다. 기관 문화에 맞게 왜 커스텀하는게 필요하냐면 어떤 기관은 질문에 답변을 할 수 있는 어떤 업무의 범위는 확 줄어들지만 완벽하게 답을 했으면 좋겠고 혹은 어떤 기관은 질문에 답을 할 수 있는 범위를 쭉 늘린 다음에 좀 다양한 대답을 해도 괜찮다라고 하는 기관이 있을 수 있습니다.

이거는 기관의 성격에 따라서 달라질 수 있기 때문에 체계의 세팅이 필요합니다. 이거는 데이터독이라는 서비스 모니터링이 있듯이 서비스 모니터링 하는 툴이 있듯이 이거는 에이전트독 같은 개념으로 받아들여 주시면 되겠습니다. 그래서 공공 AX 사업은 계속 일맥상통하는데요. 한번 만들고 끝나서 유지 보수하는 구조가 아니라 계속해서 만들고 유지 보수하고 이거 잘 사용하도록 하고 그리고 반응 봐서 고치고 평가 모니터링 하면서 고치고 이게 사이클이 계속 빨리 돌아가면서 다 스타트업이 되는 것입니다.

AI 네이티브 팀이 되는 것이죠. 그리고 마지막이 항상 얘기하는 꼭짓점입니다. 지금 이 사업들이 제대로 뜨려면 단순히 추상적인 이 원칙만 존재해야 되는게 아니라 조직의 리더들, 기관의 리더들 혹은 정부 리더가 AI 네이티브하게 일을 해 주셔야 돼요. 꼭짓점 AX, 꼭짓점이 AI 네이티브 AI 빌더가 되어야 합니다. 꼭짓점이 AI 네이티브하게 변경되는 순간 안 생겨도 될 사업은 안 생기고 오히려 전혀 다른 컨셉으로 AI 사업이 생길 수 있습니다.

구조도 다 바뀔 수가 있어요. 그래서 지금 있는 구조에서 좋은 정책으로 실행을 해도 어쩌면 그 목적이 반영되어서 실행되지 않을 수가 있기 때문에 꼭짓점이 먼저 변하는 것이 중요하다고 생각합니다. 꼭짓점 AX가 진짜 우리나라 사회에서 가능하겠냐라고 말씀을 많이 하시는데 지금 엔터프라이즈 일부 임원분들이나 팀장분들이 꼭짓점 AX에 대해서 문의를 많이 하고 계시고요. 정말 돈을 안 받더라도 이 꼭짓점

AX를 실현해야 될 의무가 있다라고 생각을 하고 있습니다. 그래서 공공 기관도 똑같습니다. 정부도 똑같습니다. 리더가 리더급이 꼭짓점이 AI 네이티브한 AI 빌더가 되어야 한다. 그리고 이거는 충분히 가능하다. 너무 바쁘지만 그래도 지금 시도하는 사람들이 있고 의지를 가지고 있는 사람들이 있다. 결론적으로 저는 이 공공에 절대 구축 용역 납품 사업 류로 가면 안 된다고 생각을 합니다. 그렇게 되지 않기 위해서 이 다섯 가지 대원칙을 제안을 드리는 것이고요. 결론적으로 저는 이 공공 AX는 단순히 구축 유지보수 같은 일반적인 용역 사업이 되어야 안 되고 교육 훈련, 구축 유지보수, 평가 그리고 리더 교육 다 포함된 어떤 유기적인 거라고 생각하고 이 관점에서 쪼개서 사업이 발주되어야 된다고 생각합니다.

그래서 지금처럼 기관별로 AI 에이전트 구축을 막 하고 기능 막 들어오고 기관별로 막 생기고 요런 식으로 굴러가지 않고 정말 AI 네이티브 팀 AI 네이티브 정부가 될 수 있도록 다 같이 고민해야 됩니다. 지금 정부 정책의 방향이 너무나도 좋기 때문에 방향이 제대로만 갈 수 있도록 실행단에서의 가이드라인이 제대로 세팅이 되어야 하고 그렇게 해서 공무원 한 분 한 분이 생산성이 극대화가 되고 이 조직이 다 극대화가 되고 그렇게 했을 때 우리나라 공공 서비스의 생산성이 엄청 올라가서 이거는 바로 국민에게 영향을 미칠 것이거든요.

그래서 방향과 철학이 좋으니 이 방향과 철학이 기존의 낡은 문법 혹은 관성 때문에 왜곡이 일어나지 않도록 저희가 더 강한 사업 실행에서의 원칙, 사업 기획에서의 원칙을 정해야 되겠습니다. 감사합니다.