경력직의 '노하우'를 AI가 배우게 하는 법 | "암묵지" 수집/설계 팁

그래서 이제는 문서에 대해서 전산화를 많이 해 놓은 회사, 사내 GPT를 잘 구축한 회사가 경쟁력이 있는 것이 아니라 우리 회사만의 암묵지, 판단과 맥락을 잘 구조화해서 컨텍스트 그래프를 얼마나 잘 세팅해 놓았냐가 이 회사의 경쟁력이 돼요. 안녕하세요. 까칠한AI 황현태입니다. 오늘은 엔터프라이즈 AX에서 가장 중요한 암묵지를 설계하고 수집하고 그리고 암묵지 충돌 현상을 어떻게 대응하는지에 대해서 말씀드리려고 합니다.

요즘 많은 분들이 도대체 암묵지가 뭔지, 스페이스와이는 어떻게 암묵지를 관리하고 있는지에 대해서 말씀 많이 주셔요. 저희도 여러 가지 실험을 통해서 그리고 저희만의 어떤 컨셉으로 이거를 진행을 많이 하는데요. 우선 여기서 짚고 넘어야 될 것은 논외로 둘 게 있습니다. 뭐냐면 사내 GPT, 사내 지식 베이스 만들기인데요. 요즘 회사들이 사내 GPT, 사내 지식 베이스 많이 만드시죠. 예를 들어서 뭐 RAG 뭐 벡터 DB 뭐 OCR 해서 문서 다 이렇게 전산화하고 요런 작업을 많이 하시는데 이제는 많은 분들이 이미 알고 계신 것처럼 벡터나 우리가 세팅하는 이런 여러 가지 RAG 시스템들이 완벽한 검색 시스템을 만들어 주진 않습니다.

그래서 일단은 완벽한 검색 시스템에 대한 주제는 논외로 놓고 그리고 두 번째는 일반적으로 이런 프로젝트들이 실패하는 것은 모든 것을 다 전산화해 놓고 시작하려고 합니다. 그렇기 때문에 각종 기술을 활용해서 우리가 원래 들고 있는 문서들을 다 전산화해 놓으려 하는데요. 요즘 멀티모달 LLM, VLM 의도에 따라서도 결과가 다르게 나오기 때문에 뭘 찾고자 하는지가 먼저여야 하고 사실 전산화하는 건 그 뒤에 따라 들어오는 거여야 됩니다. 그래서 그런 지점에서 일단 다 지식 베이스를 구성해 놓겠다라고 하는 옛날 기존의 방법, 데이터 웨어하우스, 데이터 레이크 방법으로는 쉽지 않은 시도가 될 것입니다.

그래서 일단 이미 있는 문서 지식들을 기반으로 지식 베이스를 만든 일과는 좀 별개 차원의 암묵지에 대해서 오늘은 다루려고 합니다. 일단 첫 번째는 암묵지가 도대체 뭔가? 암묵지. 저희가 정의하는 암묵지는 업무 노하우입니다. 머릿속에 막 있는 어디 뭐 문서에 적혀 있는 것도 아니고 영상에 나와 있는 것도 업무 가이드에 표현된 것도 아닌 머릿속에만 있는 업무 노하우입니다. 그래서 이 업무 노하우가 머릿속에만 있어서 이게 사수한테 구전되고 그리고 우리 회사만의 문화로 세팅이 되는 것들.

그리고 이런 암묵지는 결국 경험 베이스로 숙성됩니다. 여러 가지 판단이나 경험 속에서 숙성이 되고 경력자들이 훨씬 많은 암묵지를 들고 있게 되죠. 암묵지가 드러나는 경우가 간혹 있는데 그거는 상황 판단의 어떤 결과라든가 문서라던가 하는 부분적으로 외재화 되는 것입니다. 그래서 내가 가지고 있는 어떤 노하우가 명문화되는 것은 아니고 노하우를 기반으로 작성된 여러 가지 업무 결과나 문서를 통해서 파편화된 결과만이 나와 있는 것이 암묵지의 특징이지요.

예를 들어서 회계 부서에서 많이 일어나는 일 중에 하나가 계정 과목에 대한 어떤 분배입니다. 그래서 이게 어디 가이드라인으로 적어 놓기는 좀 애매한데 특정 부서에서 쓰는 접대비는 계정 과목을 뿌린다. 그리고 우리 회계 보고서에서는 회계 보고를 위해서 어떤 내용을 커트할 때는 이 부서는 접대비 한도에서 커트한다. 근데 이 부서는 접대비를 넘어서 있을 땐 다른 계정 과목을 통해서 이 비용을 활용할 수 있도록 한다라는 어떤 가이드라인의 명문화가 되기는 좀 힘든 내용들이 있을 수 있고요.

그리고 두 번째는 우리 차장님께 보고를 할 때는 영상 콘텐츠보다는 영상들을 다 스크린 캡처를 뜬 발표 자료 형태로 보고 자료를 만들어야 한다는 사소한 것도 있을 수 있고요. 그리고 프로모션 기간에는 우리는 재고 관리를 평시보다는 훨씬 더 적을 때 협력사에게 도움을 요청한다라던가 이런 식으로 이 부서마다 어떤 암묵지가 있을 때가 있고 사람이 들고 있는 암묵지가 있을 때도 있고 우리 회사가 들고 있는 암묵지가 의도적으로 적어 놓을 수 없어서 못 적어 놨건 아니면 원래 우린 이렇게 일하는 거야.

부장님, 차장님은 이런 부분을 좋아해라고 그냥 구전되는 게 있을 수도 있습니다. 누군가의 포스트에는 적혀 있을 수도 있죠. 여튼 이런 게 회사마다 엄청 많잖아요. 그래서 저희가 정의하는 암묵지는 업무 커뮤니케이션을 위해서 혹은 업무 수행을 위해서 사람의 머릿속에만 들어 있는 어떤 업무 노하우, 요게 저희가 정의하는 암묵지입니다. 그리고 이것을 어디에서는 하네스 뭐 스킬 이런 식으로 표현이 되지만 엔터프라이즈 레벨에서는 이 암묵지 사이즈가 너무 크기 때문에 결국은 컨텍스트 그래프라는 개념이 필요한 것이죠.

그래서 이 암묵지에 대해서 오늘은 세 가지 얘기를 하려고 하는데 암묵지를 어떻게 수집하느냐 어떻게 설계해야 되고 그리고 암묵지 충돌 현상에 대해서 말씀을 드릴 겁니다. 암묵지에 대해서는 옛날부터 많은 연구들이 있었죠. 제가 학위를 했던 연구실도 지식 기반 설계 연구실이라는 연구실이었는데요. 지식에 대한 연구는 많이들 해 왔던 주제였습니다. 옛날부터 요런 말도 있었습니다. 우리는 우리가 말할 수 있는 것보다 더 많이 안다.

이런 식으로 암묵지에 대해서 정의를 했던 적도 있었고 암묵지를 어떻게 하면 수집할 수 있을까에 대한 연구도 많이 있었습니다. 날리지 매니지먼트 시스템들도 많이 연구가 되었었죠. 근데 중요한 건 뭐냐라고 하면 이 암묵지를 어떻게 수집할 거냐의 핵심은 에이전틱 워크입니다. 암묵지를 수집한다는 개념은 원래라면 당신들이 들고 있는 암묵지에 대해서 우리가 관찰을 하고 확인하겠다. 혹은 어 당신들이 알고 있는 어떤 업무동화를 적어내라.

뭐 그런 것들이 있을 수 있는데 이거는 유효하지 않아요. 그리고 지속 가능하지 않아요. 다행히 이제부터 가능하게 된 건 에이전틱 워크인데 제가 정의하는 에이전틱 워크는 에이전트로 업무를 하는 것을 말합니다. 에이전트가 나 대신 업무를 하는 것. 그리고 이 에이전트를 계속해서 학습시키는 것. 이게 에이전틱 워크고 그 핵심 두 가지인데 제가 만약에 엑셀을 쓰거나 파워포인트를 쓰거나 크롬을 쓰거나 한컴 오피스를 쓰거나 아니면은 팀즈를 쓰거나 슬랙을 쓰거나 노션을 써서 업무를 하게 되면 내가 이 문서를 작성할 때 혹은 내가 이 업무를 할 때 의도와 맥락에 대해서는 남지 않습니다.

오직 그 업무 결과물만 남게 될 뿐. 근데 에이전트에게 이 문서 도구를 다루는 것을 다 맡기게 되면 우리는 에이전트에게 내 의도와 맥락을 다 전달을 하게 됩니다. 왜 이렇게 자료가 들어가야 되고 예를 들면 아까 말씀드렸던 예시지만 A 차장님 올릴 보고 자료에는 왜 영상 콘텐츠가 빠져야 되는지에 대해서 또 자연스럽게 말을 하게 되고 특정 부서 접대비 계정 관리를 할 때는 왜 B 부서와는 다른 식으로 관리를 해야 되는지에 대해서도 자연스럽게 에이전틱 워크 과정에서는 이 맥락을 전달할 수밖에 없습니다.

그렇기 때문에 에이전틱 워크가 되게 중요한 것이고 그리고 원래 암묵지 수집이 힘든 거는 시니어들이 이 암묵지를 오픈하지 않을 때도 있습니다. 왜냐면 이게 내 정보야 이런 것도 솔직히 있어요. 근데 그것보다는 아 그것도 있지만 사실 이 정보 자체가 조금, 이 암묵지가 누군가가 봤을 때는 좀 효율적이지 않게 일하고 있었던 어떤 나만의 아쉬운 포인트일 수도 있기 때문이죠. 근데 그래서 내 모든 맥락을 에이전트한테 전달을 했을 때 이 에이전트가 좀 더 낫게 일을 해 줄 수도 있기 때문에 그리고 내 암묵지를 다 에이전트에게 전달을 해서 내 생산성이 아주 높아진 그 상황 자체, 그 생산성을 가지고 성과 지표로 잡아서 이 선순환이 되게끔 해야 됩니다.

그래서 내 지식 다 뺏기면은 에이전트로 끝 이게 아니라 결국은 그 암묵지를 가지고 업무를 하는 건 사람이거든요. 그리고 절대 시니어의 암묵지는 영원히 들어가야 됩니다. 결국. 그렇기 때문에 시니어가 에이전트에게 AI 에이전트에게 내 암묵지를 다 전달을 해서 생산성이 아주 몇 배가 되는 그 상황에 대해서 성과 지표로 잘 설정을 하셔서 선순환이 되도록 만드는 게 핵심이고 그때 그 상황에서만 제대로 된 암묵지 수집이 가능합니다.

이게 바뀐 세상에서의 암묵지 수집이라고 생각합니다. 그래서 핵심은 우리 사람들이 업무 도구를 직접 쓰지 않게 하는 거, 협업 도구를 직접 쓰지 않게 하는 것, AI 에이전트에게 일을 시켜서 이 AI 에이전트가 학습하게 하는 것. 원래 우리가 도제식 교육을 하면서 사수에게 맡겼던 것. 그 방식 그대로 에이전트에게 정보를 전달하는 것입니다. 그래서 우리가 어떤 특정 업무를 자동화하는 AI 에이전트를 구축, 이런 식으로는 조직의 에이전틱 워크 프로세스 세팅이 힘든 겁니다.

그게 아니라 내가 하는 다양한 업무를 에이전트로 할 수 있도록 화이트 컬러 업무 대부분을 하나의 에이전트로 수행할 수 있는 이 구조를 만드는 게 그래서 되게 중요한 것입니다. 이때 가장 중요한 것이 인풋 프롬프트 로깅입니다. 결국 어떤 사람이 에이전트를 잘 활용하면 그리고 그 에이전트한테 의도와 맥락이 다 전달된다라고 하면 이 사람이 이 에이전트한테 어떤 말을 했는지를 기반으로 우리는 암묵지를 센싱할 수 있어요.

웃긴 거는 본인도 본인이 어떤 암묵지를 가지고 있는지를 잘 모릅니다. 그렇기 때문에 이 에이전트한테 어떤 일을 시키고 있는지를 오히려 자기도 보게 되고요. 그리고 에이전트한테 다시 됨으로 보면서 아 이런 정보를 내가 넣고 있었구나라는 거를 알게도 되고 그래서 어떤 사람이 어떤 업무 에이전트한테 어떤 업무 지시를 하는가 그리고 어떤 피드백을 주는가가 굉장히 중요합니다. 그래서 인풋 프롬프트 로깅을 통한 암묵지의 지속적 개선 루프를 만들어야 하고요.

그래서 암묵지 수집의 키는 뭐 지식 적어내라, 정보 적어내라, 업무 노하우 적어내라가 아니라 AI 에이전트 세팅을 아주 잘 해 드리고 그리고 인풋 프롬프트 로깅을 통해서 암묵지, 특히 컨텍스트 그래프가 지속적으로 유지 보수가 될 수 있도록 세팅하는 이 루프가 중요합니다. 여기서 마지막 핵심은 PR인데요. 개발자들은 코드가 변경됐을 때 풀 리퀘스트라는 걸 올립니다. 이걸 줄인 말로 PR이라고 하는데요. 그걸 받으면 이 코드에서 이 코드로 왜 수정이 됐는지 그리고 어떤 코드들이 자세하게 수정됐는지 그 코드의 차이점을 보면서 CTO나 테크리드 같은 나의 더 높은 시니어가 이 코드를 반영할지 안 할지, 변경점을 반영할지 안 할지를 결정하게 됩니다.

지식의 변화도 똑같습니다. 컨텍스트 그래프가 변경됐을 때 이거를 어떤 지점이 변경됐고 왜 변경되었는지에 대해서 AI가 사람이 검토하기 편한 형태로 이 풀 리퀘스트를 올려야 되는 것이죠. 다시 중요한 역할이 등장하는 것이 날리지 매니저입니다. 옛날 그 지식 기반의 시대, 옛날에 그 온톨로지의 시대, 옛날에 그 지식을 연구하던 그 시대 때 굉장히 중요하다고 여겨졌던 그 날리지 엑스퍼트, 날리지 매니저가 다시금 등장하게 되는 것입니다.

그다음에 말씀드리고 싶은 것은 이 암묵지를 설계할 [목을 가다듬음] 때의 핵심 키, 그리고 두 번째는 암묵지 충돌 현상. 이거는 같이 한번 말씀을 드리도록 할게요. 굉장히 중요한 암묵지 충돌 현상은 굉장히 재밌습니다. 예를 들어서 지식은 결국 누구 말이 맞느냐로 가게 되는데요. 예를 들어 어떤 프로모션 기간에 재고가 어느 정도 남았을 때 언제 우리가 이거를 협력사에게 추가 요청을 할 것인가에 대해서 A 부장님이랑 B 차장님이 넣어 놓은 지식이 만약에 다른 거예요.

그래서 이 AI 에이전트가 판단하기에 어 정보가 다르다. 이분은 재고량이 어땠을 때 협력사에게 도움 요청해라. 혹은 이분은 다른 조건에서 협력사에게 요청해라라는 정보가 두 개가 같이 있는데 이 지식이 충돌로 일어날 때 과연 우리는 어떻게 대응할 것인가에 대해서 굉장히 어려운 문제인데 이거는 세 가지로 판단을 해야 됩니다. 첫 번째는 팩트, 틀린 정보가 있을 수 있어요. 그러면은 틀린 정보를 빨리 제거하고 급 판단을 하는 게 중요합니다.

이래서 날리지 매니저가 중요하고 두 번째는 좀 더 많은 맥락이 필요합니다. 그래서 이때 중요한 게 암묵지의 설계예요. 그리고 지식은 지금 보면 지식 베이스 설계할 때 일단 정보를 다 넣고 정보를 다 정리하는 거에 초점이 맞춰져 있는데, 암묵지 특히 컨텍스트 그래프는 누가 말했는지 그 누구의 지식인지 어디서 온 지식인지 그리고 사람, 화자, 부서, 직급, 상황, 조직 이런 지식이 누가 말했고 언제 활용되어야 하는지에 대한 맥락이 필요해요.

그게 같이 태깅이 돼야 됩니다. 그렇기 때문에 아까 말씀드렸던 프로모션 상황에서는 어떤 지식은 아예 의미가 없을 수도 있는 것이죠. 근데 만약에 이 프로모션 상황이라는 상황에서도 둘 다 필요한 정보다. 그리고 우리 부서 HR팀에서 주간 보고를 할 때 야, 주간 보고하게 매출 정리해 봐라고 하는 거랑 CS 팀에서 주간 보고하게 매출 정리해 봐라는 거는 이 매출이라는 단어도 다 의미가 다를 수 있죠. 그렇기 때문에 부서별 지식이 중요하고 그럼에도 불구하고 충돌이 일어났을 때는 어떻게 하냐?

이때는 조직문화입니다. 세 번째, 한번 나왔던 주제입니다. 정확하게 이 상황에서 우리 부서의 정보가 두 개가 존재할 때 서로 다른 지식이 충돌할 때 어떻게 할 거냐에 대해서 AI 에이전트 룰을 어떻게 만들 거냐를 가지고 다같이 얘기했었던 적도 있었어요. 근데 그때 중요했던 거는 원래 이 회사에선 어떻게 하는데요라는 질문이었습니다. 결국 조직 문화입니다. 원래 이 회사에서 풀어 나가던 방식대로 해야 됩니다. 결국 휴먼 인 더 루프인 거거든요. 암묵지도 휴먼 인 더 루프입니다.

그래서 컨텍스트 그래프를 설계할 때 지식만 들어가는 게 아니라 상황, 화자, 부서, 직급, 사람 다 들어가야 되고요. 그리고 그럼에도 불구하고 이 정보가 부딪혔을 때는 조직 문화입니다. 그래서 컨텍스트 그래프는 보통 일반적으로 그래프 DB로 많이 그리죠. 근데 그래프 DB 형태를 띨 뿐 이게 꼭 그래프 DB가 아니어도 저는 된다고 생각합니다.

RDB지만 그래프 DB의 구조를 잘 사용해도 되고요. 근데 거기에 같이 붙어야 될 거는 이 잘 모델링된 우리의 부서 직급 체계, 그리고 화자, 상황, 소스 정보들이 다 태깅이 잘 되어 가지고 또 하나의 어떤 맥락 정보를 포함하고 있어야 되는 것입니다. 그래서 마지막으로 정리를 하면 개인의 암묵지가 AI 에이전트에 잘 들어가 있어야 조직의 생산성으로 적용됩니다. 근데 이걸 단순히 스킬, 룰, 하네스 이런 식으로 받아들이는 게 아니라 결국 이 암묵지가 계속해서 쌓이고 관리되어야 할 컨텍스트 그래프라는 형태로 관리될 수밖에 없습니다.

엔터프라이즈 레벨에서는. 근데 여기서 우리가 모든 정보를 이 방식으로 저장하자는 것은 아니고 업무 노하우, 업무 프로세스, 암묵지에 대해서만 이 컨텍스트 그래프 형태로 잘 관리를 하자. 그때 내가 낼 수 있는 퍼포먼스, 우리 팀이 낼 수 있는 퍼포먼스가 확 올라가기 때문이에요. 암묵지를 잘 넣었을 때의 생산성의 향상을 가지고 성과 평가를 하자.

그 상황에서 암묵지를 잘 설계하시고 컨플릭트 현상에 대해서도 미리 대비하시고 이런 방식으로 컨텍스트 그래프를 꼭 구축하십시오. 그래서 이제는 문서에 대해서 전산화를 많이 해 놓은 회사, 사내 GPT를 잘 구축한 회사가 경쟁력이 있는 것이 아니라 우리 회사만의 암묵지, 판단과 맥락을 잘 구조화해서 컨텍스트 그래프를 얼마나 잘 세팅해 놓았냐가 이 회사의 경쟁력이 돼요. 그래서 결국은 이 컨텍스트 그래프를 시니어들이 잘 만들고 그리고 주니어들은 컨텍스트 그래프를 기반으로 아주 빠르게 학습이 되고 요게 우리 회사의 어떤 코어가 되는 것이거든요.

조직의 판단 체계를 자산화하는 것, 요게 암묵지 관리의 핵심이 되겠습니다. 그래서 다양한 방법으로 컨텍스트 그래프나 암묵지에 대해서 고민하시고 계신 분들에게 조금이나마 힌트가 되었으면 좋겠습니다. 감사합니다.