온톨로지만 구축하면 기업용 AI가 완성된다고 믿는 기업들에게

온톨로지, 그렇게 쉬운 거면 팔란티어가 왜 30억씩 받을까?
교육받아서 뚝딱 되는 거라면 누가 나에게도 방법 좀 알려주길 바란다.

요즘 피드에 심심치 않게 보이는 기업 AX 관련 광고들을 보면 마음이 정말 무겁다.

온톨로지 구축 워크샵부터, 단기간 AX 완성하기…

이렇게 쉽게 되는 일이었다면 왜 대기업들은 수십억 원을 들이고도 기업용 AI 구축에 번번이 실패했을까.

변화의 기로에서 누구보다 치열하게 공부하고 고민하는 리더들의 간절함을 잘 알기에, 시장이 던지는 얄팍한 환상이 자칫 그들의 노력을 부채로 만들지 않을까 몹시 염려스럽다.

기업용 AI 아키텍처를 설계하는 사람으로서, 그 열정이 헛되지 않도록 오늘은 리더들이 반드시 알아야 할 '온톨로지'에 대한 진실을 꺼내놓으려 한다.

왜 온톨로지만으로는 조직의 AX가 완성되지 않을까

온톨로지는 AI에게 우리 회사를 이해시키는 지도다.

누가 누구와 함께 일하는지, 어떤 데이터가 어떤 업무와 연결되는지 구조화해 AI가 회사의 맥락을 이해하도록 만드는 기술.

많은 대기업들이 수십억 원을 들여 온톨로지를 구축하고, 이를 기업용 AI에 연결한다. 그리고, 이를 오픈하는 순간만큼은 정말 우리 회사만을 위한 완벽한 AI가 탄생한 것처럼 보인다.

하지만 그 완벽함은 오래가지 않는다.

대부분의 기업용 AI는 오픈하는 날이 가장 똑똑하기 때문. 조직이 한 번 바뀌고, 권한이 바뀌고, 프로젝트가 몇 번 바뀌는 동안 AI는 조금씩 현실과 멀어진다. 그리고 어느 날부터 구성원들은 이렇게 말할 것이다.

"AI가 자꾸 틀려요"

왜 이런 일이 벌어질까?

기업이 시시각각 변하기 때문이다.

조직은 고정된 데이터베이스가 아니다. 매일 흐르는 강물에 가깝다.

강이라는 이름은 그대로지만 그 안의 물은 매 순간 바뀌듯, 기업도 마찬가지다. 회사명은 하나지만 오늘 아침 새로운 구성원이 입사하고, 오후에는 TF팀이 구성되고, 프로젝트가 새로 만들어진다.

문제는 온톨로지가 이 변화까지 스스로 따라가진 못한다는 데 있다.

조직구조와 권한이 바뀔 때마다, 최초 구축한 SI 업체를 불러 조직도를 수정하는 유지보수를 진행해야 한다.

물론 이게 불가능한 일은 아니다. 하지만 조직은 거의 매일 변하는데 그때마다 지도 하나 고치기 위해 억 단위 프로젝트를 다시 열 수는 없지 않은가?

결국 업데이트는 늘 현실보다 한발 늦어진다.

그리고 어느 순간 AI는 '우리 회사를 아는 AI'에서 '예전 회사를 아는 AI'가 된다.

수십억 원을 들여 구축한 기업용 AI가 신뢰를 잃고 사내에서 외면받는 시스템으로 전락하는 순간이다.

AI의 시간이 멈췄다는 신호

실제로 거액을 들여 사내 AI를 구축한 뒤 우리를 찾아온 중견기업 K사의 사례를 대표로 들 수 있겠다.

조직개편이 잦았던 K사는 변화가 있을 때마다 SI 업체를 통해 온톨로지와 조직 정보를 수정하는 유지보수를 반복했다. 하지만 조직은 예상보다 훨씬 빠르게 변했고, 그때마다 적지 않은 비용과 시간이 들었다고 한다.

결국 모든 변화를 제때 반영하는 것은 현실적으로 어려웠고, 업데이트는 점점 뒤로 밀리기 시작했다.

결국 flex를 찾은 후에야 K사는 문제의 원인이 AI 성능이 아니라 멈춰 있는 조직 맥락이었다는 사실을 깨달을 수 있었다.

AI가 틀린 것이 아니었다. 마지막으로 업데이트된 조직을 너무 성실하게 믿고 있었을 뿐이다.

그래서 지도가 아닌 ‘내비게이션’을 만들었다

flex는 남들처럼 “온톨로지라는 지도를 얼마나 정교하게 만들 것인가”부터 고민하지 않았다.

길이 변하는 순간 AI도 함께 변하는 '실시간 내비게이션' 구조를 만들었다.

그렇기에 대부분의 AI는 저장된 정보만을 이해하지만, flex는 실시간으로 변하는 '관계의 흐름'을 읽어낸다.

매순간 달라지는 정체 구간과 새로운 길을 추적해 실시간으로 가장 빠른 경로를 제안하는 내비게이션처럼, 사람과 사람의 관계, 조직과 업무의 관계, 권한과 역할의 관계가 변하는 순간 AI가 그 변화를 즉시 반영해 리더에게 다음 행동을 안내하도록 설계한 것이다.

구축 시스템을 폐기하고 flex를 도입한 K사 담당자는 내게 이런 이야기를 했다.

"이제야 제대로된 기업용 AI를 도입했다는 생각이 듭니다.

얼마 전 프론트엔드 개발자 한 명이 퇴사 면담을 진행했는데, 다음 날 아침 AI가 먼저 '핵심 모듈의 인수인계 공백 가능성이 있습니다'라는 알림을 보내더군요."

• AI는 프로젝트 투입 현황
• 소스코드 권한
• 현재 진행 중인 업무를 함께 읽고

후속 조치가 필요한 이유까지 먼저 정리해 주었다. 이후 '작업 시작'을 누르니 관련 리더들의 일정을 잡고, 필요한 인수인계 작업을 정리해 후임 후보까지 제안했다고 한다.

"예전 같았으면 면담 내용 공유, 프로젝트 확인, 일정 맞추기, 후임자 찾기… 다 따로따로 움직였을 겁니다. 이게 클릭 몇 번으로 해결되는 게 너무 신기하네요.”

이 한 장면이 기업용 AI의 본질을 보여준다고 생각한다. 조직의 변화를 읽고, 다음 행동까지 먼저 제안한 것.

그때 한 번 더 확신했다. 기업에 필요한 AI는 질문해야 답하는 AI가 아니다.

조직의 변화를 포착해 먼저 움직이는, 믿을 수 있는 AI다.

온톨로지가 여전히 기업 AI의 중요한 뼈대라는 사실은 변하지 않는다. 아무것도 모르는 AI에게 우리 조직을 설명하는 장치이기 때문이다.

하지만 조직은 설명되는 순간에도 계속 변한다는 사실을 잊지 말아야 한다. 지도를 아무리 정교하게 그려봤자, 길이 변하면 즉시 쓸모없어지기 마련이니까.

기업을 어설프게 아는 AI는 많다.

하지만 조직을 제대로 알고, 구성원과 같은 시간을 흐르며 살아 움직이는 AI는 드물다.

그 결정적 차이는 '내부 관계 변화를 실시간으로 읽어내는 구조'에서 나온다.

신뢰할 수 있는 진짜 기업용 AI와 일하며 ‘조직 생산성’을 높이고 싶다면