AI의 역사에서 배우는 레슨

AI는 1950년대 시작된 이래, 두 차례의 겨울을 겪고 나서, 1990년대 중반부터, 선진 기업들을 중심으로 활용이 누적되어 왔다.

2017년 가트너의 3100 CIO들을 대상으로 한 설문 조사에 의하면, 단지 4%만이 이미 AI를 현장에 도입했다. 같은 해 딜로이트에서 AI를 이미 도입하기 시작한 기업의 직원 250명을 대상으로 실시한 설문조사에 의하면, 1980년대부터 발전해 온 Rule-Based Expert System을 활용하는 기업이 조사 대상 중 49%,1990년대 중반 이후 발전해 온 통계학 및 뉴럴 넷 기반의 기계 학습을 활용하는 기업이 58%, 자연어 처리 기계 학습을 활용하는 기업이 53%, 2010년 들어 발전된 딥 러닝을 활용하는 기업이 34%였다.

이렇듯, AI를 잘 활용하고 있는 선진 기업들은 1980년대에서 최근에 이르기 까지 발전된 AI 기술들을 적재적소에 골고루 적용하고 있다.

Davenport 교수가 지적했 듯이, AI를 성공적으로 활용해 온 기업들은 AI를 조용히, 눈에 안 띄게, 어떻게 보면 지루하게 지속적으로, 그러나 의미 있게, 경영 성과를 올리면서 적용하고 있다. (T. Davenport, The AI Advantage, 2018).

그의 조사에 따르면, AI 하이프에 편승하여 떠들썩하게 큰 투자를 쏟아 진행한 AI 응용 프로젝트들은 경영 성과를 못 낸 경우가 많다.예컨대, 2013년 M.D. Anderson 암 센터에서 IBM과 함께 개발한 암 치료 AI 솔루션은 2016년까지 $62M 달러를 투입했는 데, 1명의 암 환자도 치료하지 못했고, 병원의 EMR 정보 시스템과 통합된 바 조차 전혀 없었던 것으로 감사 결과 드러났다. (MD Anderson Benches IBM Watson In Setback For Artificial Intelligence In Medicine https://share.google/Oix5GgRJzx5jhpMVp)

반면 싱가포르의 DBS 은행은 기계 학습을 이용해 ATM 기계에 현금을 채울 시점의 예측, 판매 직원의 이직 예측, 사기 탐지, 고객 지원 챗봇, 여신 알고리즘 등 소소한 다양한 업무에 AI를 이용해, 2016년 Euromoney가 전세계 최고의 디지털 뱅크로 선정했다. DBS의 Digibank는 일반 은행 대비 10%의 인력으로 운영된다. (DBS' AI Journey - Case - Faculty & Research - Harvard Business School https://share.google/BUcqUfdAQkzVYVFg1)

모든 IT 투자가, 야구에서 홈런 한 방을 내려하지 않고 내야 안타를 계속 깔아서 득점하는 것처럼, 꾸준히 작은 실험을 통해 경영 성과를 만들어 가는 게 正道(정도)이 듯이, AI의 응용도 좋을 듯한 사용사례에 조용히 적용해 보면서 경영 성과를 쌓아 가는 게 바람직하다.

2020년대에 들어, 생성형 AI, RAG, MCP, A2A, AI Agent 기술들이 관심을 끌고 있는 데, 이 기술들도 고객여정지도(Customer Journey Map) 같은 UX 분석을 통해 경영 성과를 올릴 수 있는 AI 사용사례를 하나씩 찾아내어 효과를 검증해 보는 방식으로 조용히 차근 차근 접근하는 게 좋겠다.

생성형 AI의 프롬프팅에 기반 한 AX 프로젝트의 95%가 경영 성과를 올리지 못했다는 MIT 연구 결과가 다소 충격적이었다. (MIT, The GenAI Divide - State of AI in Business, 2025)

요즘은 많은 기업들이 AI 에이전트에 기대를 걸고 있다. 가트너의 2025년 설문조사에 의하면 조사 기업의 43%가 이미 AI를 현장에 도입했는데, 같은 해 AI 에이전트 개발을 고려, 계획 또는 실행하고 있는 기업은 15%이고, 이 중 AI 에이전트를 이미 현장에 도입한 기업은 소수에 불과한 것으로 보인다. Gartner에 의하면, 2027년까지 원가 초과, 비즈니스 가치 모호, 위험 제어 미흡 때문에, 기업의 AI 에이전트 프로젝트의 40%가 실패할 것이고, 2028년까지 AI 에이전트가 기업의 일상 업무 의사 결정의 15%를 자율적으로 수행할 것이고, 2029년까지 고객 지원 서비스의 보편적 이슈의 80%를 자율적으로 해결함으로써 운영 비용을 30% 절약해줄 것이라고 예측한다.

선진 기업들도 아직 AI 에이전트의 도입을 신중히 시도하는 단계이니, AI 에이전트에 대한 하이프에 들뜨지 말고, Gartner처럼 현실적이고 합리적인 목표를 가지고, 차분히 조용히 노력한다면 반드시 기업의 경영 성과 개선을 달성할 것이다!