AI에 투자한 60%가 성과를 못 보는 이유 — 비정형 데이터라는 병목
AI 투자가 성과로 이어지지 않는 가장 큰 이유는 모델이 아니라 데이터입니다. 정확히는, 기업이 가진 데이터의 대부분이 AI가 읽을 수 없는 형태로 남아 있기 때문입니다.
BCG가 9개 산업 25개 이상 섹터의 경영진 1,250명을 조사한 결과, 60%의 기업이 상당한 투자에도 매출이나 원가에서 의미 있는 성과를 보지 못했습니다. 반면 상위 5%는 같은 투자에서 매출 성장 1.7배, EBIT 마진 1.6배를 만들어내고 있었습니다.
2024년 한 해에만 전 세계 AI 투자액이 2,500억 달러를 넘었습니다(스탠퍼드대 집계). 돈을 안 써서 성과가 없는 게 아닙니다.
상위 5%와 하위 60%의 갈림길
BCG는 기업을 세 그룹으로 나눴습니다.
주목할 점은 하위 60%도 AI에 투자하고 있다는 사실입니다. 투자 유무가 아니라 투자가 작동할 조건을 갖췄는지가 갈랐습니다.
상위 기업은 성과가 나오고, 그 성과를 재투자해 역량을 키우는 선순환에 있습니다. 하위 기업은 성과가 안 보이니 다음 단계 승인을 못 받고 멈춥니다. 격차는 시간이 갈수록 벌어집니다.
데이터가 준비되지 않으면 아무것도 작동하지 않는다
AI가 작동하려면 읽을 수 있는 데이터가 있어야 합니다. 당연한 말 같지만, 실제 기업의 데이터 상태는 이렇습니다.
Harvard Business Review Analytic Services가 기업 리더 325명을 조사한 결과입니다.
94%가 필요하다고 인정하지만 27%만 준비돼 있습니다. 이 격차가 60%가 성과를 못 보는 구간과 겹칩니다.
그리고 준비가 가장 안 된 영역이 비정형 데이터입니다. 견적서, 거래명세서, 작업지시서, 계약서. 정해진 형식 없이 들어오고, 사람은 읽지만 기계는 못 읽는 데이터입니다.
McKinsey도 같은 지점을 지적합니다. 기업 프로세스의 상당 부분이 문서화·표준화되어 있지 않고 경험 많은 직원의 머릿속에만 있다는 것입니다.
기술에 돈을 더 쓴다고 해결되지 않습니다
BCG의 10-20-70 법칙이 이 구조를 정확히 보여줍니다.
같은 조사에서 AI 전환을 가로막는 장애물의 약 70%가 사람과 프로세스 영역, 20%가 기술, 10%만이 알고리즘이라는 결과가 나왔습니다.
모델을 바꾸는 것은 전체의 10%를 건드리는 일입니다. 나머지 90%인 프로세스 정비와 데이터 기반 구축이 빠져 있으면, 아무리 좋은 모델을 도입해도 결과가 달라지지 않습니다.
실제로 상위 5%는 기술에 더 많은 돈을 쓴 기업이 아니라, AI가 작동할 환경을 먼저 만든 기업이었습니다.
제조업의 출발점: 거래 문서
그렇다면 어디부터 손대야 할까요.
BCG 조사에서 AI 잠재 가치의 70%가 영업·마케팅, 제조, 공급망, 가격 결정 같은 핵심 업무에 집중되어 있었습니다.
제조업의 이 핵심 업무들이 공통으로 매개하는 것이 거래 문서입니다.
이 데이터가 시스템 안에 정확히 들어 있어야 원가 분석도, 수요 예측도, 공급망 최적화도 의미를 가집니다. 그런데 국내 제조 현장에서 이 문서들은 여전히 hwp, 스캔 PDF, 메일 첨부로 존재합니다.
거꾸로 말하면 여기가 병목이자 출발점입니다. 거래 문서가 AI가 읽을 수 있는 데이터로 전환되면, 구매·영업·물류·생산 전체에서 AI가 작동할 토대가 한 번에 만들어집니다.
순서가 있습니다
어떤 의사결정을 AI가 도와야 하는지 정의한다 — 도구 선택은 그다음입니다
그 결정에 필요한 데이터가 어디 있는지 확인한다 — 대부분 문서 안에 있습니다
그 문서를 기계가 읽을 수 있는 데이터로 만든다 — 여기가 실제 작업입니다
그다음에 모델을 고른다
대부분의 기업이 4번부터 시작합니다. 그래서 60%에 머뭅니다.
자주 묻는 질문 (FAQ)
Q. AI에 투자했는데 성과가 안 나오는 이유는 무엇인가요? A. 대부분 데이터 준비 부족입니다. BCG 조사에서 60%의 기업이 상당한 투자에도 매출·원가 성과를 보지 못했는데, 상위 5%와의 차이는 기술 예산 규모가 아니라 AI가 작동할 데이터 환경을 먼저 갖췄는지였습니다.
Q. 비정형 데이터란 무엇인가요? A. 정해진 형식 없이 존재하는 데이터입니다. 견적서, 거래명세서, 계약서, 작업지시서처럼 사람은 읽을 수 있지만 시스템이 곧바로 처리할 수 없는 형태를 말합니다. 기업 데이터의 대부분이 여기 해당합니다.
Q. 10-20-70 법칙이 무엇인가요? A. BCG가 제시한 AI 투자 배분 원칙입니다. 알고리즘 10%, 기술·데이터 아키텍처 20%, 사람과 프로세스 70%로 자원을 배분해야 한다는 내용입니다. 모델 교체는 전체의 10%만 건드리는 일입니다.
Q. AI 가치는 어느 업무에서 발생하나요? A. BCG 조사에 따르면 잠재 가치의 70%가 영업·마케팅, 제조, 공급망, 가격 결정 같은 핵심 업무에 집중되어 있습니다. IT 부서의 몫은 13%입니다.
Q. 제조업은 어떤 데이터부터 정리해야 하나요? A. 거래 문서가 우선순위입니다. 견적서의 단가, 발주서의 수량과 납기, 거래명세서의 입출고 기록이 시스템에 정확히 들어 있어야 원가 분석과 수요 예측이 가능해집니다.
Q. 데이터 정리 없이 좋은 AI 모델만 도입하면 안 되나요? A. 작동하지 않습니다. AI는 읽을 수 있는 데이터를 근거로 판단하기 때문에, 데이터가 없거나 형태가 맞지 않으면 그럴듯하지만 틀린 결과를 냅니다.