CDSA | 홈페이지 블로그
Editorial · AI 경영 리포트

2026 생성형 AI 가치 격차
88%가 도입했는데
왜 6%만 이익을 보는가

맥킨지·PwC·BCG·가트너가 2026년 1분기에 쏟아낸 리서치는 같은 결론으로 수렴한다. 실험의 해는 끝났고, 결산이 시작됐다. 누가 이기고 누가 비용만 치르는가.

신성진  ·  한국데이터사이언티스트협회 대표이사 2026. 4. 23

AI를 도입하지 않은 기업을 찾기가 오히려 어려워졌다. 그런데 AI로 이익을 본 기업을 찾기는 여전히 어렵다. 이 두 문장이 2026년의 기업 AI 현황을 가장 짧게 요약한다. 맥킨지가 2025년 11월 발표한 『2025 AI 현황』(105개국 1,993명 조사)에 따르면 기업의 88%가 최소 하나의 사업 부문에서 AI를 쓰고 있다. 그런데 AI가 영업이익(EBIT)의 5% 이상을 만들어낸 "AI 고성과 기업"은 6%에 불과하다. PwC가 2026년 1월 발표한 제29차 글로벌 CEO 서베이(4,454명)는 이 격차를 더 날카롭게 잘라 보여준다.

88%
AI 도입률
최소 한 부문 이상
McKinsey 2025
6%
AI 고성과 기업
EBIT 5%+ 기여
McKinsey 2025
+4%p
이익률 격차
폭넓게 적용한 기업
PwC CEO Survey

PwC 조사에서 비용 절감과 매출 증대 양쪽 모두에서 AI 효과를 봤다고 답한 CEO는 12%에 불과했다. 반면 56%는 AI에서 어떤 재무 효과도 보지 못했다고 답했다. 제품과 고객 경험에 AI를 폭넓게 적용한 기업은 동종 업계 대비 이익률이 약 4%p 높았다. 이 4%p가 지금의 승자와 패자를 가르는 경계다. 그리고 그 경계가 2026년 1~4월 90일 동안 컨설팅 보고서와 실적 발표, 그리고 한국 기업의 공시를 통해 뚜렷해졌다.

01 / 전환점2026년은 결산의 해 — 전문가들이 한목소리로 말한 것

1분기에 주요 리서치 기관들은 거의 같은 문장을 내놓았다. 실험의 시간이 끝났다는 것이다. 가트너의 크리스 반 리퍼는 2026 CIO 서베이를 발표하며 이렇게 말했다.

2025년은 AI 파일럿과 탐색, 실험의 해였다. 2026년은 에이전틱 AI의 ROI를 실제로 만들어내는 해가 될 것이다. Kris van Riper, Gartner · 2026 CIO Survey

전 세계 CIO의 89%가 2026년 AI 지출을 늘릴 계획이고, 글로벌 AI 지출은 2026년 2조 달러를 돌파해 전체 IT 지출의 약 3분의 1을 차지할 전망이다. 반대 방향의 경고도 있다. 포레스터의 2026 예측은 "AI의 과열이 식으면서 기업들이 계획된 AI 지출의 25%를 2027년으로 미룰 것"이라며, "의사결정자 중 AI 가치를 조직의 재무 성장과 연결할 수 있는 사람은 3분의 1도 안 된다"고 지적했다. MIT Sloan의 Thomas Davenport와 Randy Bean이 이 분위기를 가장 간결하게 정리했다.

2025년이 생성형 AI의 가치 실현 문제를 깨달은 해였다면, 2026년은 그 문제에 대해 뭔가를 하는 해가 될 것이다. Thomas Davenport & Randy Bean, MIT Sloan

경고에도 불구하고 투자는 오히려 가속된다. BCG AI Radar 2026(임원 2,360명·CEO 640명 조사)에 따르면 기업들은 2026년 AI 지출을 두 배로 늘려 매출의 약 1.7% 수준으로 끌어올리고, CEO의 94%는 1년 내 투자 회수가 되지 않더라도 AI 투자를 계속하겠다고 답했다. Stanford HAI의 『2026 AI Index』는 2025년 글로벌 기업 AI 투자가 5,817억 달러로 전년 대비 130% 증가했다고 기록했다.

02 / 결정적 증거이번 분기, 가장 강력한 증거는 월스트리트에서 나왔다

컨설팅 보고서는 흔히 수사로 흐른다. 그런데 2026년 1분기는 달랐다. 수사가 아니라 실적 발표에서 증거가 나왔다. 뉴욕타임스 Rob Copeland 기자가 4월 21일 보도한 바에 따르면, JPMorgan·Citi·Bank of America·Goldman Sachs·Morgan Stanley·Wells Fargo 등 월스트리트 6대 은행은 2026년 1분기에 합계 470억 달러 이익을 냈고(전년 대비 18% 증가), 동시에 1만 5천 명을 감원했다. 여섯 은행 모두 인력 감축의 근거로 AI를 들었다.

은행 2026 Q1 구체 공시 근거
Bank of America AI로 코딩 작업 30% 감소 ≈ 약 2,000 포지션. 21.3만 명 중 90%가 사내 AI 어시스턴트 Erica 사용 Banking Dive 2026-01-15
Citi 50개 이상 프로세스에 AI 배치. 2026년 말까지 25억 달러 절감 · 2만 명 감축 목표 Jane Fraser CEO 실적 발표
JPMorgan 2026년 기술 지출 200억 달러(+20억). 운영 생산성 향상률이 연 6%로 2배 증가 Motley Fool transcript 2026-04
Goldman Sachs GS AI Assistant로 46,000 직원 생산성 약 20% 향상 Reuters / AI Street

특히 주목할 발언은 Bank of America의 Brian Moynihan CEO다. 2025년 12월까지만 해도 그는 "AI로 감원할 걱정은 없다"는 입장이었다. 그런데 2026년 1분기 실적 발표 후 태도가 완전히 바뀌었다.

업무를 없애는 것과 기술을 적용하는 것. 그것이 이번 분기 개선의 원인이다. AI는 우리가 가본 적 없는 곳까지 데려가 준다. Brian Moynihan, Bank of America CEO

기업이 "AI로 일자리 줄일 계획 없다"에서 "AI로 여기까지 왔다"로 공개적으로 선회하는 데 넉 달이 걸렸다는 뜻이다. 이 속도가 지금의 분위기다.

03 / 비용 절감10~30%라는 구간의 비밀

이번 분기 가장 많이 인용된 비용 절감 벤치마크는 좁은 구간에 몰려 있다. 맥킨지의 『State of AI 2025』는 소프트웨어 엔지니어링과 IT 부문에서 10~20% 비용 감소를 보고한다. 그런데 여기에 베인의 Chuck Whitten이 결정적인 뉘앙스를 덧붙였다. 같은 AI를 써도 결과는 두 배 차이가 난다는 것이다.

도구만 도입
코딩 어시스턴트나 GPT 라이선스만 배포 → 생산성 향상 10~15%에 머문다
엔드-투-엔드 재설계
생성형 AI + 프로세스 전환을 함께 진행 → 생산성 향상 25~30%에 도달한다

같은 기술을 썼는데 왜 두 배 차이가 날까. Whitten의 답이 이번 분기에 가장 인용 가치가 높다.

우리 고객 성공 사례에서, 데이터·프로세스·변화관리가 아마 3분의 2이고, 기술이 3분의 1이다. Chuck Whitten, Bain & Company

이 공식은 AI 프로젝트 예산을 짜는 기업에게 그대로 뒤집힌 시사점을 준다. 대부분 기업은 정확히 반대로 예산을 편성한다. 기술에 3분의 2, 데이터·프로세스·변화관리에 3분의 1. 같은 기술을 써도 결과가 두 배 차이 나는 이유가 여기에 있다.

은행 바깥에서도 구체적인 숫자가 쏟아졌다. Snap은 약 1,000명 감원을 통해 2026년 하반기까지 5억 달러 이상 절감을 전망했다. Evan Spiegel CEO는 "AI 발전으로 반복 작업의 자동화가 가능해졌다"고 설명했다. Angi Inc.는 350명 감원으로 연 7,000만~8,000만 달러 절감을 발표했다. P&G의 Andre Schulten CFO는 Morgan Stanley 컨퍼런스에서 공급망 AI가 "당분간 20억 달러 생산성 향상의 여지"를 만들어냈다고 말했다. Nestlé의 AI 기반 컨셉 생성기는 1,300개 제품을 만들어내며 신제품 개발 기간을 3개월에서 3주로 단축했다. 디지털 트윈 마케팅은 비용 55%, 시간 65%를 줄였다.

04 / 매출의 벽매출 증가는 왜 이렇게 어려운가

Deloitte가 1월 다보스에서 발표한 『State of AI in the Enterprise』(24개국 3,235명 조사)는 가장 중요한 비대칭을 드러냈다.

66%
생산성·효율 향상을
보고한 조직 비율
Deloitte 2026
20%
매출 증가
보고한 조직 비율
Deloitte 2026
74%
매출 증가
목표로 하는 비율
Deloitte 2026

74%가 매출 증가를 목표로 삼았는데 실제로 달성한 곳은 20%밖에 안 된다. 이 3배의 격차가 바로 이번 분기 모든 CEO가 몰래 들여다보는 숫자다. 왜 매출은 비용보다 어려울까. 비용 절감은 내부 프로세스 개선으로 끝나지만, 매출 증가는 고객 경험·상품 설계·영업 모델 전체가 함께 움직여야 하기 때문이다. 운영 모델과 상업적 역량을 훨씬 더 깊게 건드린다.

그래서 매출 성과를 내는 곳은 소수지만, 그 소수는 수치가 매우 뚜렷하다. 맥킨지는 마케팅과 제품 개발에서 10% 이상의 매출 상승이 나타났다고 보고한다. Stanford HAI 2026 AI Index는 매출 증대 상위 기능으로 마케팅·세일즈(67%), 전략·기업재무(65%), 제품 개발(62%)을 꼽았다.

가장 명확한 엔터프라이즈 소프트웨어 증거는 ServiceNow의 1분기 실적에서 나왔다. Bill McDermott CEO는 2026년 AI 매출 목표를 상향하며 이렇게 말했다.

15억 달러를 훌쩍 넘길 것이다. 5억 달러 이상을 추가로 올려야 한다. 비현실적일 정도다. Bill McDermott, ServiceNow CEO

Now Assist의 연간 계약액 100만 달러 이상 고객이 전년 대비 130% 이상 증가했고, 500만 달러 이상 대형 딜만 16건이 체결됐다. Accenture의 1분기 실적에서는 고급 AI 수주가 1년 만에 12억 달러에서 22억 달러로 거의 두 배가 됐다. Julie Sweet CEO는 "고급 AI가 우리가 하는 거의 모든 일에 내재화되는 지점에 도달했다"고 선언했다.

소비자 서비스에서는 Duolingo의 스토리가 가장 선명하다. Luis von Ahn CEO의 말이다.

같은 인원으로 같은 시간에 4~5배의 콘텐츠를 만들 수 있다. 목표는 돈을 아끼는 것이 아니다. 사람을 대체하는 것도 아니다. 훨씬 더 많은 일을 하는 것이다. Luis von Ahn, Duolingo CEO

Duolingo는 AI로 1년 만에 148개 언어 코스를 만들었다. 지난 12년간 만든 것보다 많은 수다. 2025년 매출 가이던스는 10억 2천만 달러로 상향 조정됐다. 핵심은 "같은 인원으로 더 많이"다. 감원이 아니라 증폭이다.

05 / 생산성시간 단위로 측정되는 증폭 효과

생산성 증거는 구체적이고 인용 가능한 수치로 굳어졌다. Stanford HAI 2026 AI Index는 분야별로 이렇게 정리한다. 고객 지원 14~15%, 소프트웨어 개발 26%, 마케팅 산출물 73% 증가. 그러나 "깊은 추론을 요하는 업무에서는 증가폭이 작으며, 과도한 AI 의존이 장기적 학습 페널티를 동반할 수 있다"는 경고도 함께 붙였다.

Microsoft의 1분기 실적 발표(2025년 10월 29일)는 가장 많이 인용되는 구체 사례를 쏟아냈다. Satya Nadella CEO는 Microsoft AI 기능 월간 활성 사용자 9억 명과 1st-party Copilot 월간 활성 사용자 1억 5천만 명 이상을 공개했다.

기업 결과 출처
Lloyds Banking Group 직원 1인당 하루 46분 절감 · Copilot 30,000석 Microsoft Q1 FY26
PwC Copilot 20만 석 · 6개월 동안 3,000만+ 상호작용 Microsoft Q1 FY26
Vodafone 직원 1인당 주당 3시간 절감(주간 근무의 약 10%) Microsoft Customer Stories
Commercial Bank of Dubai 연간 39,000시간 절감 Forrester TEI
Mass General Hospital 임상 문서 작성 시간 60% 감소 MIT IDE 2026
Salesforce (Agentforce) 지원 인력 9,000 → 5,000명 · 고객사 분기대비 50% 성장 Business Insider 2026-02

직원 수준에서도 시간이 선명하게 측정된다. BCG의 AI at Work 2025 연구(11개국 10,635명 조사)는 생성형 AI 정기 사용자의 58%가 주당 5시간 이상 절감을 보고한다고 밝혔다. 핵심 조건은 교육이었다. 최소 5시간의 AI 교육을 받은 직원의 정기 사용률이 유의미하게 높았다. 이 숫자가 의미하는 바는 뚜렷하다. 라이선스만 뿌리고 교육을 건너뛰면 ROI는 오지 않는다.

Anthropic의 Economic Index(2026년 1월·3월 리포트)는 200만 건 대화 분석을 통해 약 49%의 직업에서 최소 4분의 1의 업무가 Claude로 수행된 적이 있다고 결론지었다. 엔터프라이즈 API 사용은 75%가 자동화(사람이 시키고 AI가 실행)인 반면, Claude.ai 일반 사용은 52%가 증강(사람이 AI와 함께 작업)이었다. 기업용 환경에서는 AI가 대신 해주는 비중이 더 크고, 개인용 환경에서는 함께 하는 비중이 더 크다는 뜻이다.

06 / 한국의 기울기도입은 세계 최고 속도, 실행은 고르지 않다

한국의 헤드라인 수치는 세계에서 가장 빠른 도입 속도를 시사한다. 한국은행의 2025년 8월 이슈노트 2025-22(올해의 기준 보고서)는 이렇게 밝혔다.

63.5%
한국 근로자
생성형 AI 사용률
한국은행 2025
26.5%
미국 근로자
생성형 AI 사용률
(한국의 약 1/2)
8배
확산 속도
인터넷 초창기 대비
한국은행 2025

한국 헤비 유저(하루 60분 이상)는 일일 사용자의 78.6%로, 미국의 31.8%를 압도한다. 한국은행의 거시 시뮬레이션은 "AI 도입이 한국 생산성을 1.1~3.2%, GDP를 4.2~12.6% 끌어올려 고령화와 노동 공급 감소에서 오는 성장 둔화를 상당 부분 상쇄할 수 있다"는 결론이었다.

개인 확산과 기업 확산이 다른 속도로 움직이는 것도 특징이다. 과기정통부의 2025 인터넷이용실태조사(2026년 3월 발표, 50,750명 대상)는 전체 인구의 44.5%가 생성형 AI를 사용해봤고, 사무직은 71.9%에 달한다고 밝혔다. 1년 전 33.3%에서 11.2%p 상승이다. 기업 쪽은 메가존클라우드·IDG 조사(749명)에서 확인된다. 한국 기업의 55.7%가 생성형 AI를 사용 중이며(전사 22.4% + 일부 부서 33.2%), 2026년에는 85%를 돌파할 전망이다. 대기업 전사 도입률은 35.1%로 중소기업의 두 배 이상이다.

실제 사례도 이번 분기에 가시화됐다. 한국은행의 BOKI(2026년 1월 21일 론칭)는 중앙은행 최초의 소버린 AI로, 네이버 HyperClova X 위에서 140만 건의 내부 문서를 학습했다. 이창용 총재의 발언이 협회 리포트에 인용하기 좋다.

한국은행이 소버린 AI 구축과 망 개선을 동시에 추진하는 최초 기관이자, 망분리 정책 변화를 시도하는 첫 번째 공공기관이 됐다. 업무 효율성이 제고될 뿐 아니라, 조직 문화 전반에도 상당한 변화가 뒤따를 것이다. 이창용, 한국은행 총재

기업 쪽에서는 LG전자 한국영업본부가 가장 날카로운 국내 수치를 내놓았다. ChatInsight라는 에이전틱 AI 시스템이 데이터 분석 업무를 3일에서 30분으로, 288배 단축했다. 선형적·반응적 워크플로를 병렬적·능동적 전략 수립으로 전환한 사례다. 삼성SDS는 4월 컨퍼런스에서 80분 업무를 10분으로 단축(8배), 한 은행 레거시 현대화 프로젝트에서 코드 변환 성공률 98.8%, 개발 비용 68% 감소를 발표했다. 2031년까지 AI 및 관련 M&A에 10조 원 투자 계획도 공개했다.

조직 문화 관점에서 주목할 곳은 현대카드다. 정태영 부회장이 직접 LLM 교육에 참석했고, 드물게도 실무자보다 리더를 먼저 LLM 실습에 투입하기로 결정했다. "생성형 AI는 도입 여부가 아니라 조직에 얼마나 깊게 뿌리 내리느냐가 경쟁력을 좌우한다"는 것이 회사 내부 입장이다. KB금융은 3년간 39개 업무영역에 AI 에이전트 250개 이상을 단계 배치하고, 8개 계열사를 KB GenAI 포털로 통합한다. LG CNS AI센터장 진요한이 한 문장을 남겼다.

지난 1년의 변화가 그 이전 20년보다 더 컸다. 진요한, LG CNS AI센터장

07 / 교훈경영진을 위한 다섯 가지 교훈

2026년 1분기부터 4월까지의 90일. 이 창구에서 나온 다섯 가지 교훈을 정리하면 이렇다.


08 / 맺으며결산은 이미 진행 중이다

이번 90일의 리서치가 일관되게 보내는 메시지는 하나다. 질문이 바뀌었다는 것이다. 2024~2025년까지 CEO들은 "AI가 진짜 되는가"를 물었다. 2026년 1분기부터는 "누가 가치를 포착하고 있는가"를 묻는다. 전자는 기술에 대한 질문이었고, 후자는 경영에 대한 질문이다.

88%의 기업이 AI를 쓰는데 6%만 이익을 본다는 사실을 경영 격차로 읽어야 한다. 그 격차는 모델의 성능이나 예산의 크기가 아니라, 일을 설계하는 방식, 데이터를 다루는 습관, 그리고 조직이 변화에 얼마나 열려 있는가에서 갈린다. 베인의 Whitten이 말한 "기술은 3분의 1, 나머지는 데이터·프로세스·변화관리"는 2026년 내내 인용될 문장이다. MIT Sloan이 말한 "뭔가를 하는 해"가 시작됐다.

월스트리트 6대 은행이 넉 달 사이 입장을 바꾼 것, 맥킨지·Deloitte·BCG·KPMG가 같은 결론으로 수렴한 것, 한국은행과 LG전자·삼성SDS가 나란히 구체 수치를 공개한 것. 이 모든 장면이 한 방향을 가리킨다. 결산은 2027년에 오는 것이 아니다. 이미 2026년 4월의 실적 발표장에서 진행되고 있다.