Transcription
지난 2, 3년 동안 AI로 가장 많은 수익을 올린 기업들은 어디였을까요? 맥킨지앤컴퍼니, 보스턴컨설팅그룹 등 대형 컨설팅 회사들이었습니다. 기업들마다 생성형 AI를 어떻게 접목할지 파악하는데 도움이 절실히 필요했기 때문이죠.
그런데 이제 상황이 달라졌습니다. 정보 조사, 보고서 작성, PPT 제작 등 고객사가 직접 AI 에이전트의 딥 리서치 기능을 활용해 컨설턴트 역할의 상당 부분을 대체할 수 있게 됐죠. AI 에이전트가 갈수록 더 똑똑해지고 있는 지금, 기업들은 여전히 컨설턴트를 고용해야 될까요?
생성형 AI가 발표된 이후 지금까지 컨설팅 회사들은 숨은 승자였습니다. 생성형 AI가 불러온 'FOMO' 탓이었을 겁니다. 거의 모든 기업들이 AI를 활용할 방안을 찾는데 몰두한 지난 몇 년이었죠. AI로 사업을 혁신하거나 최소 뒤쳐지지 않기 위해서라도 AI 도입을 고민해야 했었습니다. '우리 회사는 어떻게 생성형 AI를 비즈니스에 접목할 수 있을까?' 이 질문에 답해 줄 전문가들이 필요하게 된 것이죠.
바로 이 지점에서 생성형 AI는 컨설턴트들이 오랫동안 기다려 온 선물이라는 평가를 받았습니다. 각 기업에 디지털 트랜스포메이션 바람이 시들해질 무렵, 다시 AI 트랜스포메이션 즉 AIX의 물결이 몰려오면서 새로운 호황기를 맞이하게 된 겁니다. 생성형 AI 기술을 비즈니스 우선순위로 삼고자 하는 각 기업의 이사회와 임원진을 교육하는 것부터 시작해서, 고객서비스 챗봇, 데이터 통합 업무용 AI 에이전트 구축 등 수많은 AI 관련 자문 업무와 프로젝트 요청이 쏟아졌죠.
덕분에 생성형 AI 기술을 개발한 오픈AI와 퍼플렉시티, 구글 등이 막대한 개발 비용을 감당하는 동안, 정작 돈을 번 건 대형 컨설팅 기업들이었습니다. 이들 컨설팅 기업들은 발 빠르게 AI 관련 팀을 만들고 수천 명의 AI 컨설턴트를 고용해서 AI 전략을 안내하는 프레임워크와 로드맵을 각 고객사에 전파하기 시작했습니다.
가장 앞선 곳은 액센츄어였습니다. 이 회사는 2023년 회계연도만 해도 생성형 AI 관련 계약 체결이 3억 달러였는데, 2024년 계약 체결로 인해 예정된 AI 관련 매출이 30억 달러로 증가했습니다. 2025년에는 계약 체결 규모가 59억 달러(한화 약 8조 4550억 원)로 늘어날 것으로 예상되고 있습니다. 참고로 2024년 오픈AI가 연매출 37억 달러를 올렸는데, 같은 기간 영업 손실이 50억 달러였거든요. 재주는 오픈AI가 부리고 돈은 액센츄어가 번 것이나 마찬가지인 상황이었죠.
액센츄어만이 아닙니다. 보스턴 컨설팅 그룹은 2024년 매출이 약 135억 달러로 전년 대비 10% 증가하며 역사상 최고 매출을 달성했는데요, 매출의 20%를 AI 관련 자문 업무에서 창출했다고 합니다. 2026년에는 이 비율이 40%까지 늘어날 것이라 기대하고 있죠. 맥킨지앤컴퍼니도 2024년 160억 달러 매출을 달성했는데, 이 역시 생성형 AI에서 상당 부분 기여를 한 것으로 보입니다. 2024년 상반기 동안에만 약 400건의 생성형 AI 프로젝트를 진행했다고 하고요. 현재 맥킨지 업무의 약 40%가 생성형 AI와 기술 관련 자문이라고 합니다.
컨설팅 업계 스스로도 생성형 AI를 가장 빠르게 받아들인 업계 중 하나입니다. 시간이 곧 돈인 컨설턴트들이 같은 시간에 업무를 훨씬 효율적으로 하도록 도와주는 게 바로 생성형 AI이니까요. 대표적으로 맥킨지앤컴퍼니는 2023년 '릴리'라는 사내 생성형 AI 챗봇을 개발했습니다. 그동안 축적된 회사의 지식 재산과 10만 건이 넘는 문서와 인터뷰를 모두 학습시켰다고 하는데요. 내부 직원이 릴리에게 질문을 하면, 릴리는 핵심 내용을 파악해 가장 근접한 내용을 담고 있는 내부 문서를 전달해주거나 해당 내용에 대해 가장 잘 알고 있는 사내 다른 전문가를 연결해준다고 합니다.
릴리가 출시되자마자 반응은 무척 뜨거워서, 맥킨지 전체 직원 중 75% 이상이 문서 요약, 데이터 분석, 브레인스토밍 등에 이 도구를 사용하고 있습니다. 평균 사용 횟수가 1주일에 17회 가량이라고 하죠. 회사 내부적으로는 릴리를 사용한 뒤로 직원들의 업무 시간이 30% 단축되었다고 평가하고 있습니다. 릴리 외에도 컨설턴트가 자신에게 필요한 자체 AI 에이전트를 구축할 수 있는 플랫폼이 있고, 또 각 산업 도메인 별로도 AI 에이전트가 있어서 컨설턴트가 해당 분야의 특정 기업에 대한 최신 정보를 항상 얻을 수 있도록 돕는다고 합니다. 가장 많이 사용되는 AI 에이전트는 직원들이 맥킨지스럽게 글을 작성할 수 있도록 어조를 수정해주는 봇이라고 합니다. 이런 식으로 맥킨지는 업무 전반에 총 1만 2000개의 AI 에이전트를 도입했습니다.
보스턴컴퍼니그룹은 2023년 3만 3000명의 글로벌 전 직원들이 사용할 수 있도록 사내에 챗GPT 엔터프라이즈를 도입했습니다. 이후 직원들은 문서 요약, 자동 이메일 응답 생성 등 사내에서 활용할 수 있는 1만 8000개 이상의 커스텀 GPT를 구축해 사용하고 있다고 하죠. 또 보스턴컴퍼니그룹도 직접 생성형 AI를 개발했는데요, 그 중 가장 인기있는 것은 프레젠테이션 슬라이드 편집기인 '덱스터'입니다. 900개에 다하는 슬라이드 템플릿을 기반으로 훈련이 되어 있어서 컨설턴트들이 프레젠테이션을 빠르게 제작할 수 있도록 도와주는 역할입니다. 현재 직원의 약 40%가 매주 덱스터를 사용하는데, 직원들 스스로가 자신들의 일자리를 걱정할 정도라고 합니다.
딜로이트 역시 직접 만든 생성형 AI 에이전트들을 사내에서 활용하고 있습니다. 문서 요약과 코딩, 이메일 등에 활용할 수 있는 '사이드킥'이 있고, 최근에는 ‘조라 AI’를 개발했습니다. 금융이면 금융, 마케팅이면 마케팅 등 특정 분야에 대해 훈련을 받은 뒤 인간 컨설턴트처럼 생각해 추론하도록 설계된 것이 특징이라고 합니다. PwC 역시 250개 넘는 내부 AI 에이전트를 보유하고 있고, 이들 AI 에이전트들을 중앙에서 관리할 수 있도록 하는 에이전트 OS라는 플랫폼도 개발했죠.
생성형 AI가 이렇게 사내 컨설턴트의 역할을 대체하기 시작하면서 인력 감축도 이어지고 있습니다. 맥킨지의 경우 2023년 4만 5000명 넘었던 직원이 2025년 현재 기준 약 4만 명으로 줄었습니다. 10% 감축한 셈이죠. 액센츄어는 사내 직원들을 대상으로 AI 기술 재교육에 많은 투자를 하고 있는데요, 기술 습득이 어려울 것으로 예상되는 인력은 퇴사 수순을 밟고 있습니다. 2025년 9월 보도에 따르면, 최근 3개월 간 1만 1000명 이상의 직원이 해고가 됐고, AI 교육을 따라가지 못하는 직원들은 추가로 해고될 수도 있을 것이라고 경고했다고 합니다.
사실 수십 년 동안 컨설팅과 기술 산업은 함께 발전해 왔습니다. 실리콘 밸리는 새로운 기술을 개발하고, 대형 컨설팅 회사가 각 기업이 이를 배포하도록 돕는 상부 상조 구조였던 거죠. PwC와 베인앤컴퍼니가 챗GPT 엔터프라이즈 버전이 출시되자마자 리셀러로 계약을 맺은 게 좋은 사례입니다. 오픈AI를 대신해 컨설팅 과정에서 챗GPT 엔터프라이즈 버전을 판매하고 구축까지 도와주는 역할을 하고 있는 겁니다.
그런데 생성형 AI는 기존 기술과 달리 고객들에게 새로운 관점을 가지게 만들었습니다. AI를 잘만 쓰면 주니어 컨설턴트 팀이 몇 주, 혹은 몇 달에 걸쳐 내놓은 분석과 크게 다르지 않는 품질의 분석을 10분 만에도 만들어낼 수 있다는 걸 알게 된 것이죠. "그렇다면 왜 그렇게 큰 비용과 오랜 시간을 들여 대형 컨설팅 회사를 고용해야 하는가?"라는 근본적인 의문이 생겨나게 된 겁니다.
컨설팅 업계는 전통적으로 투입 인원과 프로젝트에 걸린 시간을 기반으로 비용을 계산하죠. 컨설팅 회사에 수백만 달러를 지불하고 의뢰했던 것과 같은 분석을 AI를 활용해 사내에서 직접 수행할 수 있다면요? 컨설팅 회사를 고용할 필요가 없어지거나, 고용하더라도 프로젝트 기간을 매우 짧게 상정하게 될 것이라는 겁니다. 그러면 컨설팅 회사들의 수익은 줄어들 수밖에 없는 것이죠.
심지어 블룸버그에 따르면, PwC의 일부 고객사는 컨설턴트들이 AI 에이전트를 활용해 업무 시간을 줄인 만큼, 그 효율성의 효과를 공정하게 누리고 싶다며 컨설팅 수수료 절감을 요구하기도 했다고 합니다. AI가 도입되고 전파될수록 컨설팅 기업들의 지위가 흔들리는 겁니다.
AI를 활용해 컨설턴트의 업무 효율성을 끌어올릴 수 있게 되자, 소규모 컨설팅 부티크들도 경쟁력을 갖추기 시작했습니다. 대형 컨설팅 회사들은 다수의 주니어 컨설턴트와 소수의 시니어 컨설턴트로 구성된 피라미드 구조를 유지하죠. 시니어 컨설턴트 한 명당 최소 4명의 주니어가 붙어 하나의 프로젝트를 완성하는 식입니다. 그런데 AI 에이전트를 활용하면 주니어를 두지 않아도 되니, 마음 맞는 시니어 컨설턴트 몇 명이 모여 직접 컨설팅 회사를 차리는 식입니다.
대형 회계 컨설팅 펌의 전 파트너들이 모여 설립한 '유니티 어드바이저리'라는 회사가 대표적인 사례입니다. 전통적인 피라미드 구조 대신 자체 AI 툴을 구축하고 시니어 컨설턴트로만 직원을 구성했다고 합니다. 아예 'AI 컨설팅'을 표방한 스타트업들도 등장하고 있습니다. 기업이 사내에서 마치 컨설팅 기업을 소유한 것처럼 프로젝트를 맡기고 보고서를 받을 수 있는 솔루션을 판매하는 것이죠.
예를 들어, 최근 600만 달러(한화 약 86억 원)의 투자금을 모집한 '다이얼로그'의 경우, AI를 활용해 시장조사를 대신 해줍니다. 시장조사 연구를 설계하고, 수백 명 참여자와 동시에 AI가 인터뷰를 해주고, 연구를 통해 인사이트까지 뽑아준다고 합니다. 프로젝트 단건 별로 비용을 청구하는 컨설팅 회사들과 달리, 다이얼로그는 SaaS 방식으로 솔루션을 구독하는 모델이라는 점도 특징입니다. 시장조사 산업 역시 맥킨지나 보스턴컨설팅그룹같은 컨설팅 기업들의 주요 먹거리라서, 이런 방식의 솔루션들이 계속 생겨난다면 분명 골치가 아파질 수도 있겠죠.
'자비에 AI'는 최초의 AI 전략 컨설턴트를 표방한 스타트업인데요, 전 맥킨지 컨설턴트가 차린 회사인데 '맥킨지 킬러', '상자 안의 맥킨지'라고 스스로를 홍보하고 있습니다. 챗봇에 '00 상품의 국내 판매량을 늘릴 수 있는 전략을 말해줘' 등과 같은 질문을 올리면, 몇 분 만에 컨설팅 기업에서 제공할 법한 수십 페이지 분량의 파워포인트 자료를 생성해준다고 합니다. 이들 스타트업은 대부분 맥킨지나 베인같은 대형 컨설팅 회사를 고용하기에는 예산이 충분하지 않은 중견 기업들을 대상으로 새로운 컨설팅 시장을 창출하고 있는 것인데요. 전략 수립 전문, 임원 코칭, 가격 책정, 비용 절감 등 특정 영역만 집중해 전문적인 컨설팅을 제공하는 방향으로 여러 스타트업들이 탄생하고 있습니다.
여기서 끝이 아닙니다. '끝판 대장'이라고 해야 할까요? 오픈AI도 직접 컨설팅 분야에 진출하고 있습니다. 2025년 7월, 대기업과 정부 기관을 대상으로 맞춤형 AI 모델을 제공하는 컨설팅 사업에 본격적으로 뛰어든 것이죠. 단순히 범용 모델 판매에서 벗어나, 기업 전용 데이터를 기반으로 모델을 미세조정해 각 기업이나 기관에 맞는 맞춤형 애플리케이션까지 오픈AI 연구원들이 직접 구축해주는 겁니다. 비용은 최소 1000만 달러(약 137억원)에서 수억 달러까지 청구할 예정이라고 합니다. 최근 미국 국방부와 2억 달러 계약을 맺은 것이 이 컨설팅 서비스의 일환이라고 볼 수 있습니다.
참고로 오픈AI의 컨설팅 서비스 확대는 팔란티어의 급부상에 자극을 받았을 것이란 추측이 많습니다. 피터 틸이 설립한 팔란티어는 AI와 데이터 분석 기술을 기반으로 전통적인 컨설팅 서비스를 대체하며 빠르게 성장하고 있죠. 실제로 컨설팅 서비스를 준비하면서 오픈AI는 팔란티어 출신의 연구원들을 여럿 영입했다고 합니다.
최근 컨설팅 기업의 AI 활용은 한 차례 입방아에 올랐죠. 딜로이트가 호주 고용노동 관계부로부터 의뢰받은 보고서를 작성하면서 오픈AI 챗GPT-4o를 사용했다가 할루시네이션에 속아 망신을 당한 바로 그 사건입니다. 가짜 판결문을 인용하거나 존재하지도 않는 학술 연구 논문을 참조하는 등 최대 20곳의 오류가 발견됐던 겁니다. 딜로이트가 수주한 금액이 호주 달러로 44만 달러(한화 약 4억 원)였는데요, 이중 9만 7000 호주달러(한화 약 9000만 원)를 환불해야 했습니다.
과거 컨설턴트들이 독점하던 시장 데이터, 업계 분석 우수 사례 등은 이제 인터넷을 통해 누구나 접근할 수 있게 됐습니다. 대형 컨설팅 기업들에 요구하는 건 그 이상, 즉 인간만이 내놓을 수 있는 통찰력이겠죠. 그런데 컨설팅 기업들이 AI 도구에 의존할수록 그러한 휴먼 터치가 사라지고, 오히려 고객이 컨설팅을 아웃소싱하는 대신 내부에서 해결하려는 움직임만 부추기게 될지 모르죠.
더욱이 오픈AI나 팔란티어처럼 기술기업이 고객사 내에 AI 솔루션을 직접 구축하는 'AI as a Service' 모델로 전환해버리면, 비즈니스와 기술 간 간격을 메우는 컨설팅 회사들의 역할은 더욱 줄어들 수밖에 없습니다. 기술과 컨설팅이 하나로 융합되는 현재 상황에서, 기존 컨설팅 회사가 가질 수 있는 우위라는 게 과연 무엇일지 고민해볼 시점이라는 지적이 계속 나오는 이유입니다.
오늘 준비한 이야기는 여기까지입니다. 재미있으셨다면 구독과 좋아요 부탁드립니다. 감사합니다.