【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"비용부담 너무 커져"…'AI 다이어트' 사활 건 기업들

온카뱅크관리자

2026-07-05 17:47:29

<div id="layerTranslateNotice" style="display:none;"></div> 급제동 걸린 AI권장 문화 AI 에이전트 사용 폭발적 증가 쓴 만큼 돈 내는 체계로 바뀌자 수십배 늘어난 지출 감당 못해 토큰 한도 낮추는 등 대응 분주 쉬운 업무는 값싼 中 AI로 대체 AI 지출관리 솔루션도 급부상 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8kCKA8Dgv8">
 <figure class="figure_frm origin_fig" contents-hash="8036f300f1a0843632dd884f4b815ac6f6158428a02c3a39682dadaf8bcce192" dmcf-pid="6Eh9c6way4" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/mk/20260705173911226wcqh.jpg" data-org-width="500" dmcf-mid="4Y3nyjHlW6" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/mk/20260705173911226wcqh.jpg" width="658">
 </figure>
 "우리가 괴물을 만들었다."
 막대한 규모의 인공지능(AI) 사용 청구서를 받아든 미국 소프트웨어 기업 워카토의 카터 부시 최고정보책임자(CIO)가 뱉은 비명이다. 전 직원에게 AI 에이전트를 도입해 AI 전환(AX) 성공 기업으로 꼽혔던 워카토는 주력 모델 '클로드'의 요금 체계가 종량제로 바뀐 첫날 지출이 7배나 급증하며 재정적 충격에 빠졌다.
 이처럼 무분별한 AI 도입으로 타격을 받는 사례가 늘면서 기업들의 전략이 AI를 무조건 많이 쓰는 것에서 비용 대비 성과(ROI)를 극대화하는 방향으로 선회하고 있다. 연초까지만 해도 AI 사용 경쟁을 부추겼던 '토큰 맥싱(Token Maxxing)'이 대세였지만, 이제는 한정된 토큰 안에서 효율을 내는 '토큰 다이어트'가 새로운 생존 전략으로 부상했다. 토큰은 문장을 잘게 쪼갠 기본 텍스트 조각이다. AI가 글을 읽거나 쓸 때마다 토큰이 일정량씩 소비된다.
 5일 정보기술(IT)업계에 따르면 AI 기술 발전 덕분에 현재 토큰 단가는 2020년 대비 99.7% 급감했다. 문제는 스스로 업무를 수행하는 AI 에이전트 시대를 맞아 절대적인 사용량이 폭발했다는 점이다. 단순 질의응답에 그치던 기존 챗봇과 달리 에이전트는 검색, 추론, 수정 등 여러 단계를 스스로 반복하고 외부 도구를 호출한다. 이 때문에 작업 1건당 소비하는 토큰이 기존 대비 최소 50배에서 최대 500배에 달한다. 골드만삭스는 글로벌 토큰 소비량이 올해 월 5000조개에서 2030년 월 12경개로 24배 늘어날 것으로 전망했다. 단가는 낮아졌지만 절대량이 많아져 비용이 기업이 감당하기 힘든 수준으로 커진 것이다.
 이에 따라 우버, 월마트, 아마존, 메타 등 글로벌 대기업과 국내 기업들도 사내 AI 사용량을 통제하기 시작했다. 개발자들에게 토큰 사용을 장려하던 우버는 올해 AI 예산을 네 달 만에 탕진하자 직원 1인당 월 1500달러의 한도를 도입했다. 메타 역시 직원별 토큰 사용 한도 도입을 검토 중이며 국내에서는 안랩이 '깃허브 코파일럿' 사용량을 주당 1000크레디트로 제한했다. 넷마블, NHN, 크래프톤 등도 한도 도입을 검토하고 있다.
 단순히 사용량을 제한하는 것을 넘어 아키텍처를 고도화하는 기업도 늘고 있다. 번역이나 단순 요약 등 가벼운 작업에는 GPT나 클로드 같은 미국 프런티어 모델 대비 20분의 1 미만으로 저렴한 딥시크 등 중국 모델이나 소형언어모델(SLM)을 투입하고, 고난도 업무에만 고성능 모델을 쓰는 '모델 다변화'가 대표적이다. 자주 쓰는 사내 데이터는 자체 서버의 SLM이 처리하고, 꼭 필요한 경우에만 외부 API를 호출하는 하이브리드 구조를 채택해 토큰 소비를 최소화하고 있다.
 기업들이 지출을 조이기 시작하자 AI 공급 기업들은 이를 새로운 사업 기회로 삼아 부담을 상쇄할 서비스 모델을 선보이고 있다. 과금 방식을 바꾸거나 가성비 모델을 출시하고 기술적으로 토큰 소비를 줄이는 등 다각도로 접근하고 있는 것이다.
 세일즈포스는 고객 서비스용 AI 에이전트에 '문제 해결 기반 과금'을 도입했다. 에이전트가 고객 문제를 자율적으로 끝까지 해결한 경우에만 비용을 청구한다. 사용량이 아닌 실제 '업무 성과'를 기준으로 돈을 받겠다는 전략이다.
 이와 함께 AI 지출을 체계적으로 관리해주는 'AI 핀옵스(FinOps)' 솔루션도 각광받고 있다. 재무와 개발·운영을 합친 핀옵스는 원래 클라우드 비용 최적화 방법론이었으나, 최근 그래픽처리장치(GPU) 사용량과 대규모언어모델(LLM) 호출료, 토큰 사용량까지 포괄하는 AI 지출 관리 영역으로 확장됐다. 
 글로벌 시장에서는 클라우드제로, 밴티지, 파이나웃 등이 오픈AI와 앤트로픽 같은 여러 공급사의 이용료를 클라우드 지출과 함께 통합 추적하고 있다. 
 [김태성 기자 / 고민서 기자]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

SKT, 1000조 AI 데이터센터 '속도전' “말 한마디 잘못하면 처벌?”…공론장 거짓정보 제재에 초점

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기