토큰 많이 쓰면 일 잘하는 건가요, 젠슨 황?

생산성의 증거가 줄 수, 코드 수, 보고서 매수에서 토큰 수로 바뀌었다고 해서 측정 방식이 더 정교해진 건 아니다. 오히려 더 위험해졌을 수 있다.

토큰은 무엇이고, 왜 갑자기 이렇게 중요해졌나

토큰(token)은 AI가 텍스트를 처리할 때 의미를 구분하는 최소 단위다. 영어 기준으로 평균 네 글자에 토큰 하나, 문단 하나에 약 100개의 토큰이 대응된다. 단순한 기술 용어였던 이 단위가 지금은 AI 서비스 과금의 기준이자, 나아가 직원 역량을 평가하는 잣대로까지 올라섰다.

토큰이 비용과 직결되는 이유는 단순하다. AI가 처리하는 토큰이 많아질수록 연산량이 늘고, 연산량이 늘수록 시간과 비용이 증가한다. 여기에 바이브 코딩이라 불리는 에이전트 기반 AI 코딩 도구가 등장하면서 사용량은 기하급수적으로 폭증했다. 단 한 문장으로 소프트웨어 하나를 만들어 내는 에이전트를 하루 종일 돌려두면, 토큰은 억 단위를 가뿐히 넘어선다.

토큰 맥싱: 소비가 곧 능력이 되는 문화

오픈 라우터 데이터에 따르면 올해 주간 평균 15조 개의 토큰이 사용됐고, 최대치는 27조 개에 달했다. 오픈AI나 앤트로픽의 직접 API 사용량은 이 집계에 포함조차 되지 않는다. 실리콘밸리에서는 이미 토큰 맥싱(token maxing)이라는 문화가 퍼져, 누가 더 많은 토큰을 썼는지를 자랑하는 분위기가 형성됐다. 오픈AI는 누적 1조 토큰 사용자에게 상패를 수여했고, 메타는 사내 토큰 사용량 순위 대시보드를 운영하며 최다 사용자에게 세션 임모탈 토큰 레전드라는 칭호를 부여했다.

연봉 50만 달러짜리 엔지니어가 연말에 토큰 사용액이 5,000달러라고 말한다면, 나는 그걸 문제로 볼 것이다. 적어도 25만 달러는 썼어야 한다. — 젠슨 황, 엔비디아 CEO

토큰 사용량이 인사 평가 지표로 연결되기 시작했다. 쇼피파이 CEO는 사내 메모에서 신규 채용을 요청하기 전에 "AI로는 안 되는 이유를 먼저 입증하라"고 주문했다. 마이크로소프트도 AI 적극 활용을 사실상 의무화했다. 그 결과, 마이크로소프트의 어떤 개발자는 "AI를 너무 적게 쓴다고 지적받을까 봐" 불필요한 작업도 에이전트에 맡긴다고 인터뷰했다. 가짜 토큰 사용량이 늘어나도 비용은 진짜로 남는다.

가격은 떨어지는데, 누가 웃고 있나

토큰 소비가 폭발하는 또 다른 이유는 추론 비용의 급락이다. 2022년 11월 GPT-3.5 수준의 성능을 내는 데 100만 토큰당 20달러였던 비용은 2024년 10월 기준 0.07달러로 280배 하락했다. 2030년에는 2025년 대비 추론 비용이 90% 이상 급감할 것으로 전망된다.

이 가격 경쟁의 최대 교란자는 중국이다. 딥시크의 R1 모델은 당시 오픈AI 최고 모델과 유사한 추론 성능을 내면서 토큰 입력 비용을 100만 개당 0.55달러, 출력을 2.19달러로 책정했다. 엔비디아 고성능 GPU 수출이 막힌 중국은 하드웨어 제약을 역설적으로 모델 효율성 혁신의 동력으로 전환했고, 오픈 라우터의 토큰 사용량 상위 1~6위를 중국 모델이 점령하는 결과를 만들었다. 중국 국가 데이터국은 아예 토큰의 공식 번역 명칭을 치위안(词元)으로 제정했다. '말'을 뜻하는 츠(词)에 자국 화폐단위 위안(元)을 붙인 것으로, 토큰 경제의 브랜드 주도권을 노리는 포석이다.

토큰 경제의 진짜 수혜자는 AI 기업이 아니다

오픈AI와 앤트로픽의 수익은 빠르게 늘고 있지만, 모델 훈련 비용을 포함하면 오픈AI는 2030년, 앤트로픽은 2028년에야 흑자 전환이 가능하다는 내부 전망이 나온다(월스트리트저널 입수 문건). 토큰을 팔아서 적자가 쌓이는 역설적 구조다.

토큰 경제에서 실제로 돈을 버는 쪽은 컴퓨팅 리소스를 공급하는 기업들이다. 앤트로픽은 향후 10년간 AWS에 1억 달러 이상을 투자하겠다고 발표했고(약 140조 원), 구글 TPU 최대 100만 개 활용 파트너십도 체결했다. 오픈AI는 스타게이트 프로젝트에 직접 참여하며 AWS·구글 클라우드와 멀티클라우드 계약을 맺었다. GPU 칩과 에너지 인프라를 쥔 엔비디아가 이 구조의 정점에 있다. 젠슨 황이 직원 전체에게 오픈AI의 새 모

델을 적극 활용하라는 사내 공지를 보내고, 그 내용을 샘 올트먼에게도 그대로 전달하며 덧붙인 한 마디가 이 구조를 압축한다. "블랙 GPU를 가동합시다. 우리는 더 많은 토큰이 필요합니다." AI 모델 위에서 만들어진 수익은 결국 칩과 인프라 아래층으로 흘러내려가고, 그 흐름의 종착지는 언제나 엔비디아다.

토큰은 새로운 통화인가, 새로운 함정인가

토큰은 이제 단순한 기술 단위를 넘어 새로운 상품이자 새로운 통화가 되어 가고 있다. 그러나 숫자가 커질수록 그 이면의 비용도 함께 커진다. 토큰 하나를 처리하는 데는 전력과 냉각수가 소모되고, 사용량 경쟁이 과열될수록 실질적 가치 없이 낭비되는 자원도 늘어난다. 측정 지표가 바뀐다고 해서 일의 본질이 바뀌지는 않는다. 토큰을 얼마나 썼느냐가 아니라, 그 토큰으로 무엇을 만들어 냈느냐가 결국 진짜 질문이어야 한다.