El consumo masivo de tokens, la infraestructura digital y la energía necesaria para operar los nuevos agentes están disparando los gastos de las empresas. Las experiencias de Uber, Microsoft y NVIDIA.
La irrupción de la inteligencia artificial generativa en las empresas estuvo acompañada por una promesa tan seductora como contundente: lograr una fuerte reducción de costos operativos mediante la automatización de tareas y aceleración de procesos que hasta ahora venían realizando humanos.
Durante los últimos dos años, grandes compañías de prácticamente todos los sectores anunciaron inversiones millonarias con la expectativa de reemplazar parte del trabajo humano por sistemas capaces de escribir código, elaborar informes, responder consultas o analizar grandes volúmenes de información en cuestión de segundos.
Sin embargo, a medida que los proyectos pasan de las pruebas piloto al uso cotidiano, comienza a aparecer una realidad inesperada. En numerosos casos, el costo operativo de utilizar IA a gran escala resulta mucho mayor de lo previsto y obliga a las empresas a revisar sus presupuestos, limitar el acceso de los empleados e incluso preguntarse si el retorno de la inversión justifica semejante desembolso.
Este fenómeno refleja una paradoja. No implica que la adopción de IA esté fracasando, pero en muchas organizaciones la adopción fue tan exitosa que su expansión interna terminó convirtiéndose en un problema financiero.
Ocurre que cuanto más utilizan los empleados estas herramientas, mayor es el consumo de tokens, la unidad con la que proveedores como OpenAI, Anthropic o Google cobran el procesamiento de cada consulta.
A diferencia del software tradicional, cuyo costo suele calcularse por usuario o por licencia, los modelos de lenguaje se facturan por volumen de procesamiento. Cada palabra que ingresa al sistema y cada palabra que devuelve el modelo representa consumo de tokens.
Cuando ese uso se multiplica por miles de empleados trabajando durante toda la jornada, la factura puede dispararse hasta niveles que los gerentes financieros no habían previsto.
Historias con nombre y apellido
Uno de los ejemplos más ilustrativos de este fenómeno proviene de Uber. La compañía desplegó Claude Code, el asistente para programación desarrollado por Anthropic, entre unos 5.000 ingenieros.
El resultado fue óptimo desde el punto de vista de la adopción: cerca del 95% de los desarrolladores comenzó a utilizar herramientas de IA de manera habitual y aproximadamente el 70% del código que ingresaba a los repositorios ya contaba con participación de inteligencia artificial.
Sin embargo, ese éxito tuvo un costo inesperado. El presupuesto anual destinado a herramientas de IA se agotó apenas transcurridos cuatro meses del año porque el consumo de tokens creció muy por encima de las proyecciones iniciales.
El propio presidente y director de operaciones de Uber, Andrew Macdonald, reconoció públicamente que la empresa enfrenta una dificultad que comienza a repetirse en toda la industria: resulta complejo demostrar que semejante incremento en el gasto se traduzca en una mejora equivalente para el negocio.
Según explicó, la compañía todavía no logra establecer una relación clara entre el aumento del consumo de IA y la aparición de nuevas funciones o mejoras visibles para los usuarios finales.
En otras palabras, la productividad interna parece aumentar, pero al cuantificar económicamente ese beneficio resulta siendo insuficiente para compensar la inversión.
Una nueva lógica en la economía del software
El caso de Uber dejó al descubierto un cambio profundo en la economía del software empresarial. Durante décadas, las compañías estuvieron acostumbradas a pagar licencias relativamente previsibles por cada empleado.
La IA generativa modificó completamente esa lógica. El costo ya no depende solamente de cuántas personas utilizan la herramienta sino, sobre todo, de cuánto la utilizan y del tipo de tareas que realizan.
Un asistente que redacta un correo electrónico consume relativamente pocos recursos. En cambio, un agente capaz de analizar miles de líneas de código, ejecutar pruebas automáticas o revisar documentación técnica puede consumir decenas o cientos de veces más tokens en apenas unos minutos.
Este fenómeno comenzó a recibir incluso un nombre dentro de la industria tecnológica: "tokenmaxxing", una expresión que describe el uso intensivo de modelos de IA con la idea de obtener la máxima productividad posible.
El problema es que cada incremento en el consumo de tokens implica un aumento directo del gasto operativo. Mientras que el precio por token viene disminuyendo con el paso de los meses gracias a la competencia entre proveedores, el volumen total consumido crece todavía más rápido debido a la aparición de agentes cada vez más sofisticados, capaces de ejecutar múltiples tareas en forma autónoma.
Del entusiasmo a la prudencia más estrica
Otra gran tecnológica que debió revisar su estrategia fue Microsoft. Diversos medios especializados informaron que la empresa comenzó a retirar licencias internas de Claude Code y a migrar parte de sus desarrolladores hacia herramientas propias como GitHub Copilot CLI.
Esa decisión está vinculada principalmente al control del gasto derivado del uso intensivo de modelos externos.
El episodio refleja una tendencia creciente entre las grandes corporaciones: después de una primera etapa caracterizada por el entusiasmo y la expansión acelerada, comienza una fase mucho más estricta de administración del consumo, establecimiento de cuotas y evaluación permanente del retorno sobre la inversión.
Paradójicamente, algunas de las advertencias más contundentes provienen de las propias empresas que lideran el desarrollo de esta tecnología.
Bryan Catanzaro, vicepresidente de aprendizaje profundo aplicado de NVIDIA, reconoció recientemente que, para su equipo, el costo del cómputo necesario para ejecutar inteligencia artificial ya supera el costo salarial de las personas que trabajan en esos proyectos.
La afirmación llamó la atención porque proviene precisamente de la compañía que fabrica los procesadores gráficos que alimentan la revolución de la IA y que más se ha beneficiado económicamente con este fenómeno.
En ese sentido, los ejecutivos sostienen que el verdadero desafío consiste en encontrar un nuevo equilibrio económico. Incluso el director ejecutivo de NVIDIA, Jensen Huang, afirmó que un ingeniero altamente calificado debería utilizar cientos de miles de dólares anuales en tokens de IA para alcanzar su máximo nivel de productividad.
La comparación ilustra hasta qué punto las grandes tecnológicas consideran que estas herramientas ya forman parte de la infraestructura básica del trabajo intelectual, aunque también pone de manifiesto la magnitud de las inversiones que exige su utilización intensiva.
Agentes más poderosos, pero más caros
El incremento de los costos no responde únicamente al precio que cobran los desarrolladores de modelos como OpenAI, Anthropic o Google.
Detrás de cada consulta realizada por un usuario existe una infraestructura extremadamente costosa compuesta por miles de procesadores gráficos de alto rendimiento, memorias especializadas, redes de altísima velocidad y centros de datos cuyo consumo energético supera ampliamente al de los servicios informáticos tradicionales.
Cada interacción con un modelo de lenguaje activa un complejo proceso de inferencia que requiere enormes recursos de cómputo, especialmente cuando las consultas son extensas o incluyen archivos, imágenes, código fuente o grandes bases de datos.
El avance de los llamados agentes de IA profundiza todavía más este fenómeno. Mientras que un chatbot tradicional responde una única consulta y finaliza la interacción, los agentes pueden planificar tareas, consultar múltiples fuentes, ejecutar programas, corregir errores, volver a intentar procesos fallidos y mantener conversaciones prolongadas sin intervención humana.
Cada uno de esos pasos genera nuevas solicitudes al modelo y multiplica el consumo de tokens.
Distintos análisis de la industria estiman que un agente autónomo puede llegar a consumir decenas de veces más recursos computacionales que una conversación convencional, lo que explica por qué numerosas empresas comenzaron a revisar cuidadosamente sus políticas de utilización antes de extender estos sistemas a toda la organización.
Este escenario también modifica la forma en que las compañías evalúan el retorno sobre la inversión. Durante años, la digitalización tradicional permitió reducir costos de manera relativamente sencilla porque reemplazaba procesos manuales por sistemas cuyo mantenimiento resultaba previsible.
Con la inteligencia artificial generativa la ecuación es más compleja. Un empleado puede completar una tarea en la mitad del tiempo gracias a un asistente inteligente, pero si para lograrlo consume cientos de miles o millones de tokens al mes, el ahorro salarial puede verse parcialmente neutralizado por el incremento en la factura tecnológica.
Por eso, muchas organizaciones comenzaron a implementar políticas de gobernanza que incluyen límites de consumo, aprobaciones para acceder a modelos más avanzados, seguimiento detallado del uso por área e indicadores específicos para medir si el gasto realmente se traduce en mejoras de productividad o en beneficios económicos concretos.
El objetivo ya no es utilizar la mayor cantidad posible de inteligencia artificial, sino hacerlo justo donde el impacto justifique el costo de su aplicación.
Fuente: ambito.com
