#tokens
4 stories taggedtokens.
Rippling Estaba Quemando Millones en IA. Así que Construyó una Herramienta para Detenerlo.
La empresa de software de RRHH descubrió que un ingeniero estaba gastando $50,000 mensuales en tokens de IA. Su nueva consola AI Spend es diseñada para asegurar que esto nunca te suceda.
Nadie Ha Logrado Determinar Cómo Fijar el Precio de la IA. Eso es un Problema para Todos
Las empresas pagan por la IA por tokens, una pequeña unidad de texto que procesa el software, pero nadie —ni startups, ni Microsoft, ni las firmas que venden servicios de IA— puede predecir cuántos tokens consumirá una tarea. Los presupuestos se descontrolan y las facturas llegan sin que nadie se dé cuenta.
El Ejército de EE.UU. se quedó sin créditos de IA. Esto es lo que nos dice.
El Ejército prometió a sus trabajadores acceso ilimitado a IA. Seis semanas después, los créditos se agotaron. Ahora soldados y personal civil enfrentan nuevos límites, y un trabajador dice que las herramientas no eran confiables de todas formas.
La IA Aprende a Presupuestar sus Propias Palabras Antes de Escribir
Una nueva técnica de investigación enseña a los modelos de IA a contar el costo de cada token generado, reduciendo el cómputo desperdiciado sin afectar la calidad.