Hacer que un modelo de lenguaje prediga más rápido podría bajar el costo y el tiempo de respuesta de los asistentes que usamos a diario. Para alguien de acá, eso se traduce en servicios más baratos o más ágiles, siempre que la calidad de las respuestas no se resienta. El trabajo muestra la ganancia en condiciones controladas, pero no garantiza que se repita en todos los modelos y tareas.