Una nueva técnica ayuda a las IA a recordar lo aprendido sin olvidar lo viejo
“Una IA que olvida lo aprendido obliga a empezar de cero con costos enormes, y eso se paga en energía y en dinero.”
Cada vez que a un modelo de lenguaje se le enseña algo nuevo, corre el riesgo de pisar algo viejo. Es un defecto de fábrica de estas herramientas: lo aprendido queda guardado en los mismos lugares donde después hay que acomodar lo nuevo, y el resultado es que parte del conocimiento anterior se desdibuja. La salida de hoy es reentrenar desde cero, con un gasto enorme de energía y dinero. Investigadores de Google proponen otra vía, inspirada en lo que hace el cerebro mientras dormimos: consolidar lo reciente sin tirar abajo lo previo.
Que la solución venga de la biología no es un adorno. Durante el sueño, el cerebro ordena lo vivido en el día y lo integra con lo que ya sabía, y por eso podemos aprender algo nuevo sin olvidar cómo se llama nuestra calle. Trasladar esa lógica a una máquina cambia la pregunta de ingeniería: ya no se trata de hacer modelos más grandes, sino de hacerlos capaces de acumular.
Para quien usa estas herramientas todos los días, la diferencia se siente en la confianza. Un asistente que se actualiza y de pronto responde distinto a lo que respondía ayer es un asistente del que no se puede depender para trabajar, estudiar o programar. La estabilidad es lo que convierte a una herramienta en una referencia. Y en un país donde el costo de cómputo pesa en cada decisión, el que cada actualización no exija empezar de cero no es un detalle técnico: define quién puede mantener sus propios modelos y quién queda alquilando los ajenos.
Hay que decir que el método todavía tiene que demostrar que funciona a gran escala, y ese es el verdadero examen. Pero el planteo ya deja una conclusión que va a servir de vara: una inteligencia útil no se mide solo por cuánto aprende, sino por cuánto conserva de lo que aprendió. Aprender sin poder retener es apenas una forma elegante de olvidar.
Ver el trabajo original en Google Research ↗