Cuando una IA dice cómo llegó a una respuesta, no siempre sabemos si está describiendo lo que realmente hizo o inventando una explicación plausible. Los experimentos mostraron que la capacidad de informar sobre sus propios estados es real pero limitada y poco confiable. Eso importa para quien ya usa chatbots para decidir cosas: su explicación no es un testimonio fiable de cómo pensó. Hay que tratarla como una respuesta más, no como una confesión.