Cuando un sistema de IA responde con seguridad sin tener los datos que necesita, la persona que le cree puede tomar decisiones sobre su plata, su salud o su trabajo basadas en información inventada. El problema es especialmente peligroso porque nada en el tablero de monitoreo avisa que algo salió mal. Quien usa estas herramientas en el día a día necesita saber que una respuesta prolija no garantiza que sea verdadera. El texto no ofrece una solución completa para este problema, así que la verificación humana sigue siendo necesaria.