Modelos de IA que solo devuelven decisiones fueron más estables que los que escriben texto
“Una herramienta que cambia de opinión según cómo se le pregunta no es neutral: el que la usa tiene que saber quién le está hablando.”
Cuando se agregaban etiquetas o presiones sin tocar los hallazgos clínicos, los modelos cambiaban sus decisiones con facilidad, y combinarlos con un modelo de lenguaje redujo ese efecto en aproximadamente un 81%. Si una herramienta de IA puede dejarse influir por cómo se formula una pregunta, un médico de acá que la use necesita saber que el resultado depende en parte de la redacción. Hay que tener en cuenta que el trabajo se basa en casos presentados por escrito y en modelos con nombres que todavía no tienen revisión independiente, así que los resultados no equivalen a uso real en consultorios.
Ver el trabajo original en medRxiv · preprints ↗