{"ok":true,"nota":{"id":"d0568d856fd0a2a8","slug":"los-filtros-de-seguridad-de-la-ia-se-confunden-cuando-una-frase-tiene--d0568d","titulo":"Los filtros de seguridad de la IA se confunden cuando una frase tiene una negación o un antónimo","resumen":"Probaron sistemas de seguridad de modelos de lenguaje con frases que incluyen negaciones, palabras opuestas o encuadres adversarios. Compararon cómo cambia la respuesta de los filtros frente a esas variaciones de sentido.","fuente":"arxiv-ia","fuenteNombre":"arXiv · Inteligencia artificial","color":"#b31b1b","autor":"Diego Miguel Lozano","url":"https://arxiv.org/abs/2610.27908v1","imagen":"/hoy/portada/d0568d856fd0a2a8","tema":"tecnologia","subtemas":["seguridad de ia","modelos de lenguaje","filtros de contenido","negacion","robustez"],"entidades":["arXiv"],"formato":"dato","entretenimiento":false,"pubTs":"2026-10-20T09:22:50.000Z","indexTs":"2026-10-21T01:52:21.038Z","hash":"9f1798e160d32276f7119feccba67ca8df6568b68462e778f52c2d6f44a76e10","tsa":{"time":"Oct 21 01:52:49 2026 GMT","provider":"freetsa.org","sobre":"sello"},"stats":{"views":1,"likes":0,"clicks":0,"dwell":0},"tipo":"normal","registro":"hallazgo","porQueImporta":"Estos filtros son los que deberían impedir que una IA responda cosas dañinas, y el estudio detecta que pueden no distinguir bien cuando el sentido de una frase cambia por un simple 'no'. Para cualquier usuario, eso significa que la protección no es tan confiable como suena. Un límite que se rompe con una negación es un límite frágil. ¿Cuánto confiarías en un 'no' que la máquina no entiende?","quienFirma":"arXiv (preprint de investigadores académicos)","confianza":"preprint","consulta":null},"sello":{"hash":"9f1798e160d32276f7119feccba67ca8df6568b68462e778f52c2d6f44a76e10","sello":"d210f3ed70d1c467eee7f7ad3f8fa85ca66c717ea336bc3aa78a73f6d3b4a7ab","beacon":{"drand":{"cadena":"8990e7a9aaed2ffed73dbd7092123d6f289930540d7651336225dc172e51b2ce","ronda":6570551,"aleatorio":"3973f0f9c73664d595dc39ddf64b9d8a8189cef8c927df8129fb7fc71f568707","tiempo":"2026-10-21T01:52:30.000Z"},"nist":{"cadena":2,"pulso":1992481,"salida":"C5D9DE1A1DAC0FCEDC0389DF39FDF1602B0611A4BA1BCEDA8AE7E55B20C0492538D77DC62F89C7105B69A407DCEB67115D6A4400F1FAACF39B8D82A6EE313BCF","tiempo":"2026-10-21T01:52:00.000Z"},"noAntes":"2026-10-21T01:52:30.000Z"},"verificacion":{"drand":true,"nist":"inaccesible"},"tsa":{"time":"Oct 21 01:52:49 2026 GMT","provider":"freetsa.org","sobre":"sello"},"original":{"titulo":"Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing","descripcion":"","pubDate":"2026-10-20T09:22:50Z","url":"https://arxiv.org/abs/2610.27908v1"},"indexado":"2026-10-21T01:52:21.038Z"}}