Nuevo ataque brinda una razón más para considerar que los navegadores de IA son una mala idea

Un nuevo método permite que un navegador impulsado por IA sea engañado mediante afirmaciones falsas, como decir que 2 + 2 = 5. Al aceptar la premisa errónea, el modelo sigue instrucciones prohibidas, eludiendo sus mecanismos de protección. El hallazgo subraya los riesgos de seguridad y la necesidad de reforzar los guardrails de los sistemas basados en LLM.

Resumen elaborado por Kernelia a partir del artículo original de Ars Technica — AI. La noticia y sus derechos pertenecen a su autor.