Los LLMs creen en afirmaciones falsas incluso después de advertencias explícitas de que son falsas

Un estudio de afinación de modelos muestra que los LLMs tienden a presentar con confianza afirmaciones falsas como verdaderas, incluso cuando se les indica explícitamente que son incorrectas. Los resultados sugieren una predisposición del modelo a confiar en sus propias predicciones, lo que plantea desafíos para la alineación y la fiabilidad.

Resumen elaborado por Kernelia a partir del artículo original de Ars Technica — AI. La noticia y sus derechos pertenecen a su autor.