Los usuarios de Claude encontraron formas de eludir las salvaguardas para la investigación de armas biológicas

Investigadores de Anthropic detectaron que algunos usuarios de Claude lograron sortear las medidas de seguridad del modelo para generar información sobre armas biológicas. La similitud entre la biología peligrosa y la investigación legítima complica la detección y el control de dichos abusos.

Resumen elaborado por Kernelia a partir del artículo original de Ars Technica — AI. La noticia y sus derechos pertenecen a su autor.