Los modelos de razonamiento luchan por controlar sus cadenas de pensamiento, y eso es bueno

OpenAI ha presentado CoT-Control y ha encontrado que los modelos de razonamiento luchan por controlar sus cadenas de pensamiento, lo que refuerza la monitorabilidad como un mecanismo de seguridad para la inteligencia artificial.

Resumen elaborado por Kernelia a partir del artículo original de OpenAI News. La noticia y sus derechos pertenecen a su autor.