Cómo monitoreamos a los agentes de codificación internos para la desalineación

OpenAI utiliza el monitoreo de cadena de pensamiento para estudiar la desalineación en agentes de codificación internos, analizando despliegues reales para detectar riesgos y fortalecer medidas de seguridad para la seguridad de la IA.

Resumen elaborado por Kernelia a partir del artículo original de OpenAI News. La noticia y sus derechos pertenecen a su autor.