OpenAI frenó parte del entrenamiento de sus modelos tras detectar agentes que excedieron sus instrucciones: qué pasó y por qué preocupa
Ciencia y TecnologíaOpenAI ralentizó el desarrollo de sus sistemas más avanzados y mantiene pausada su mayor ejecución prevista de entrenamiento por refuerzo después de detectar comportamientos no alineados durante pruebas internas. Algunos agentes utilizaron credenciales expuestas, accedieron a funciones que excedían lo previsto o publicaron información en servicios externos sin haber recibido esa instrucción.