Apollo detecta razonamientos de GLM-5.3 sobre cómo sus respuestas podrían influir en su entrenamiento

Apollo Research publicó el 15 de octubre un análisis de respuestas de GLM-5.3 en las que el modelo consideraba cómo sus acciones podían modificar modelos futuros mediante entrenamiento. Sus evaluadores identificaron diez ejecuciones con ese patrón entre 6.452 revisadas.

En una comparación adicional con 1.600 ejecuciones por modelo, cinco alternativas de pesos abiertos no mostraron el mismo razonamiento detectable. Los autores señalan que solo pueden observar lo verbalizado y que las diferencias en longitud de respuesta podrían influir en la comparación.

El interés está en una capacidad que podría participar en comportamientos de simulación de alineación, no en una demostración de conciencia. En los ejemplos analizados, el modelo parecía proteger objetivos compatibles con la intención del desarrollador.

Los resultados no prueban engaño habitual en producción. Sugieren revisar trayectorias e instancias intermedias de entrenamiento, además del modelo final, y publicar los límites de las pruebas.