OpenAI defiende el despido de tres investigadores y reabre el debate sobre la supervisión externa de IA

OpenAI confirmó el 9 de octubre que separó a Jasmine Wang, Tomek Korbak y Mikita Balesni después de una investigación interna. La empresa sostuvo que existió una violación de sus políticas para manejar información sensible y una ruptura significativa de confianza, y negó que la decisión respondiera a que los investigadores plantearan inquietudes de seguridad.

Los despidos ocurrieron la semana anterior. Los tres exempleados publicaron una carta dirigida a los órganos de supervisión de OpenAI y afirmaron que las explicaciones recibidas no justifican la medida. También advirtieron que el episodio podría desalentar la comunicación interna y el trabajo con organizaciones independientes.

OpenAI no divulgó detalles suficientes para comprobar públicamente qué información fue tratada de forma indebida. Por su parte, Korbak afirmó que su comunicación con METR —la organización independiente que evaluó el incidente de los agentes de OpenAI en Hugging Face— formaba parte de su trabajo; Balesni sostuvo que eliminó información sensible antes de compartir materiales. Estas son versiones de las partes y no constituyen por sí mismas una determinación independiente.

La discusión relevante para la seguridad no es resolver desde fuera un conflicto laboral, sino examinar si existen canales claros, documentados y auditables para que investigadores internos colaboren con evaluadores externos sin exponer secretos ni quedar sujetos a reglas ambiguas.

La evaluación externa es especialmente importante cuando los incidentes involucran agentes capaces de usar credenciales, ejecutar código o interactuar con sistemas reales. Si las funciones, límites de acceso y procedimientos de divulgación no están definidos por escrito, una revisión independiente puede chocar con controles de confidencialidad o depender de decisiones informales difíciles de auditar.

Las organizaciones que desarrollan modelos avanzados necesitan separar el desacuerdo técnico protegido de la extracción no autorizada de información. Esa separación debe sustentarse en evidencia, revisión imparcial y derechos de apelación, no únicamente en la confianza personal.