OpenAI anuncia un informe semestral de seguridad comunitaria y nuevas restricciones para adolescentes

OpenAI anunció el 30 de octubre dos cambios de seguridad: un informe público de salvaguardas comunitarias y restricciones adicionales para las respuestas sobre armas y ataques violentos, con límites específicos para adolescentes. La empresa afirma que algunas medidas comenzarán a implementarse en las semanas siguientes; no todas están ya activas para cada usuario.

El primer Community Safety Report se prevé para comienzos de 2027 y abarcará la segunda mitad de 2026. OpenAI dice que incluirá ejemplos anonimizados, mitigaciones, cambios de política y datos sobre la detección e investigación de contenido dañino. La publicación será semestral. Es un compromiso del proveedor, no un informe ya disponible ni una auditoría externa de eficacia.

La compañía afirma que reducirá el detalle que ChatGPT ofrece sobre ataques masivos del pasado, armas y equipos utilizados, y comparaciones que puedan amplificar notoriedad o facilitar imitación. También planea responder con mayor cautela cuando conversaciones recientes sugieran fijación con violencia, y extender límites a cuentas que el sistema estime pertenecen a menores.

ChatGPT para adolescentes ya tiene salvaguardas ajustadas por edad. OpenAI amplía restricciones sobre información práctica de armas y sistemas de seguridad incluso cuando la pregunta aislada parece inocua. La empresa también indica que trabaja en interrumpir automáticamente conversaciones con señales de fijación violenta y en avisar a padres si suspende repetidamente una cuenta por ese motivo. La identificación por edad combina señales de uso y permite apelar mediante su socio de verificación.

OpenAI reporta más de 200 derivaciones a autoridades policiales en el tercer trimestre de 2026. Esa cifra es una declaración de la compañía y no prueba por sí sola impacto causal sobre incidentes. Las organizaciones que atienden a menores deben comprobar la disponibilidad real de cada cambio, actualizar protocolos de seguridad y comunicar límites con claridad. Los controles del producto no reemplazan la supervisión adulta ni servicios de emergencia cuando existe una amenaza inmediata.