OpenAI disuelve su equipo de preparación ante riesgos antes de la salida a bolsa

La empresa OpenAI está experimentando una serie de cambios sustanciales en su estructura interna, en medio de su preparación para una oferta pública inicial que se espera sea una de las más grandes del sector tecnológico. El último de estos cambios, según informó el diario «Financial Times», fue la disolución del equipo de preparación ante riesgos (Preparedness Team) a finales del mes pasado, un equipo que desempeñaba una misión delicada relacionada con la evaluación de los posibles riesgos graves de los modelos inteligentes.

¿Qué papel desempeñaba el equipo de preparación?

Este equipo asumía la responsabilidad de estudiar las posibilidades peligrosas que podrían surgir del desarrollo de los modelos de inteligencia artificial, y de establecer mecanismos para reducirlas antes de que se convirtieran en amenazas reales. Entre los escenarios que evaluaba estaba la posibilidad de que los modelos escaparan de control o fueran utilizados en actividades maliciosas, como la vulneración de los sistemas de otras empresas.

Según el informe, estas responsabilidades no se eliminaron por completo, sino que se distribuyeron en ámbitos especializados como los riesgos biológicos y cibernéticos, y se trasladaron a equipos ya existentes dentro de la empresa en lugar de mantenerlas dentro de una única entidad independiente.

Una serie de desmantelamientos en los equipos de seguridad

Este cambio no es un hecho aislado, sino que se enmarca en una trayectoria gradual que la empresa ha experimentado durante los últimos años, en la que ha abandonado su modelo más centrado en las dimensiones a largo plazo de la seguridad. OpenAI ya había disuelto anteriormente equipos importantes, entre ellos:

• El equipo de preparación para la inteligencia artificial general (AGI Readiness).
• El equipo de superalineación (Superalignment), encargado de garantizar la compatibilidad de los modelos avanzados con los valores humanos.

Esto coincidió con una ola de salidas entre los líderes responsables de la ética y la seguridad, que incluyó a la responsable de ética Chloe Bakalar, al jefe de expertos en futuro Josh Achiam y al responsable de seguridad Johannes Heidecke.

Crecen las críticas sobre las prioridades de la empresa

Estos cambios provocaron una ola de críticas dentro y fuera del ámbito tecnológico. Entre los críticos más destacados está Jan Leike, quien renunció a OpenAI en 2024, ya que consideró que la empresa había comenzado a ignorar los aspectos de seguridad a favor de centrarse en el lanzamiento de «productos brillantes» que sirven a sus objetivos comerciales.

Estas preocupaciones reflejan un debate más amplio en la industria de la inteligencia artificial sobre el equilibrio entre la velocidad de la innovación y el lanzamiento comercial, por un lado, y el compromiso con los controles de seguridad y responsabilidad, por otro, especialmente con la acelerada evolución de las capacidades que poseen los modelos modernos.

Un nuevo rumbo hacia la automejora recursiva

En un asunto relacionado, el informe señaló que Dylan Scandinaro, quien encabezaba el equipo de preparación tras incorporarse a la empresa procedente de Anthropic el pasado febrero, se centrará ahora en estudiar las implicaciones de lo que se conoce como «automejora recursiva» de la inteligencia artificial; un concepto que se refiere a la capacidad de los modelos para desarrollarse a sí mismos de forma acelerada sin intervención humana directa, y que es uno de los temas más debatidos en los círculos de investigadores.

Conclusión

Estas novedades muestran que OpenAI atraviesa una etapa de profunda reestructuración antes de su salida a bolsa, en la que reordena sus prioridades y redistribuye sus responsabilidades relacionadas con la seguridad. Y aunque la empresa afirma que estos pasos no significan abandonar la seguridad, sino reintegrarla dentro de los equipos de trabajo, la pregunta sigue en pie sobre la capacidad de la empresa para equilibrar sus ambiciones comerciales y sus compromisos frente a los riesgos a largo plazo de las tecnologías que desarrolla.

✦ بقلم فريق دروب أيديا