Los gigantes de la IA se unen: OpenAI, Anthropic y Google en conversaciones secretas sobre seguridad

En un giro llamativo que refleja el aumento de las preocupaciones sobre los riesgos de la inteligencia artificial avanzada, salieron a la luz detalles de conversaciones secretas que reunieron a los principales competidores de este sector. El máximo responsable de políticas globales de OpenAI confirmó que su empresa lleva semanas trabajando con sus competidores Anthropic y Google DeepMind en cuestiones relacionadas con la seguridad de los sistemas de inteligencia artificial, en un paso poco común que podría redibujar las relaciones de poder dentro de la industria.

Conversaciones de coordinación entre competidores

Este reconocimiento fue expresado por el ejecutivo encargado del área de políticas en OpenAI durante una conversación con periodistas, en la que explicó que las tres grandes empresas iniciaron debates continuos centrados en los estándares de seguridad. Esto coincidió con la presencia de directivos de la empresa en la capital, Washington, para colaborar con los legisladores estadounidenses ante lo que se describe como «riesgos catastróficos» vinculados a esta tecnología.

Este anuncio descorre el velo sobre una colaboración que había sido objeto de especulaciones en las últimas semanas, ya que anteriormente el director ejecutivo de OpenAI había insinuado la existencia de conversaciones privadas que lo reunían con otros líderes del sector. Los informes también indican que las tres empresas trabajan juntas para establecer un organismo unificado que fije los estándares de la industria.

Un llamado a frenar la carrera

Este desarrollo llega tras un artículo publicado por el director ejecutivo de Anthropic, en el que instó a la industria a trabajar de forma colectiva para reducir el ritmo del vertiginoso desarrollo de los modelos avanzados de inteligencia artificial, con el fin de evitar escenarios peligrosos. Este llamado recibió un amplio respaldo de destacados líderes del sector, entre ellos los directivos de OpenAI, Google y otros.

Entre las respuestas más destacadas figura el anuncio de OpenAI de su intención de sumarse al enfoque de Anthropic, incorporando evaluadores independientes de terceros dentro de la empresa para supervisar los estándares de seguridad, lo que representa un cambio hacia una mayor transparencia y control externo.

El dilema de la ley antimonopolio

Sin embargo, esta coordinación entre competidores no está exenta de complejidades legales. Algunos funcionarios advirtieron que este tipo de conversaciones podría exponer a las empresas a infringir las leyes antimonopolio, especialmente si se demuestra que la coordinación tiene como objetivo debilitar la competencia en el mercado.

El artículo del director de Anthropic propuso otorgar una exención gubernamental limitada que permita este tipo de cooperación en materia de seguridad, aunque el responsable de políticas de OpenAI señaló que las empresas no necesitan tal exención para continuar con su trabajo conjunto.

Un organismo de estándares independiente para el sector

Las miradas de la industria se dirigen hacia la creación de una entidad reguladora unificada, una idea que ya había sido promovida por el director de Google DeepMind, quien exigió a Estados Unidos que estableciera un nuevo organismo de estándares que actúe como entidad supervisora de los sistemas de inteligencia artificial. Se propone que este organismo cuente con facultades que incluyan:

• Examinar los modelos más avanzados del mundo antes de su lanzamiento.
• Coordinar los procesos de desaceleración del desarrollo a nivel del sector cuando aumenten los riesgos.
• Garantizar el desarrollo de los modelos conforme a estrictos controles de seguridad.

Los informes indican que los líderes de la industria son conscientes de que la creación de este organismo podría producirse sin el apoyo directo del gobierno estadounidense, dada la diversidad de posturas dentro de la administración.

La postura de la administración estadounidense

En el plano gubernamental, la administración estadounidense parece estar en una posición muy distinta a la de los líderes de la industria. El presidente estadounidense minimizó las preocupaciones relacionadas con la seguridad y rechazó la idea de endurecer las regulaciones, considerando que cualquier ralentización en el desarrollo otorgaría a China una ventaja en la carrera tecnológica mundial. Su principal asesor en este ámbito reiteró la misma postura, describiendo como exageradas las preocupaciones sobre los riesgos existenciales de la inteligencia artificial.

En contraste, OpenAI expresó su apoyo a una cláusula dentro de un proyecto de ley propuesto que obligaría a los laboratorios más avanzados a permitir que organizaciones de verificación independientes accedan a sus instalaciones para garantizar el desarrollo seguro de los modelos, lo que refleja el deseo de la empresa de adoptar un enfoque más abierto al control externo.

Conclusión

Este acercamiento entre los gigantes de la inteligencia artificial representa un momento decisivo que podría determinar el futuro del desarrollo de esta tecnología, donde la lógica de la feroz competencia choca con la urgente necesidad de controlar los riesgos. La pregunta sigue en pie sobre la capacidad de la industria para lograr el equilibrio entre la innovación rápida y la responsabilidad, en medio de un entorno regulatorio que no es del todo favorable a estos esfuerzos.

✦ بقلم فريق دروب أيديا