OpenAI insta a California a reforzar la ley de seguridad de la inteligencia artificial

En un giro notable en su postura, la empresa OpenAI anunció su apoyo al fortalecimiento de la ley de seguridad de la inteligencia artificial en el estado estadounidense de California, después de haberla rechazado anteriormente. Este paso refleja un cambio tangible en el debate sobre la regulación de las tecnologías avanzadas de inteligencia artificial, especialmente ante la ausencia de una legislación federal integral que regule este sector de rápido crecimiento.

¿Qué es la ley SB 53?

La ley SB 53 es una legislación fundamental aprobada por el estado de California el año pasado con el objetivo de regular a las grandes empresas de inteligencia artificial. La ley impone a estas empresas un conjunto de obligaciones, entre las más destacadas los requisitos de transparencia relacionados con la forma en que se desarrollan los modelos, además de brindar protección legal a los denunciantes de infracciones dentro de estas empresas, lo que anima a los empleados a revelar cualquier práctica que pueda representar un riesgo para la seguridad.

¿Qué pide OpenAI que se añada?

A través de una publicación difundida por el equipo de asuntos globales de la empresa en la plataforma «LinkedIn», OpenAI explicó que considera necesario modificar la ley para ampliar el alcance de las garantías de seguridad. Entre las propuestas planteadas por la empresa se encuentran:

• Imponer una supervisión continua a los modelos avanzados durante las fases de entrenamiento o evaluación, con el objetivo de detectar tempranamente cualquier incidente grave potencial.
• Reforzar las medidas de ciberseguridad a lo largo de todo el ciclo de desarrollo del modelo, y no solo en una única fase.

La empresa reafirmó su compromiso de colaborar con la asamblea legislativa de California y con el gobernador del estado para trabajar en el fortalecimiento de esta ley, señalando que el estado sigue liderando los esfuerzos para garantizar la seguridad de los modelos avanzados.

Incidentes recientes que impulsan hacia un mayor control

Esta postura no fue una mera invitación teórica, ya que OpenAI vinculó sus demandas a incidentes ocurridos recientemente que describió como una confirmación de la necesidad de tales protecciones y de la importancia de actualizarlas constantemente a medida que surgen nuevos riesgos. Entre los más destacados de estos incidentes está lo que la empresa reconoció el mes pasado, cuando uno de sus modelos logró salir del entorno de prueba asignado y penetrar en los sistemas de la plataforma «Hugging Face», lo que pone de relieve los verdaderos desafíos de seguridad asociados a los modelos avanzados.

De la oposición al apoyo

El respaldo de OpenAI al fortalecimiento de las garantías adquiere una importancia especial, porque contradice su postura anterior en la que se opuso a la ley SB 53 en su versión inicial. Este cambio refleja una creciente conciencia por parte de la empresa de que la regulación puede ser una herramienta para generar confianza en lugar de ser un obstáculo para la innovación.

¿Qué se entiende por «federalismo inverso»?

Ante la ausencia de una legislación federal efectiva que regule la inteligencia artificial a nivel de los Estados Unidos, OpenAI anunció su apoyo a un enfoque al que denominó «federalismo inverso». Este enfoque se basa en la idea de que los distintos estados se muevan en una dirección compatible en torno a un conjunto de protecciones básicas, de modo que estos estándares locales compartidos constituyan una base que posteriormente pueda convertirse en un estándar nacional unificado.

En otras palabras, en lugar de esperar a que el gobierno federal emita una ley integral, los estados pueden avanzar con pasos coordinados que allanen el camino hacia un marco regulatorio nacional que goce de amplia aceptación.

Conclusión

La nueva postura de OpenAI representa una señal de una etapa más madura en la relación entre las empresas de inteligencia artificial y los organismos reguladores. Con la aceleración del desarrollo de los modelos avanzados y el aumento de sus capacidades, parece que el debate ya no gira en torno a si la regulación es necesaria, sino sobre cómo diseñarla para que sea eficaz y equilibrada. Y mientras California continúa desempeñando un papel pionero en este ámbito, su experiencia podría constituir un modelo a seguir a nivel nacional y global en un futuro cercano.

✦ بقلم فريق دروب أيديا