La ley de seguridad de Nueva York somete a OpenAI y Anthropic a una nueva supervisión

El estado de Nueva York ha entrado en una nueva etapa en la regulación de la inteligencia artificial, tras abrir un portal de registro electrónico dedicado a los grandes desarrolladores de sistemas avanzados, en un paso preliminar para aplicar una de las leyes de seguridad de la inteligencia artificial más amplias de Estados Unidos. En virtud de esta medida, empresas como OpenAI y Anthropic deberán completar su registro antes del 1 de enero de 2027 o enfrentarse a acciones legales por parte del estado.

¿Qué establece la ley RAISE?

La normativa se conoce como ley RAISE, una legislación centrada en la seguridad y la transparencia que entra en vigor con el inicio del año. Su objetivo son los llamados «grandes desarrolladores avanzados», es decir, las empresas cuyos ingresos anuales superan los 500 millones de dólares, lo que limita su alcance a los grandes laboratorios y excluye a las pequeñas empresas emergentes.

Entre las obligaciones fundamentales que impone la ley se encuentran las siguientes:

• Publicar marcos de seguridad de forma pública en los sitios web de las empresas.
• Notificar cualquier incidente crítico de seguridad en un plazo no superior a 72 horas.
• Emitir informes periódicos de transparencia relativos a los modelos que desarrolla la empresa.

Las sanciones económicas alcanzan un millón de dólares por la primera infracción y tres millones por las infracciones posteriores, un límite que convierte el cumplimiento en una cuestión con un coste real y no en un simple trámite formal.

Un nuevo organismo supervisor y un centro de investigación independiente

El estado ha encomendado la ejecución a una oficina de reciente creación denominada Oficina de Innovación Digital, Gobernanza, Integridad y Confianza (DIGIT), que se encargará de supervisar a los grandes laboratorios y de dar seguimiento a su grado de cumplimiento. La oficina también tendrá la facultad de perseguir a las empresas que no se registren en el nuevo portal.

De forma paralela, se ha anunciado la creación del «Centro de Nueva York para la Responsabilidad y la Investigación en Inteligencia Artificial» en la Universidad de Binghamton, perteneciente a la Universidad Estatal de Nueva York. El centro está concebido para realizar una evaluación independiente de la seguridad de los sistemas avanzados, de su protección y de su modo de funcionamiento, además de colaborar con la oficina DIGIT en la revisión de los marcos de seguridad que publiquen las empresas. El centro había sido anunciado inicialmente en enero con una financiación y un capital de 55 millones de dólares.

La gobernadora del estado, Kathy Hochul, planteó su postura en tono crítico hacia el discurso de las empresas tecnológicas, señalando que sus propietarios presentan su visión de la inteligencia artificial como algo inevitable y exigen a todos subirse al carro o quedarse atrás, dando por sentado que cualquier daño colateral resulta aceptable a cambio de ganar la carrera. Añadió que el estado aspira a construir un modelo nacional de regulación práctica y equilibrada que ponga a las comunidades por delante de las empresas y a las personas por delante de la tecnología.

No es la primera ley en Nueva York

La ley RAISE no llega de forma aislada, sino que se suma a un entramado legislativo que el estado ha comenzado a construir en los dos últimos años. El año pasado entró en vigor una ley que obliga a los operadores de «compañeros de inteligencia artificial» a recordar periódicamente a los usuarios que están hablando con un robot, además de realizar esfuerzos razonables para detectar indicios de pensamientos suicidas y autolesiones.

En octubre se firmó una ley independiente relativa a la seguridad de los chatbots en su interacción con menores, que limita conductas como las interacciones engañosas que imitan a los seres humanos, las respuestas que incluyen manipulación emocional o adulación excesiva, y cualquier incitación al suicidio o a los trastornos alimentarios. Esta ley entrará en vigor el 1 de junio de 2027.

Una tendencia regulatoria que se extiende entre los estados

Lo que ocurre en Nueva York no es una excepción, sino parte de una ola legislativa más amplia a nivel estatal. En California entró en vigor en enero la ley SB 53, que obliga a los laboratorios avanzados a establecer y publicar marcos de seguridad, ofrecer protección a los denunciantes de irregularidades e informar de los incidentes críticos en un plazo de 15 días. El estado de Illinois, por su parte, comenzará a aplicar su ley SB 315 a principios de 2027, con requisitos similares a los que añade una auditoría independiente del cumplimiento en materia de seguridad.

¿Qué significa esto en la práctica?

Resulta evidente que la ausencia de una legislación federal integral está impulsando a los estados a llenar el vacío, lo que genera un mapa regulatorio de múltiples capas con el que las grandes empresas se verán obligadas a lidiar simultáneamente. Y para las organizaciones que desarrollan soluciones basadas en los modelos de estas empresas, la tendencia general es clara: la documentación de la seguridad, la rapidez en la notificación de incidentes y la transparencia sobre las capacidades y los límites de los modelos son elementos que pasan progresivamente de ser prácticas opcionales a convertirse en requisitos legales.

✦ بقلم فريق دروب أيديا