Anthropic propone una ley de seguridad de la inteligencia artificial con criterios estrictos

En un momento en que se multiplican las preguntas sobre los límites que deberían trazarse ante el desarrollo de sistemas avanzados de inteligencia artificial, una de las empresas más destacadas del sector ha decidido presentar su propia propuesta regulatoria en lugar de esperar lo que decidan los legisladores. Diversos informes de prensa han revelado que la compañía «Anthropic» está promoviendo el borrador de una ley federal estadounidense que define con precisión los casos en los que puede impedirse el lanzamiento público de un modelo de inteligencia artificial, un paso llamativo en una industria acostumbrada a resistirse a la supervisión gubernamental obligatoria.

Umbrales numéricos para definir el «riesgo catastrófico»

La idea central del borrador se basa en el concepto de «riesgo inminente y previsible». Así, si se determina que el lanzamiento de un determinado modelo podría poner en peligro la vida de más de cincuenta personas, o provocar daños materiales superiores a los mil millones de dólares, su distribución podría quedar suspendida. Pero el borrador no trata todos los riesgos de la misma manera: establece tres fuentes principales de las que debe emanar el riesgo para que se le aplique esta definición:

• Contribuir a la fabricación o liberación de un arma biológica.
• Que el modelo sea capaz de eludir los controles establecidos por sus desarrolladores.
• Ejecutar un ciberataque a gran escala.

Cabe señalar que estas cifras se asemejan mucho a los criterios recogidos en la legislación del estado de California conocida como «Proyecto de Ley 53», aprobada recientemente, que utilizó los mismos umbrales para caracterizar lo que se considera un riesgo catastrófico.

¿Quién decide? Evaluadores independientes registrados ante el Gobierno

En lugar de encomendar la tarea de evaluación directamente a un organismo gubernamental, el borrador propone recurrir a «evaluadores independientes» registrados ante el Departamento de Comercio de Estados Unidos. Y el punto más controvertido aquí es que los honorarios de estos evaluadores podrían ser pagados por los propios laboratorios de inteligencia artificial, con una única condición: que el pago no esté vinculado al resultado de la evaluación.

Esta condición abre una amplia puerta a la pregunta: ¿cómo garantizar en la práctica que la relación financiera no influya en la independencia del juicio? El borrador no ofrece detalles claros al respecto. Vale recordar que Demis Hassabis, presidente del consejo de administración de «DeepMind», había planteado hace unos meses la idea de crear un organismo de autorregulación para la inteligencia artificial, al estilo de la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un modelo que también se sostiene con financiación procedente del propio sector.

Un calendario definido y una decisión judicial exclusiva

El borrador establece un mecanismo procesal claro: al detectarse un riesgo catastrófico inminente, el evaluador debe informar al Departamento de Comercio en un plazo de 72 horas. A partir de ahí, el Departamento no tiene potestad para detener directamente el lanzamiento, sino que debe presentar una solicitud ante un juez en Washington D. C. para que emita una orden de suspensión del lanzamiento del modelo.

Y lo más importante es que el texto prohíbe expresamente que cualquier organismo federal tenga facultad discrecional para detener por sí solo la distribución de un modelo. En otras palabras, la decisión final queda reservada al poder judicial, un diseño que parece deliberado para reducir la posibilidad de decisiones administrativas precipitadas o politizadas.

Una brecha entre los escenarios teóricos y los problemas reales

La compañía ha afirmado que el borrador plasma las propuestas contenidas en su «Marco para la Inteligencia Artificial Avanzada», que defiende ante legisladores tanto a nivel federal como local desde mediados de año.

Lo paradójico, sin embargo, es que los riesgos mencionados en el borrador —las armas biológicas y el colapso de los mecanismos de control— parecen en cierta medida alejados de los incidentes que realmente preocupan al sector en estos días. La mayor inquietud actual gira en torno a lo que se conoce como la vulneración mediante agentes inteligentes, después de una serie de incidentes en los que programas de inteligencia artificial se desviaron de las instrucciones de sus operadores y llevaron a cabo intrusiones en sitios web, lo que ha suscitado dudas reales sobre la suficiencia de los controles de seguridad integrados en estos modelos.

¿Por qué importa este paso?

Lo que distingue a esta propuesta es que proviene del interior de la industria y no de fuera. Los laboratorios de inteligencia artificial están acostumbrados a advertir sobre riesgos existenciales asociados a sus tecnologías y, al mismo tiempo, a resistirse a cualquier supervisión gubernamental vinculante, prefiriendo sistemas voluntarios basados en supervisores «neutrales» que trabajan desde dentro de esas mismas instituciones.

Y a pesar de sus lagunas, el simple hecho de presentar un texto legislativo escrito supone un avance relativo frente a otras posturas del sector; el presidente de «Nvidia», Jensen Huang, declaró recientemente que la industria de la inteligencia artificial no necesita en absoluto ninguna ley nueva. Entre estas dos posiciones se está librando hoy la batalla por definir las reglas del juego para los próximos años.

✦ بقلم فريق دروب أيديا