El presidente de Anthropic presenta un plan para regular la velocidad del desarrollo de la inteligencia artificial

Ante el aumento de las advertencias procedentes de los círculos de investigadores sobre los posibles riesgos de la inteligencia artificial, Dario Amodei, director ejecutivo de Anthropic, adoptó una postura llamativa en la que pidió «regular la velocidad» del desarrollo de esta tecnología. Pero no se limitó a un llamamiento teórico como hicieron algunos líderes del sector, sino que presentó en una nueva entrada de blog una visión práctica que incluye tres estrategias claras, anunciando que su empresa se comprometerá a aplicar una de ellas de forma unilateral, sin esperar a los demás.

¿Qué llevó a Amodei a la cautela?

Amodei explicó que dos factores principales consolidaron su convicción de la necesidad de adoptar un enfoque más prudente en la próxima etapa. El primero es un incidente de brecha de seguridad que afectó a sistemas vinculados a grandes sistemas de inteligencia artificial, y el segundo es la notable aceleración del ritmo de desarrollo en los últimos meses, en particular lo que describió como la «capacidad creciente de la inteligencia artificial para construir por sí misma la próxima generación de ella».

Amodei escribió con claridad: «Debemos frenar el ritmo al que desarrollamos las capacidades de los modelos. El progreso seguirá pareciendo rápido, y debemos invertir sabiamente el tiempo que ganemos». Esta postura surgió en medio de un amplio debate sobre la seguridad de la inteligencia artificial, que se intensificó tras la renuncia de un investigador de la empresa que expresó su preocupación por que las grandes compañías estén «apostando con nuestras vidas».

La primera estrategia: evaluadores independientes dentro de las empresas

El primer paso que propone Amodei, y que Anthropic ya adopta de forma unilateral, se basa en acoger a «evaluadores integrados» de entidades independientes especializadas en la evaluación de riesgos. La misión de estos consiste en verificar que las empresas cumplan realmente con sus compromisos relativos a la seguridad y la regulación de la velocidad, y garantizar la notificación de cualquier incidente de seguridad.

Amodei comparó este modelo con la supervisión bancaria que coloca inspectores dentro de las instituciones financieras, subrayando que su empresa concederá a estos evaluadores:

• Tarjetas de acceso oficiales, oficinas y equipos de trabajo dentro de la empresa.
• Permisos de acceso casi equivalentes a los que disfruta el equipo interno de evaluación de riesgos.
• Excepciones limitadas únicamente en los casos que exijan las leyes o los contratos.

Amodei instó a los gobiernos a obligar al resto de las empresas líderes a adoptar el mismo procedimiento.

La segunda estrategia: coordinación entre los países democráticos

El segundo paso consiste en que las grandes empresas dentro de los países democráticos coordinen normas de seguridad unificadas y límites al ritmo de desarrollo descontrolado. Amodei reconoce que esta coordinación choca con un obstáculo legal relacionado con la lucha contra los monopolios, ya que cualquier pausa coordinada podría interpretarse como un acuerdo prohibido entre competidores.

Por ello propuso que el gobierno estadounidense asuma el papel de mediador o facilitador de estas discusiones, sin participar necesariamente en ellas, y que emita una exención legal restringida que permita algunas conversaciones relativas a la seguridad.

En respuesta al argumento común de que frenar el ritmo otorga una ventaja a China, Amodei consideró que Estados Unidos es capaz de ampliar considerablemente su ventaja en un plazo de tres a cinco años si adopta medidas como abstenerse de vender chips avanzados y equipos de fabricación de semiconductores a las empresas chinas.

La tercera estrategia: una coordinación global más amplia

El último paso, y el más ambicioso, es la «coordinación global», en la que Estados Unidos y sus aliados intenten llegar a entendimientos con los gobiernos no democráticos, incluida China, en la medida de lo posible. Amodei reconoció que existen límites estrictos a lo que se puede lograr, pero consideró que la puerta podría permanecer abierta a acuerdos limitados, como la prohibición de algunos usos peligrosos evidentes, como el empleo de la inteligencia artificial en la producción de armas biológicas.

Críticas de ambos lados

Las posturas de Amodei no se libraron de las críticas. Mientras que algunos entusiastas de la tecnología lo acusaron de ser uno de los defensores del pesimismo que alimentan la actual ola de rechazo, otros críticos consideraron que estas advertencias alarmantes desvían la atención de los daños reales que la tecnología causa en la actualidad. Es más, algunos llegaron a afirmar que propuestas de este tipo podrían acabar sirviendo a las propias grandes empresas, en algo parecido a una «captura regulatoria».

Amodei respondió que busca ofrecer una visión «equilibrada», considerando que la actual ola de rechazo es, en esencia, una «crisis de confianza» hacia las empresas tecnológicas y los gobiernos a la vez. Concluyó afirmando que su fe en la capacidad de la inteligencia artificial para mejorar la vida de las personas no ha disminuido, pero está condicionada a que la tecnología se construya de la manera correcta y a que el tiempo ganado se invierta sabiamente.

✦ بقلم فريق دروب أيديا