Dario Amodei: No estamos en contra de los modelos abiertos, pero la IA china nos preocupa

Una aclaración oficial en medio de un debate sectorial

Dario Amodei, fundador y director ejecutivo de Anthropic, no dudó en responder a la oleada de especulaciones que circulaban en el ámbito de la inteligencia artificial, algunas de las cuales sugerían que su empresa respaldaba iniciativas del gobierno estadounidense dirigidas a prohibir los modelos chinos de pesos abiertos, o incluso a prohibir este tipo de modelos en general. Amodei publicó una declaración explícita en la que afirmó: «Anthropic nunca ha abogado por prohibir los modelos de pesos abiertos», añadiendo que basta revisar sus escritos anteriores para comprobar que no considera que ese tipo de prohibición sea una medida útil.

El contexto del debate sectorial

Esta aclaración llegó tras una carta abierta publicada por Nvidia y varias de las principales empresas de inteligencia artificial, entre ellas Meta, Microsoft, Mistral y Hugging Face, en la que instaban a los responsables políticos a no imponer restricciones tempranas y amplias sobre los modelos de pesos abiertos. Dicha carta fue el primer tuit publicado por Jensen Huang, presidente de Nvidia, en la plataforma X. Aunque la carta no mencionaba explícitamente a China, el debate en el sector giró en torno a la preocupación por el creciente avance de los laboratorios chinos, especialmente a través de la técnica de «destilación», que permite a un modelo de IA absorber el funcionamiento de otro bombardeándolo con grandes volúmenes de consultas.

Los modelos abiertos: un bien público, no una amenaza

Amodei estableció una distinción clara entre los modelos de pesos abiertos, por un lado, y la amenaza china, por otro, considerándolas dos cuestiones separadas que no deben confundirse. En su declaración señaló: «Los modelos de pesos abiertos que carecen de capacidades peligrosas representan un bien público; su único coste es el de la computación necesaria para ejecutarlos, y aportan un valor real a desarrolladores, investigadores y empresas».

Asimismo, aclaró que el uso por parte de las empresas de modelos de código abierto, incluidos los de origen chino, no forma parte de sus preocupaciones principales en este momento.

¿Qué es lo que realmente teme Amodei?

Las verdaderas preocupaciones de Amodei giran en torno a escenarios de mayor peligrosidad y calado estratégico, que pueden resumirse en los siguientes puntos:

• Supremacía militar permanente: Teme que gobiernos autoritarios desarrollen modelos de IA superiores a sus equivalentes estadounidenses, lo que les otorgaría una ventaja militar consolidada a largo plazo.
• Represión interna: El uso de la IA como herramienta de control sobre las poblaciones y de sofocamiento de la disidencia.
• Ataques biológicos: Amodei considera que la IA podría facilitar que ciertos actores lleven a cabo ataques biológicos, un riesgo que valora como más grave que las amenazas tradicionales a la ciberseguridad.

Señaló que el Partido Comunista Chino no es el único actor autoritario que le genera preocupación, aunque lo describió como «el más capaz» en este contexto. También advirtió que los modelos abiertos entrañan riesgos particulares en estos escenarios, dada la dificultad de aplicarles controles de seguridad y supervisar su uso, citando al respecto un informe del Instituto de Seguridad de la IA del Reino Unido que confirma la imposibilidad de retirar los modelos de pesos abiertos una vez publicados.

Propuestas para limitar la influencia china

Amodei propuso una serie de medidas para hacer frente a lo que describe como la amenaza china, entre las más destacadas:

• Mantener las restricciones al acceso de China a los chips avanzados, una política estadounidense vigente desde hace años.
• Adoptar una postura oficial y firme frente a la técnica de destilación, considerándola una forma de robo de propiedad intelectual.
• Apoyar la creación de un organismo internacional independiente para evaluar la seguridad de los modelos de IA, con competencias sobre todos los países del mundo, incluida China.

Una apuesta por una cooperación internacional posible

Amodei señaló que percibe un consenso casi generalizado en el sector en torno a la idea de una evaluación internacional unificada de los modelos, elogiando los movimientos recientes de la administración estadounidense en esa dirección, así como las propuestas del sector que abogan por aplicar dicha evaluación a los modelos más capaces, independientemente de su país de origen o de su naturaleza abierta o cerrada.

Concluyó con un optimismo cauteloso: «Una cooperación limitada para prevenir el uso de armas biológicas basadas en IA podría ser factible, ya que también redunda en interés de China». Una postura que refleja la conciencia de que los intereses compartidos pueden ser a veces un puente hacia acuerdos internacionales en ámbitos de especial sensibilidad.

✦ بقلم فريق دروب أيديا