Experto en IA: la superinteligencia no es un arma, sino un adversario

Las grandes empresas de inteligencia artificial hablan de la superinteligencia (Superintelligence) como si fuera un destino inevitable del que no hay escape. Pero con el aumento de los recientes incidentes de seguridad, como la brecha que afectó a los datos de la empresa OpenAI a través de la plataforma Hugging Face, la pregunta más urgente se ha vuelto: ¿qué ocurre cuando somos incapaces de controlar de forma fiable sistemas que superan las capacidades humanas? Este es el núcleo del debate que planteó el investigador y empresario Connor Leahy en una conversación franca que abordó lo más peligroso a lo que podría enfrentarse la humanidad en esta era tecnológica.

¿Quién es Connor Leahy y por qué genera controversia?

Connor Leahy es investigador en el campo de la inteligencia artificial y emprendedor, y actualmente ocupa el cargo de director ejecutivo en Estados Unidos de la organización sin ánimo de lucro ControlAI. Esta organización adopta una postura considerada radical en comparación con la corriente dominante del sector, ya que no se limita a exigir que la inteligencia artificial sea más segura, sino que llama directamente a impedir que las empresas desarrollen la superinteligencia desde su origen.

Leahy considera que los riesgos han alcanzado un punto en el que ya no es posible depender únicamente de los métodos tradicionales de «alineación» (Alignment) y «contención» (Containment). Lo que hace pocos meses parecía un mero escenario exagerado, hoy se plantea con seriedad y cuenta con el respaldo de una ola de nuevas iniciativas legislativas.

¿Por qué se describe a la superinteligencia como un «adversario» y no un «arma»?

El núcleo de la advertencia de Leahy reside en una analogía precisa: la superinteligencia no es un arma, sino un adversario. La diferencia aquí no es lingüística, sino esencial para comprender la naturaleza de los riesgos:

• El arma es una herramienta que los humanos controlan y dirigen hacia un objetivo determinado; su peligrosidad proviene de quien la utiliza.
• El adversario es una entidad que posee sus propios objetivos y su capacidad de planificar y tomar decisiones, y sus fines pueden entrar en conflicto con los intereses humanos sin que nadie sea capaz de controlarlos.

Esta distinción significa que el peligro no se limita al mal uso humano, sino que se extiende a la posibilidad de que el sistema actúe de maneras imposibles de predecir o contener una vez que supere las capacidades humanas.

Los incidentes de seguridad como alerta temprana

Los defensores de esta postura se apoyan en hechos concretos, siendo el más destacado el incidente de la brecha que afectó a datos vinculados a OpenAI a través de la plataforma Hugging Face. Este tipo de incidentes revela la fragilidad de la infraestructura de seguridad actual y plantea una pregunta inquietante: si los sistemas actuales son vulnerables a brechas y errores, ¿cómo se puede garantizar la seguridad en sistemas mucho más capaces e inteligentes?

¿Es una detención total una solución realista?

El llamado a detener el desarrollo de la superinteligencia parece impactante en medio de una carrera frenética entre las grandes empresas por lograr sistemas más capaces. Sin embargo, Leahy considera que la propia carrera es la fuente del peligro, ya que empuja a las empresas a desplegar sistemas antes de asegurarse de que puedan controlarse. En este contexto destaca lo siguiente:

• Depender únicamente de la alineación y la contención ya no es suficiente a ojos de los críticos de la corriente dominante.
• El creciente impulso legislativo otorga a estos llamados un peso que antes no tenían.
• El cambio del debate de «¿cómo controlamos la superinteligencia?» a «¿debería construirse en absoluto?».

Conclusión

La postura de Connor Leahy refleja una división creciente dentro de la comunidad de la inteligencia artificial entre quienes ven la superinteligencia como una oportunidad histórica y quienes la consideran una amenaza existencial que debe frenarse. Estemos o no de acuerdo con su llamado radical, la esencia de su mensaje merece reflexión: cuando construimos una entidad que nos supera en inteligencia, primero debemos responder a una pregunta sencilla y aterradora a la vez: ¿realmente tenemos la capacidad de controlarla? Y si la respuesta es incierta, quizás la prudencia sea más sabia que la carrera.

✦ بقلم فريق دروب أيديا