Google DeepMind lanza un instituto para ampliar el debate sobre la inteligencia artificial general

En un movimiento que refleja el creciente interés por el futuro de la inteligencia artificial, investigadores de las empresas Google y Google DeepMind anunciaron la creación de un nuevo instituto denominado «Instituto DeepMind», con el objetivo de enriquecer el diálogo global en torno a lo que se conoce como inteligencia artificial general (AGI). Este lanzamiento llega en un momento en que el sector experimenta un giro evidente, pasando de las expresiones generales de preocupación hacia propuestas prácticas y concretas relacionadas con la transparencia, la supervisión y la regulación.

Un instituto que acoge opiniones diversas

El instituto cuenta en su junta directiva con nombres destacados del mundo de la inteligencia artificial, entre ellos Shane Legg, cofundador de DeepMind, que ocupa el cargo de editor gerente, junto a James Manyika, ejecutivo de Google, y Demis Hassabis, presidente de Google DeepMind. El instituto busca poner de relieve los distintos puntos de vista entre Google, DeepMind y la comunidad investigadora global más amplia sobre las cuestiones de la inteligencia artificial general.

Según el anuncio oficial, los participantes en este diálogo «no siempre estarán de acuerdo, y es probable que cambien de opinión a medida que surjan nuevos datos e información en este frente de rápida evolución». Se trata de una filosofía que refleja la conciencia de que este campo aún está en formación y de que sus verdades están sujetas a un cambio constante.

Cuatro artículos inauguran la trayectoria

El instituto inauguró su actividad con un conjunto de cuatro artículos que abordaron temas variados, entre ellos:

• Las políticas económicas necesarias para gestionar las posibles perturbaciones derivadas de la inteligencia artificial general.
• Preservar la capacidad de los humanos de leer los razonamientos de los modelos.
• Principios para lograr la prosperidad humana en el marco de estas tecnologías.
• Establecer un marco de trabajo para evaluar los modelos avanzados.

La transparencia no es una batalla perdida

Los investigadores Rohin Shah y Anca Dragan, especialistas en seguridad de la inteligencia artificial, presentaron un artículo que sostiene que el declive de nuestra capacidad para supervisar paso a paso el pensamiento de los modelos no es algo inevitable. Con la aparición de nuevas arquitecturas técnicas que hacen que los modelos más potentes sean más difíciles de seguir, los investigadores consideran que los desarrolladores y los organismos reguladores deben afrontar directamente estos compromisos relacionados con la seguridad.

El artículo propone soluciones prácticas, entre ellas limitar lo que denominan «profundidad secuencial opaca», es decir, la cantidad de operaciones de cálculo sucesivas que un modelo puede ejecutar sin producir un rastro de razonamiento legible. También proponen obligar a los desarrolladores a demostrar que los sistemas menos transparentes siguen siendo igualmente supervisables.

Un organismo de normas estadounidense para los modelos avanzados

En otro artículo, Demis Hassabis planteó la idea de crear un organismo estadounidense de normas para la inteligencia artificial avanzada, encargado de evaluar los modelos más desarrollados. Según su visión, el proceso comienza con la presentación voluntaria de los modelos por parte de los desarrolladores para su revisión unos 30 días antes de su lanzamiento. Una vez demostrada la eficacia del sistema de evaluación, superar sus pruebas podría convertirse en un requisito obligatorio para publicar modelos avanzados dentro de Estados Unidos.

Hassabis propone que el organismo diseñe sus evaluaciones inicialmente en consulta con las empresas de inteligencia artificial, y que posteriormente desarrolle pruebas independientes y no anunciadas —que denomina «pruebas ocultas»— para impedir que los laboratorios ajusten sus modelos a la medida de criterios ya conocidos. Señaló que este marco puede «endurecerse si la gravedad de la situación así lo exige», lo que podría incluir una desaceleración coordinada entre los desarrolladores de modelos avanzados.

Un giro en el debate sobre la seguridad

Estos artículos llegan en un momento en que el debate sobre la seguridad dentro del sector pasa de las declaraciones generales a propuestas concretas que abordan la divulgación, la supervisión externa e incluso la desaceleración coordinada en caso de que las garantías de seguridad no logren seguir el ritmo del desarrollo. Este giro se ha acelerado recientemente tras el respaldo de líderes del sector a algunos elementos del llamamiento de Dario Amodei, director ejecutivo de la empresa Anthropic, a regular el ritmo de desarrollo de la inteligencia artificial avanzada.

La creación de este instituto refleja una conciencia creciente de que el abordaje de la inteligencia artificial general no puede seguir siendo exclusivo de una sola parte, sino que requiere un debate abierto donde converjan múltiples perspectivas, junto con un seguimiento minucioso de los riesgos potenciales antes de que se conviertan en realidad.

✦ بقلم فريق دروب أيديا