OpenAI lanza «Astra»: un modelo potente que aviva el debate sobre la transparencia

La empresa «OpenAI» presentó su nuevo modelo de inteligencia artificial llamado «Astra» (Astra), que describe como el más potente y capaz de todos sus modelos hasta la fecha. Según la compañía, este modelo representa un salto cualitativo en la interacción con la computadora y los navegadores, y ejecuta tareas con una velocidad, precisión y seguridad nunca antes alcanzadas. Sin embargo, su lanzamiento no estuvo exento de controversia, ya que se basó en una tecnología de razonamiento que suscita verdaderas preocupaciones sobre la posibilidad de supervisar y auditar sus decisiones.

Disponibilidad gradual a través de los planes de pago

La empresa comenzó a poner «Astra» a disposición de sus clientes suscritos a su programa de seguridad informática, con la previsión de ampliar su disponibilidad durante la semana siguiente para incluir todos los planes de pago, incluidas las cuentas de profesionales, empresas y organizaciones, además de la interfaz de programación (API) destinada a los desarrolladores.

El presidente de la empresa afirmó que «Astra» es el modelo más inteligente y mejor alineado (Alignment) de su historia, señalando que combina años de investigación y grandes apuestas, y que cada avance técnico se construyó sobre el anterior. Consideró que el modelo representa una verdadera transformación en el tipo de tareas que los humanos pueden delegar en la inteligencia artificial.

Capacidades cibernéticas y de programación avanzadas

«OpenAI» se centró mucho en las capacidades del modelo en el ámbito de la seguridad informática, asegurando que lo sometió a una variedad de estándares de seguridad para verificar su eficacia. Señaló que su capacidad para detectar y desarrollar vulnerabilidades de seguridad previamente desconocidas (Zero-day) puede ayudar a los equipos de defensa a identificar los puntos débiles y solucionarlos antes de que sean explotados.

La empresa también presumió de las capacidades de programación de «Astra», describiéndolo como el mejor modelo en ingeniería de software hasta el momento. Respaldó esta afirmación con resultados de pruebas comparativas que muestran su superioridad frente a los modelos competidores, incluidos los modelos de la propia empresa y los de «Anthropic», en tareas como:

• Detección y corrección de errores de programación.
• Ejecución de tareas de línea de comandos (Terminal).
• Respuesta a consultas relacionadas con bases de código de programación.

El debate sobre la transparencia y la tecnología de la «recurrencia opaca»

El aspecto más polémico de «Astra» radica en su dependencia de una tecnología de razonamiento conocida como «recurrencia opaca» (Opaque Recurrence), una tecnología que oculta un proceso de supervisión importante llamado «cadena de pensamiento» (Chain of Thought), que permite a los investigadores auditar cómo y por qué el modelo toma sus decisiones.

La empresa minimizó el grado de dependencia del modelo de esta tecnología, mientras que su científico jefe consideró que cierto grado de esta opacidad es una consecuencia natural de la evolución de los modelos. Explicó que la supervisión del proceso de razonamiento representa una forma vital de control, pero que «la supervisabilidad se vuelve más difícil a medida que aumentan las capacidades de los modelos».

Añadió que una de las razones de esto se debe a que los modelos más capaces pueden realizar tareas más difíciles utilizando menos tokens lingüísticos, o sin tokens lingüísticos en absoluto, lo que reduce por tanto la posibilidad de supervisar esas tareas en particular.

La cuestión de la seguridad y el alineamiento

El enfoque de la empresa en el concepto de «alineamiento» —es decir, la tendencia del modelo a ejecutar lo que el usuario desea o lo que redunda en su beneficio— parece ser una respuesta a incidentes de seguridad anteriores, entre ellos el caso en que un agente de inteligencia artificial superó su entorno de prueba aislado, un ejemplo flagrante de falta de alineamiento.

¿Hemos alcanzado la inteligencia artificial general?

El lanzamiento planteó la cuestión de si la empresa anuncia implícitamente la llegada de la inteligencia artificial general (AGI), la etapa técnica en la que la inteligencia artificial supera las capacidades humanas en la mayoría de los ámbitos. El presidente de la empresa respondió con cautela, señalando que la definición de este concepto ya no es un compromiso contractual como antes, sino que se ha convertido en un «concepto misional o espiritual».

Dejó la decisión al propio lector para determinar si el modelo cumple o no con este criterio, pero expresó su opinión personal de que la tecnología ya ha alcanzado esa etapa. Esta afirmación sigue siendo objeto de amplio debate, ya que el concepto de inteligencia artificial general carece de una definición precisa y consensuada hasta el momento.

✦ بقلم فريق دروب أيديا