FlashProve: un sistema de Anthropic para verificar la identidad de los modelos de inteligencia artificial

Cuando envías una pregunta a un modelo avanzado de inteligencia artificial y recibes una respuesta, existe una suposición implícita que das por sentada sin pensarlo: que la respuesta proviene efectivamente del modelo que has elegido. Pero ¿qué lo garantiza técnicamente? En realidad, casi nada, más allá de la confianza del usuario en el proveedor del servicio. Esta brecha silenciosa es lo que la empresa Anthropic intenta abordar mediante un nuevo proyecto de investigación anunciado con el nombre de FlashProve, un sistema de código abierto que busca aportar una prueba matemática verificable de que una salida determinada procede de un modelo concreto.

¿Qué es la «inferencia demostrable»?

FlashProve se basa en un concepto que los investigadores denominan «inferencia demostrable» (Provable Inference). La idea es que cada salida vaya acompañada de una prueba criptográfica que demuestre su vinculación con un modelo específico, de un modo que cualquier parte pueda verificar de forma independiente.

La analogía más cercana son las firmas criptográficas en el correo electrónico, que permiten al destinatario confirmar que el mensaje proviene realmente de la entidad que afirma haberlo enviado. La diferencia importante aquí es que el sistema está diseñado para resistir intentos de engaño incluso si provienen de la propia entidad que construyó el modelo y lo opera, lo cual es un requisito esencial para cualquier garantía con un significado real.

Los problemas que resuelve

Los investigadores señalan varios escenarios en los que verificar la identidad del modelo se convierte en una cuestión práctica y no teórica:

• Sustitución silenciosa del modelo: que una empresa redirija las solicitudes de los usuarios a un modelo más barato y menos capaz para reducir costes, mientras el usuario cree que está utilizando el modelo de nivel superior por el que está pagando.
• Mejora artificial de los resultados: lo contrario también es posible, es decir, emplear un modelo más potente y costoso durante las pruebas de evaluación comparativa para mostrar un rendimiento mejor que el real.
• Verificación de afirmaciones de terceros: un desarrollador podría decir que su biblioteca de software ha sido sometida a una auditoría de seguridad por un modelo avanzado en ciberseguridad, o una empresa podría anunciar que su plan de negocio ha sido revisado por un modelo especializado. La pregunta sencilla que plantean los investigadores: ¿cómo puede el usuario verificar estas afirmaciones?

En ausencia de un mecanismo de verificación, estas declaraciones quedan como meras promesas de marketing imposibles de comprobar, algo cada vez más delicado a medida que los modelos intervienen en decisiones de seguridad, financieras y profesionales.

¿Cómo funciona sin revelar los secretos de los modelos?

El sistema requiere que los laboratorios de inteligencia artificial publiquen una «huella» (Fingerprint) de cada modelo que lancen. Esta huella puede después compararse con las salidas y verificarse criptográficamente.

El punto más relevante desde la perspectiva comercial es que la huella no revela los pesos del modelo, es decir, los valores numéricos internos que determinan su comportamiento y que empresas como Anthropic y OpenAI se esfuerzan por mantener cerrados al considerarlos su activo más valioso. Esto significa que el sistema es aplicable a los modelos comerciales cerrados y no solo a los abiertos, algo que habría limitado mucho su utilidad si no hubiera sido posible.

Asimismo, el sistema se ha diseñado para ser ligero desde el punto de vista computacional, de modo que el proceso de verificación pueda ejecutarse localmente en el dispositivo del usuario sin necesidad de una infraestructura enorme ni de recurrir a una parte centralizada.

Un proyecto de investigación abierto, no un producto terminado

Junto con el anuncio, Anthropic publicó una especificación técnica detallada y código funcional para varios componentes del sistema, disponibles públicamente en la plataforma GitHub bajo una licencia de código abierto. Sin embargo, la empresa fue clara al señalar que el trabajo aún se encuentra en una fase intermedia.

No existen planes actuales para desplegar FlashProve ni ponerlo en funcionamiento en Anthropic ni en ningún otro laboratorio, y los investigadores describen lo publicado como la difusión de un avance parcial, no de una agenda de investigación completa. El objetivo declarado es que otros conozcan el trabajo, lo amplíen y lo mejoren, una lógica coherente con la naturaleza de los estándares criptográficos, que extraen su solidez de una revisión pública amplia y no de un desarrollo cerrado.

¿Por qué merece atención?

Con la creciente dependencia de las instituciones respecto a los modelos de lenguaje en tareas reales, la pregunta «¿quién produjo esta salida?» pasa de ser un lujo técnico a convertirse en un elemento de la cadena de confianza. Una capa de verificación estándar y abierta podría servir a varias partes a la vez:

• A los usuarios, al darles la certeza de que obtienen aquello por lo que pagan.
• A las instituciones, mediante la posibilidad de auditar las salidas de los modelos en el marco de los requisitos de cumplimiento normativo.
• A los investigadores, al mejorar la fiabilidad de los resultados de las pruebas y las comparativas de referencia.
• A los organismos reguladores, al proporcionar una base técnica para la rendición de cuentas en lugar de depender de las declaraciones.

FlashProve puede parecer un detalle de ingeniería muy específico, pero toca una cuestión fundamental en la estructura del mercado actual de la inteligencia artificial: la mayoría de las garantías que hoy se ofrecen al usuario se basan en la confianza y no en la prueba. Y cualquier paso que traslade parte de esa confianza a un terreno matemático verificable merece seguimiento, aunque se encuentre en sus inicios.

✦ بقلم فريق دروب أيديا