La startup AIR recauda 50 millones de dólares para asegurar las herramientas de los agentes de inteligencia artificial

A medida que se amplían los permisos que las empresas otorgan a los agentes de inteligencia artificial dentro de sus sistemas, ha comenzado a formarse una cadena de suministro de software completamente nueva en torno a las herramientas de las que dependen estos agentes: habilidades, complementos, servidores del protocolo MCP y componentes que les permiten interactuar con Internet y los sistemas internos. En medio de esta transformación, la startup de ciberseguridad «AIR» sale de su fase sigilosa anunciando la recaudación de 50 millones de dólares para construir una plataforma que supervise y asegure esta incipiente cadena.

¿Quiénes son los fundadores de la empresa?

La empresa fue fundada por Yair Saban (director ejecutivo) y Niv Hoffman (director técnico), ambos veteranos de la Unidad 8200 de inteligencia israelí, donde trabajaron en el campo de la ciberseguridad ofensiva. Su plataforma ofrece capacidades triples: la detección de los agentes que operan dentro de las empresas, la verificación continua de las habilidades, herramientas y componentes que utilizan, y su bloqueo para impedir que interactúen con cualquier software o fuente externa que no supere los estándares de seguridad. La empresa también ofrece un mercado electrónico de complementos y habilidades previamente verificados.

Detalles de las dos rondas de financiación

Las dos rondas de inversión se cerraron con pocas semanas de diferencia. La primera recaudó 10 millones de dólares liderada por el fondo «Sequoia», mientras que la segunda recaudó 40 millones de dólares liderada por «Greenoaks». En la financiación participaron varios inversores influyentes, entre ellos exfundadores de empresas como «Wiz», «Eon» y «Clay», además de otros inversores ángeles.

¿Por qué representa esto un problema de seguridad?

Saban considera que la forma en que se utilizan los agentes dentro de las organizaciones se ha vuelto similar a los sistemas operativos, pero las herramientas que utilizan no están sujetas al mismo control que aplicamos a los controladores o las aplicaciones. Y recurre a una comparación útil al decir que los controladores a principios del milenio no requerían una firma digital, mientras que hoy cada controlador lleva una firma que indica su origen porque carga código dentro del núcleo del sistema, algo que aún no está disponible para las habilidades, complementos y servidores MCP a pesar de que el mecanismo es idéntico.

El mayor peligro, según Saban, es que cuando los agentes operan con una autonomía creciente a través de las bases de datos y los sistemas empresariales y se conectan a Internet, los atacantes pueden envenenar el contenido que consume el agente en lugar de atacarlo directamente.

¿Cómo funciona la plataforma AIR?

La plataforma se basa en tres capas integradas:

• Visibilidad y detección: identificar los agentes activos en el entorno de la empresa y detectar a los empleados que utilizan herramientas de inteligencia artificial no aprobadas por el departamento de tecnología de la información o que dependen de cuentas personales.
• Aplicación y control: una capa que se conecta a los agentes para interceptar y analizar sus acciones, como cargar una nueva habilidad u obtener contenido de Internet.
• Lista blanca: comparar las herramientas y complementos solicitados con una lista de confianza que la empresa actualiza continuamente.

AIR explica que evalúa las habilidades y complementos disponibles públicamente en busca de cualquier cambio o comportamiento malicioso, ya que una habilidad previamente aprobada puede convertirse en un riesgo si cambia un paquete del que depende o si se compromete la cuenta de su desarrollador. La empresa afirma que actualmente excluye alrededor del 27% de los complementos y habilidades que detecta en Internet.

Clientes y competencia

AIR confirma que cuenta con más de 20 clientes, aproximadamente una cuarta parte de ellos grandes empresas, con una fuerte demanda en sectores muy regulados como los servicios financieros y las empresas farmacéuticas. Sin embargo, la empresa no está sola en este campo, ya que compite con nombres como «Noma Security», «Zenity», «Astrix Security» y «Operant AI», en medio de un gran flujo de capital de riesgo hacia esta categoría.

Saban considera que la ventaja competitiva de su empresa radica en la capacidad de verificar continuamente el ecosistema de habilidades y complementos, una tarea difícil en comparación con la visibilidad en los puntos finales que todos pueden lograr. Y añade que, incluso si los laboratorios de inteligencia artificial integran controles de seguridad en el futuro, las empresas seguirán queriendo comprar un producto independiente que funcione con distintos proveedores.

La empresa emplea actualmente a unas 40 personas, y destinará el nuevo capital principalmente a la contratación de investigadores y a la expansión de su actividad comercial en Estados Unidos y Europa.

✦ بقلم فريق دروب أيديا