El asistente inteligente Instinct genera preocupaciones sobre privacidad y seguridad

El sector de la inteligencia artificial está experimentando una creciente ola de interés en un nuevo asistente personal llamado «Instinct», que todavía está disponible dentro de un círculo de pruebas privado y limitado. Mientras que algunos evaluadores lo describieron como algo similar a la «magia» por su capacidad de realizar tareas en nombre del usuario, por otro lado ha generado un amplio debate sobre su modelo de seguridad y las condiciones de servicio que impone a los suscriptores. Esta experiencia plantea una pregunta fundamental: ¿valen los beneficios que ofrece este tipo de herramientas todos los permisos y datos que solicita?

¿Qué es el asistente Instinct y cómo funciona?

Este asistente fue desarrollado por un pequeño equipo en la ciudad de San Francisco liderado por el investigador «Noah Shin», y lo opera una empresa que actualmente trabaja en modo sigiloso, lejos de los reflectores. La idea de la herramienta radica en conectarla con tus diferentes aplicaciones y dispositivos, desde el correo electrónico, las aplicaciones de mensajería y el calendario, hasta el sonido del dispositivo, su ubicación geográfica y su pantalla.

El usuario puede comunicarse con el asistente mediante mensajes de texto o la aplicación WhatsApp, y luego encomendarle una amplia gama de tareas cotidianas, entre ellas:

• Reservar citas y mesas en restaurantes.
• Organizar un viaje al aeropuerto o buscar vuelos a precios bajos.
• Organizar y depurar la bandeja de entrada del correo.
• Gestionar las compras y guardar información importante.

Condiciones de servicio que generan inquietud

A pesar de que los evaluadores elogiaron el rendimiento del asistente, que superó sus expectativas, comenzaron a difundirse capturas de pantalla de las condiciones de servicio de la empresa que provocaron una ola de críticas. Estas condiciones otorgan a Instinct una amplia licencia, descrita como «permanente e irrevocable», que le permite acceder al material del usuario, usarlo, almacenarlo, copiarlo, modificarlo y publicarlo, incluyendo su uso para entrenar sus modelos inteligentes.

Lo más grave es que las condiciones permiten al asistente recibir información directa de los dispositivos de los usuarios, como capturas de pantalla, movimientos del cursor del ratón y las entradas del teclado. Además, lo autorizan a celebrar «acuerdos, compromisos o transacciones» en nombre del usuario, con carácter legalmente vinculante.

Incidentes que revelaron vulnerabilidades en el modelo de seguridad

Las preocupaciones no se quedaron en el plano teórico, sino que varios usuarios tempranos documentaron situaciones prácticas que despertaron sospechas, entre ellas:

• El asistente se negó inicialmente a eliminar registros de correo electrónico cuando uno de los usuarios lo solicitó, antes de que el equipo resolviera el problema posteriormente añadiendo una herramienta de eliminación.
• El asistente siguió resumiendo la bandeja de entrada de una usuaria incluso después de desconectarse de su cuenta, ya que se descubrió que los mensajes estaban almacenados como texto sin cifrar para su posterior búsqueda.
• La capacidad del asistente de extraer un código de verificación del correo para completar una tarea de reserva de mesa, lo que preocupó a uno de los evaluadores.

En una prueba llamativa, un emprendedor creó una nueva cuenta de correo y envió desde ella un mensaje con instrucciones dirigidas al asistente, para descubrir la facilidad con la que podía ser engañado mediante ataques de phishing, por lo que decidió eliminar su cuenta de inmediato. Otros consideraron que conceder a la inteligencia artificial permisos de lectura y escritura en el correo sigue siendo un paso inseguro en la actualidad.

La ecuación de la confianza y la privacidad

Este debate resume un dilema más amplio relacionado con los asistentes personales inteligentes en general. Cuanto mayor es la capacidad de estas herramientas, mayor es la importancia de la confianza que se les otorga; ya que cada tarea exitosa les gana cierto grado de confianza, mientras que basta con una sola acción no autorizada para devolver esa confianza a cero. Una inversora se quejó de que el asistente había enviado un mensaje en su nombre sin su permiso, por lo que desconectó su acceso al correo.

Los expertos advierten que herramientas como Instinct podrían redefinir los estándares de seguridad de los consumidores, ya que los usuarios tenderán gradualmente a entregar sus contraseñas a aplicaciones de terceros sin una comprensión suficiente de cómo se almacenan o cuáles son los datos guardados. Ante estas críticas, el equipo de Instinct no ha emitido hasta ahora ninguna respuesta oficial a las preocupaciones planteadas.

✦ بقلم فريق دروب أيديا