Instagram endurece el control sobre las cuentas generadas por inteligencia artificial

Con el creciente uso de las herramientas de inteligencia artificial generativa por parte de los usuarios para crear contenido, los límites entre lo real y lo artificial han comenzado a desdibujarse en las plataformas de redes sociales. En un paso destinado a recuperar cierto grado de transparencia, la plataforma Instagram anunció una nueva política que regula la forma en que se muestran las cuentas que se basan en personajes generados por completo mediante inteligencia artificial, imponiendo restricciones a las cuentas que ocultan esta realidad a sus seguidores.

Una nueva clasificación más clara

La plataforma decidió cambiar el nombre de la antigua clasificación que se conocía como «creador de contenido con inteligencia artificial» para que pase a ser «cuenta generada por inteligencia artificial». Instagram afirma que esta nueva denominación es más directa y fácil de entender, ya que informa al usuario con claridad de que el personaje que aparece en la cuenta ha sido creado o elaborado en gran medida mediante herramientas de inteligencia artificial, y no que se trata de una persona real de carne y hueso.

Sanciones para quienes ocultan la verdad

El aspecto más destacado de la nueva política es la vinculación entre el alcance de la cuenta y su grado de cumplimiento con la divulgación. Las cuentas que muestran personajes ficticios sin aclararlo verán reducido su alcance ante el público, mientras que los usuarios que cumplan con la clasificación correcta no serán objeto de ninguna sanción por el simple hecho de que sus cuentas se basen en personajes artificiales.

La plataforma aclaró que esta clasificación no es obligatoria en todo uso de la inteligencia artificial, sino que se limita a las cuentas cuyo eje central es un personaje generado. En cambio, los siguientes casos no requieren la clasificación:

• Editar y mejorar imágenes mediante herramientas de inteligencia artificial.
• Redactar textos y comentarios o pulirlos.
• Crear gráficos y diseños visuales.
• Realizar ediciones creativas sencillas en el contenido.

Respuesta a las preocupaciones de los usuarios

Esta decisión surgió en parte como respuesta a las quejas de usuarios que descubrieron que cuentas que creían pertenecientes a personas reales no eran, en realidad, más que personajes completamente artificiales. Instagram señaló que a las personas no les resulta cómoda la idea de interactuar con una cuenta que parece humana y luego descubrir que el personaje mostrado es obra de algoritmos, expresando su deseo de saberlo de antemano.

Ejemplos preocupantes que impulsan la regulación

Este paso adquiere especial importancia ante la creciente polémica en torno a lo que se conoce como los «influencers ficticios», que se han vuelto cada vez más frecuentes en las plataformas de redes sociales. A principios de este año, una investigación periodística reveló una red de influencers masculinos generados por inteligencia artificial que promocionaban una aplicación, ya que la investigación detectó más de veinte cuentas que seguían este patrón, algunas de las cuales se comunicaban directamente con usuarios potenciales para incitarlos a registrarse.

El contenido de salud y bienestar se considera uno de los campos más peligrosos en este contexto, ya que informes periodísticos detectaron cientos de cuentas de médicos, terapeutas y figuras del ámbito del bienestar generados por completo con inteligencia artificial, que promocionaban suplementos alimenticios o lanzaban afirmaciones de salud dirigidas a los usuarios sin ningún fundamento científico fiable.

Dentro de un contexto más amplio de presiones

Este anuncio llega tras una ola de críticas a las que se enfrentó la plataforma debido a una herramienta que permitía a los usuarios generar imágenes basadas en los rasgos de otras personas, lo que provocó amplias objeciones por el uso de contenido público sin consentimiento explícito, lo que finalmente llevó a la empresa matriz a eliminar dicha función.

Estos acontecimientos también coincidieron con el acuerdo alcanzado por la empresa matriz por un valor de unos 18.000 millones de dólares con varios estados de Estados Unidos, en el marco de acusaciones relacionadas con el impacto de ambas plataformas sobre los niños y adolescentes. El acuerdo incluyó nuevas medidas, entre las que destacan la imposición de un límite predeterminado de uso diario para los adolescentes que no supere las dos horas, además de un modo «nocturno», el silenciamiento de las notificaciones durante las horas de estudio y otras restricciones.

Un paso hacia la confianza digital

Estas políticas en su conjunto reflejan una creciente conciencia por parte de las grandes plataformas de que la transparencia ya no es una opción, sino una necesidad para mantener la confianza de los usuarios en una era en la que la integración de la inteligencia artificial en la creación de contenido cotidiano no deja de aumentar. El mayor desafío sigue siendo la capacidad de Instagram para aplicar estas normas con eficacia y detectar las cuentas infractoras antes de que se propaguen y engañen a un público amplio.

✦ بقلم فريق دروب أيديا