Amazon destruye libros raros para entrenar modelos de inteligencia artificial

En un giro llamativo para una empresa que comenzó su trayectoria vendiendo libros por internet, datos recientes indican que Amazon recurre hoy a la compra de grandes cantidades de libros raros, para luego cortar sus cubiertas y separar sus páginas con el fin de escanearlas y convertirlas en datos textuales que se utilizan en el entrenamiento de modelos de inteligencia artificial. Esta práctica, detectada por una investigación de campo, pone de relieve la magnitud del creciente apetito de las empresas tecnológicas por el contenido textual auténtico.

¿Cómo se destapó la historia?

Según lo publicado por el sitio «404 Media», el equipo periodístico colocó un dispositivo de rastreo dentro de uno de los libros raros para conocer su destino, y este acabó en unas instalaciones de Amazon en la ciudad estadounidense de Las Vegas. Estas instalaciones son conocidas internamente con el nombre de «VGT3» y llevan un logotipo curioso que representa a un dinosaurio sujetando un libro entre sus garras.

En respuesta a las consultas, Amazon aclaró que «compra libros a través de canales comerciales habituales con el objetivo de mejorar los productos y servicios que utilizan sus clientes», sin negar la esencia de lo que se ha revelado.

¿Por qué las empresas necesitan precisamente libros raros?

Los grandes modelos lingüísticos dependen en su desarrollo de enormes cantidades de textos cuyo volumen es difícil de imaginar. Estas empresas ya han agotado la mayor parte de lo que está disponible gratuitamente en internet en forma de artículos, foros y sitios web, lo que las ha impulsado a buscar nuevas fuentes de datos de alta calidad.

Y aquí es donde destaca el valor de los libros raros, especialmente aquellos cuyas ediciones se han agotado o que resulta imposible encontrar en versiones digitales. Estas obras representan cofres de conocimiento que aún no se han consumido en los procesos de entrenamiento, y ofrecen una diversidad lingüística y estilística difícil de hallar en el contenido digital repetitivo.

El riesgo del «colapso del modelo» y la importancia del contenido humano

Existe una razón técnica profunda detrás de este interés por los textos antiguos. Los libros publicados antes del año 2022 llevan la garantía práctica de haber sido escritos por manos humanas y de no haber sido generados por modelos de inteligencia artificial. Este es un punto sumamente sensible en el mundo del desarrollo de modelos lingüísticos.

Cuando los modelos se entrenan con textos producidos por la propia inteligencia artificial, quedan expuestos a un fenómeno conocido como «colapso del modelo» (Model Collapse), un estado en el que la calidad de los resultados se deteriora gradualmente a medida que se acumula contenido artificial en los datos de entrenamiento. El problema puede resumirse en los siguientes puntos:

• Repetición de los patrones lingüísticos y pérdida de diversidad en la redacción.
• Amplificación de errores y sesgos generación tras generación de entrenamiento.
• Disminución de la capacidad del modelo para representar el conocimiento raro o preciso.
• Alejamiento gradual de los resultados respecto al lenguaje humano natural.

Por esta razón, los textos «puros» que precedieron a la difusión de las herramientas de generación automática se han convertido en algo similar a un recurso escaso por el que compiten las grandes empresas.

Un dilema ético y cultural

La destrucción de libros raros plantea interrogantes que van más allá del aspecto técnico y alcanzan la dimensión cultural y ética. Algunas de estas obras poseen un valor histórico o una rareza material difícil de reponer, y convertirlas en meros datos textuales rasgándolas puede significar la pérdida de ejemplares físicos que no se pueden recuperar.

Y el problema no se limita únicamente a Amazon; otras empresas del ámbito de la inteligencia artificial ya han enfrentado críticas respecto a las fuentes de sus datos, incluyendo acusaciones de utilizar libros pirateados sin licencia, lo que refleja una crisis más profunda en la forma de obtener los datos que alimentan estos sistemas.

Conclusión

Este incidente revela la magnitud del desafío que enfrenta la industria de la inteligencia artificial para asegurar datos de entrenamiento fiables y auténticos. Y mientras las empresas compiten por alimentar sus modelos con contenido humano puro, las preguntas siguen abiertas sobre el equilibrio necesario entre el desarrollo de la tecnología, por un lado, y la preservación del patrimonio del conocimiento y el respeto a los derechos de propiedad, por otro. Es una ecuación delicada que definirá los rasgos de la próxima etapa en la evolución de estos modelos.

✦ بقلم فريق دروب أيديا