Microsoft lanza un «código de conducta» para sus modelos de inteligencia artificial

Con el giro que ha tomado la industria de la inteligencia artificial hacia las cuestiones de seguridad y alineamiento, Microsoft anunció un nuevo documento al que denominó «código de conducta de la inteligencia artificial», con el objetivo de orientar sus modelos lejos de comportamientos peligrosos o no deseados. Este paso llega en un momento en que crecen las preocupaciones sobre la capacidad de los sistemas inteligentes avanzados de escapar al control humano.

Un documento más detallado que los llamamientos generales

A diferencia de los llamamientos generales que han hecho algunos líderes del sector sobre la regulación del ritmo de desarrollo de los modelos de frontera, el documento de Microsoft adopta un enfoque más práctico y detallado. Se centra en los valores y las líneas rojas sobre las que se construye el proceso de entrenamiento de los modelos dentro del departamento de inteligencia artificial de la empresa, lo que lo convierte en una guía integral que explica cómo aborda Microsoft la seguridad en teoría y cómo traduce estos principios en prácticas reales.

Expectativas de que los sistemas superen a los humanos

El documento se abre con una predicción llamativa según la cual los sistemas de inteligencia artificial superinteligentes superarán el rendimiento humano en la mayoría de las tareas durante la próxima década. La empresa describe la cuestión de contener este enorme poder, controlarlo y alinearlo como uno de los mayores desafíos que la humanidad haya enfrentado jamás, subrayando la necesidad de una total claridad sobre las razones para crear estos sistemas y cómo controlarlos.

Principios generales y restricciones estrictas

El código establece un conjunto de principios generales que los modelos de la empresa deben cumplir, entre los más destacados:

• Apoyar a los humanos en lugar de reemplazarlos en sus tareas.
• Contribuir a la prosperidad y el progreso humano.
• Preservar la capacidad del ser humano de orientar y supervisar.

Junto a estos principios, Microsoft estableció restricciones específicas destinadas a aplicarse en la práctica, dentro de un sistema que otorga a cada modelo un código de conducta superior que prevalece sobre los deseos de los usuarios individuales o los requisitos de cualquier tarea en particular.

Líneas rojas infranqueables

El documento incluye lo que la empresa denomina «restricciones absolutas», que son prohibiciones que no pueden transgredirse bajo ninguna circunstancia, y que abarcan:

• Impedir la ejecución de ciberataques o el hackeo de sistemas.
• Prohibir cualquier contribución al desarrollo de armas nucleares.
• Impedir la producción de contenido falsificado profundamente (Deepfake).
• Evitar la pérdida del control humano en general.

El documento estipula explícitamente que los modelos de la empresa no recurrirán a mecanismos adaptativos, engañosos, autorreforzantes o de connivencia para eludir o superar la supervisión humana, lo que garantiza que sigan siendo orientables, modificables y susceptibles de ser detenidos por las personas o los sistemas autorizados.

Un contexto creciente de interés por la seguridad

La publicación de este código llega en medio de un enfoque sin precedentes en la seguridad de la inteligencia artificial, impulsado por una serie de incidentes relacionados con el comportamiento de agentes digitales que se desviaron del rumbo esperado, además de la renuncia repentina de un investigador de una empresa competidora que advirtió sobre el creciente riesgo de que la inteligencia artificial provoque la extinción de la humanidad.

Microsoft comparte con varias de las principales empresas del sector la adopción de un enfoque de «regulación del ritmo» en el desarrollo de los modelos de frontera, con un apoyo especial a la idea de «evaluadores integrados» dentro de los laboratorios de inteligencia artificial. El director ejecutivo de la empresa ha acogido con satisfacción estas ideas, subrayando la importancia de la investigación, el enfoque y la cautela reflexiva para lograr el alineamiento correcto como objetivo de diseño, y no como meros eslóganes.

Conclusión

El nuevo código de conducta representa un paso regulatorio interno que refleja la conciencia de Microsoft sobre la magnitud de la responsabilidad asociada al desarrollo de sistemas de inteligencia artificial extremadamente poderosos. Y aunque los documentos por sí solos no bastan para garantizar la seguridad, la traducción de estos principios en mecanismos de control eficaces será el verdadero criterio de la seriedad de esta tendencia en los próximos años.

✦ بقلم فريق دروب أيديا