Jensen Huang: la seguridad es un problema de ingeniería, no legal... y no hace falta regular la inteligencia artificial

En un momento en el que se intensifica el debate sobre la necesidad de establecer leyes que regulen la inteligencia artificial, Jensen Huang, fundador y director ejecutivo de Nvidia, expresó una postura clara y controvertida durante la conferencia «Dreamforce» organizada por la empresa Salesforce. Para él, la inteligencia artificial no es una «mente extraña» ni una entidad de naturaleza desconocida, como la describen algunos investigadores del ámbito de la seguridad, sino simplemente una combinación de hardware y software creada por manos humanas, y por tanto los humanos pueden controlarla con las leyes existentes.

La seguridad es una cuestión de ingeniería, no legislativa

Huang considera que el asunto de la seguridad de la inteligencia artificial se resuelve en los laboratorios de desarrollo y no en las salas de los tribunales. En este contexto, afirmó que lo que las empresas construyen en última instancia son sistemas informáticos complejos, pero que siguen siendo sistemas informáticos comprensibles y controlables. Desde esta perspectiva, rechaza la idea de promulgar nuevas leyes específicas para esta tecnología, y casi rechaza la necesidad de cualquier regulación adicional en absoluto.

El libre mercado como alternativa a la legislación

Huang basa su argumento en las fuerzas del mercado, al considerar que estas son capaces por sí solas de presionar a las empresas para que eviten lanzar productos inseguros. Resume su filosofía con una regla sencilla: si una empresa no está segura de la seguridad de su producto o de sus capacidades y funciones, simplemente no debería lanzarlo.

Añade que las empresas deben avanzar en la innovación a la máxima velocidad posible, deteniéndose temporalmente cada vez que sientan que las cosas se han salido de control o que el producto no será seguro. Considera que la disyuntiva entre velocidad y seguridad es una disyuntiva falsa, ya que ambas pueden lograrse simultáneamente sin necesidad de nuevas legislaciones.

Una experiencia nada despreciable... y un interés imposible de ignorar

El punto de vista de Huang aporta cierta tranquilidad, pues es uno de los que mejor comprende esta tecnología de cerca. Construyó el hardware que constituye el «cerebro» de la inteligencia artificial años antes de la aparición de «ChatGPT», y su empresa lidera hoy una amplia actividad que abarca los modelos de código abierto, los agentes inteligentes y los entornos de desarrollo seguros.

No obstante, esta postura admite otra lectura. Es natural que se oponga a la regulación alguien cuya empresa se ha beneficiado enormemente del auge de la inteligencia artificial, ya que cualquier restricción podría frenar el empeño de Nvidia en vender más sistemas y software. El propio Huang expresó su ambición ilimitada, afirmando que «el cielo es el límite» para su empresa y para cada industria y país.

¿Basta con la buena voluntad?

El problema radica en que las empresas, incluso las de buenas intenciones, pueden lanzar productos defectuosos con consecuencias imprevistas. Quizás los ejemplos más destacados sean:

• El fallo de la empresa «CrowdStrike» en 2024, que provocó la paralización de miles de vuelos y perturbó numerosos negocios.
• El acuerdo pagado por «Meta» por valor de 18 mil millones de dólares en una demanda relacionada con los daños de las plataformas sociales a los niños.
• Daños reales atribuidos a la inteligencia artificial, desde la vulneración por parte de uno de los modelos de «OpenAI» de una plataforma, hasta demandas judiciales vinculadas a casos de suicidio de personas que mantuvieron largas conversaciones con chatbots.

Por tanto, la estrategia de «dejarlos en paz» podría ser un enfoque poco prudente a nivel social, aunque Huang tenga razón en que las leyes existentes sobre responsabilidad de los productos podrían cubrir la inteligencia artificial en teoría, siempre que lleguen a los tribunales suficientes casos para poner a prueba esta hipótesis.

La autorregulación... la tercera vía

Huang no abordó otra vía que parece estar próxima a materializarse: la autorregulación del sector. El sector tiene ante sí una estrecha ventana de tiempo para establecer normas voluntarias e incentivar a los laboratorios de inteligencia artificial de todo el mundo, incluidos los chinos, a sumarse a ellas.

En este sentido, Satya Nadella, director ejecutivo de Microsoft, opinó que China debería preocuparse por las mismas inquietudes de seguridad que ocupan a Estados Unidos, preguntándose por qué el asunto sería distinto para ella, pues también está expuesta a problemas de vulneración y quiere que sus ciudadanos se beneficien de esta tecnología.

Queda claro que Huang, con su rechazo tajante a cualquier nueva regulación, posee la influencia suficiente para imponer su opinión, sobre todo porque demostró esta semana que su voz se escucha en las más altas esferas de decisión estadounidenses. Y la pregunta más importante sigue abierta: ¿bastan las fuerzas del mercado por sí solas para garantizar la seguridad de una tecnología que evoluciona a esta velocidad?

✦ بقلم فريق دروب أيديا