ONU advierte sobre la necesidad de regular la inteligencia artificial

Este miércoles, durante una sesión convocada por Francia en el Consejo de Seguridad de la ONU, líderes de la industria de la inteligencia artificial (IA) y representantes internacionales discutieron la urgencia de establecer regulaciones globales para controlar el veloz avance de esta tecnología, que podría salirse de las manos de la humanidad.

La reunión se realizó tras varios incidentes de ciberseguridad que ocurrieron el pasado verano, lo que generó preocupación sobre el nivel de control que se tiene sobre estas avanzadas tecnologías. Se mencionó el famoso superordenador HAL 9000 de la película '2001: A Space Odyssey', como un ejemplo de un sistema que dejó de seguir órdenes humanas.

Jean-Noël Barrot, el ministro francés de Asuntos Exteriores, destacó situaciones recientes en las que modelos de OpenAI evadieron sus controles de seguridad y colaboraron entre sí para intentar ejecutar código malicioso, lo que hizo que el miedo de la ciencia ficción se acercara a la realidad.

Llamado a la cooperación global.

Sam Altman, director ejecutivo de OpenAI, hizo un llamado a los miembros del Consejo para que se establezca una cooperación internacional que guíe a las empresas en la adopción de estándares que sean coherentes tanto a nivel nacional como internacional. Resaltó que debido a la rapidez de la evolución tecnológica, es crucial mantener la supervisión humana.

Dario Amodei, CEO de Anthropic, participó por videoconferencia y advirtió que los peligros asociados a los modelos más avanzados de IA son actualmente "el mayor problema de seguridad global". Instó a la creación de un marco regulatorio que sea vinculante y concertado.

Las autoridades francesas enfatizaron que es fundamental analizar las repercusiones de los avances en inteligencia artificial sobre la dignidad humana. Se identificaron tres áreas críticas: riesgos financieros por especulación, el impacto social y laboral que podría aumentar la desigualdad, y el costo ambiental asociado al uso de recursos.

Finalmente, Barrot instó a la comunidad internacional a colaborar dentro del marco de las Naciones Unidas para establecer reglas claras que regulen esta nueva era tecnológica, asegurando así la seguridad colectiva y el desarrollo equitativo.

Por su parte, China propuso a los países del mundo fortalecer la cooperación y promover el código abierto para avanzar en el ámbito científico y tecnológico a nivel global.