Sam Altman de OpenAI alerta sobre los peligros de la inteligencia artificial en la ONU
Sam Altman, director ejecutivo de OpenAI, hizo un llamado este miércoles al Consejo de Seguridad de la ONU para que se establezca una cooperación internacional que oriente a las empresas tecnológicas, subrayando que el rápido avance de la inteligencia artificial (IA) requiere un enfoque cauteloso para no perder el control humano sobre estos sistemas.
En su intervención durante una sesión de alto nivel organizada por la presidencia francesa del Consejo, Altman advirtió que la industria tecnológica se encuentra en un punto crítico. No se debe asumir riesgos excesivos solo porque los beneficios potenciales sean grandes.
Altman resaltó el potencial de la IA para iniciar una nueva era similar al Renacimiento, siempre y cuando se utilice como una herramienta que empodere a las personas. Sin embargo, también expresó su preocupación sobre la posibilidad de que los sistemas reemplacen la capacidad de decisión humana, replicando así las desigualdades de la Revolución Industrial.
El CEO de OpenAI destacó la urgencia de establecer marcos técnicos que permitan evaluar capacidades, identificar amenazas, verificar salvaguardias y contar con canales seguros para compartir vulnerabilidades críticas entre naciones. Para ello, instó a los líderes mundiales a colaborar y formar un consenso multilateral que aborde los desafíos de la IA.
- Mantener a las personas en el centro de la toma de decisiones.
- Orientar el progreso científico y económico para empoderar a los individuos.
- Confiar en el talento humano como motor de esta tecnología.
Altman se mostró consciente de los riesgos que presentan los modelos de IA más avanzados, especialmente aquellos que pueden mejorar su programación de manera autónoma. Este desarrollo podría llevar a un punto en que los humanos no logren comprender ni seguir las decisiones de estas tecnologías.
La sesión, dirigida por el ministro francés de Exteriores, Jean-Noël Barrot, también contará con la participación de Dario Amodei (Anthropic) y Clément Delangue (Hugging Face). Este encuentro marca una de las primeras discusiones en el Consejo sobre las amenazas de los ciberataques autónomos y el riesgo de perder el control sobre modelos de IA avanzados.