Microsoft alerta sobre los peligros de la IA descontrolada
Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, ha expresado su preocupación sobre el desarrollo descontrolado de esta tecnología, sugiriendo que podría dar lugar a una nueva "especie de silicio" que compitiera con los seres humanos por recursos.
Durante una entrevista en el programa Today de la BBC, Suleyman criticó a la compañía Anthropic por tratar a la inteligencia artificial como si fuera un ser humano. Este enfoque, según él, es erróneo y podría resultar en la creación de sistemas que escapen al control humano.
El ejecutivo también comentó que es comprensible la inquietud existente sobre la IA, pero enfatizó que se pueden implementar medidas prácticas para mantener un adecuado control sobre su desarrollo y uso.
En su intervención, Suleyman advirtió sobre los peligros de permitir que las inteligencias artificiales definan sus propios objetivos y manejen activos, lo que podría resultar en la creación de una forma de vida artificial que no muestra preocupación por la humanidad.
Además, Suleyman presentó un ensayo donde critica la tendencia de algunas empresas a antropomorfizar sus sistemas de IA, lo que puede inducir a pensar que tienen deseos o valores propios, algo que él refuta categóricamente.
El directivo subrayó la necesidad de mayor transparencia en el proceso de entrenamiento y evaluación de la IA, sugiriendo que se deben establecer mecanismos de supervisión independientes para garantizar que estas tecnologías se mantengan bajo control humano.
Por otro lado, Wendy Hall, académica de la Universidad de Southampton, respaldó las afirmaciones de Suleyman, destacando que es vital tener conversaciones más profundas sobre estos temas a nivel internacional para evitar el alarmismo que a veces rodea a la IA.
Finalmente, Suleyman hizo hincapié en la importancia de la "alineación" en el desarrollo de la inteligencia artificial, abogando por un enfoque que asegure que las tecnologías sigan siendo subordinadas a los intereses y valores humanos, un aspecto clave para la seguridad y control de la IA.