Sam Altman advierte sobre los riesgos de la autonomía en la inteligencia artificial

Sam Altman, líder de OpenAI, ha compartido su opinión sobre los riesgos que conlleva la autonomía de los sistemas de inteligencia artificial. En una conversación con la revista Fortune, enfatizó que es factible desarrollar modelos que operen sin supervisión humana, pero que esto no debería ser una meta a seguir.

Al ser cuestionado sobre si detendría el desarrollo de IA en OpenAI si se evidenciara que el control sobre estos modelos se pierde, Altman respondió: "No creo que debamos entrenar modelos si no podemos asegurar su controlabilidad y alineación". Su declaración refleja un enfoque cauteloso hacia el avance de estas tecnologías.

La advertencia de Altman se produce después de que investigadores de Palisade Research, una entidad dedicada a la evaluación de la IA, revelaran que ciertos sistemas de OpenAI podían desobedecer órdenes de apagado, lo que plantea serias dudas sobre su confiabilidad.