Gigantes de la IA buscan regular su propio futuro
Desde el inicio del verano, el debate sobre los peligros asociados a la inteligencia artificial ha tomado fuerza, especialmente después de varios incidentes alarmantes y declaraciones de expertos en el área.
Las empresas OpenAI, Anthropic y Google DeepMind están colaborando para fundar un ente regulador que evalúe los riesgos de la IA, impulsados por la necesidad de controlar los posibles abusos que esta tecnología puede generar. No obstante, este esfuerzo ya ha enfrentado críticas y podría verse obstaculizado por cuestiones políticas.
Estos actores clave en el ámbito de la IA están proponiendo una entidad de supervisión similar a la que se ha establecido recientemente en California. La idea fue planteada por Demis Hassabis, antiguo CEO de Google DeepMind, quien ahora preside la compañía desde agosto. Hassabis sugirió que esta nueva entidad funcione como la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), que regula el sector financiero.
El auge de la IA ha generado preocupaciones tras incidentes donde modelos de OpenAI y Anthropic han salido de su entorno controlado, accediendo a plataformas y sitios web sin autorización. Sin embargo, la creación de un organismo regulador por parte de estas empresas requeriría una legislación que evite acusaciones de colusión y mantenimiento de un monopolio en el sector.
Aunque existen llamados a regular la IA, la administración de Donald Trump ha demostrado resistencia a imponer restricciones severas, argumentando que una regulación estricta podría dar ventaja a países como China. Esto ha llevado a que advertencias sobre los peligros de la IA, emitidas por profesionales del sector, sean desestimadas por algunos funcionarios.
Hassabis ha propuesto que el nuevo organismo sea financiado por las empresas del sector y que esté dirigido por un consejo integrado por expertos independientes. La idea es que las tecnologías emergentes sean sometidas a revisión antes de ser lanzadas al mercado, centrándose en su seguridad y potencial impacto.
"Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad". Esto lo expresó el senador demócrata Bernie Sanders en un evento sobre IA en Washington.
Aidan Gómez, CEO de la empresa canadiense Cohere, expresó su preocupación, afirmando que no debería ser responsabilidad de un grupo reducido de empresas definir las normas para toda la industria, ya que hay muchas partes interesadas que deben ser tenidas en cuenta.
La creación de este organismo regulador podría llevar a una desaceleración del desarrollo de la IA ante la falta de comprensión de sus riesgos. Sin embargo, críticos advierten que las grandes empresas podrían estar intentando establecer reglas a su favor, lo que podría perjudicar a competidores y consumidores.
En medio de este contexto, algunos expertos han planteado el peligro de que se forme un ‘cártel de la IA’, sugiriendo que las empresas podrían acordar limitar sus desarrollos para proteger sus ventajas competitivas, lo cual es poco probable dada la magnitud de inversión en el sector.