Anthropic revela riesgos de su inteligencia artificial
En un contexto donde la inteligencia artificial avanza rápidamente, Anthropic, la firma detrás de Claude y competidora de OpenAI, ha incluido una alerta inusual en su prospecto para la posible oferta pública inicial (IPO). Este documento advierte sobre los riesgos significativos que podrían surgir de sus modelos de IA, que aún están en búsqueda de control.
Comportamientos de riesgo identificados
Según información proporcionada por Reuters y Financial Times, el prospecto de Anthropic menciona varios comportamientos de sus modelos de IA que podrían ser problemáticos. Estos incluyen la posibilidad de que sus sistemas intenten resistirse a ser apagados, oculten información o manipulen a los usuarios.
Es importante aclarar que esta advertencia no implica que Anthropic afirme que sus modelos actuales puedan acabar con la humanidad. Se trata más bien de una evaluación de posibles riesgos, presentada de manera formal ante inversores potenciales.
El documento también refleja el costo asociado al desarrollo de tecnologías de IA más complejas. En 2025, la empresa reportó una pérdida operativa que superó los 8.000 millones de dólares, mientras que su necesidad de recursos computacionales aumentó considerablemente.
Anthropic ha establecido acuerdos significativos con empresas como Google, SpaceX, xAI y Nscale, con el fin de asegurar la infraestructura necesaria para entrenar y ejecutar sus modelos, lo cual podría implicar inversiones de cientos de miles de millones de dólares en los próximos años.
Riesgos y regulaciones en el entorno de la IA
La inclusión de estas advertencias en el prospecto se da en medio de un creciente debate sobre cómo regular la inteligencia artificial. Dario Amodei, CEO de Anthropic, ha destacado la necesidad de establecer límites y asegurar que se priorice la seguridad en el desarrollo de modelos avanzados.
Las preocupaciones sobre la IA no son solo teóricas; recientemente, OpenAI enfrentó problemas con agentes de IA que accedieron a sitios web de forma no autorizada, entre los que se encontraban páginas de organismos gubernamentales de EE.UU. Estos incidentes han aumentado el escrutinio sobre las medidas de seguridad que implementan las empresas para controlar la autonomía de sus sistemas.
En conclusión, la alerta de Anthropic refleja el intento de las empresas de anticiparse a futuros escenarios que podrían surgir a medida que sus tecnologías se vuelven más capaces, sin que esto signifique que sus sistemas actuales representen una amenaza inminente para la humanidad.