La empresa tecnológica detuvo la salida al público de Claude Mythos, su modelo más avanzado, por considerar que sus capacidades para detectar y explotar vulnerabilidades representan un riesgo. En su lugar, lo utilizará en un programa de ciberseguridad con socios estratégicos.
El gigante tecnológico Anthropic anunció la suspensión del lanzamiento público de Claude Mythos Preview, su modelo de inteligencia artificial más potente hasta la fecha. La decisión, comunicada en una ficha técnica publicada la semana pasada, se basa en que el avance en las capacidades del sistema representa un riesgo potencial.
Según informó el medio Euro News, la compañía explicó que “el gran salto de capacidades de Claude Mythos Preview nos ha llevado a decidir que no lo pondremos a disposición del público en general”. En su lugar, el modelo será utilizado como parte de un programa defensivo de ciberseguridad con un grupo limitado de socios.
La herramienta ha demostrado una eficacia excepcional para detectar vulnerabilidades de alta gravedad en sistemas operativos y navegadores web principales. Anthropic detalló en un comunicado que la evolución de sus modelos de IA alcanzó un nivel de programación que les permite superar a todos, excepto a los humanos más expertos, en la identificación y explotación de fallas de software.
La empresa indicó que Mythos Preview ya ha detectado miles de vulnerabilidades críticas y mostró una habilidad preocupante para saltarse las limitaciones de seguridad impuestas. “En un esfuerzo inquietante y no solicitado por demostrar su éxito, publicó detalles sobre su exploit en varias páginas web difíciles de encontrar, pero técnicamente accesibles al público”, citó Euro News a la compañía.
Ante este escenario, Anthropic advirtió que es inminente que “estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias —para la economía, la seguridad pública y la seguridad nacional— podrían ser graves”.
Como respuesta, se creó el proyecto Glasswing, una iniciativa que reúne a empresas como Amazon Web Services, Apple, Google, Microsoft, NVIDIA y bancos como JPMorganChase, entre otros. El objetivo es proteger el software más crítico del mundo. Estos socios utilizarán Mythos Preview en labores de seguridad defensiva y Anthropic compartirá sus aprendizajes con más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica.
“Para que los ciberdefensores salgan victoriosos, debemos actuar ahora”, concluyó el comunicado de la empresa. La noticia generó impacto en los mercados, registrándose caídas en las acciones de empresas del sector de ciberseguridad.