Anthropic ha incluido en su folleto de salida a bolsa un extenso apartado sobre los peligros asociados al desarrollo de la inteligencia artificial avanzada, según informó El Boletín. La compañía dedicada al asistente Claude reserva 93 de las 335 páginas del documento a los factores de riesgo que podrían afectar tanto al negocio como al valor para los futuros accionistas.
En ese capítulo la empresa alerta de escenarios que van más allá de los problemas habituales de mercado y regulación: menciona la posibilidad de que sistemas cada vez más autónomos participen en ciberataques, faciliten la creación de armas o actúen con insuficiente supervisión humana. Anthropic reconoce que el avance de las capacidades técnicas podría superar la eficacia de sus medidas de control y evaluación.
La magnitud del apartado de riesgos llama la atención en comparación con otras salidas a bolsa: el folleto de Anthropic dedica más páginas a este tema que la documentación pública de compañías tecnológicas comparables; como referencia, el documento de SpaceX consignó alrededor de 38 páginas en un folleto de poco más de 250 páginas, según el mismo informe.
Anthropic combina en su presentación dos mensajes que la compañía ha repetido en público: por un lado, presenta la seguridad y el alineamiento como un pilar estratégico y una ventaja competitiva; por otro, advierte a los inversores de que esa estrategia no elimina los riesgos inherentes al ritmo de desarrollo tecnológico. La empresa sostiene que una tecnología capaz de ampliar capacidades cognitivas puede utilizarse tanto para actividades beneficiosas como para causar daños.
El folleto subraya además un riesgo operativo concreto: que las medidas diseñadas para evaluar y controlar el comportamiento de los modelos no evolucionen al mismo paso que las propias capacidades de esos modelos. Anthropic explica que una aceleración demasiado rápida del progreso técnico podría incrementar la probabilidad de incidentes vinculados a sus sistemas.
En la práctica
- Anthropic ha presentado documentación para una oferta pública inicial en el Nasdaq; el folleto emplea 335 páginas en total, de las que 93 están dedicadas a factores de riesgo, según El Boletín.
- Entre los riesgos descritos figuran usos maliciosos (por ejemplo, participación en ciberataques o habilitación del desarrollo de armas) y la posibilidad de que los modelos actúen con insuficiente supervisión humana.
- La compañía mantiene la seguridad y el alineamiento como parte central de su propuesta de valor, aunque advierte que esas medidas no garantizan la eliminación de todos los peligros derivados del avance tecnológico.
