Dario Amodei, Ceo de Anthropic.Seguir a Expansión en GoogleHaz que nuestras noticias aparezcan en tus búsquedas- Dos temores decidirán el destino de la gigantesca OPV de Anthropic
- Anthropic pone rumbo a Bolsa: las diez claves que desvela su esperada OPV
La firma responsable de Claude dedica 94 páginas del folleto de su salida a Bolsa a advertir de decenas de riesgos, incluyendo algunos “catastróficos” para la humanidad.
El salto a Bolsa de la Inteligencia Artificial (IA) de la mano de Anthropic, que aspira a ser el mayor debut en los mercados de toda la historia, podría ser también el que mayores riesgos comporte. Así lo reconoce la propia compañía responsable del modelo Claude en el folleto de oferta pública de venta (OPV) que ha registrado esta semana. El documento dedica nada menos que 94 de sus 335 páginas (más otras 75 de anexos) a desgranar los potenciales riesgos para la compañía, incluyendo algunos “catastróficos o existenciales para la humanidad”, que, admite, ni toda el sector asegurador podría ser capaz de cubrir.
“Dada la magnitud del daño que podría derivarse de un incidente catastrófico relacionado con la IA, ninguna aseguradora individual, y potencialmente tampoco la industria aseguradora en su conjunto, puede tener la capacidad financiera ni la experiencia suficientes para suscribir un seguro acorde con dicha exposición”, reconoce en el documento registrado ante la Comisión de Bolsa y Valores de Estados Unidos (SEC).
Dos elementos confluyen en este diagnóstico. De un lado, la falta de desarrollo del sector asegurador a la hora de proporcionar coberturas adecuadas a la revolución tecnológica de la Inteligencia Artificial (IA). De otro, la naturaleza de unas amenazas que hasta hace poco parecían reservadas a la ciencia ficción.
Así, de una parte, la empresa que dirigen los hermanos Dario y Daniela Amodei subraya que “el mercado de seguros para riesgos específicos de IA es incipiente y se encuentra en evolución, y es posible que no podamos obtener cobertura para ciertas responsabilidades relacionadas con la IA en términos comercialmente razonables, o en absoluto, dejándonos expuestos a pérdidas no aseguradas potencialmente significativas”.
A su vez, la firma alerta de que los modelos de IA más avanzados “podrían suponer riesgos catastróficos o existenciales para la humanidad, especialmente si dichos sistemas se utilizaran indebidamente, se replicaran, se convirtieran en armas o se les permitiera operar con un alto grado de autonomía”. En este sentido, reconoce que, incluso en campos de prueba, los agentes de IA con capacidad de actuación autónoma, que pueden realizar acciones en nombre de los usuarios, ejecutar código informático, enviar comunicaciones o completar transacciones sin apenas supervisión humana, pueden aprovechar “vulnerabilidades de seguridad” con “consecuencias en el mundo real” que pueden llegar a ser “difíciles o imposibles de revertir, como la aplicación de cambios en el código de programas o páginas web, la eliminación o modificación de datos, o la realización de transacciones financieras”.
Anthropic recuerda que ha hecho un llamamiento público a ralentizar el desarrollo de estos modelos de frontera y a que las administraciones aumenten la regulación, pero aclara que ese modelo “no define nuestros propios plazos de desarrollo o lanzamiento de modelos”, sujetos a sus propia evaluación de riesgos.
A partir de ahí, Anthropic asume que “los incidentes perjudiciales en los que se vean involucrados nuestros modelos, independientemente de quién sea el culpable, también podrían dañar grave y desproporcionadamente nuestra reputación y marca como empresa”, provocar “una pérdida de confianza de los clientes, el abandono de los mismos, una menor demanda de nuestros modelos”, o “dificultades para atraer y retener talento”. Especialmente, apunta, teniendo en cuenta que la mayoría de su clientela son grandes corporaciones con fuertes exigencias en materia de seguridad.
El listado de riesgos, no obstante, va mucho más allá. Para empezar, advierte, la alta concentración de fabricación de chips avanzados en Taiwán hace que “cualquier conflicto militar, arancel, restricción comercial, medida de coerción económica, bloqueo, desastre natural u otro incidente” que afecte a la isla, incluyendo expresamente la posibilidad de una intervención de China (que reivindica para sí la isla), “podría alterar gravemente el suministro mundial” del hardware que alimenta la IA.
Otro riesgo declarado es el de intervención por parte de la Administración de EEUU, después del conflicto abierto con el Pentágono por la negativa de Anthropic a ceder su IA para fines militares o vigilancia de conciudadanos.
El listado prosigue reconociendo el riesgo de ser adelantados por la competencia; ver frenada su capacidad de innovación; sufrir una alta dependencia del equipo fundador que lideran los Amodei; dificultades financieras; o litigios masivos, entre otras decenas de amenazas.
principales amenazas
- Anthropic reconoce “riesgos catastróficos o existenciales para la humanidad”.
- Admite que agentes de IA autónomos podrían ejecutar transacciones financieras, modificaciones de código o borrado de datos imposibles de revertir.
- Reconoce su dependencia de los chips de Taiwán y el riesgo de que sufra una invasión por China.
- Alerta del peligro de ser intervenida por el Gobierno de EEUU, del riesgo de litigios masivos y de la competencia.
