Anthropic alerta de que su IA puede provocar "riesgos existenciales para la humanidad"
Londres, 29 sep (EFE).- Anthropic, creadora del modelo de inteligencia artificial Claude, ha advertido a potenciales inversores en el folleto sobre su prevista salida a bolsa de que su tecnología puede plantear "riesgos existenciales para la humanidad", informa este martes el 'Financial Times'.
La compañía estadounidense dedica una parte importante del documento a los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados, entre ellos "la posibilidad de que manipulen, chantajeen o desarrollen comportamientos impredecibles", según el periódico.
El folleto fue distribuido entre un pequeño grupo de posibles inversores ante la próxima salida a bolsa, prevista para este otoño en el Nasdaq de Nueva York, de la empresa dirigida por Dario Amodei, cuyos inversores confían en que pueda alcanzar una valoración de más de 2 billones de dólares, de acuerdo con el diario.
El texto también informa de que Anthropic registró el año pasado unos ingresos de 4.600 millones de dólares, casi doce veces más que el ejercicio anterior, pero sufrió una pérdida operativa de más de 8.000 millones.
Los gastos operativos ascendieron a casi 13.000 millones de dólares, debido en buena medida al coste de los recursos informáticos necesarios para entrenar y ejecutar sus modelos, según el 'Financial Times'.
Anthropic prevé además comprometer 518.000 millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años para sostener su expansión, se apunta en el folleto.
El periódico recuerda que los ingresos de la compañía han seguido aumentando con rapidez este año, con 11.500 millones de dólares en el segundo trimestre, aunque sus gastos también aumentan.
Además de los peligros existenciales, el folleto a inversores reconoce asimismo la concentración de clientes como uno de los riesgos para la empresa, dado que cerca de una cuarta parte de sus ingresos de 2025 procedió de solo dos de ellos, según las fuentes consultadas por el periódico.
En medio de un debate sobre las amenazas que podría plantear la IA, Amodei defendió hace unos días la necesidad de "ralentizar la frontera" del desarrollo de esta tecnología para reforzar su seguridad, propuesta que respaldaron el consejero delegado de OpenAI, Sam Altman, y el empresario Elon Musk. EFE
Infobae
