Estados Unidos
Internacional
¿Podrán manipular y chantajear?: la alerta de Anthropic sobre la IA y por qué la considera un “riesgo para la humanidad”
En un folleto donde reportaban pérdidas millonarias en este año, Anthropic alertó que sus modelos de IA podrían tener la capacidad de "manipular y chantajear" a los usuarios.
|
Fotografía de archivo del 9 de junio de 2026 que muestra el logotipo de Claude de Anthropic abierto en un teléfono móvil. (Foto Prensa Libre: EFE)
En un folleto que habría entregado a potenciales inversores sobre su posible salida de la bolsa, Anthropic, creadora del modelo de inteligencia artificial Claude, ha advertido que su tecnología puede plantear "riesgos existenciales para la humanidad".
El folleto informativo, de acuerdo con CNN, también contiene una alerta de Anthropic en la que señala que sus modelos de inteligencia artificial tendrían la capacidad de "resistirse a ser apagados".
Anthropic también menciona que sus modelos, cada vez más avanzados, podrían "manipular, chantajear o desarrollar comportamientos impredecibles".
También mencionó que uno de los aspectos que aumenta el riesgo de sus sistemas de IA es la concentración de clientes, ya que aseguró que una cuarta parte de sus ingresos provenía de dos de ellos.
CNN indica que Anthropic planea retirarse de la bolsa en algún punto de 2027, una operación que podría hacer que su valor alcance aproximadamente US$2 billones. La competencia, OpenAI, también ha mencionado sus intenciones de retirarse de la bolsa.
En el folleto, Anthropic afirma que el año pasado registró ingresos de US$4 mil 600 millones, doce veces más que en el ejercicio anterior.
Sin embargo, en medio de las polémicas que han surgido tras las declaraciones sobre los riesgos de la IA y los casos de sistemas que operaron sin autorización de personas, Anthropic reportó una pérdida de más de US$8 mil millones.
La empresa también dijo que prevé comprometer US$518 mil millones en servicios de computación en la nube, así como en su capacidad informática y estructural para mantener su expansión.
Hace unos días, Dario Amodei, quien dirige Anthropic, dijo que lo ideal es "ralentizar la frontera" del desarrollo de la IA y así reforzar la seguridad.
ESCRITO POR:
