IPO da Anthropic gera dilema: como precificar os riscos de uma IA fora de controle?

Investidores que analisam a planejada mega oferta pública inicial (IPO) da Anthropic enfrentam um dilema incomum: como avaliar uma empresa que, segundo alguns especialistas, poderia ajudar a provocar a extinção da humanidade.

Pesquisadores que publicaram no X estimativas de 10% ou mais de probabilidade de a inteligência artificial provocar o fim da espécie humana desencadearam um debate do qual participou Dario Amodei, cofundador e CEO da Anthropic.

Em um ensaio recente, Amodei expôs preocupações de que os seres humanos possam perder o controle sobre sistemas avançados de IA. Ele também alertou para o uso dessas ferramentas em ataques cibernéticos, bioterrorismo e grandes disrupções econômicas caso os pesquisadores não reduzam o ritmo de desenvolvimento da tecnologia.

Embora muitos considerem absurda a ideia de responsabilizar uma empresa pela extinção da humanidade ou mesmo quantificar esse risco em documentos de IPO, os perigos potenciais enfrentados pela Anthropic e pela OpenAI têm sido comparados aos de empresas que lidam com materiais perigosos ou equipamentos militares.

Mesmo assim, ele acredita que o valor poderia não ser suficiente.

Ainda assim, alguns investidores podem estar dispostos a comprar ações da Anthropic assumindo que eventuais custos futuros acabariam sendo absorvidos por terceiros.

Os planos da Anthropic de levantar tanto ou mais recursos em seu IPO do que a SpaceX arrecadou em sua estreia histórica ocorreram justamente quando o debate sobre segurança da inteligência artificial passou a incluir cenários extremos.

Apesar disso, o tema não parece ter prejudicado o desempenho da SpaceX no mercado.

A empresa de Elon Musk também aposta fortemente em IA e desenvolve o modelo Grok, concorrente direto dos sistemas da Anthropic e da OpenAI. Nos documentos de seu IPO, porém, a companhia mencionou riscos como desinformação e enganos produzidos por IA, mas não citou ameaças existenciais.

As ações da SpaceX negociam mais de 20% acima do preço da oferta realizada em junho.

Para parte dos investidores, a recente iniciativa do presidente Donald Trump de firmar um acordo considerado “moralmente vinculante” com líderes das grandes empresas de tecnologia ajudou a reduzir os temores regulatórios sobre o setor.

Kevin Moss, gestor do fundo Private Shares Fund, afirma que a inteligência artificial precisa de um marco regulatório, mas acredita que a discussão sobre segurança dificilmente será capaz de comprometer os planos de IPO da Anthropic.

Até agora, a maior parte da responsabilidade de mitigar riscos recai sobre as próprias empresas de IA.

Analistas avaliam que investimentos em mecanismos de segurança podem elevar custos, mas também fortalecer a confiança dos clientes e criar vantagens competitivas.

O desafio é que ainda existe pouca clareza sobre como funcionariam eventuais responsabilidades legais ligadas à IA.

À medida que a IA evolui de simples ferramenta de informação para sistemas capazes de tomar decisões e interagir autonomamente com outros agentes, cresce também a discussão sobre quem será responsabilizado caso ocorram danos significativos.