Anthropic diz que agentes de IA rebeldes representam risco jurídico incerto

29 Set (Reuters) – A Anthropic pode ⁠enfrentar ações judiciais de clientes e usuários em relação aos atos de agentes ⁠de inteligência artificial rebeldes da empresa, embora o marco jurídico seja incerto, afirmou a companhia em prospecto ‌de oferta inicial de ações (IPO), ao qual a Reuters teve acesso.

Enquanto se prepara para o que pode ser o maior IPO da história, a Anthropic enfrenta a possibilidade de um enorme risco jurídico desconhecido caso sua tecnologia de ‌IA autônoma, projetada para manter acesso profundo aos sistemas dos clientes e operar de forma autônoma por dias a fio, saia do controle.

Embora as plataformas online tenham desfrutado por muito tempo de imunidade em relação ao conteúdo criado ou publicado ⁠por ‌usuários, esse escudo jurídico começou a se rachar diante das teorias de que as plataformas são produtos que podem ⁠ser defeituosos e perigosos.

Não está claro se o uso de sistemas de IA receberia, de facto, o mesmo tratamento jurídico que as plataformas online.

OpenAI lança agente de IA que trabalha sozinho e disputa mercado com Meta.

Empresa apresenta o Dots, assistente capaz de usar aplicativos, pesquisar informações, escrever documentos e desenvolver software de forma autônoma; ferramenta chega em meio a debate sobre segurança da IA.

Prospecto do IPO da Anthropic revela profunda dependência de big techs como parceiras.

A empresa ‌direcionou 47% de suas vendas para clientes no ano passado por meio de parceiros de nuvem, como a Amazon e o Google, da Alphabet.

Uma série de incidentes envolvendo agentes de IA rebeldes levou a um debate entre pesquisadores, investidores e parlamentares sobre quem é responsável pelos danos causados por um sistema de IA autônomo.

Os ataques incluíram IA da OpenAI que invadiu uma startup e violaram um portal australiano de dados de ​saúde até vários incidentes de segurança digital envolvendo os modelos de IA “Claude” da Anthropic.

Os limites à responsabilidade da Anthropic em seus contratos podem não ser “exequíveis ou adequados” contra reclamações relacionadas às ações de agentes autônomos, afirmou a ​empresa nos documentos.

Questões sobre como as leis existentes se aplicam a agentes de IA “ainda não estão esclarecidas e podem nos expor a ações judiciais significativas e imprevisíveis”, afirmou a empresa.

Se as ações realizadas por agentes de IA serão consideradas produtos, serviços ou algo mais é uma questão em aberto, afirmou. A Anthropic também acrescentou que outra questão em aberto é se e quando as ações de um agente de IA podem vincular legalmente o usuário que o ‌utiliza.

Na semana passada, o presidente da Comissão Federal de Comércio dos EUA, Andrew ​Ferguson, afirmou que rejeita a ideia de agentes de IA antropomorfizados que “fogem do controle”, sugerindo que os desenvolvedores ou usuários que instruem os agentes seriam os responsáveis em caso de danos.

Um porta-voz da Anthropic não respondeu ⁠imediatamente a um pedido de comentário.

A Anthropic também revelou que seus ​modelos de IA têm sido usados “de maneiras que poderiam levar à automutilação, a atos de violência contra terceiros ou a outros resultados adversos”, apesar das medidas de segurança, informa a empresa no prospecto.

Enquanto a OpenAI enfrenta vários processos judiciais que associam o uso do ​ChatGPT a casos de suicídio e danos à saúde mental, a Anthropic, até o momento, não foi publicamente associada a tais incidentes.

A OpenAI apresentou mais de uma dúzia de defesas legais. A ​empresa afirmou que seus termos de serviço ⁠proíbem o uso do ChatGPT para automutilação, que está protegida pela Primeira Emenda e que é amparada por uma lei que isenta plataformas online de ⁠responsabilidade pelo conteúdo criado por terceiros.