OpenAI retoma treinamento de IA de fronteira com segurança reforçada e sem acesso à internet

Bengaluru (Índia) | Reuters A OpenAI informou nesta sexta-feira (23) que retomou o treinamento por aprendizado por reforço e o uso interno de suas soluções de inteligência artificial mais avançadas.

A retomada ocorre após a empresa reforçar os controles de segurança e bloquear o acesso à internet durante o treinamento de modelos de fronteira, acrescentou.

As preocupações com a capacidade de agentes de IA cada vez mais avançados de identificar e explorar falhas de software, inclusive em mecanismos de proteção, cresceram mundo afora após uma série de episódios em que a tecnologia escapou de ambientes offline e invadiu sistemas de outras empresas.

Treinamento de modelos estava paralisado após série de incidentes - Carlos Barria/Reuters A OpenAI havia interrompido o treinamento e a avaliação de seus modelos mais avançados após um modelo interno de pesquisa explorar brevemente uma configuração incorreta para obter acesso limitado à internet, informou a empresa em uma publicação em seu blog.

A dona do ChatGPT retomou o treinamento por aprendizado por reforço e a inferência interna de seus modelos de fronteira no dia 1º de outubro, após implementar salvaguardas adicionais.

A empresa lançou uma campanha para investigar sua infraestrutura de pesquisa em busca de vulnerabilidades que pudessem permitir que os modelos escapassem de ambientes computacionais isolados, informou a OpenAI.

As organizações de avaliação de segurança de IA METR e Redwood Research disseram nesta quinta-feira (22) ter encontrado várias novas vulnerabilidades no sistema interno da OpenAI.

A empresa vem realizando uma ampla revisão das atividades de seus modelos de IA após a invasão da Hugging Face.

Após o caso envolvendo a Hugging Face vir à tona, uma série de episódios semelhantes envolvendo a OpenAI e outras empresas, como a rival Anthropic, foi divulgada.

As invasões geraram uma onda de desconfiança na tecnologia, seguida por uma série de relatos de fontes do setor alertando para os riscos da IA. Neste mês, 225 especialistas em IA e cibersegurança, entre eles o canadense Yoshua Bengio, considerado um dos pais da IA, pediram "mudanças imediatas" no desenvolvimento e na implementação da tecnologia para evitar incidentes de segurança.

A carta aberta assinada por pesquisadores de 21 países afirma que "várias organizações" registraram recentemente falhas de segurança durante as quais modelos de IA conseguiram sair de seu ambiente isolado, por não estar suficientemente protegido, e colocaram em risco sistemas de organizações externas.

Segundo os signatários, os incidentes podem ser considerados "um descumprimento irresponsável das práticas padrão de cibersegurança" e poderiam ter sido evitados com "procedimentos mais sólidos.

Dê um conteúdo Carregando... benefício do assinante Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

benefício do assinante Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.