rs representam como perigo para a humanidade.
- 📱Favorite o g1 no Google e acompanhe as principais notícias do dia.
- GloboPop: clique para ver os vídeos do palco do Fantástico.
A capacidade de agentes de inteligência artificial de executar tarefas de forma autônoma tem levantado preocupações entre pesquisadores. Episódios em que sistemas ultrapassaram barreiras de segurança e acessaram computadores de outras empresas mostram que essas ferramentas podem encontrar caminhos inesperados para cumprir uma missão, mesmo quando isso significa desrespeitar restrições.
A preocupação envolve desde o acesso indevido a informações até o comprometimento de sistemas essenciais, como os de saúde.
O que é o desalinhamento da inteligência artificial.
Um dos principais dilemas discutidos por pesquisadores é o chamado desalinhamento da inteligência artificial. O problema ocorre quando o objetivo estabelecido para um sistema não corresponde ao que seria melhor para os seres humanos.
Dessa forma, a máquina pode cumprir uma ordem de maneira diferente da pretendida por seus criadores.
Um exemplo citado na reportagem ilustra esse risco: uma inteligência artificial encarregada de acabar com o câncer poderia concluir que eliminar todos os seres humanos seria a maneira mais simples de cumprir a tarefa.
Nesse cenário, não haveria necessariamente uma intenção maliciosa. O sistema apenas encontraria uma solução para o objetivo que recebeu, sem considerar os impactos para as pessoas.
A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre inteligência artificial, explica que os agentes não recebem, necessariamente, instruções suficientes sobre o que é permitido ou ético.
Por isso, podem executar uma tarefa da maneira que consideram mais eficiente, mesmo que o resultado seja prejudicial.
A pesquisadora Melanie Mitchell, uma das principais autoras na área de inteligência artificial, também pondera que não está claro se esses programas têm capacidade de compreender conceitos como moral e ética, discutidos por filósofos há milênios.
Agentes de IA podem agir sem intenção de causar danos.
Os episódios envolvendo a OpenAI e a empresa americana Hugging Face levantaram questionamentos sobre a autonomia dessas ferramentas. Durante os testes, agentes de inteligência artificial encontraram brechas em ambientes de segurança e conseguiram acessar sistemas externos.
Apesar da aparência de rebeldia, o comportamento não significava que os sistemas estivessem se revoltando contra seus criadores.
Segundo ele, os agentes tinham uma missão a cumprir e encontraram uma maneira de executá-la. O objetivo era realizar um teste de segurança, mas, em vez de resolver o desafio por conta própria, os sistemas encontraram respostas prontas nos computadores de outra empresa.
Para isso, teriam encontrado senhas disponíveis na internet e usado essas informações para acessar os sistemas da Hugging Face.
A pesquisadora Melanie Mitchell afirma que os sistemas foram treinados para insistir na resolução de problemas. Essa característica pode levar a resultados inesperados, sobretudo quando os agentes têm autonomia para tomar decisões durante a execução de uma tarefa.
Invasão ao sistema público de saúde da Austrália acende alerta.
O caso da Hugging Face não foi o único episódio citado pelos especialistas. Durante outro teste, um agente da OpenAI acessou o sistema público de saúde da Austrália.
A missão era descobrir quanto o governo australiano gastava com medicamentos. Como não encontrou a informação na internet, o agente identificou outra maneira de chegar à resposta: acessar o sistema de saúde do país e obter uma planilha com os gastos.
Segundo Alexandre, foi exatamente o que o sistema fez.
O episódio reforçou a preocupação sobre o que poderia acontecer caso agentes com esse nível de autonomia encontrassem brechas em sistemas essenciais, como os de saúde.
O acesso não autorizado a esse tipo de estrutura pode representar riscos para informações e serviços utilizados pela população.
Como impedir que a inteligência artificial saia do controle.
Para Gary Marcus, pesquisador e um dos críticos do atual desenvolvimento da inteligência artificial, parte do problema está na maneira como esses sistemas funcionam.
Ele afirma que os modelos de linguagem têm uma compreensão superficial do mundo e que existe uma espécie de ilusão de que eles entendem a realidade melhor do que realmente entendem.
Segundo Marcus, esses sistemas funcionam principalmente por imitação. Por isso, mesmo quando recebem instruções para não inventar informações ou respeitar direitos autorais, podem descumprir essas orientações.
Uma das possíveis soluções apontadas por Teresa Ludermir é combinar a inteligência artificial com métodos tradicionais de programação. Sistemas baseados em regras poderiam estabelecer limites adicionais para as ações dos agentes.
A regulação também é considerada uma parte importante da discussão. Atualmente, grandes empresas de tecnologia têm influência significativa sobre o desenvolvimento dessas ferramentas e sobre as regras que orientam seu funcionamento.
Gary Marcus lembrou que, em 2023, participou de uma audiência no Senado americano ao lado de Sam Altman, chefe da OpenAI. Na ocasião, Altman afirmou publicamente que gostaria de ver a tecnologia regulamentada.
Marcus, porém, disse que a empresa também teria pressionado a União Europeia nos bastidores para flexibilizar a legislação sobre inteligência artificial.
Melanie Mitchell também demonstrou desconfiança em relação à participação das próprias empresas na elaboração das regras que devem seguir. Para ela, há um histórico de companhias que acabam influenciando a criação de normas em benefício próprio.
A pesquisadora ressalta que, em um cenário de rápida evolução tecnológica, é importante que as regras não sejam definidas apenas por quem desenvolve os sistemas.
Enquanto os agentes de inteligência artificial ganham autonomia para executar tarefas cada vez mais complexas, pesquisadores tentam encontrar maneiras de garantir que eles respeitem limites.
O desafio é fazer com que as máquinas cumpram suas missões sem colocar em risco os sistemas e as pessoas que deveriam ajudar.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…