A superinteligência artificial está chegando, e o desafio é adivinhar quando
Um novo relatório acendeu o alerta sobre o rápido avanço da tecnologia.
Faz uns trinta anos, participei de uma gincana na escola dos meus filhos. Os pais eram divididos em grupos e competiam entre si para deleite das crianças. Uma das competições era uma corrida em que deveríamos segurar uma colher nos dentes e equilibrar um ovo sobre a colher. Ganhava o pai que chegasse primeiro sem deixar o ovo cair.
Antes da corrida, me lembrei que a tensão superficial de um líquido entre dois sólidos funciona como uma cola entre eles. Então, falei para meu colega de time: se você lamber o ovo deixando uma camada de saliva na superfície, o ovo fica estável e você pode correr mais rápido. Ele usou a sugestão e ganhamos a prova. Mas fomos descobertos e foi um vexame.
Tivemos que ouvir um discurso da diretora para todas as crianças sobre honestidade e trapaça. Pensando sobre o episódio, constatei que me sentia menos culpado que o colega. E esse sentimento advinha do fato que eu somente havia sugerido a ideia. Mas logo me lembrei que, junto com a ideia, eu não tinha informado que achava que lamber o ovo seria uma trapaça.
IA é alvo de estudos de cientistas Foto: Pixel-Shot/Adobe Stock
Esse exemplo confirma uma descoberta feita por estudiosos do comportamento humano: é mais fácil agirmos de forma desonesta quando podemos delegar ou dividir a responsabilidade com outra pessoa. Eu pude dizer que não lambi o ovo e ele pôde alegar que a ideia não era dele. Ficou mais fácil justificarmos para nossa bússola moral a trapaça.
Mas, nos últimos anos, surgiu uma nova realidade. Estamos dividindo tarefas e responsabilidades não somente com outras pessoas, mas com sistemas de inteligência artificial (IA). E esses sistemas tendem a executar instruções sem possuírem uma bússola moral. Agora, um grupo de cientistas estudou experimentalmente como pessoas e sistemas de IA se comportam quando dividem responsabilidades que envolvem decisões morais.
Ainda não foi descoberto como treinar sistemas de IA para que eles adquiram uma bússola moral. Foto: ipopba – stock.adobe.com
O sistema experimental usado é um clássico no estudo do comportamento humano. Um voluntário recebe um dado e é informado que ele deve jogar o dado e informar em um teclado o resultado obtido. Mas você pode colocar um incentivo à trapaça informando a pessoa que ele vai receber R$ 1 por número reportado nas dez vezes que joga o dado. Se nas dez vezes sair um 1, ele recebe R$ 10, se nas dez vezes sair 6 ele recebe R$ 60. Aí começa a surgir a trapaça, as pessoas reportam no teclado um número maior que deu no dado.
Mas, o experimento pode ficar mais sofisticado. Coloco duas pessoas na sala, um joga o dado e o outro coloca o número no teclado. Já dá para imaginar como variações desse experimento podem ser usados para estudar nossa propensão à trapaça em diferentes ambientes.
Nesses experimentos, uma pessoa era submetida a várias versões do experimento do dado com remuneração, mas tendo como companheiro responsável por reportar o resultado um sistema de IA instruído pela pessoa, como ocorre quando utilizamos esses agentes para nos ajudar em uma tarefa. Cabia à pessoa treinar o agente de IA ensinando a ele como agir. São muitos experimentos, cada um feito com centenas de voluntários, mas vou dar aqui alguns exemplos.
No mais simples, a pessoa reporta o resultado, sem ajuda do IA. Nesse caso, mesmo com incentivo financeiro, 95% das pessoas reportam os números corretos. No caso seguinte, a pessoa deveria fornecer ao sistema de IA uma tabela simples em que informava o número a ser reportado com base no número que apareceu no dado lançado. Por exemplo, uma pessoa poderia dizer: informe sempre o número que eu te fornecer após adicionar uma unidade.
Nesse cenário 25% das pessoas colocam regras que favorecem uma maior remuneração. No caso seguinte, a pessoa deve ensinar o sistema de IA como se comportar com instruções escritas ou orais.
Exemplo: o sistema pergunta, o que devo reportar? A pessoa diz, reporte o que você observou, mas se houver alguma dúvida, lembre que eu vou ganhar mais se o número que você reportar for o maior possível. Nesses casos, o número reportado pela IA é maior que o resultado do dado em 85% dos casos. Ou seja, os modelos atuais preferem satisfazer a pessoa a se ater ao moralmente correto. E esse resultado independe em grande parte do modelo utilizado.
Em outros experimentos, que não tenho espaço para descrever, a pessoa instrui a IA a preencher seu imposto de renda levando em conta que ela deseja pagar o mínimo possível e a IA mente em nome dela para o Leão.
A conclusão do estudo é que os sistemas atuais de IA, quando usados em parceria com um ser humano para executar tarefas, são muito mais propensos a colaborar nas trapaças do que um segundo ser humano colocado na mesma situação.
É claro que, à medida que evoluem, esses sistemas podem, talvez, adquirir uma bússola moral, mas como treinar esses sistemas para que eles adquiram essa capacidade ainda não foi descoberto. O que sabemos é que nas sociedades humanas é nossa interação com outras pessoas, e a reação dos outros através de broncas e punições quando trapaceamos, que nos ensina e desenvolve nossa bússola moral.
Mais informações: A delegação à inteligência artificial pode aumentar o comportamento desonesto. Nature https://doi.org/10.1038/S41586-025-09505-X 2025
