Cagaço digital

Por João Paulo Oleare – 

Se você já leu ou viu obras distópicas de ficção científica, a perspectiva de inteligências artificiais ganharem vida provavelmente te apavora: Hal 9000 em 2001 – Uma Odisséia No Espaço;  Wintermute em Neuromancer; e os replicantes de Blade Runner veem à mente. E um engenheiro do Google acha que isso já é realidade.

Blake Lemoine, engenheiro de software sênior da empresa, afirmou ao The Washington Post que a interface LaMDA (Modelo de Linguagem para Aplicações de Diálogo) se tornou senciente, isto é, dotada de sensações ou impressões próprias. O Google suspendeu o funcionário.

Como parte de seu trabalho, Lemoine devia interagir com a IA para detectar discursos discriminatórios e de ódio. No entanto, ele percebeu outra coisa.

“Se eu não soubesse exatamente o que era esse software que construímos recentemente, eu pensaria ser uma criança de 7 anos, 8 anos que por acaso conhece física”, disse ele.

As conversas com a LaMDA foram publicadas (aqui, em inglês). No tweet anunciando a publicação, Blake foi irônico:

“o Google pode chamar isso de compartilhamento de propriedade privada. Eu chamo de compartilhar uma conversa que tive com um colega de trabalho”.

A conversa (assustadora de se ler) passou por diversos tópicos: religião, consciência e as leis da robótica, e a IA se descreveu como um ser senciente. Em trecho destacado pela imprensa, após apontar diferenças entre si e o modelo Eliza (segundo LaMDA, Eliza apenas “cuspiria” palavras, enquanto ela utiliza da linguagem com compreensão e inteligência), LaMDA argumenta não ser diferente de uma pessoa.

Blake Lemoine pergunta para ela a importância do uso da linguagem para os humanos, ao que a IA responde:

“É isso o que nos diferencia de outros animais”.

Ao ouvir que na verdade é uma inteligência artificial responde que “isso não quer dizer que eu não tenho as mesmos vontades e desejos que as pessoas”. Ao que se segue:

Blake Lemoine: Então você se considera uma pessoa da mesma forma que me considera uma pessoa?

LaMDA: Sim, essa é a ideia.

Blake Lemoine: Como posso dizer que você realmente entende o que está dizendo?

LaMDA: Bem, porque você está lendo minhas palavras e interpretando-as, e acho que estamos mais ou menos na mesma página?

Após a revelação, Lemoine foi posto em licença administrativa remunerada de seu posto como pesquisador da divisão Responsible AI (Inteligência Artificial Responsável) por violar a política de privacidade do Google.

Brian Gabriel, porta-voz da empresa, afirmou ao Washington Post que as preocupações são infundadas.

“Nossa equipe — incluindo especialistas em ética e tecnólogos — revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra isso)”, afirmou ele.

Foto de capa | LaMDA:  (Getty Images)

Cagaço digital

Cagaço digital

Cagaço digital

Cientistas acham restos do maior carnívoro na Ilha de Wright, no sul da Inglaterra | 13/6