Presidenta do Signal rejeita apocalipse da IA

Meredith Whittaker diz que o perigo real da IA está no uso irresponsável, e não em superinteligências

Meredith Whittaker, presidente da Signal Foundation, organização que mantém o aplicativo de mensagens criptografadas, contesta as previsões de que a inteligência artificial (IA) possa se voltar contra a humanidade. Em entrevista ao programa Global Women, da BBC, reproduzida pelo G1, ela classifica os alertas de um possível apocalipse tecnológico como baseados em um temor sem fundamento científico e defende que o perigo real está no uso descuidado da tecnologia.

Para a executiva, a discussão pública tende a se concentrar em cenários distantes e pouco prováveis, enquanto exemplos concretos de dano provocados por sistemas de IA passam despercebidos. É esse deslocamento de foco que ela considera o maior risco imediato.

O caso do chatbot que quase levou a uma guerra

Whittaker cita uma reportagem da rede de TV americana CNN sobre um episódio em que um chatbot usado pela inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. Conforme a matéria descreve, o caso chegou a levar o governo americano a preparar uma resposta militar.

“Quase entramos em guerra com a China”, afirma Whittaker. Para ela, um sistema que fornece dados falsos e quase provoca um conflito internacional não pode ser chamado de superinteligente, independentemente do critério adotado.

O episódio ilustra o tipo de falha que ela considera mais perigoso do que qualquer ameaça hipotética: a confiança excessiva em respostas geradas por máquinas, sem verificação humana adequada.

Do Google ao Signal

Whittaker entrou no Google em 2006, como funcionária temporária, após ter estudado literatura e sem formação em computação. Sua atuação ganhou visibilidade em 2017, quando veio a público o Projeto Maven, contrato entre a empresa e o Departamento de Defesa dos EUA para desenvolver sistemas de IA capazes de identificar alvos para ataques com drones.

No ano seguinte, ela ajudou a organizar uma paralisação que mobilizou cerca de 20 mil funcionários contra a atuação da companhia em diversas áreas, incluindo a implementação apressada de novas tecnologias. O Google abandonou o contrato, que passou a ser executado pela Palantir.

Segundo o G1, a executiva relaciona diretamente o sistema ao ataque com mísseis americanos contra uma escola na cidade de Minab, no Irã, ocorrido neste ano, e que teria se apoiado em informações de inteligência desatualizadas. A Palantir declarou que não há evidências de que seu software seja responsável pelo incidente, mas as Forças Armadas dos EUA ainda não divulgaram o resultado da investigação.

A revista Time a apontou como uma das pessoas mais influentes na área de IA. O Signal, que sua fundação mantém, tem entre 40 milhões e 70 milhões de usuários, segundo estimativas, muito abaixo dos cerca de 3 bilhões atribuídos ao WhatsApp. Apesar da diferença de escala, o aplicativo se destaca pela proteção de privacidade: seus servidores não conhecem a identidade de quem envia as mensagens.

A empresa deixou de operar em alguns países, como Rússia, China e Irã, onde o aplicativo é bloqueado, e Whittaker afirma que abandonaria qualquer mercado que exigisse o enfraquecimento da criptografia.

Fonte: G1