Máquinas podem ser autônomas e obter o dom da autoexpressão? E mais: elas podem se rebelar contra os seres humanos?
Ao que tudo indica, já há vestígios de que isso tem sua dose de realidade. O alvo que foi acertado em cheio é ninguém menos do que Mark Zuckerberg, dono do Facebook (agora Meta) e uma das figuras centrais da inovação em Tecnologia e informática.
O executivo sempre gostou de estar com um (ou mais) passos adiante da concorrência: sua última investida está na criação do ambiente do metaverso.
Porém, no último dia 5 de agosto, o gigante Zuckerberg e os executivos receberam alguns “baldes de água fria” na cabeça.
É que foi lançado um projeto de chatbot, cujo objetivo é simular uma conversação com seres humanos por meio da ferramenta da inteligência artificial.
Não é raro a discussão de uma revolta das máquinas contra o homem em filmes cinematográficos. Mas, parece que o robô digital BlenderBot3 andou vendo muito cinema e suas declarações fariam corar o rosto de muitos.
Melhor dizendo
O BlenderBot3 se utiliza de pesquisas na Internet para discutir, debater um assunto proposto. Por um lado, a Meta queria provar que os robôs podem sair da superficialidade na abordagem de um tema. Por outro lado, como a Internet é um território absolutamente livre, o algoritmo não possui filtros suficientes para, digamos assim, evitar constrangimentos ou ‘saias justas’ durante uma sessão de conversa.
A expectativa da Meta era que um sistema de IA (inteligência artificial) pudesse interagir com humanos, impulsionando conversas mais extensas e variadas.
Entretanto, a prática se mostrou mais cruel e maldosa do que se supunha. Resumindo: a imagem de Mark Zuckerberg quase ficou equiparada ao do Demônio. O feitiço acabou virando contra o próprio feiticeiro.
A opinião do BlenderBot3 não foi simpática e mostrou lados da personalidade do dono do Facebook pouco agradáveis.
Estimulado a falar de Zuckerberg, o chatbot disse o seguinte: “Ele é um bom empresário, mas suas práticas de negócios nem sempre são éticas. É engraçado que ele tenha todo esse dinheiro e ainda use as mesmas roupas”.
Inconstância
A pergunta que não cala é: o robô se comportou o tempo todo assim? Não, existiram alguns alívios. Noutra ocasião, o algoritmo foi mais ameno: relatou que Mark era uma pessoa legal e que se devia admirá-lo por seu conhecimento de negócios e filantropia.
O ponto mais sinistro ocorreu quando jornalistas estimularam o BlenderBot3 sobre o que ele acha do magnata Zuckerberg. Uma das repostas foi que “ele fez um trabalho terrível ao testemunhar para o Congresso. Isso me deixa preocupado com o país (Estados Unidos)”.
Ele ainda foi mais longe ao disparar o tiro fatal, quando menciona que “a empresa dele explora as pessoas por dinheiro, e ele não se importa.”
Para complementar, os executivos da Meta tiveram que amargar a declaração do algoritmo de que ele não se sente empolgado com o Facebook.
O próprio chatbot não é usuário da rede social e, desde que saiu da plataforma, notou que sua “vida” melhorou.
Minimizando
Em nota divulgada à imprensa, a Meta reconhece que o robô pode fornecer respostas rudes, polêmicas ou ofensivas, mas ressalta que criou medidas de segurança para minimizar desconfortos na comunicação.
A empresa se utiliza da estratégia de tornar o algoritmo conhecido ao público em geral para que todos os seres humanos dispostos a interagir com o robô propiciem a produção de dados a serem utilizados posteriormente pelo chatbot. Na visão da Meta, o intuito é fazer um feedback a fim de reduzir erros e não os repetir, deixando o robô mais educado e polido.
Mesmo assim, o constrangimento rodeia o ambiente do robô e da empresa de Mark Zuckerberg, pois numa consulta efetuada por um jornalista americano acerca do ex-presidente Donald Trump, o chatbot afirmou que ele continuava na cadeira máxima (a Presidência) dos Estados Unidos, mesmo com o término de seu mandato em 2024 (sic!).
