Pe. João Carlos Ribeiro, SDB

O dia mundial das comunicações sociais foi uma oportunidade para a Igreja propor uma reflexão sobre a inteligência artificial. A Igreja fez circular uma oportuna mensagem do Papa para a reflexão dos comunicadores, dos educadores e de todo o povo de Deus.

Preservar vozes e rostos humanos.

A inteligência artificial chegou. Bem-vinda! Boas-vindas aos sistemas que imitam os seres humanos ao pensar, sistematizar, redigir, resolver problemas, criar vídeos, música, fotos… Tudo isso é bom, pode ser muito proveitoso, facilita nosso trabalho, melhora nossa produtividade.

Bom demais pra ser totalmente verdade. Tem seus limites, seus riscos. Em primeiro lugar, podemos nos perguntar: a quem pertencem esses sistemas, essas inteligências artificiais? Resposta: a grandes empresas, que visam especialmente lucro, como em todo bom negócio.  E quem controla esses sistemas ou melhor os algorítimos que lhe dão vida? Programadores pagos por estas grandes empresas de comunicação. Então, essas inteligências artificiais podem reproduzir a visão de mundo desses magnatas, donos dessas empresas? Claro. E podem reproduzir seus preconceitos? Claro.

Agora, a pergunta que não quer calar: esses sistemas digitais, essas IAs podem influenciar as pessoas? Mais do que influenciar, podem induzir, direcionar as pessoas para o consumo de determinados produtos; podem impor uma visão sobre o mundo que se reflita em escolhas sociais, religiosas e políticas pré-determinadas. As IAs são instrumentos poderosos que podem ser usadas por mentes maldosas, por gente sem interesse no bem comum e no respeito às pessoas.

As redes sociais, movidas por algorítimos, criam bolhas. Nelas, ficam presos os que pensam superficialmente da mesma forma, fechando-se a qualquer diálogo ou visões divergentes.  O resultado é a polarização, o crescimento do nível do ódio, da intolerância e da violên

O Papa, em sua mensagem, mostra-se preocupado com o nível e a qualidade desses poderosos sistemas que hoje simulam a comunicação humana, criando ou manipulando fotos, vídeos, vozes de pessoas concretas. Ele denuncia isto como invasão da privatividade, crime contra o direito e a identidade das pessoas. Uma vez que alguém divulgue uma foto ou um vídeo, manipulado com IA, com uma pessoa que você conheça fazendo uma coisa reprovável e falando com a própria voz o que nunca falaria: você pode até ficar em dúvida, mas a maioria das pessoas já se diz decepcionada, crente que aquilo é verdade. E nem considera apurar melhor os fatos. A simulação da comunicação humana é um sério ataque à dignidade das pessoas. É o que se chama deepfake.

Não se quer, claro, impedir a inovação digital. Mas, é preciso orientar esse desenvolvimento tecnológico em três áreas: responsabilidade, regulamentação e educação. Transparência e responsabilidade social. Regulamentação para proteger as pessoas. Alfabetização midiática para o uso crítico desses instrumentos.

Temos muito a pensar e a fazer. Como Igreja, precisamos cuidar urgentemente da educação do nosso povo, particularmente dos mais jovens, para não serem vítimas fáceis nesse contexto de desenvolvimento das IAs, que pode representar um novo nível de desrespeito, exploração e manipulação em nossa sociedade humana.