Espaço Social

PAPA FRANCISCO APRESENTA PLANO PARA O DESENVOLVIMENTO DE IAs MAIS JUSTAS

Publicado em 2/3/2020 por: Ronaldo Gogoni

O papa Francisco está de olhos bem abertos para a questão da Inteligência Artificial: na última sexta-feira (28), o Vaticano apresentou um documento, endossado por IBM e Microsoft, onde são estipulados 6 princípios que todos os desenvolvedores de sistemas inteligentes devem seguir, citando o princípio de "algor-ética", uma forma de garantir que novas tecnologias não reproduzam preconceitos humanos.

A bem da verdade, as diretrizes do Vaticano se alinham com posturas já adotadas pelas empresas, bem como normas delineadas pela União Europeia.

O documento redigido pela Pontifícia Academia para a Vida seguiu orientações do papa a respeito do desenvolvimento de novas tecnologias, onde "o algoritmo deve ser colocado a serviço da humanidade, e não o contrário". Para Francisco, elas são um "dom de Deus", mas sem ética (ou "algor-ética" como citado no documento, basicamente ética por design), as IAs acabam reproduzindo vieses e prejudicando pessoas.

Segundo o documento, os 6 princípios a serem seguidos são:

1) Transparência: Todas as decisões de uma IA devem ser explicadas de modo que qualquer um, mesmo um completo leigo em tecnologia, possa entender (o velho "explicar para a sua avó"). As razões para o estabelecimento das regras também devem ser disponibilizadas a todos;

2) Inclusão: As necessidades de todos os seres humanos sempre devem ser levadas em consideração no desenvolvimento de qualquer IA;

3) Responsabilidade: É obrigação dos desenvolvedores trabalhar com responsabilidade e transparência;

4) Imparcialidade: Os devs não podem atuar sob qualquer tipo de viés, de modo a proteger a justiça e a dignidade;

5) Confiabilidade: As IAs devem ser absolutamente confiáveis;

6) Segurança e privacidade: As IAs devem ser seguras e prezar pela privacidade de dados dos usuários.

Embora os princípios sejam semelhantes aos praticados por empresas e órgãos públicos, as motivações são diferentes: uma companhia prioriza o lucro e desenvolve algoritmos para maximiza-lo, sem que as soluções crie problemas posteriores; já um governo busca equilíbrio para manter os serviços básicos funcionando e não gerar insatisfação, ou insegurança, na população.

O foco do papa Francisco está, sem muita surpresa, na questão humana: sistemas, algoritmos e etc. devem sempre ser colocados em prol da igualdade entre as pessoas e promover valores alinhados com a doutrina social da Igreja Católica: dignidade do indivíduo, justiça, subsidiariedade (princípio em que o Estado só atua quando as esferas inferiores se mostram incapazes de auxiliar o cidadão) e solidariedade. Tudo o mais é secundário.

Ronaldo Gogoni, MeioBit