inteligência artificial

Como lidar com a ética na Inteligência Artificial?

A Inteligência Artificial ajuda empresas a entenderem o comportamento de seus clientes, otimiza a logística, faz pesquisas, detecta fraudes, faz identificação facial, traduz, joga xadrez e compõe. A AI consegue até desvendar o que está dentro de uma geladeira e informar os seus usuários o que está acabando, ou sugerir cardápios com base nos ingredientes que a pessoa possui.

Mesmo que a realidade pareça estar longe de muitos de nós, uma coisa é certa: as máquinas já começaram a transformar nossas vidas. O desejo é que o mundo torne-se mais eficiente, seguro e rico conforme a tecnologia avança.

Mas nem tudo são flores. Por trás de todo o glamour de máquinas eficientes há uma série de discussões. Notadamente, o medo de que empregos sejam perdidos está entre os assuntos debatidos. Existe também um outro tópico na agenda. Grandes nomes como Elon Musk e gigantes da tecnologia como Microsoft, Facebook, Amazon e IBM têm falado abertamente sobre o cenário quase ilimitado da inteligência artificial.

Se o cenário praticamente não tem limites, não podemos esquecer da frase que diz que “só porque podemos não significa que devemos”. Pensando nisso, como fica a ética?

Sobre a ética

A palavra vem do grego ethos que significa “aquele que possui caráter” ou “bom costume”. É uma área da filosofia que se dedica a entender, discutir e postular sobre assuntos morais. Basicamente, ética se refere aos princípios morais que governam o comportamento de uma pessoa, sociedade ou a condução de uma atividade.

Como humanos nós temos algo como uma bússola de ética que nos diz o que é certo ou errado. Essa bússola não é a mesma para todos, pois seus padrões dependem muito de fatores como ambiente em que um indivíduo está inserido e a educação que possui.

Com relação às empresas, elas também possuem a bússola de ética. Aliada à conformidade, ela mostra limites para o que é certo ou errado e estabelece regras com relação a isso (e aí entra também a governança corporativa para controlar tudo).

Bom, e quando falamos de Inteligência Artificial a pergunta é: onde fica a bússola? Como podemos inserir a noção de certo e errado em máquinas?

Inteligência Artificial e ética

A Inteligência Artificial precisa de dados para que possa trabalhar. Por exemplo, em 2017 a Inteligência Artificial do Google aprendeu a jogar xadrez sozinha e derrotou o campeão mundial de xadrez. A IA conseguiu essa proeza porque se alimentou de milhares de dados de partidas entre humanos e, depois, jogou contra ela mesma para aprender (leia também Humanos e Inteligência Artificial: em quais jogos ainda somos melhores?).

Em outras palavras, a tecnologia não tem consciência de si mesma. Ela funciona com base nos dados que recebe e, a partir deles, aprende (é o conceito de Machine Learning). O problema é que quando tratamos de questões éticas a IA só consegue separar o certo do errado com base nos dados que recebeu. Sozinha, ela não consegue definir rótulos.

Além disso, a tecnologia não possui conhecimento sobre si mesma, muito menos tem o sentimento de empatia, algo fundamental para a ética. Como a Inteligência Artificial é treinada – e não codificada – ela depende de seu desenvolvedor. Ou seja, caso o próprio desenvolvedor possua más intenções, a máquina será treinada para esses padrões.

Então, o ponto aqui é: se a tecnologia não for construída com base na ética, e se não entendermos os resultados dos algoritmos sendo implementados, corremos um grande risco de sermos antiéticos. E se você acha que isso soa um pouco forçado, esta reportagem sobre Inteligência Artificial na BBC conta sobre preocupações levantadas por policiais no Reino Unido sobre dados tendenciosos obtidos pela IA.

De acordo com o texto, um estudo alerta que ferramentas de Inteligência Artificial podem fazer com que policiais tenham mais propensão para parar um determinado grupo de pessoas e os revistar, desse modo “amplificando” preconceitos.

A ética é um assunto inclusive sendo debatido nesta cartilha da IBM: Everyday Ethics for Artificial Intelligence. O objetivo do material é representar “o início de uma conversa que define a ética cotidiana da IA. A ética deve ser incorporada no processo de design e desenvolvimento desde o início da criação da IA”.

E se debatermos ética com uma Inteligência Artificial?

O The Guardian lançou um curta-metragem no qual discute a existência de um conjunto uniforme de leis morais. No caso de realmente existir um, será que podemos verdadeiramente ensinar essas leis à Inteligência Artificial e evitar que sejamos prejudicados?

O filme mostra os criadores de uma IA e uma filósofa que é chamada para ajudá-los a estabelecer um conjunto de diretrizes morais para a IA aprender e seguir. A tarefa acaba se mostrando nada fácil.

O assunto foi abordado em artigo na Singularity Hub sobre o debate entre ética e Inteligência Artificial. Como explica o texto, para os engenheiros do filme a ética pode ser resolvida. Para isso, é fundamental que haja um conjunto definitivo de leis morais. Por sua vez, o argumento da filósofa é o de que é impossível haver tal conjunto de leis, pois “a ética requer interpretação”.

Nesse debate, a Inteligência Artificial traz a solução. Ela se oferece para “agir exatamente como os humanos sempre agiram”. A ideia assusta os engenheiros e a filósofa, pois como ela diz: “Não podemos confiar na humanidade para fornecer um modelo para a humanidade. É óbvio.”

A IA sugere também que poderia aprender apenas com os líderes religiosos. Mais uma vez, a ideia não agrada. Então, a indagação trazida pelo artigo é:

“Se não conseguirmos ensinar ética a uma IA, ela acabará ensinando a si mesma e o que acontecerá então? Apenas pode decidir que nós, humanos, não podemos lidar com o incrível poder que demos a ela, e ela sumirá ou assumirá o controle”.

Concluindo

Se pensarmos novamente na frase “só porque podemos não significa que devemos”, entendemos que ética é um assunto importante não apenas quando discute-se sobre Inteligência Artificial. Na realidade, é importante que fundamentos éticos sejam a base de qualquer inovação.

Os riscos da tecnologia devem ser considerados, mas não podemos esquecer que de uma maneira geral o progresso tecnológico resulta em uma vida melhor para a humanidade. O verdadeiro potencial da Inteligência Artificial é ainda desconhecido, mas, sem dúvidas, a responsabilidade da implementação é totalmente nossa, humanos.

Gostou do artigo? Compartilhe-o com seus colegas! Aproveite que está aqui e continue conosco. Leia mais no Glicando, o Blog da Glic Fàs.

Créditos imagem: Unsplash por Morning Brew