14 de maio de 2018 às 04:00

Máquinas não são preconceituosas

Por sua definição clássica e básica, um algoritmo nada mais é do que um conjunto de regras finitas organizadas a fim de resolver um problema específico ou executar uma tarefa específica. Um algoritmo...

Crédito:Getty Images/iStockphoto

Getty Images/iStockphoto

Dados enviesados explicam o preconceito das máquinas

Por sua definição clássica e básica, um algoritmo nada mais é do que um conjunto de regras finitas organizadas a fim de resolver um problema específico ou executar uma tarefa específica. Um algoritmo, não precisa estar, necessariamente atrelado a computadores. Ao executarmos em nossa mente uma série de etapas com o objetivo de resolver uma tarefa cotidiana, estamos usando uma espécie de algoritmo, ou seja, estamos estabelecendo etapas para o cumprimento de um objetivo, de maneira lógica e encadeada. Quando falamos de um algoritmo que está sendo executado por um computador, estamos falando de um conjunto de regras que foram escritas utilizando alguma linguagem de programação e que se combinam para orientar o computador a executar uma tarefa.

         Essa lógica de funcionamento se aplica à construção de um software, por exemplo. O profissional responsável por escrever o código que dá origem àquele software descreve nele todas as operações que deverão ser executadas. No código de um software, tudo é programado e descrito por alguém. No entanto, uma parte extremamente significativa dos algoritmos com os quais lidamos na atualidade estão baseados em machine learning (aprendizado de máquina, em tradução literal) e neles, as funções que serão executadas, ou ainda as tarefas que serão implementadas para resolver um problema, são definidas pelo próprio algoritmo.

         É difícil de compreender. Como assim o algoritmo define que tipo de função será executada e ele mesmo "se programa"? Pedro Domingos, autor de "O Algoritmo Mestre" explica. "Todo algoritmo tem uma entrada e uma saída: os dados entram no computador, o algoritmo faz o que precisa com eles, e um resultado é produzido. O machine learning faz o contrário: entram os dados e o resultado desejado, e é produzido o algoritmo que transforma um no outro. Com o machine learning, os computadores escrevem seus próprios programas, logo não precisamos mais fazê-lo", diz ele no livro.   

O machine learning pode ser descrito como o processo de treinar um algoritmo para realizar uma tarefa na qual você precisa de ajuda. Nesse processo, alguém define que dados serão inseridos no código, quais dados serão "ensinados" como relevantes e quais resultados oferecidos pelo algoritmo serão indicados como "certos", para que assim ele aprenda e siga repetindo sozinho os processos com mais e diferentes dados.

Os algoritmos que operam dentro das plataformas de redes sociais são baseados nessa lógica, ou seja, têm capacidade de aprendizado à medida que novos inputs vão sendo colocados no sistema. Dessa forma, conforme os gostos e interações dos usuários vão alimentando o sistema, o algoritmo vai aprendendo e se adaptando para sempre exibir os conteúdos que considera mais adequados de acordo com o perfil delimitado.

O algoritmo aprendiz realiza sua função a partir de dois pontos: a inserção de dados e a apresentação do resultado desejado. Ou seja, o aprendizado do sistema está fundamentalmente ligado e dependente dos dados que lhe são inseridos. Ao dizermos que um algoritmo "manipulou", "encerrou", "limitou" ou "enviesou" um sistema estamos esquecendo que o algoritmo em si é uma função matemática. Ele sozinho não é capaz de executar este tipo de tarefa ou ainda de carregar preconceitos e vieses. Os problemas estão ligados aos dados que foram utilizados para alimentar o sistema e também aos resultados esperados que foram solicitados à máquina.

Quando os dados carregam vieses é difícil imaginar que o algoritmo não irá reproduzir as tendências presentes no que serviu de "alimento" a ele. Algoritmos são como espelhos. Da mesma forma, se ele foi orientado a produzir um determinado resultado e foi treinado para isso, de forma tendenciosa ou duvidosa, ele também irá reproduzir este "mau comportamento". Se estamos tratando de aprendizado de máquina é preciso buscar quem está ensinando essa máquina, com que objetivos e a partir de quais dados. Muitas vezes a tendência não é intencional de quem treina o algoritmo, mas foi deixada de lado quando os dados não foram suficientemente analisados ou tratados.

As máquinas aprendem a partir do mundo que é inserido nelas, se esse mundo estiver enviesado, o resultado produzido por elas também estará. O que pode representar sim uma boa notícia no meio desse cenário, pois se soubermos identificar os preconceitos e tendências escondidos nas nossas bases de dados podemos tratá-las previamente e contar com resultados inovadores oferecidos pelos algoritmos, com soluções provavelmente melhores do que as que apresentaríamos sem o auxílio das máquinas.

Stefanie Silveira é jornalista, professora da UFSC e doutora em Comunicação pela USP. Sua atuação profissional inclui passagens pela Folha de São Paulo, Editora Abril, Agência de Notícias EFE, jornal Zero Hora e universidades do Sul e Sudeste do país. Atua também como pesquisadora de mídias digitais nos grupos COM+ na USP e Nephi-Jor na UFSC.

Fonte: UOL

comentários

| Rádio Califórnia 89,1 FM'); }
Estúdio Ao Vivo