A Inteligência Artificial foi vista, por muitos anos, como o futuro da tecnologia, mas esse futuro já chegou. Agora, esse avanço já está presente em áreas como saúde, segurança, lazer, trabalho e muitas outras, influenciando a forma como consumimos e nos relacionamos com marcas e outras pessoas na Internet.
Ao mesmo tempo que o avanço dessas tecnologias pode ser usado para ajudar pessoas de diferentes maneiras, uma programação indevida pode ter efeito oposto, reproduzindo preconceitos e tornando a ferramenta inapropriada. Então devemos nos atentar a essas questões, afinal, a tecnologia não faz sentido se não puder ajudar as pessoas.
Neste blog, você encontrará exemplos de situações em que algoritmos reproduziram preconceitos e possíveis soluções para essas questões e também debateremos a importância da Inteligência Artificial. Continue a leitura para acompanhar!
Como a Inteligência Artificial vem sendo usada até o momento?
Você com certeza já convive com a inteligência artificial no seu cotidiano. Seja no desbloqueio do seu celular ou na personalização de anúncios de acordo com o que o algoritmo entende que combina mais com o seu gosto, a tecnologia criada para facilitar a vida humana veio para ficar na nossa rotina diária.
Porém, recentemente, alguns casos de algoritmos reproduzindo preconceitos vieram à tona, mostrando que, por ser desenvolvida por pessoas, as ferramentas podem sim reproduzir discriminações. Isso deixou evidente que, dependendo do recorte utilizado pelo banco de dados utilizado em sua montagem, a Inteligência Artificial pode ter deduções racistas, machistas ou com qualquer outro tipo de preconceito.
Para ilustrar essa questão, o pesquisador em Ciências Humanas e Sociais da Universidade Federal do ABC (UFABC), Tarcízio Silva, disponibilizou uma Linha do Tempo do Racismo Algorítmico. A partir dessa série, é possível observarmos como ao longo dos anos diferentes plataformas apresentaram falhas em seus sistemas no que diz respeito à programação de seus algoritmos.
Na seleção feita pelo pesquisador da UFABC, vemos, a partir de 2010, diferentes casos onde a Inteligência Artificial, ao invés de ajudar as pessoas, só reforçou estereótipos ou até mesmo causou prejuízo a alguém. Um exemplo disso foi a constatação de que carros automáticos têm mais chances de atropelar pessoas negras, ou APIs de reconhecimento facial que confundem rostos asiáticos.
Nina da Hora trabalha para evitar preconceitos em algoritmos
Assim como os acontecimentos reunidos na linha do tempo montada por Tarcízio Silva, a cientista Nina da Hora, ao pesquisar sobre o reconhecimento facial de aplicativos, se deparou com números preocupantes. Em sua análise, a inteligência artificial reconheceu apenas 300 dos 500 rostos negros apresentados, enquanto não encontrou erros em fotos de pessoas brancas.
Isso se explica, pois, quando observamos o contexto brasileiro, de acordo com dados da Organização Social Olabi, a área de tecnologia conta com 68,3% de homens, sendo 58,3% brancos e 78.9% heterossexuais. Isso mostra como a igualdade de gênero e etnia ainda está distante, influenciando, consequentemente, no resultado que nos deparamos no uso de tecnologias.
O reconhecimento facial e tantos outros APIs refletem a influência humana combinada com modelos matemáticos falhos na programação dos dados, afinal, os algoritmos são desenvolvidos por pessoas e para pessoas. Então, é importante que, por trás da programação, exista a inclusão de mulheres, negros e outras minorias, para garantir que todo o público que utiliza tais tecnologias seja englobado.
A tecnologia deve ser desenvolvida com um propósito claro
Para garantir que a tecnologia seja inclusiva para todos, é preciso que ela seja pensada com este propósito. E essa é a proposta da EqualWeb: garantir que a tecnologia seja usada a favor das pessoas para tornar o mundo acessível para todos.
Por meio de até 31 funcionalidades distintas, em com uso de algoritmos de inteligência artificial, a EqualWeb deixa o conteúdo de seu website acessível para milhões de brasileiros com deficiência ou dificuldades de navegação na internet.
Traga sua empresa para o caminho da inclusão digital! Visite nosso site e converse com nossos especialistas para conhecer todas as vantagens!
