02 de maio de 2023

Estratégias e limites à Tecnologia

Artificial

Aula
Vieses Cognitivos Humanos da Ia

Viés de homogeneidade externo

Vies Social : ocorre quando é um viés é disseminado socialmente, de forma

inconsciente. Ex: racismo estrutural é disseminado socialmente, usando dados
históricos não adequados

Vieses podem ser positivos ou negativos

Positivos: introduzidos para assegurar um resultado justo. Ex: um sistema de IA de

contratação pode dar um “peso” maior a determinadas minorias para compensar
desvantagens socialmente reconhecidas.

Negativo:

geram um resultado injusto. Sistemas de reconhecimento de voz que neo reconhecem

pessoas com dificuldade de fala, sistemas de contratação que privilegiam
determinado gênero ou raça.

Não interferem muito na justiça do resultado. Ex: um sistema de Ia de

reconhecimento de objetos pode confundir alguns tipos de objetos, como um hidrante
e uma caixa de correio. Em um contexto de sistema autônomo de direção, esta
confusão tem um efeito neutro, pois ambos são considerados obstáculos a serem
evitados pelo veículo.
 02 de maio de 2023

Vieses na Ia

Quando a IA recomenda decisões, elas podem ser injustas ou inadequadas a certos

grupos ou indivíduos.

Existem na sociedade, medo é qua a IA perpetue ou aumente o impacto. Geralmente

não é intencional.

Plataformização da vida

Algoritmos ajudam na tomada de decisões

Reproduzem relações de poder e opressão já existente na sociedade

https://tarciziosilva.com.br/blog/destaques/posts/racismo-algoritmico-linha-do-
tempo/

Coded Bias - documentário sobre reconhecimento facial e racismo

02 de maio de 2023