O documento discute como a tecnologia pode ser projetada de forma racista e como promover a inclusão. Ele fornece exemplos de como algoritmos e produtos tecnológicos podem excluir ou prejudicar grupos marginalizados. O documento defende a diversidade nos times de desenvolvimento e medidas para auditar algoritmos e garantir que eles não reproduzam vieses.
5. – Ovetta Sampson
Produtos tecnológicos são desenvolvidos por humanos. E não
importa quão boas sejam nossas intenções, ainda podemos
permitir que as qualidades humanas mais indesejáveis possam
entrar em nossa vida tecnológica.
6. - Kodak - Shirley Cards
- 2010, Xbox Kinect
- 2016 Google Photos, reconhecendo pessoas como gorilas
- Nikon S630 e pessoas asiáticas
- #TayTweets
- Desbloqueio por reconhecimento facial Iphone X
Tecnologia pode ser Racista?
7. - Compas - programa usado nos tribunais dos EUA para avaliar o risco de um réu;
- Reconhecimento Facial - Google Photos, Flickr, HP;
- Algoritmos que selecionam currículos, davam mais preferência a nomes
associados a origem européia do que a nomes com origem africana;
- O app Beauty.ai não seleciona peles escuras quando está escolhendo os rostos
mais bonitos;
- Buscando por cabelos com "aspecto profissional" e cabelos com aspecto não
profissional;
Algoritmos preconceituosos
8. HP Media "Smart" Computer
>>> https://www.youtube.com/watch?v=t4DT3tQqgRM
9. Dispenser de sabão "Inteligente"
>>> https://www.youtube.com/watch?v=hChdEp0fbeU
10. - A população negra no seu total representa 54% da população brasileira;
- Em 2013, o CNPQ começa a ter o campo Raça e Cor;
- Ciências Sem Fronteiras: No ano de 2015, os percentuais relativos aos
bolsistas negros totalizaram 4,8%, e os pardos 20,8%. (brancos 57,7%);
- Mulheres negras que realizam pesquisas voltadas para ciências exatas são
pouco mais de 5.000, ou 5,5%;
- No Brasil, segundo um levantamento do Grupo de Gênero da Escola
Politécnica da USP (Poligen), em 120 anos a USP não formou nem dez
mulheres negras.
Pessoas Negras nas Universidades
20. - Tenha times diversos
- - Inclusão/diversidade deve ser prioridade quando
pensando em teste de usabilidade, testes funcionais,
treinamento, etc
- Entender que diversidade está intrinsecamente ligada com
inovação.
Medidas Preventivas
– Ovetta Sampson
21. - Certificar-se de que as pessoas diversas também estão
atingindo os níveis superiores de uma empresa e se
sentindo empoderadas para falar.
- A indústria precisa de "pessoas que entendem as pessoas".
Valorizar pessoas de origens não técnicas. Cientistas da
computação são "apenas uma peça do que é necessário
para construir tecnologia.
Medidas Preventivas
– Sara Wachter-Boettcher