Kredit: Shutterstock/Unspalsh/designad av Lauren YoungDatauppsättningar formar allt mer viktiga beslut, från var företag riktar sin annonsering till hur regeringar allokerar resurser. Men vad händer när de uppgifter de förlitar sig på är felaktiga eller ofullständiga?
Ira pratar med teknologen Kasia Chmielinski när de provkör en algoritm som förutsäger en persons ras eller etnicitet baserat på bara några få detaljer, som deras namn och postnummer, Bayseian Improved Surname Geocoding-algoritmen (BISG). Du kan kolla in en av modellerna de använde här . BISG används ofta av både statliga myndigheter och företag för att fylla i saknade ras- och etnicitetsdata – förutom att det ofta gissar fel, med potentiellt långtgående effekter.
Vidare läsning
- Läs en berättelse i Los Angeles Times om hur Feds använde en algoritm av Rand Corp. för att upptäcka diskriminering och hur GOP kallade det skräpvetenskap.
- Klok rapporterar om hur CDC genomgick granskning efter att ha kämpat för att rapportera covid-ras, etnicitetsdata .
- Ser en rapport om att använda allmänt tillgänglig information som proxy för oidentifierbar ras och etnicitet av Consumer Financial Protection Bureau.
- Kolla upp ett diagram visar uppskattade covid-19-vacciner administrerade efter ras, etnicitet.
- Läs United States Consumer Financial Protection Bureau Consent Order .
- Hitta ett papper på en ny metod för att uppskatta ras, etnicitet och tillhörande skillnader där administrativa register saknar självrapporterad information i Hälsovårdsforskning.