Cómo los big data y el aprendizaje automático codifican la discriminación y crean grupos agitados de ira reconfortante
Discriminating Data. Correlation, Neighborhoods, and the New Politics of Recognition. Wendy Hui Kyong Chun
Cómo los big data y el aprendizaje automático codifican la discriminación y crean grupos agitados de ira reconfortante.
En Discriminating Data , Wendy Hui Kyong Chun revela cómo la polarización es un objetivo (no un error) dentro del big data y el aprendizaje automático. Estos métodos, sostiene, codifican la segregación, la eugenesia y las políticas de identidad a través de sus supuestos y condiciones predeterminados.
La correlación, que fundamenta el potencial predictivo del big data, surge de los intentos eugenésicos del siglo XX de “generar” un futuro mejor. Los sistemas de recomendación fomentan grupos enojados de similitudes a través de la homofilia.
Los usuarios son “entrenados” para volverse auténticamente predecibles a través de una política y tecnología de reconocimiento. Por lo tanto, el aprendizaje automático y el análisis de datos buscan alterar el futuro haciendo que la disrupción sea imposible.
Chun, que tiene experiencia en ingeniería de diseño de sistemas, así como en estudios de medios y teoría cultural, explica que aunque los algoritmos de aprendizaje automático pueden no incluir oficialmente la raza como categoría, incorporan la blancura como opción predeterminada.
La tecnología de reconocimiento facial, por ejemplo, se basa en los rostros de celebridades de Hollywood y estudiantes universitarios, grupos que no son famosos por su diversidad.
La homofilia surgió como un concepto para describir las actitudes de los residentes blancos de Estados Unidos hacia la vida en viviendas públicas birraciales pero segregadas. La tecnología policial predictiva implementa modelos entrenados en estudios de vecindarios predominantemente desatendidos. Estos algoritmos, entrenados con datos seleccionados y a menudo discriminatorios o sucios, solo se validan si reflejan estos datos.
¿Cómo podemos liberarnos de las garras de los datos discriminatorios? Chun pide algoritmos alternativos, valores predeterminados y coaliciones interdisciplinarias para eliminar la segregación de las redes y fomentar un big data más democrático.
COMENTARIOS