icon

Discriminación en la web: no sólo los usuarios sino en la misma lógica de las redes

Durante la semana miles de usuarios hicieron el experimento de poner a prueba los algoritmos de Twitter y descubrir sus sesgos racistas. El INADI advirtió que el problema de la ciber-violencia se agravó en el confinamiento. 

Las acciones discriminatorias no son "patrimonio exclusivo de los contenidos generados por los usuarios, sino que se insertan en una lógica comercial. Allí la discriminación también tiene lugar por acción u omisión en los códigos programáticos algorítmicos".

Las tecnologías de la comunicación se expanden a ritmos inusitados, hacia más personas y hacia más dimensiones de la vida de los individuos. Esta piscina de posibilidades desconocida hasta el momento, brinda una serie de condiciones para el ejercicio de todo tipo de violencias. 

El INADI (Instituto Nacional contra la Discriminación, la Xenofobia y el Racismo) señala hace tiempo que la discriminación en línea es un fenómeno creciente en Argentina. Aún más, se ha visto potenciado por el confinamiento y las medidas tomadas para contener el contagio de COVID -19.

Por eso, el junio pasado el organismo llamó a la sociedad civil a colaborar en la elaboración de un nuevo Plan Nacional contra la Discriminación.

Como respuesta, la Asociación por los Derechos Civiles (ADC) delineó una serie de consideraciones importantes a tener en cuenta al hablar de discriminación en internet y mencionó que esto incluye:

# distintos elementos: infraestructura, servicios, aplicaciones, proveedores y usuarios,
# diversos sectores: privado, gubernamental, academia, técnico y sociedad civil,
# y también muchos actores.

Por este motivo, abordar el problema y tratarlo debe incluir el compromiso de todas las partes. 

Además, la organización concluye que "las redes sociales y su modelo de negocios, así como las políticas de uso y privacidad, los mecanismos de reporte y denuncia de las plataformas digitales, merecen una especial consideración como elementos centrales para la lucha contra la ciber discriminación".


Algoritmos racistas

La ADC afirma que "las prácticas y expresiones discriminatorias no son patrimonio exclusivo de los distintos tipos de usuarios en redes sociales, sino que se insertan en una lógica comercial que no puede ni debe omitirse".

Es decir que, no sólo se trata de sancionar y educar al sujeto que discrimina detrás de una pantalla, sino cuestionar la misma estructura dónde estas acciones tienen lugar. 

La semana pasada este tema se convirtió en tendencia en Twitter luego de que cientos de usuarios probaran el sesgo racista de los algoritmos. 

Todo comenzó cuando el informático Toni Arcieri subió dos imágenes y en cada una había una fotografía del republicano estadounidense Mitch McConell y otra de Barack Obama. 

La prueba consistió en subirlas y, como eran demasiado grandes, esperar a ver cuál de las dos el algoritmo consideraba más relevante para previsualizarla. Como resultado, obtuvo que siempre elegía a la persona "blanca". Lo mismo hicieron miles de usuarios, obteniendo los mismos resultados. 

La compañía respondió diciendo que "comprobó posibles sesgos antes de activar el modelo y no encontró evidencia de prejuicio racial o de género en nuestras pruebas". 

Sin embargo, estos experimentos simples abrieron el debate sobre las implicancias y peligros de confiar el procesamiento de datos a la inteligencia artificial.