A model for data ethics instruction for non-experts

Leigh Phan, y otros

IASSIST quarterly, ISSN 0739-1137, Vol. 46, n. 4, 2022

El enorme incremento en el uso de tecnologías basadas en algoritmos ha conducido a la violación de principios éticos y de privacidad. La formación respecto a la ética en las investigaciones basadas en datos masivos es muy deficiente, y a menudo se recurre a las bibliotecas para rellenar esta laguna en disciplinas no especializadas en el tratamiento de datos. Además de la incompleta formación computacional, la ética está casi completamente ausente en los cursos universitarios. En este artículo se describe la experiencia de la University of  California para proporcionar a sus alumnos este tipo de formación a través de dos talleres: Consideraciones éticas en los datos (2021) y su continuación, Ética de datos y justicia (2022). Para el taller de 2021 se redactó una encuesta con el objetivo de reunir información sobre los participantes y sus intereses, para así personalizar el contenido del taller. Se decidió centrarse en tres aspectos: privacidad de los datos, sesgo de los algoritmos y comunidades participativas. Respecto a la privacidad de los datos, se ofreció una visión general de las metodologías para convertir en anónimos los datos, eliminando información personal identificable y agregando datos como medios de protección de individuos asociados a estudios. Sobre el sesgo de algoritmos, se mostraron ejemplos de softwares para la vigilancia de acusados, para la reclamación de seguros y para el reconocimiento facial, que permitieron a los participantes examinar de manera crítica las consecuencias de los algoritmos en comunidades afectadas por estos modelos. Respecto a las comunidades participativas, se habló de varios casos que demuestran que la participación directa mejora los resultados, genera nuevas vías de experimentación y puede ayudar a mejorar las políticas públicas. Las lecciones aprendidas sirvieron para diseñar el taller de 2022, consistente en tres charlas de expertos. El primero fue un investigador sobre el racismo y la desinformación en los medios sociales. El segundo estudia los pagos y la información en una gran compañía de salud. El tercero se centra en la interacción humano-máquina e investiga formas de mejorar la privacidad de las comunicaciones. Después de las presentaciones había un debate entre los ponentes y los participantes en el taller. Más allá de talleres puntuales, la colaboración estratégica entre formadores en la ciencia de los datos, especialistas en una disciplina particular y bibliotecarios puede ser un primer paso para elaborar una estrategia sobre la formación en ética de datos.  

https://iassistquarterly.com/index.php/iassist/article/view/1028