La agenda feminista ante la cuarta revolución industrial. Mujeres y algoritmización de la esfera pública

María Ávila Bravo-Villasante

doi:10.18002/cg.i18.7573

Autori

María Ávila Bravo-Villasante Universidad Rey Juan Carlos - España http://orcid.org/0000-0002-4138-072X

DOI:

https://doi.org/10.18002/cg.i18.7573

Parole chiave:

algoritmización de la esfera pública, inteligencia artificial, feminismo, sesgos y estereotipos de género, androcentrismo, brechas digitales, violencia de género

Abstract

El artículo ofrece una panorámica de los retos que la cuarta revolución industrial plantea para la agenda feminista. La algoritmización de la esfera pública implica la automatización de decisiones que antes eran tomadas por seres humanos. Estas decisiones, no son neutras, incorporan y reproducen sesgos que generan situaciones de desigualdad. La incorporación de las mujeres a los equipos de trabajo en el sector STEM contribuiría a erradicar estos sesgos, si bien, la brecha de género no parece remitir. Para ilustrar la manera en la que los sesgos de género y los modelos androcéntricos pueden arruinar el proceso de toma de decisiones, se proponen dos ejemplos paradigmáticos: el ámbito de la salud y el sistema VioGén.

Downloads

I dati di download non sono ancora disponibili.

Métricas alternativas

Biografia autore

María Ávila Bravo-Villasante, Universidad Rey Juan Carlos - España

Profesora Contratada Doctora (URJC). Doctora en Estudios Interdisciplinares de Género (URJC). Premio Extraordinario de Doctorado. Licenciada en Filosofía (UCM). Máster en Enseñanza de la Filosofía (UCM). Estudios de doctorado en Filosofía Teorética (UCM). Especialista Universitaria en Cultura y Violencia de Género (UNED). Máster de Género y Políticas de Igualdad entre mujeres y hombres (URJC). Máster en Estudios Interdisciplinares de Género (URJC). Desde 2019 participa como docente en el curso de "Historia de las Teorías Feministas" de la UCM. Dirige el Seminario de Investigación Permanente "Filosofía de la Violencia. Pensar las violencias contra el cuerpo de las mujeres" (URJC). Participa como docente en el Especialista Universitario en Prevención y Sensibilización de las Violencias Sexuales y de Género (URJC). Es IP del Proyecto Erasmus + PREVEX. IP del Proyecto “Percepción de la Violencia de Género por el Alumnado de Grado de la Universidad Rey Juan Carlos” del Observatorio de Estudiantes de la URJC.

Riferimenti bibliografici

Amoore, Louise (2020): Altorithms and the attributes of ourselves and others. Durham: Duke University Press.

Attewell, Paul (2001): “The First and Second Digital Divides”. En: Sociology of Education, vol. 74, nº. 3, pp. 252-259. Disponible en: https://www.learntechlib.org/p/95037/ [01/06/2023].

Australian Associated Press (2017): “Computer says no: Irish vet fails oral English test needed to stay in Australia”. En: The Guardian, 8 de agosto. Disponible en: https://www.theguardian.com/australia-news/2017/aug/08/computer-says-no-irish-vet-fails-oral-english-test-needed-to-stay-in-australia [01/06/2023].

Ávila Bravo-Villasante, María (2023): “Radicalización violenta y misoginia extrema: Narrativas antifeministas en la manosphere”. En: Global Media Journal México, nºº. 20, pp. 1–17. Disponible en: https://doi.org/10.29105/gmjmx20.38-485 [02/06/2023].

Axelsen, Amelia (2019): “Hospitals are using AI to slash wait times and solve doctor shortages”. En: Apolitical, 15 de marzo. Disponible en https://apolitical.co/solution-articles/en/hospitals-are-using-ai-to-slash-wait-times-and-solve-doctor-shortages [01/06/2023].

Bahous, Sima (2023): “Statement: Building a future of scientific progress and gender equality” En: UN WOMEN, 9 de febrero. Disponible en: https://www.unwomen.org/en/news-stories/statement/2023/02/statement-building-a-future-of-scientific-progress-and-gender-equality [01/06/2023].

Bardon, Agnès (2021): Nuestras invitadas: “Hay que educar a los algoritmos”. En: El Correo De La UNESCO, 2020, vol. 2020, nº. 4, pp. 42-45. Disponible en: https://doi.org/10.18356/22202315-2020-4-13 [01/06/2023].

Basta, Christine; Costa-Jussà, Marta R. y Casas, Noe (2019): “Evaluating the Underlying Gender Bias in Contextualized Word Embeddings”. En: Marta R. Costa-jussà, Christian Hardmeier, Will Radford y Kellie Webster (eds.): Proceedings of the First Workshop on Gender Bias in Natural Language Processing. Florence, Italy: Association for Computational Linguistics, pp. 33–39.

Bellver, José (2019): “Costes y restricciones ecológicas al capitalismo digital”. En: Papeles de relaciones ecosociales y cambio global nº. 144, pp. 59-79. Disponible en: https://www.fuhem.es/papeles_articulo/costes-y-restricciones-ecologicas-al-capitalismo-digital/ [01/06/2023].

Bennett, Cynthia L. et al. (2021): “‘It’s Complicated’: Negotiating Accessibility and (Mis)Representation in Image Descriptions of Race, Gender, and Disability”. En: Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems (Yokohama, Japan) (CHI ’21): Association for Computing Machinery, New York, NY, USA, nº. 375, pp.1-19 Disponible en: https://doi.org/10.1145/3411764.3445498 [01/06/2023].

Birhane, Abeba (2021): “Algorithmic Injustice: A Relational Ethics Approach”. En: Perspective, 12 de febrero, vol. 2. pp.1-9. Disponible en: https://doi.org/10.1016/j.patter.2021.100205 [01/06/2023].

Birhane, Abeba; Prabhu, Vinay Uday y Kahembwe, Emmanuel (2021): Multimodal datasets: misogyny, pornography, and malignant stereotypes. En: arXiv:2110.01963v1 [cs.CY], en 5 de octubre. Disponible en: https://doi.org/10.48550/arXiv.2110.01963 [01/06/2023].

Brynjolfsson, Erik y McAfee, Andrew (2014): The Second Machine Age. Work, Progress, and Prosperity in a Time of Brilliant Technologies. Nueva York: W. W. Norton & Company.

Buolamwini, Joy y Gebru Timnit (2018): Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. En: Proceedings of Machine Learning Research vol. 81, pp.1–15. Conference on Fairness, Accountability, and Transparency. Disponible en https://proceedings.mlr.press/v81/buolamwini18a.html [01/06/2023].

Castaño Callado, Cecilia (2008): “Nuevas tecnologías y género. La segunda brecha digital y las mujeres”. En: Telos: Cuadernos de Comunicación, Tecnología y Sociedad vol. 75, pp: 24-33.

Chang, Emily (2018): Brotopia: Breaking Up the Boys' Club of Silicon Valley. Nueva York: Portfolio.

Chang, Emily (2018): “Oh My God, This Is So F---ed Up”: Inside Silicon Valley’s Dark Side”. En: Vanity Fair, el 2 de enero. Disponible: https://www.vanityfair.com/news/2018/01/brotopia-silicon-valley-secretive-orgiastic-inner-sanctum [09/03/2023].

Colectiva Mujeres de Boston (1987): Nuestros cuerpos, nuestras vidas. Cali: Colectivo de Mujeres de Cali y Asociación Artística La Cuchilla.

Dastin, Jeffrey (2018): “Amazon scraps secret AI recruiting tool that showed bias against women”. En: Reuters, 8 de marzo. Disponible en: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G [09/03/2023].

Fernández-Lasquetty Quintana, Javier (2020): “Los datos son el petróleo del siglo XXI”. En: The Conversation, 22 de mayo. Disponible en: https://theconversation.com/profiles/javier-fernandez-lasquetty-quintana-1036288/articles [09/03/2023].

Fundación Éticas (2022): “Auditoría externa del sistema VioGén”. En: Fundación Éticas y Fundación Ana Bella. Red de Mujeres Supervivientes, 8 de marzo. Disponible en: https://eticasfoundation.org/wp-content/uploads/2022/04/ETICAS-_-Auditori%CC%81a-Externa-del-sistema-VioGe%CC%81n-_-20220308.docx.pdf [09/03/2023].

Gallego Trijueque, Sara and Oliva Marañón, Carlos (2022): La cuarta revolución industrial: Transformación digital como nuevo paradigma. En: Signo y Pensamiento, nº. 41. Disponible: https://doi.org/10.11144/Javeriana.syp41.crit [09/03/2023].

Galloway, Alex (n.d.): “A Report on Cyberfeminism Sadie Plant relative to VNS Matrix” En: Switch. Electronic Gender. Art at the Interstice. Disponible en: https://vnsmatrix.net/wordpress/wp-content/uploads/a-report-on-cyberfeminism-sadie-plant-relative-to-vns-matrix-alex-galloway-switch-journal-issue-9-june-14-1998-online-journal.pdf [09/03/2023].

García, Eva. C., y Calvo, Encina (2022): “Perspectiva de género en Inteligencia Artificial, una necesidad”. En: Cuestiones de género: de la y la diferencia, nº. 17, pp. 111–127. Disponible en: https://doi.org/10.18002/cg.i17.7200 [09/03/2023].

Ging, Debbie (2019): “Alphas, betas, and incels: theorizing the masculinities of the manosphere”. En: Men and Masculinities, nº. 22, pp: 638-657. Disponible en: https://doi.org/10.1177/1097184X17706401 [09/03/2023].

Gutiérrez, Miren (2021): “Algorithmic Gender Bias and Audiovisual Data: A Research Agenda”. En: International Journal of Communication, nº. 15, pp. 439-461. Disponible en: https://ijoc.org/index.php/ijoc/article/view/14906/3333 [09/03/2023].

Hamilton, Isobel Asher (2019): “Apple cofounder Steve Wozniak says Apple Card offered his wife a lower credit limit”. En: Business Insider, 11 de noviembre. Disponible en: https://www.businessinsider.com/apple-card-sexism-steve-wozniak-2019-11 [09/03/2023].

Harari, Yuval Noah (2022): Homo Deus. Breve historia del mañana. Barcelona: Debate.

Isanidad (1 de diciembre de 2012): “La inteligencia artificial puede reducir hasta un 40% los tiempos de espera en urgencias de traumatología”. En: Isanidad. Disponible en: https://isanidad.com/232698/la-inteligencia-artificial-puede-reducir-hasta-un-40-los-tiempos-de-espera-en-urgencias-de-traumatologia/ [09/03/2023].

INE (2022): “Encuesta sobre Equipamiento y Uso de Tecnologías de la Información y Comunicación en los Hogares”. En: Instituto Nacional de Estadística. Disponible en: https://www.ine.es/dyngs/INEbase/es/operacion.htm?c=Estadistica_C&cid=1254736176741&menu=ultiDatos&idp=1254735976608 [09/03/2023].

Helbing, Dirk et al. (2017): “Will democracy survive big data and artificial intelligence?”. En: Scientific American. 25 de febrero. Disponible en: https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-intelligence/ [09/03/2023].

Hicks, Mar (2013): “De-Brogramming the History of Computing [Think Piece]”. En: IEEE Annals of the History of Computing, nº. 35, pg. 88. Disponible en: https://ieeexplore.ieee.org/document/6502624 [09/03/2023].

Hoffman, Donald (2015): “Evolving AI. Edge 2015: What do you think about machines that think?” En: Edge.org. Disponible en: http://bit.ly/3ZRxzr7 [09/03/2023].

Hoffman, Sharona y Podgurski, Andy (2020): “Artificial Intelligence and Discrimination in Health Care”. En: Faculty Publications, nº. 19. Disponible en: https://scholarlycommons.law.case.edu/faculty_publications/2098 [09/03/2023].

Knight, Will (2019): “The Apple Card Didn't 'See' Gender—and That's the Problem”. En: WIRED, 19 de noviembre. Disponible: https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/ [09/03/2023].

Kohan, Marisa (2023): “Viogén, una herramienta necesaria pero insuficiente para poner fin a los asesinatos por violencia de género”. En: Público, 9 de enero. Disponible en: https://www.publico.es/mujer/viogen-herramienta-necesaria-insuficiente-poner-asesinatos-violencia-genero.html [09/03/2023].

Koenecke, Alison et al. (2020): “Racial disparities in automated speech recognition”. En: Proceedings of the National Academy of Sciences, nº. 117 pp. 7684-7689. Disponible en: https://doi.org/10.1073/pnas.1915768117 [09/03/2023].

Lavin, Talia (2020): La cultura del odio. Un periplo por la dark web de la supremacía blanca. Madrid: Capitán Swing.

Legg, Shane y Hutter, Marcus (2007): “A collection of definitions of intelligence”. En: Frontiers in Artificial Intelligence and applications, nº. 157, pp. 17-54. Disponible en: https://doi.org/10.48550/arXiv.0706.3639 [01/06/2023].

López Flores, Luis Moisés (2022): “Colonialdad algorítmica: Racialización y sexualización mecanizada en el capitalismo digital: Una perspectiva de género”. En: Revista de Cultura Digital y Movimientos Sociales, nº. 19, pp. 231-239. Disponible: http://dx.doi.org/10.5209/TEKN.78681 [09/03/2023].

López Iñesta, Emilia et al. (2020): “Towards breaking the Gender Gap in Science”, Technology, Engineering and Mathematics. En: IEEE Revista Iberoamericana de tecnologías del Aprendizaje, vol. 15, nº. 3 pp. 233-241. Disponible en: http://dx.doi.org/10.1109/RITA.2020.3008114 [01/06/2023].

Martín Carrasquilla, Olga; Santaolalla Pascual, Elsa y Muñoz San Roque, Isabel (2022): “La brecha de género en educación STEM”. En: Revista de educación nº. 396, pp. 151-175.

Merelo Guervós, Juan Julián y Melero Molina, Cecilia (2017): “Evolución de la Matrícula Femenina en el Grado de Informática en Universidades Públicas Españolas; Technical Report”. En: GeNeura. Disponible en: http://dx.doi.org/10.13140/RG.2.2.19608.08969 [02/06/2023].

Merelo Guervós, Juan Julián; Melero Molina, Cecilia (2017): “Evolución de la Matrícula Femenina en el Grado de Informática en Universidades Públicas Españolas; Technical Report”. En: GeNeura. Disponible en: http://dx.doi.org/10.13140/RG.2.2.19608.08969 [02/06/2023]

Ministerio del Interior (n.d.): “Sistema VioGén. Ministerio del Interior”. Disponible en: http://bit.ly/3m8lwWX [09/03/2023].

Mlambo-Ngcuka, Phumzile (2020): “Violencia contra las mujeres: la pandemia en la sombra”. En: ONU MUJERES, 6 de abril. Disponible en: http://bit.ly/3hVW3ht [09/03/2023].

Moore Aoki, Ayumi (2022) “The digital economy. How to close the digital gender divide and empower women”. En: World Economic Forum, 8 de marzo. Disponible en: https://www.weforum.org/agenda/2022/03/how-to-close-digital-gender-divide/ [09/03/2023].

Mozur, Paul (2018): “A Genocide Incited on Facebook, With Posts From Myanmar’s Military”. En: The New York Times, 15 de octubre. Disponible en: https://www.nytimes.com/2018/10/15/technology/myanmar-facebook-genocide.html [09/03/2023].

Nicholson Price II, William (2017): “Regulating black-box medicine”. En: Michigan Law Review, nº. 116, pp. 421-474. Disponible en: https://repository.law.umich.edu/mlr/vol116/iss3/2/ [03/03/2023].

Núñez Puente, Sonia (2008): “Una exploración de la praxis feminista en España: nuevas tecnologías y nuevos espacios de relación desde el ciberfeminismo”. En: Feminismo/s, nº. 11, pp. 109-123. Disponible en: http://dx.doi.org/10.14198/fem.2008.11.07 [03/03/2023].

ONU - Organización de Naciones Unidas (1993): Declaración sobre la eliminación de la violencia contra las mujeres (Res. AG/48/104). Naciones Unidas.

Plant, Sadie (1998): Ceros y Unos. Mujeres digitales y la nueva tecnocultura. Barcelona: Destino.

Prainsack, Barbara (2019): “Data Donation: How to Resist the iLeviathan en J. Krutzinna”, En: Luciano Floridi (ed.): The Ethics of Medical Data Donation, Philosophical Studies Series nº. 137. Disponible en: https://doi.org/10.1007/978-3-030-04363-6_2 [03/03/2023].

Rackham, Melinda (2019): “Manifiesto”. En; Remedios Zafra y Teresa López-Pellisa (eds.): Ciberfeminismo. De VNS MATRIX a Laboria Cuboniks. Barcelona: Holobionte, pp. 45-49.

Radicalisation Awareness Network – RAN (2021): Incels: a first scan of the phenomenon (in the EU) and its relevance and challenges for P/CVE. Publications Office of the European Union. Disponible en: https://home-affairs.ec.europa.eu/whats-new/publications/incels-first-scan-phenomenon-eu-and-its-relevance-and-challenges-pcve-october-2021_en [03/03/2023].

Raja, Tasneem (2012): “‘Gangbang Interviews” and “Bikini Shots’: Silicon Valley’s Brogrammer Problem”. En: Mother Jones, 26 de abril. Disponible en https://www.motherjones.com/media/2012/04/silicon-valley-brogrammer-culture-sexist-sxsw/ [03/03/2023].

Ricaurte, Paola (2019): “Data Epistemologies, The Coloniality of Power, and Resistance”. En: Television & New Media, nº. 20, pp. 350–365. Disponible: https://doi.org/10.1177/1527476419831640 [03/03/2023].

Rippon, Gina (2020): El género y nuestros cerebros. La nueva neurociencia que rompe el mito del cerebro femenino. Barcelona: Galaxia Gutenberg.

Sainz, Milagros; Arroyo, Lidia y Cecilia Castaño (2020): Mujeres y digitalización. De las brechas a los algoritmos. Madrid: Instituto de la Mujer y para la Igualdad de Oportunidades. Disponible en: https://www.inmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf [03/03/2023].

Sarder, Monika (2020): “From robodebt to racism: what can go wrong when governments let algorithms make the decisions”. En: The Conversation, 8 de junio. Disponible en http://theconversation.com/from-robodebt-to-racism-what-can-go-wrong-when-governments-let-algorithms-make-the-decisions-132594 [03/03/2023].

Schwab, Klaus. (2017): La cuarta revolución industrial. Barcelona: Debate.

Simonite, Tom (2018): “AI Is the Future—But Where Are the Women?” En: WIRED, 17 de agosto. Disponible en: https://www.wired.com/story/artificial-intelligence-researchers-gender-imbalance/ [03/03/2023].

Tatman, Rachael (2016): “Google’s speech recognition has a gender bias”. En: Making noise and hearing things, 12 de julio. Disponible en: https://makingnoiseandhearingthings.com/2016/07/12/googles-speech-recognition-has-a-gender-bias/ [05/05/2023].

The Associated Press (2022): “Oregon is dropping an artificial intelligence tool used in child welfare system”. En: National Public Radio, 2 de julio. Disponible en: https://www.npr.org/2022/06/02/1102661376/oregon-drops-artificial-intelligence-child-abuse-cases [03/03/2023].

Tiu, Ekin, et al., (2022): “Expert-level detection of pathologies from unannotated chest X-ray images via self-supervised learning”. En: Nature Biomedical Engineering, nº. 6, pp. 1399–1406. Disponible en: https://www.nature.com/articles/s41551-022-00936-9 [03/03/2023].

UNESCO (2019): “Descifrar el Código: LA educación de las niñas y las mujeres”. En: Ciencias, tecnología, ingeniería y matemáticas (STEM): UNESCO Publishing. Disponible en https://unesdoc.unesco.org/ark:/48223/pf0000366649 [03/03/2023].

UNESCO (2021): “Science Report: The Race Against Time for Smarter Development”. En: Susan Schneegans, Tiffany Straza y Jake Lewis (eds): UNESCO Publishing. Disponible en https://unesdoc.unesco.org/ark:/48223/pf0000377250 [03/03/2023].

UNESCO (2022): “Los efectos de la IA en la vida laboral de las mujeres”. En: Clementine Collett, Gina Neff y Livia Gouvea Gomes (eds.): UNESCO Publishing. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000380871 [03/03/2023].

Van der Ploeg, Irma (2007): “Genetics, biometrics and the informatization of the body”. En: Annali dell'Istituto superiore di sanita, vol. 43, nº. 1, pp:44-50. Disponible en: https://pubmed.ncbi.nlm.nih.gov/17536153/ [05/05/2023].

Van Valkenburgh, Shawn. P. (2021): “Digesting the Red Pill: Masculinity and Neoliberalism in the Manosphere”. En: Men and Masculinities, vol. 24, nº. 1, pp. 84-103. Disponible en https://doi.org/10.1177/1097184X18816118 [05/05/2023].

Valls Llobet, Carme (2006): Mujeres invisibles. Barcelona: Debolsillo.

Wajcman, Judy (2006): El tecnofeminismo. Madrid: Ediciones Cátedra.

WEF (2021): Global Gender Gap Report 2021. World Economic Forum. Disponible en: https://www.weforum.org/reports/global-gender-gap-report-2021/ [05/05/2023].

WEF (2022): Global Gender Gap Report 2022. World Economic Forum. Disponible en: https://www.weforum.org/reports/global-gender-gap-report-2022/ [05/05/2023].

Winner, Langdon (2008): La ballena y el reactor una búsqueda de los límites en la era de la alta tecnología. Barcelona: Gedisa.

Young, Erin; Wajcman, Judy y Sprejer, Laila, (2021): “Where are the Women? Mappingthe Gender Job Gap in AI. Policy Briefing: Full Report”. En: The Alan Turing Institute. Disponible en: https://www.turing.ac.uk/research/research-projects/women-data-science-and-ai [05/05/2023].

Zou, James y Schiebinger, Londa (2018): “AI can be sexist and racist — it’s time to make it fair”. En: Nature, nº. 559, pp: 324-326. Disponible: https://doi.org/10.1038/d41586-018-05707-8 [05/05/2023].