Expertas alertan del machismo en la Inteligencia Artificial

La inteligencia artificial es muy artificial pero no demasiado inteligente. Aunque con diferentes palabras, coincidieron en esta idea las cuatro expertas que participaron ayer en la tercera edición del encuentro 'Género y comunicación de la ciencia', organizada por la Cátedra de Cultura Científica de la UPV/EHU, celebrado en la torre Iberdrola, en Bilbao, que alertaron de los sesgos machistas que afectan a esta tecnología.

La IA no es una innovación neutra, porque la información de la que se nutre viene de una fuente que tampoco lo es: nuestra propia sociedad, de la que forman parte sus desarrolladores y propietarios. El problema es que la gente recurre a productos como Grok o ChatGPT para resolver una duda, dar salida a una discusión o verificar un dato como si se trataran de entidades y fuentes de saber inmaculadas, inteligencias sobrehumanas libres de todo prejuicio, cuando no lo son. En el encuentro disertaron y discutieron sobre esta cuestión la periodista Esther Paniagua, la doctora en psicología Ujué Agudo, la divulgadora Gisela Baños y la filósofa y física Lucía Ortiz de Zárate.

«Loro estocástico»

Esther Paniagua insistió en que la «IA inteligente no existe». Es «un sistema probabilístico, un loro estocástico que regurgita y reproduce» lo ya dicho con sus correspondientes sesgos. El problema es que la IA se está usando para «generar textos, imágenes e ilustraciones» como si fuera una fuente fiable. Y no solo por usuarios de a pie, también por medios de comunicación. Paniagua destacó que todo lo que produce la IAestá marcado por estereotipos y abogó por un uso crítico y transparente de estas herramientas.

Ujué Agudo, por su parte, puso el acento en las falsas narrativas que rodean a la IA, «las ideas de eficacia y superioridad sobre la mente humana», que llevan a confiar acríticamente en estas tecnologías. Incluso cuando se utilizan como medio para marcar objetivos militares en Gaza o medir la posibilidad de que un convicto no vuelva a reincidir en Cataluña. «Somos conscientes de que la IA tiene sesgos, pero a la vez creemos que es más eficaz que los humanos y más objetiva.Es la narrativa de que la IA supera a los humanos». Pero no es así. Gisela Baños rastreó los orígenes de esa confianza ciega en la tecnología en las utopías de la ciencia ficción clásica, mientras que Lucía Ortiz de Zárate expuso «los dos grandes mitos que determinan nuestra aproximación acrítica a a la tecnología»: que esta «es neutral y que es sinónimo de progreso». Planteó varias propuestas «para una IAfeminista», tanto técnicas como políticas, que fueron desde la necesidad de «equipos de programación diversos» a la alfabetización digital y la regulación.

• Temas
• Inteligencia artificial
• Medios de comunicación
• ciencia
• Iberdrola
• UPV