¿Qué es la IA? ¿Debemos temerles a los algoritmos?¿Cómo relacionar los sesgos algorítmicos con prejuicios humanos? ¿Cómo combatir los sesgos algorítmicos? ¿Por qué nos preocupa la diversidad en la tecnología? Diversidad y gestación de sesgos algorítmicos: ¿cómo trasladamos nuestra realidad a los sistemas de IA? ¿Cómo impacta la IA en la cultura? ¿Qué nos depara el futuro?
En este episodio Cecilia Danesi, especialista en inteligencia artificial, ética, derechos y géneros, autora de “El imperio de los algoritmos”, editado por Galerna, derriba mitos sobre la relación entre Inteligencia Artificial (IA), cultura y género.
Para volver a escuchar el programa de esta semana, podés hacerlo acá.
A continuación, algunas de las ideas principales en la voz de nuestrxs entrevistadxs:
¿Cómo se generan los sesgos y estereotipos a partir de los algoritmos?
Cecilia Danesi, Abogada especializada en IA, Derecho y Género
“Los algoritmos aprenden de los datos, lo que hacen es reproducir los estereotipos y los prejuicios que tenemos en una sociedad. Entonces, ¿qué va a pasar o cuál va a ser el resultado? En muchos casos, grupos que ya son vulnerables o grupos minoritarios siguen estando marginados. Es decir, esa situación de desigualdad se refuerza.
Una investigación de la Universidad de Washington realizó recientemente un experimento con un robot que se llama CLIP. Había imágenes de distintas personas y se le indicaba: Poner en la caja al médico. Entonces siempre se ponían personas blancas. Poner el delincuente, entonces se ponían personas latinas o afroamericanos. Así actuaba este robot, con muchísimo prejuicio. Este experimento refleja lo que luego hacen cada uno de los algoritmos que interactúan permanentemente con nosotros. Lo que decían estos investigadores era: este sesgo, este prejuicio nace de los datos con los cuales se entrenó a este robot.
Estas brechas sociales que tenemos hoy en día se están intensificando con estos algoritmos prejuiciosos. Pero qué es lo que tenemos que hacer para tener una IA ética e inclusiva. Hay que decir que si al sistema le falta información entonces que se frene para que no actúe con sesgos y con estereotipos, porque el daño que tiene esto en la sociedad es muy grande. Puede, por ejemplo, vedar el acceso a una persona a una vacante en una universidad o a un turno médico.”
¿Existen límites culturales en la IA ?
Cecilia
“La tecnología no reconoce fronteras. Es un poco prepotente, llega, se instala y empieza a funcionar. Lo mismo pasa con los sistemas de IA . Entonces pensemos que los sistemas se desarrollan con la ideología, la cultura, la cosmovisión, la identidad del lugar donde se están desarrollando. Con los datos, los parámetros y los valores de ese lugar. Entonces acá lo que es muy importante -es uno de los ejes del libro- es reivindicar la identidad iberoamericana en el desarrollo de la IA . No podemos seguir utilizando sistemas de IA que han sido desarrollados y creados con valores y principios completamente distintos a los nuestros.
Seguramente hay países donde las mujeres ocupen otro rol, donde tengan que estar cubiertas, donde haya etnias que acá no hay y viceversa. Entonces esa diversidad tiene que estar presente en los algoritmos, justamente, porque y de lo contrario lo que haríamos sería aplicar acá algo que en realidad no existe y que nos terminaría afectando negativamente porque no nos está representando a nosotros, está representando otra cultura.”
Voces en Rayuela:
¿Cuál es el mayor desafío ético al que nos confrontan los algoritmos y la inteligencia artificial?
Joan Cwaik, Docente y divulgador, especializado en tecnologías emergentes y sociedad
“Creo que el mayor desafío ético al que nos confrontan los algoritmos y la inteligencia artificial está vinculado a la autodestrucción de la especie humana o a la autosuperación permanente. Es indispensable encontrar un equilibrio entre la ética y los avances técnicos y tecnológicos. No se puede concebir y no se puede seguir concediendo que los conocimientos e invenciones técnicas sigan progresando sin unas bases lógicas y morales para la implementación de inteligencias artificiales y algoritmos, para poder garantizar la protección y el mayor beneficio de la humanidad. Ahora bien, yo cierro con otra pregunta, ¿los seres humanos estamos listos para asumir como uno de los mayores retos de la humanidad, todos los cambios éticos que traen como consecuencia la implementación de la inteligencia artificial y los algoritmos?”
¿Cómo afecta la IA y los algoritmos nuestras vidas cotidianas? ¿Cuáles son los desafíos que se nos plantean como sociedad?
Alexandre Sayad, Periodista y educador; Co-Presidente de la UNESCO MIL Alliance
“El punto de partida es que la inteligencia artificial está presente en nuestro día a día, sin darnos cuenta. En internet, en aplicaciones financieras, redes sociales e incluso en algunos chat bots. Por otro lado, no todo el lenguaje digital utiliza inteligencia artificial.
Los algoritmos de IA se caracterizan por utilizar una gran cantidad de datos e incluso aprenden de estos datos. Me gustaría de señalar que estos algoritmos median la relación humana con la realidad. Así, en Internet cortan la realidad con la que interactuamos, alejándonos muchas veces de la diversidad de opiniones y manteniéndonos en burbujas informativas.
Además, el uso de datos puede afectar la privacidad de los usuarios y desarrollar una cultura de vigilancia. Finalmente, una realidad mediada por la IA nos anima a revisar cómo miramos y pensamos críticamente sobre el mundo que nos rodea. La pregunta final es cómo impactan los algoritmos en lo que conoce hasta ahora como pensamiento crítico. ¿Qué es pensamiento crítico en tiempos de inteligencia artificial?”
Los algoritmos de las redes sociales promueven la construcción de estereotipos y discursos de odio. ¿Cómo puede la educación contrarrestar esto?
Fernando Schapachnik, Director Ejecutivo de la Fundación Sadosky
“Con respecto a la influencia de los algoritmos en los discursos de odio, lo que hay que decir es que hay un resurgimiento del neofascismo alimentado por los discursos del odio que son propalados muy especialmente por las redes sociales. Por supuesto, es un tema de mucha relevancia. Ahora bien, hay que tener en cuenta que los algoritmos son como las biromes, son una herramienta que sirven a un fin. Uno puede con birome escribir una amenaza de muerte o una carta de amor. Con los algoritmos podemos hacer uno que salve vidas, uno que eventualmente le dé más relevancia a los mensajes socialmente importante o uno que propale los discursos del odio.
Pero lo que es importante, lo que deberíamos tomar como una consigna para nuestro sistema educativo, es que tenemos que enseñar que estos algoritmos fueron programados por personas que trabajan para empresas que a su vez tienen sus propios intereses y los imponen. Con lo cual, lo importante es entender que estos algoritmos que propalan el odio son algoritmos programados por alguien con un interés y que si nosotros profundizamos en el estudio de estos temas, podemos entender que los algoritmos, hoy en día, funcionan de una manera pero pueden funcionar de otra y que podemos tener un rol activo en definirlos. Por eso es importante entender desde la escuela cómo funciona la tecnología, la tecnología informática.”¿Cómo impactan los algoritmos y la aceleración de la transformación digital en nuestros consumos culturales?
Guillermo Oliveto, Especialista en conductas humanas y tendencias sociales
“El dilema es poder elegir. Hasta dónde los algoritmos, que en definitiva están desarrollados por los seres humanos y por lo tanto tienen una subjetividad y una intencionalidad, hasta donde estos algoritmos condicionan finalmente tu mindset. Tu capacidad de mirar la cultura, tu capacidad de entender al otro, tu capacidad de abrirte a lo que ya conocés y te resulta natural, a cosas nuevas, algunas te podrán genera rechazo o te podrán generar poco interés y otras te podrán sorprender y abrirte a nuevos mundos.
Me parece que el gran desafío intelectual frente a la cultura algorítmica es no quedar atrapado en una burbuja donde siempre se repita lo mismo y te termines contrayendo y achicando en lugar de expandir tu mente, tu cerebro, tu sensibilidad, que es claramente el rol de los consumos culturales.”
Para volver a escuchar el programa de esta semana, podés hacerlo acá.
){kind=link}