Los sesgos del algoritmo: La importancia de diseñar una inteligencia artificial ética e inclusiva

by Gabriela Arriagada Bruneau

¿De qué manera funcionan los sistemas de inteligencia artificial? ¿Por qué es importante fortalecer el nivel de transparencia, explicabilidad y privacidad? ¿Es posible prevenir la discriminación en el diseño de los programas? ¿Podemos personalizar las tecnologías para reforzar la inclusión de minorías sexuales, raciales y personas neurodivergentes?

A diferencia de otros ámbitos tratados por la ética —como el medioambiente o los animales—, la IA no está viva, aprende con datos y comportamientos humanos y, por ende, es un instrumento que refleja nuestras inclinaciones morales y culturales. En esta línea, Gabriela Arriagada Bruneau —filósofa y científica computacional— explica cómo los distintos tipos de sesgos y discriminación pueden prevenirse no sólo perfeccionando la tecnología, sino atendiendo las diversas realidades e integrando múltiples enfoques y disciplinas.

Los sesgos del algoritmo es un ensayo destinado a todo público interesado en comprender los factores éticos y sociales implicados en la IA. La importancia de lograr un acceso más universal a la tecnología e integrar a personas con limitaciones sociales o cognitivas, implementar herramientas educativas, y precisar el diagnóstico y tratamiento de diversas enfermedades.

120 pages, Paperback

First published January 1, 2024

Reviews

[flopadopa · Rating 4 out of 5]

Me gustó mucho, un buen acercamiento a las consideraciones éticas que debemos tener las personas que trabajamos con IA. Con perspectiva de genero y con las neurodivergencias. Igual quedé con algunas dudas y con ganas de escucharla en un conversatorio, de todas maneras te hace reflexionar sobre el tema.

[Fer Benavides · Rating 5 out of 5]

Que interesante temática la expuesta, no sólo porque resulta clave hablar de la ética en IA, sino porque además aborda específicamente lo neuroqueer, que muchas veces es dejado de lado.

Agradecida de poder leer buenos trabajos de autoras feministas que van mucho más allá del género y entienden la importancia de abarcar el debate con enfoques claves para la actualidad.

Esta lectura será muy útil para mi tesis, así que estoy muy feliz de haberlo leído ;)

[Cristian Rodriguez · Rating 2 out of 5]

Aplaudo la iniciativa de la autora por enfrentar estos temas, que van tan atrás en el desarrollo de la IA que se ve hoy. No obstante, me parece que el libro queda muy corto en su aproximación a los temas. Plantea muchas interrogantes, sin profundizar mucho en ninguna, hablando en términos genéricos y poca referencia a casos reales. Me hubiese gustado ver análisis de casos en profundidad, desarrollos conceptuales, distinciones bien aclaradas, recorrer debates actuales en el tema. Me sobraron cosas como “x se relaciona con Y” (sin explicar la relación), “X es muy importante” o “X es interesante” (sin explicar por qué), y muchos “hay que”, pero pocos argumentos.

Todo esto, con respeto a su perspectiva abiertamente feminista y neuroqueer, que se da por asumida sin entrar en las complejidades filosóficas de cualquier epistemología situada (standpoint eistrmology).

Ojalá que la autora esté preparando un libro con más contundencia en la que aborde en profundidad varías de las ideas, algo gratuitas, aquí esbozadas.

[David Leal Olivares · Rating 5 out of 5]

Este libro es una muy buena introducción al problema de adecuar el desarrollo de la IA calibrando su impacto en la sociedad y las personas. Desde el inicio, se nota el cuidado y la dedicación de la autora para abordar un tema tan complejo y actual como es el impacto de la inteligencia artificial. En especial tomando puntos de vista que mezclan lo testimonial con la necesidad de extender el enfoque de análisis

Es impresionante cómo explica de forma muy fácil conceptos y casos complejos. Ella logra desglosar teorías y ejemplos que, en otras circunstancias, podrían resultar abrumadores de una manera transparente. Con un lenguaje claro y accesible, se ofrece una comprensión profunda y bien estructurada de los desafíos y oportunidades que presenta la IA.

Lo mega recomiendo en especial si quieres saber más del tema en español. Es una obra imprescindible para quienes buscan entender cómo la IA está transformando el mundo y cómo podemos asegurarnos de que su desarrollo beneficie a todos.

[Elisa Menz · Rating 5 out of 5]

Una excelente lectura para introducirse en el mundo de la IA, que cada vez gana más terreno en la sociedad.
Este ensayo responde muchas de las preguntas más acuciantes en relación al desarrollo y uso aplicado de las IA, en donde muchos vemos acelerados avances que no siempre aparentan tener mucho sentido o ética. Una combinación peligrosa para tecnologías que buscan ser aplicadas de innumerables maneras en nuestra vida cotidiana.
Se aclaran muchas dudas de manera simple, y se plantean interrogantes que el común de los mortales (me incluyo) no tiene aún muy claro cómo expresar.

[Claudio Jiménez · Rating 4 out of 5]

Libro sumamente interesante. Pensé que iba a tener un enfoque más cercano de sesgos a nivel técnico de los modelos. El hecho de que lo haya abarcado de manera más sociocultural me pareció un acierto ya que me provocó un mayor cuestionamiento personal ante los mecánicos existentes. Creo que me hubiese gustado leer más soluciones, se plantean las problemáticas pero no todas se abarca una solución para estas. Grandes problemas conllevan grandes soluciones.

[Arturo · Rating 4 out of 5]

“Los sesgos del algoritmo” de Gabriela Arriagada Bruneau es un ensayo imprescindible que aborda con brillantez los desafíos éticos de la inteligencia artificial en nuestro tiempo desde un contexto latinoamericano. Gabriela explica de manera accesible con ejemplos la forma en que los algoritmos reflejan nuestros sesgos culturales y ofrece soluciones para construir una IA más inclusiva.

[mr_rax · Rating 5 out of 5]

Muy interesante la temática y la conexión que hace respecto a la importancia de la ética en el diseño de sistemas de IA. Levanta muchas preguntas sobre cómo enseñamos, diseñamos y usamos sistemas de IA.

[María Paz · Rating 5 out of 5]

inspirada.

[Christian · Rating 3 out of 5]

Es un ensayo para abrir los ojos en este ámbito de la tecnología relacionada con Ai. Creo le faltó profundidad, pero está bien para abrir debate.