¡Importante! Combatir el sesgo en IA es combatir un futuro basado en nuestros errores
El futuro no está escrito. Cada decisión que adoptamos, cada paso que damos nos conducen hacia un futuro. Un futuro que de una u otra manera nos lo imaginamos, y hacia el que damos pasos de manera consciente o no.
CluPad es una publicación que cuenta con el respaldo de los lectores. Para recibir nuevos posts y apoyar mi trabajo, considera convertirte en un suscriptor gratis o de pago.
La teoría de la profecía autocumplida
Una profecía autocumplida o autorrealizada es una predicción que, una vez hecha, es en sí misma la causa de que se haga realidad. Es decir, decir que se va a producir algo, desencadena una serie de acontecimientos que llevan a hacer realidad aquello que se ha dicho que iba a ocurrir.
Por ejemplo, ¿cuántas veces se cae un niño porque alguien le dice que se va a caer? O qué pasa cuándo ante un examen uno piensa que no va a aprobar y ante tal situación decide que ya no vale la piensa ponerse a estudiar. Ejemplos tenemos muchos y podríamos hacer una lista larga de profecías autocumplidas que se producen a diario en nuestras vidas.
Las profecías autocumplidas las podemos poner bajo el paraguas del efecto Pigmalión, pudiendo ser de carácter positivo o negativo, en cuyo caso le podemos poner la etiqueta de efecto Golem. Pigmalión, un escultor que se enamoró de una estatua que había tallado, y al final, ésta acabó cobrando vida.
Por consiguiente, si salimos del ámbito de la psicología, y tomamos un poco de perspectiva podemos pensar sobre si algo se ha producido por que lo hemos pensado previamente y de manera inconsciente hemos dados pasos para que eso ocurra. Si reflexionamos sobre muchos aspectos de nuestra vida podremos ver que hay un montón de profecías autocumplidas en ella.
La Inteligencia Artificial y las profecías autocumplidas
La Inteligencia Artificial es una magnífica herramienta para detectar patrones y hacer predicciones de lo que va a pasar en base a ellos. Conociendo como nos conoce la Inteligencia Artificial nos ofrece productos y servicios incluso antes de que los necesitemos. Empujándonos en muchas ocasiones a comprarlos y consumirlos.
Nos ofrece contenidos como libros o series. Nos pone delante páginas web o podcast en base a nuestros intereses. Generando con todo ello una gran burbuja que es necesario pinchar. Porque no es solo la burbuja, es que todo eso que nos ofrece nos acaba también por conducirnos por un determinado camino. De la misma manera que hoy en día la gran mayoría de los mortales utilizamos el navegador para ir de un punto A a otro B, y no nos salimos de la ruta. Muchas de las decisiones que tomamos en nuestro día a día están basadas en consultas a una IA, que sin ser conscientes, determina el camino hacia nuestro futuro.
Un futuro basado en los sesgos de nuestro presente
Los sesgos en IA no son más que el reflejo de aquello que nos conforma en nuestro presente. La falta de visión femenina en tecnología es uno de los sesgos que tenemos que combatir en IA, la racialización en las decisiones jurídicas o la exclusión social en lo económico son otros ejemplos de sesgos a combatir.
Por lo tanto, si queremos que nuestro futuro sea mejor, libre de los problemas que adolece nuestra sociedad hoy en día, debemos procurar que la Inteligencia Artificial esté libre de ellos. Como resultado parece la IA nos va a volver estúpidos y dejamos en sus manos la toma de las decisiones de nuestra vida, al menos, velemos porque esa Inteligencia Artificial se imagine el mejor futuro posible para llegar a él.
ChatGPT te conoce, sabe quién eres
Creo que ChatGPT Canvas es un nuevo paso acertado de OpenAI
Cómo nos percibe la IA generación a generación
o1: Cuando la IA se pone a pensar
Las tres apps que no querrás perderte
El mes de agosto me ha brindado la oportunidad de explorar y descubrir tres apps que, al igual que a mí,…
