Inteligencia Artificial y Sociedad: Una Charla de Randy Fernando
Randy Fernando, cofundador del Center for Human Technology, ofrece una perspectiva interesante sobre como Inteligencia Artificial y Sociedad se entrelazan en nuestra era digital, marcando el rumbo de nuestro futuro colectivo. La charla de Fernando “AI Town Hall” nos conduce a un viaje a través de la evolución de la IA, sus impactos económicos y sociales, sus peligros y oportunidades, y nos aconseja sobre cómo podemos navegar en este mar de incertidumbres para cosechar sus beneficios y minimizar sus riesgos.
CluPad es una publicación que cuenta con el respaldo de los lectores. Para recibir nuevos posts y apoyar mi trabajo, considera convertirte en un suscriptor gratis o de pago.
Índice de contenidos
Claves y vídeo de la charla sobre Inteligencia Artificial y Sociedad
- 🧠 Habilidades de la IA: La generación de contenido por IA es revolucionaria, aunque las “alucinaciones” representan desafíos.
- 📈 La Mejora Continua de la IA: La evolución constante de la IA con un aumento de las capacidades y complementos es impresionante.
- 📰 Hype y Miedo a la IA: Necesitamos una comprensión equilibrada de la IA para evitar políticas reactivas y fomentar regulaciones apropiadas.
- 🖥️ Cómo Funcionan los Modelos de Lenguaje de Aprendizaje: La diferencia entre algoritmos procedimentales y redes neuronales es crucial para comprender los mecanismos de la IA.
- ⚠️ Riesgos de la IA: Los peligros inmediatos y a largo plazo de la IA incluyen desde la creación de deepfakes hasta la potencial adquisición de armas.
- 💰 IA y Economía: La IA tiene un impacto considerable en la economía y puede acelerar los cambios socioeconómicos.
- ⚖️ La Disparidad Profunda: La IA podría agravar la desigualdad social y provocar la pérdida de empleos.
- 🌐 Caminos a Seguir: Se sugieren soluciones como la intervención en los precios y la coordinación global para abordar los desafíos de la IA.
- 🤖 El Futuro de la IA: A medida que evolucionamos hacia un mundo más digital, la IA jugará un papel cada vez más transversal.
- 🎓 Conocimiento y Conciencia: Es esencial que nos eduquemos y participemos en las conversaciones sobre la IA para moldear un futuro sostenible y equitativo.
Si te apetece puedes acceder al mapa mental con las notas que he tomado mientras he visto la charla.
Las impresionantes habilidades de la IA
Randy Fernando destaca la increíble capacidad de la Inteligencia Artificial (IA) para generar contenido. Texto, imagen, audio y video se generan cada vez más con IA, proporcionando variedad de usos para todo tipo de organizaciones, modelos de negocio. Vamos desde la publicidad hasta la educación y más allá (como diría Buzz Lightyear). Sin embargo, no podemos dejar de lado con lo que se denomina “alucinaciones”.
La IA puede “alucinar”, o generar respuestas a preguntas o situaciones para las que no ha sido entrenada o para las que no tiene suficiente información. Esto supone todo un reto para los usuarios, ya que o sabes de qué está escribiendo, o sencillamente puede colarte algo sin ningún tipo de problema.
Si os fijáis en la imagen de cabecera, es una escena de los Jetsons (Los supersónicos en España) en las que una máquina, se supone con IA, viste de manera automática a las personas. Y como se puede ver el resultado puede que no siempre el resultado sea el más óptimo, que haya “alucinado”. Una última referencia a los Jetsons. Me he acordado de ellos porque Alorza los utilizaba siempre para hablar de administración electrónica. Y lo que dice Alberto vale mucho.
Mejoras continuas y adaptabilidad de la IA
La adaptabilidad y la constante evolución de la IA es otro tema que Fernando aborda en profundidad en la charla. Explica la diferencia entre las capacidades de generación y razonamiento de la IA de hace unos años y las capacidades actuales, destacando las mejoras significativas entre las versiones GPT-3.5 y GPT-4 de los modelos de lenguaje de OpenAI.
Otro elemento a tener en cuenta es el creciente número de complementos de IA disponibles. Desde junio de 2023, estos complementos han aumentado exponencialmente. Estos complementos aportan una versatilidad increíble a estas herramientas y permiten que realicen tareas tan diversas como el análisis de datos, la visualización y la edición de imágenes, entre otras.
Precisamente cuando estoy escribiendo esto he estado probando “Code Interpreter” de ChatGPT y literalmente me está explotando la cabeza.
Hype y miedo en torno a la IA
El hype y el miedo en torno a la IA son elementos inevitables en cualquier conversación sobre el tema. Lo que está de moda y el alarmismo son cosas que van de la mano. Y aunque la IA puede ser una gran ventaja para las empresas y organizaciones, también puede generar miedo y ansiedad en el público. Está visto que todo lo tecnológico nos provoca ansiedad, ya sea porque nos lo hemos olvidado (nomofobia), porque tenemos miedos de perdernos algo y estamos todo el día enganchados a la pantalla (FOMO), porque va lenta y dejamos de tener inmediatez o sencillamente porque es complicada y no sabemos utilizarla.
Ese miedo, ansiedad ya se está colando en la agenda política y puede llevar a políticas reactivas en lugar de proactivas. Y ahí radica el peligro: en un intento por proteger, podemos terminar implementando regulaciones mal dirigidas o excesivas que hacen más daño que bien. En este aspecto, parece que la Unión Europea está tomando cartas en el asunto y, ya que el liderazgo en innovación y desarrollo parece que ha quedado para otros, al menos en regulación, está tomando la iniciativa.
Comprendiendo los Grandes Modelos de Lenguaje
En la charla, Fernando profundiza en los fundamentos técnicos de la IA, explicando cómo funcionan los grandes modelos de lenguaje. Resalta la diferencia entre los algoritmos procedimentales, que se basan en árboles de decisiones y son relativamente transparentes, y las redes neuronales, que son más una “caja negra” en cuanto a su funcionamiento.
Los modelos de lenguaje, como GPT-4, construyen comprensión a través de una combinación de capas, embeddings, agrupamiento (clustering), posicionamiento y atención. Este enfoque multifacético, aunque complejo, es crucial para la capacidad de la IA de entender y generar lenguaje de manera efectiva. Y comprender estos modelos y como hacen las cosas sería necesario por parte de usuarios, creadores y legisladores para tener una visión correcta de lo que hay en Inteligencia Artificial.
Peligros presentes y futuros de la IA
También habla de los peligros de la IA. Habla tanto de los peligros inmediatos como de los a largo plazo, proporcionando una visión completa de los posibles riesgos asociados con el uso de la IA.
A corto plazo, los peligros pueden incluir las alucinaciones de la IA, así como la creación de deepfakes ideales para la propagación de Fake News, ya que pueden ser usados para engañar a la gente y manipular la realidad de las personas. También destaca la posibilidad de que la IA se utilice para la ingeniería social, un tipo de ciberataque que se basa en la manipulación humana.
A largo plazo, advierte, que los riesgos se vuelven aún más serios. Los sistemas de IA tienen el potencial de ser empleados en estrategias políticas. Es más, ya lo estamos viendo en todo tipo de campañas. Pero ese peligro no acaba ahí, el empleo no adecuado de la IA tiene el potencial de cambiar radicalmente el equilibrio de poder en el mundo.
Economía e IA
El impacto de la IA en la economía es un aspecto crítico de la charla. Destaca cómo la IA tiene el potencial de acelerar los cambios en los sistemas e ideas socioeconómicas existentes, lo que puede tener consecuencias tanto positivas como negativas.
Sin embargo, también advierte sobre las actuales prácticas extractivas de la tecnología, afirmando que estas necesitan ser examinadas y reevaluadas para asegurar que nuestras instituciones estén en consonancia con nuestras necesidades y valores actuales. Hay que evitar el colonialismo tecnológico, el extractivismo de los datos, el fortalecimiento de los sesgos y todo un sinfín de elementos que pueden provocar que por un consumismo malentendido seamos capaces de vender hasta nuestra madre.
La desigualdad potencial
El problema de la desigualdad social, exacerbado por la IA, es otra preocupación que se plantea. Argumenta que el rápido desarrollo de la IA podría agravar la desigualdad al desplazar a los trabajadores humanos, y que las soluciones podrían incluir intervenciones en los precios, así como la coordinación global. Lo que está claro es que tendrá su impacto en conflictos y democracias, y corremos el peligro de llegar a un mundo sin ideas, ya que la IA nos despersonalice y pese a que aumente la desigualdad entre las personas, no seamos capaces de percibirlo.
El camino a seguir
Ray Fernando aboga por una serie de soluciones para hacer frente a los desafíos de la IA. Incide en la necesidad de incluir un compromiso constante con la educación y la concienciación sobre la IA. También aboga porque haya intervenciones en los precios para equilibrar los efectos económicos de la IA, y una coordinación global para asegurar que los beneficios y los desafíos de esta se gestionen de manera efectiva y equitativa.
Concluye su charla señalando que, a medida que evolucionamos hacia un mundo más digital, la IA jugará un papel cada vez más integral en nuestras vidas. Nos insta a educarnos y a participar activamente en las conversaciones sobre la IA para ayudar a moldear un futuro que sea sostenible y equitativo.
Conclusión sobre la charla sobre Inteligencia Artificial y Sociedad
La charla de Randy Fernando sobre la Inteligencia Artificial y la Sociedad ofrece una visión clara y completa de las capacidades de la IA, sus retos y las soluciones para afrontarlos. Nos recuerda que, si bien la IA tiene un gran potencial, también tiene riesgos. Y es crucial que nosotros, como sociedad, estemos conscientes y preparados para manejar esos riesgos. Para ello, debemos esforzarnos en educarnos y en mantenernos comprometidos. Solo así podemos asegurarnos de que esta se desarrolle de una manera que beneficie a todo el mundo y no solo a unos pocos privilegiados.