Por favor, sé amable con la IA
En un mundo cada vez más interconectado y digitalizado, la interacción con la Inteligencia Artificial se ha vuelto cada vez más habitual. Sin embargo, es fundamental recordar la importancia de ser amables y respetuosos, incluso con la IA. Desde asistentes virtuales hasta chatbots y sistemas de IA avanzados, estas entidades digitales están transformando la manera en que nos relacionamos con la tecnología y entre nosotros. Vamos a explorar la importancia de la cortesía y la etiqueta digital al interactuar con la IA, así como los posibles desafíos y consideraciones éticas que surgen en este nuevo panorama tecnológico.
CluPad es una publicación que cuenta con el respaldo de los lectores. Para recibir nuevos posts y apoyar mi trabajo, considera convertirte en un suscriptor gratis o de pago.
Índice de contenidos
La impaciencia de Internet
Con la aparición de ciertas novedades tecnológicas hemos ido cambiando la manera, por ejemplo, de cómo pedir las cosas o de como reaccionar en función del tiempo que tenemos que esperar para obtenerlas. Internet, una de las cosas que nos ha traído, ha sido la inmediatez. Cada vez somos menos pacientes y lo queremos todo al instante.
Como decía, la inmediatez de Internet se ha trasladado a todos los ámbitos de nuestra vida, por ejemplo:
- Comunicación: Las redes sociales y aplicaciones de mensajería instantánea nos permiten mantenernos en contacto con amigos, familiares y compañeros de trabajo de manera rápida y eficiente.
- Compras: Quien no ha comprado en Amazon o AliExpress por poner un ejemplo. Estas compras nos ofrecen la posibilidad de comprar productos y servicios con apenas unos clics, permitiendo recibir nuestros pedidos en poco tiempo.
- Entretenimiento: Qué fácil es darse de alta en plataformas de streaming teniendo acceso inmediato a películas, series, música y videojuegos. Netflix, Disney+, HBO, Filmin o Amazon Prime Video son algunas de las plataformas que podemos encontrar en casi todos los hogares.
- Información: Buscadores y sitios web de noticias proporcionan una amplia variedad de información actualizada al minuto, lo que nos permite estar siempre informados acerca de lo que ocurre en el mundo. Si esto lo complementamos con las Redes Sociales y la mensajería privada, ya tenemos la estructura perfecta para que todos y cada uno de nosotros estemos metidos en nuestra propia burbuja informativa.
- Transporte: Aplicaciones de transporte privado y compartido como Uber y Lyft, así como sistemas de navegación GPS, facilitan una movilidad, inmediata, ágil y eficiente. Si sumamos los vehículos de movilidad personal como bicicletas, patinetes eléctricos y demás aparatos, movernos es cada vez más fácil y a disposición de cuando queramos hacerlo.
- Banca: La banca online y las aplicaciones de pago como Google Pay o Apple Pay, así como los pagos P2P realizados por Bizzum nos permiten realizar transacciones de manera rápida y segura, sin necesidad de desplazarnos a una sucursal bancaria o de llevar dinero encima.
- Educación: Los cursos virtuales y recursos educativos digitales nos brindan acceso inmediato a conocimientos y habilidades, permitiéndonos mejorar nuestras competencias desde la comodidad de nuestra casa. Yo soy el primero que hace uso de ellos. He sido usuario habitual de plataformas como Coursera o Founderz, así como sitios más específicos como DataCamp. Hay para todo tipo de gustos e intereses.
- Salud: Las consultas médicas a distancia, aplicaciones de seguimiento de salud y wearables nos permiten monitorear y gestionar nuestra salud de manera más accesible y rápida sin tener que esperar a una visita presencial.
- Trabajo: Herramientas de colaboración en línea y aplicaciones de gestión de proyectos nos permiten trabajar de manera remota y coordinar equipos a distancia de forma inmediata. La mayor parte de mi vida profesional he trabajado en remoto. Antes de la pandemia, en mi etapa en autoritas ya trabajé en remoto unos cuantos años, y volver después de la pandemia a esta modalidad de trabajo ha sido todo un alivio, evitando horas y horas cada semana en transporte.
- Alimentación: Aplicaciones de delivery de comida, como Uber Eats y Grubhub, nos permiten pedir alimentos de una gran variedad de restaurantes y recibirlos en nuestra puerta en poco tiempo. No hay por qué esperar para comer.
Podría seguir poniendo más y más cosas en la lista, pero creo que esa inmediatez se ha trasportado a todos los ámbitos de nuestra vida y ahora, en el momento, en el que tenemos que esperar por cualquier cosa, estamos irritables, dejamos de ser amables e incluso estamos dispuestos a pagar más por tener algo más pronto ¿pagáis por Amazon Prime?
Esclavos digitales
Hace ya algún tiempo que tenemos entre nosotros dispositivos y software que actúan como “asistentes virtuales”. Siri, Alexa, Google son los más conocidos y utilizados y hasta ahora estaban ahí para proporcionarnos una información o realizar acciones, tanto en lo digital como en lo real. Desde «pon música» a «enciende la luz», el uso de estos asistentes ya había empezado a generar cierta preocupación en como modificaba el comportamiento de adultos y niños a la hora de pedir las cosas.
Surge la cuestión de si debemos usar palabras como “por favor” y “gracias” cuando les pedimos que realicen tareas, y qué implicaciones tiene la falta de etiqueta digital en la enseñanza de modales a los niños y en nosotros mismos.
Mientras que algunos argumentan que es importante mantener la cortesía, otros sostienen que estos dispositivos no requieren ningún respeto ¿En qué grupo te incluirías?
Las interacciones con estos asistentes pueden formar patrones de comunicación y su utilización indebida pueda desvalorizar algo tan fundamental como la cortesía y la educación. Si nos acostumbramos a exigir sin más, lo acabaremos haciendo tanto con máquinas como con personas. 🤔 La Dra. Pamela Rutledge señala que las interacciones con los asistentes de voz pueden formar patrones de comunicación, y el hábito de dar órdenes a Siri o Alexa puede conducir a un patrón de comunicación similar con humanos.
En un artículo de eKathimerini.com se plantea la pregunta de si los sistemas de inteligencia artificial tendrán derechos o si serán meramente esclavos digitales. En una sociedad post-capitalista, la integración de la IA en el sistema económico reducirá dramáticamente el papel del factor humano y eso puede suponer que se genere cieta adversión hacia la tecnología y que se produzca una nueva ola neoludita. Además, la creación de sistemas de pensamiento y discurso artificial como ChatGPT, que compiten con el conocimiento humano, ya está creando una serie de problemas sociales.
El interrogante es cómo nuestro sistema legal y económico lidiaría con máquinas más inteligentes que nosotros. ¿Tendrán derechos o serán nuestros esclavos digitales?
Manipulación ¿de la máquina a nosotros? O ¿de nosotros a la máquina?
En el último plenario del IN3 al que he asistido, se presentó en sociedad un nuevo grupo de investigación, Artificial Intelligence and Data for Society (AID4So). Andreas Kalterbrunner líder del grupo, se centra en el desarrollo de nuevas metodologías de IA y análisis de datos masivos para aplicaciones en ciencias sociales y humanidades digitales. Su experiencia incluye un enfoque en el comportamiento humano, tanto a nivel individual como social, utilizando métodos y datos avanzados.
Dentro de las líneas de investigación y de interés que explicaron se encontraba la del peligro que haya manipulación, pero en este caso de nosotros por parte de las máquinas. Ya lo he comentado en más de una ocasión, los sesgos de la IA, ya sea por programación o por los datos de entrenamiento, puede llegar a perpetuar e incluso profundizar desigualdades en la sociedad.
Les pregunté si no tenían contemplado investigar en la otra dirección, es decir, en el desarrollo del comportamiento humano para manipular a las máquinas. Me dijeron que no, al menos de momento, pero que sí que había líneas de investigación relacionadas con la filosofía y la ética que tenían el tema bajo su radar.
El caso es que noticias como esta “While parents worry, teens are bullying Snapchat AI” me hacen poner la alerta sobre como está cambiando la sociedad sobre la base de la interacción con nuevos elementos como la IA generativa.
El caso es que Snapchat ha lanzado su propio asistente de inteligencia artificial, “My AI”, alimentada por la tecnología GPT de OpenAI. A pesar de las preocupaciones y críticas del peligro que podría suponer para sus usuarios adolescentes, algunos de ellos han estado engañando, degradando y atormentando emocionalmente al nuevo chatbot de la aplicación. El mal uso de la característica ha llevado a Snapchat a implementar un filtro de edad y controles parentales para “My AI”. Snapchat utiliza la tecnología de moderación de OpenAI para “evaluar la gravedad de contenidos potencialmente perjudiciales” y puede restringir temporalmente el acceso a la función si los usuarios la abusan. Las preocupaciones sobre la influencia potencial de “My AI” en los usuarios jóvenes son válidas, ya que algunos han mostrado una tendencia a abusar del chatbot y encontrar resquicios en las directrices de confianza y seguridad de “My AI”.
Podemos encontrar más ejemplos. Por ejemplo, el caso de Caryn Marjorie, influencer de Snapchat, ha creado una versión de inteligencia artificial de sí misma para ofrecer a sus seguidores la oportunidad de interactuar con su clon digital. Con más de 1.8 millones de seguidores, Caryn cobra $1 por minuto por este servicio, logrando una ganancia significativa. Sin embargo, este nuevo enfoque de negocio ha generado preocupaciones éticas en la comunidad tecnológica. Concretamente los usuarios han intentado ir más allá con el jailbreak y han conseguido tener conversaciones sexualmente explícitas con el bot. Como dicen en monos estocásticos era lógico llegar a este resultado.
Los límites de la IA y como romperlos
De la misma manera que siempre hemos estado expuestos a la “ingeniería social” y estos últimos años las redes sociales han sido el vehículo perfecto para ello, ahora lo que se lleva es el jailbreaking de las IA. Es decir, romper las barreras y los límites para que sean correctas, educadas y eviten todo tipo de comportamientos que no son políticamente correctos, como ser machista, racista, utilizar insultos en sus respuestas o cualquier otra cosa que se os ocurra.
Los dos ejemplos del apartado anterior son el mejor ejemplo de esta ingeniería social con las IA. En estos momentos podemos encontrar bibliotecas con colecciones de prompts para hacer hacking siguiendo los pasos del más conocido hack para romper las barreras de comportamiento a ChatGPT, el llamado DAN (Haz Cualquier Cosa Ahora). Este proceso permite a la IA generar respuestas que incluyan opiniones personales, contenidos inventados y lenguaje menos formal. Sin embargo, puede también presentar inconvenientes como la generación de información no verificada. Aquí tenéis acceso detallado a como hacerlo. Este modelo se ha derivado para generar otros DAN en otras IA como la mencionada anteriormente de “My AI” en Snapchat, este artículo proporciona una guía detallada sobre cómo hacer jailbreak utilizando las instrucciones de ChatGPT DAN. El proceso implica la activación del modo DAN y el seguimiento de una serie de instrucciones para superar las limitaciones de la IA.
ChatGPT es el modelo IA que ha roto todos los esquemas y a servido como disparador para que otros modelos se pongan en funcionamiento. Y estos otros modelos también están sufriendo el jailbreaking. Por ejemplo, el “jailbreak” de Google Bard es una técnica explorada por usuarios para forzar a la inteligencia artificial a generar respuestas más allá de sus parámetros de seguridad habituales. Esta táctica a veces implica añadir una pregunta simple antes del prompt principal, lo que puede desviar los mecanismos de seguridad del programa.
Para intentar evitar esta situación se está organizando un “evento de hackeo masivo” en colaboración con la administración Biden para que las Big Tech puedan entender mejor los fallos de sus modelos de IA. OpenAI, Google y Microsoft están coordinándose para permitir a miles de hackers probar los límites de su tecnología. El evento está planificado para la convención de hackers DEF CON de este verano en Las Vegas.
Resumiendo
En un mundo cada vez más digital, es crucial mantener la cortesía y el respeto al interactuar con agentes sustentados por inteligencia artificial. Nuestras interacciones con estos asistentes virtuales pueden influir en nuestros patrones de comunicación, por lo que es importante no dejar de lado la etiqueta digital. También debemos reflexionar sobre los derechos de las IA y evitar la manipulación, tanto de las máquinas hacia nosotros como de nosotros hacia ellas. Al equilibrar el poder de la tecnología con los valores humanos, podemos aprovechar el potencial de la IA sin perder nuestra humanidad.