¿Es la IA generativa una caja de Pandora?

Publicado el 2 de agosto de 2023 | Revisado por Davia Sills

¿Por qué los mitos griegos siguen pareciendo relevantes después de miles de años de historia? Un cínico podría decir que las normas de la sociedad humana simplemente no han evolucionado mucho. Un filósofo más amable podría sugerir que estos mitos persisten porque revelan características esenciales de quiénes somos y cómo nos comportamos. ¿Qué dice esto sobre nuestras fortalezas y debilidades?

Se decía que la caja de Pandora contenía todas las miserias del mundo, todo lo malo que podría suceder. Antes de que se abriera la caja, vivíamos en un Jardín del Edén, para mezclar metáforas, donde todo era bueno y simple. Después, la vida se volvió más compleja y desafiante. Pero también en la caja había esperanza, una pequeña luz que podría inspirarnos a tener el coraje y la creatividad para persistir en la lucha por un futuro mejor. ¿Con qué frecuencia necesitamos que nos recuerden esta lección?

En su mayor parte, los tecnólogos son solucionadores de problemas. Más importante aún, buscan activamente problemas en los que trabajar porque esa es su idea de diversión. Los emprendedores también buscan problemas cuando ven los desafíos como oportunidades para el crecimiento personal y financiero.

Queremos aplicar nuestros conocimientos de ciencia y tecnología para hacer nuestra vida más fácil y agradable. ¿No es la esencia de este esfuerzo básicamente un impulso hacia una mayor productividad y disfrute? ¿Qué siguió a la implementación de la fabricación en línea de montaje del Modelo A de Ford? Los automóviles fueron demonizados y se aprobaron las primeras leyes para proteger a los caballos, así como a las personas.

Finalmente, después de varias décadas de innovación, se aceptó en general que las ventajas superaban los riesgos percibidos. La evolución de las normas de seguridad relativas a la construcción de automóviles aún está en curso. Las leyes que rigen a los conductores y la responsabilidad por accidentes siguen siendo un trabajo en proceso.

Según SAS, una de las empresas líderes que ofrece software de inteligencia empresarial y soporte de decisiones, el objetivo de la inteligencia artificial (IA) es proporcionar software que pueda razonar sobre la entrada y explicar la salida. La entrada son datos; el resultado es una descripción de las conexiones entre los datos. A partir de este tipo de capacidad, podemos inferir erróneamente que el software tiene "inteligencia" en el sentido de la comprensión humana del contenido.

La IA generativa (GenAI) lleva esta suposición al siguiente nivel porque la interfaz utiliza lenguaje natural e incluso voz. Esto es importante porque hemos sido socializados para aprender y creer en las palabras y los oradores. Usando GenAI y grandes modelos de lenguaje, el término técnico para este tipo particular de IA, todos nosotros, cualquiera que sepa leer y escribir, podemos acceder al poder de estas herramientas simplemente haciendo una pregunta en inglés común, cotidiano y coloquial. Una situación similar ocurrió cuando se inventó la World Wide Web como una interfaz para los recursos de Internet a los que antes sólo se podía acceder mediante instrucciones escritas en un lenguaje de software técnico.

ChatGPT es una GenAI que ya ha recibido conjuntos de entrenamiento que contienen todos los datos que están "en Internet". ¿Eso significa que es una fuente omnisciente de conocimiento y sabiduría, como el Oráculo de Delfos? ¿Qué sabe realmente el programa de software y cómo está programado para funcionar?

Hay muchos competidores en este espacio tan disputado, incluidos los de China, así como los principales gigantes tecnológicos nacionales y las nuevas empresas descaradas. Google ofrece Bard, su propia versión de GenAI que se parece a ChatGPT pero que tiene fortalezas y debilidades algo diferentes como tecnología. Meta busca aprovechar los datos de su gran cantidad de seguidores en las plataformas de redes sociales. En este juego, el que tiene más datos tiene la mayor ventaja a la hora de desarrollar y perfeccionar la tecnología.

La inteligencia artificial, es decir, el procesamiento de redes neuronales, incluido el aprendizaje automático, la visión por computadora, el procesamiento del lenguaje natural y el aprendizaje profundo, existe desde hace más de 70 años, en la ficción y en la realidad. Hoy en día, la IA está omnipresente en prácticamente todas las industrias y en todos los aspectos de nuestras vidas, desde los teléfonos inteligentes hasta los automóviles autónomos, la atención médica y los servicios bancarios y de asesoría en inversiones. La furiosa competencia por nuestra atención entre Apple, Google, Meta (Facebook), Amazon y otros gigantes tecnológicos es una prueba de la presencia de IA en cada interacción que tenemos con las empresas y sus productos y servicios.

Los rumores sobre GenAI son el resultado de la confluencia de varias tendencias sociales y tecnológicas masivas. El poder de las redes sociales ha ido aumentando desde hace algunas décadas, especialmente con la integración del entretenimiento y el comercio electrónico disponibles las 24 horas del día, los 7 días de la semana, los 365 días del año. Incluso lo llamamos Economía de la Atención, ya que intercambiamos nuestro libre albedrío y nuestra información personal por “entretenimiento o conveniencia sin costo”. Analistas y expertos de todas las industrias están glorificando a la GenAI como una herramienta milagrosa para la productividad y, al mismo tiempo, otros están demonizando esta tecnología como una amenaza existencial para los trabajadores humanos. ¿Qué dice esto sobre cómo nos entendemos a nosotros mismos y cómo desarrollamos herramientas?

¿Quién hace las preguntas? La ciencia de datos y la informática se han convertido en áreas de interés académico hasta el punto de que la Universidad de California en Berkeley, por primera vez en 50 años, se ha comprometido a crear una nueva Facultad de Computación, Ciencia de Datos y Sociedad para reflejar los avances en La tecnología y su impacto en la sociedad. Cuando los académicos se centran en un tema, tiene raíces más profundas que las simples exageraciones. Lo que a los académicos les encanta hacer es hacer preguntas sin cesar desde diferentes perspectivas.

¿Por qué miles de destacados investigadores y empresarios están dando la alarma sobre esta tecnología y exigiendo algún tipo de regulación gubernamental, así como una mayor responsabilidad dentro de la industria tecnológica? Algunos incluso sugieren que la investigación en este campo tecnológico debería detenerse o al menos ralentizarse. Hemos visto este escenario en otras áreas de la tecnología. La investigación sobre la energía nuclear es un ejemplo notable en el que las preocupaciones sobre el posible mal uso o abuso de la tecnología pueden haber causado décadas de retraso en la mitigación de las crisis ambientales. De manera similar, la investigación sobre células madre humanas tiene un enorme potencial para avanzar en el conocimiento de enfermedades médicas y posibles terapias, pero tampoco ha recibido financiación suficiente durante décadas. El costo de vidas humanas podría ser incalculable.

En cada situación, existen ramificaciones morales, sociales, legales y políticas que absolutamente deben ser discutidas y analizadas por todos los segmentos de la sociedad. Cada nueva tecnología, cada herramienta, trae consigo la promesa, a menudo masiva, de un futuro mejor. Al mismo tiempo, esas mismas herramientas pueden ser adquiridas y utilizadas por personas que pueden ser inescrupulosas o incluso criminales, hasta el punto de causar muerte y destrucción. En este contexto se aplica la misma vieja historia sobre cómo el poder corrompe.

Según Bill Frank, director del Centro de análisis y ciencia de datos de la Universidad Estatal de Kennesaw, “ChatGPT… literalmente inventa cada respuesta basándose en los patrones de sus datos de entrenamiento. Si bien llamamos alucinaciones a las cosas que se equivocan, en realidad, cada respuesta es una alucinación”.

El verdadero desafío que presenta la IA es que los humanos tenemos que evolucionar nuestro pensamiento más allá de lo que estamos acostumbrados. ¿Cómo se puede aplicar esta herramienta, por ejemplo ChatGPT, para lograr resultados beneficiosos en casos de uso prácticos?

¿Qué tipo de preguntas podemos estar haciendo? ¿Qué nuevos tipos de problemas podemos plantearnos a nosotros mismos que ampliarán nuestras capacidades y nuestra visión de lo que podemos ser? ¿Qué hace que la experiencia humana sea única para cada individuo y no replicable? Nuestras capacidades cognitivas nos distinguen claramente de otros animales, pero ¿qué pasa con nuestra naturaleza emocional y espiritual que nos permite mejorar nuestras habilidades para resolver problemas a través de relaciones colaborativas y de apoyo?

En lugar de intentar objetivar nuestro miedo a lo desconocido culpando a la tecnología que no entendemos, ¿no tiene más sentido aprender sobre nosotros mismos y cómo queremos diseñar herramientas que nos ayuden a ser aún más creativos e inventivos de maneras que tal vez ni siquiera hubiésemos imaginado antes? Nuestra energía creativa es nuestro activo más preciado y exclusivamente humano, por lo que debemos protegerla y aprovecharla tanto como podamos. Ésta es la fuente última de esperanza para cada uno de nosotros y para la humanidad.