La IA puede ayudar a mejorar la sociedad

Oct 26, 2023

La colaboración en lugar del comando y control es clave para crear sistemas cultural y éticamente positivos.

Una de las primeras imágenes de IA que encontré fue una cabeza blanca, espectral, hostil e incorpórea. Fue en el juego de ordenador Neuromancer, programado por Troy Miles y basado en la novela cyberpunk de William Gibson. Es posible que otras personas hayan encontrado por primera vez a HAL 9000 de 2001: Una odisea en el espacio de Stanley Kubrik o a Samantha de Her de Spike Jonze.

Las imágenes de la cultura pop influyen en las impresiones que las personas tienen sobre la IA, pero la cultura tiene una relación aún más profunda con ella. Si hay algo que aprender de este artículo es la idea de que los sistemas de IA no son máquinas objetivas, sino que se basan en la cultura humana: nuestros valores, normas, preferencias y comportamientos en la sociedad. Estos aspectos de nuestra cultura se reflejan en cómo se diseñan los sistemas. Entonces, en lugar de intentar decidir si los sistemas de IA son objetivamente buenos o malos para la sociedad, debemos diseñarlos para que reflejen la cultura éticamente positiva que realmente queremos.

He aquí un ejemplo: Roger Dannenberg, profesor de la Universidad Carnegie Mellon de Pittsburgh, ha creado un sistema de inteligencia artificial que reproduce música con la gente. Acompaña a los intérpretes basándose en ideas de tono, escala, tempo, etc., que podrían denominarse facetas de la teoría musical occidental. En contraste, el compositor y académico George E. Lewis, proveniente de una tradición basada en la diáspora africana –el jazz y otras tradiciones, impulsadas por la Asociación para el Avance de la Música Creativa de Chicago– ha creado un sistema llamado Voyager que es un sistema “no jerárquico e interactivo”. ambiente musical que privilegia la improvisación”. Los resultados son muy diferentes. El sistema de Dannenberg produce resultados que son efectivos para seguir a un intérprete convencional: suena como si alcanzara las notas esperadas. El sistema de Lewis, por el contrario, genera sorpresas en el diálogo con un intérprete, a veces tomando un solo, a veces estableciendo los solos humanos (ni el humano ni la máquina dominan).

El sonido de Voyager se encuentra en algún punto intermedio entre el del gran jazz de vanguardia Sun Ra y el de un conjunto de gamelan javanés. Los valores de cada sistema se basan en las culturas de las que se nutren los músicos y programadores: control medible frente a colaboración improvisada, lo que genera diferencias importantes en el resultado de cada sistema.

Hoy en día, los sistemas de IA desempeñan funciones en la generación de texto e imágenes, el diagnóstico de enfermedades e incluso en sistemas de armas autónomos. Se podrían crear tales sistemas como seguidores de los humanos o como soportes creativos para los humanos; Podemos considerar la relación entre la máquina y el ser humano basada en el comando y el control, o basada en la colaboración, descubriendo qué hace mejor la gente y qué hace mejor la computadora para que puedan trabajar juntos de manera fructífera. Ambos enfoques tienen su lugar, pero creo que actualmente el último enfoque es menos conocido y adoptado. La creación de sistemas de IA basados ​​en muchas culturas diferentes, con directrices éticas adecuadas, puede ayudar a rectificar esto.

Las personas pueden diseñar intencionalmente sistemas informáticos con los valores y visiones del mundo que queremos. Por ejemplo, el Centro de Virtualidad Avanzada del MIT, que fundé y dirijo, ha creado simulaciones como Breakbeat Narratives, una colaboración con Universal Hip Hop Museum y Microsoft. El sistema utiliza las tecnologías de nuestro centro, personajes creados con el dibujante de cómics Black Kirby, IA conversacional de Microsoft y contenido de archivo musical de la Fundación Educativa TunesMap para enseñar la historia del hip-hop de acuerdo con los gustos e intereses musicales del usuario. Por ejemplo, si te gusta la música de raíces y te interesan las artistas femeninas de hip-hop, puedes conseguir un breve documental sobre la autorrepresentación de las mujeres en el hip-hop que tenga una banda sonora de canciones de hip-hop con muestras de música country y occidental. y pasto azul.

También tuve el placer de colaborar con el fotoperiodista de guerra y artista de realidad virtual Karim Ben Khelifa en un proyecto que dirigió llamado The Enemy, que permitió a los espectadores escuchar periodísticamente las perspectivas de los combatientes de ambos lados de los conflictos en la República Democrática del Congo, El Salvador. y Gaza, al tiempo que se personaliza la experiencia en función del lenguaje corporal de los usuarios como indicador de sus posibles prejuicios y atención.

Construimos sistemas informáticos y de inteligencia artificial para la expresión creativa, el aprendizaje y el bien social personalizando significativamente historias y experiencias para las personas que las utilizan. Existe una gran oportunidad para que la IA tenga un impacto social positivo a través de dicho diseño, pero para lograrlo, el campo tendrá que ser más interdisciplinario, valorando los objetivos y conocimientos de las artes, las humanidades y las ciencias sociales.

No estoy promoviendo una visión utópica de la IA. Probablemente haya oído hablar de enfoques recientes como el “aprendizaje profundo” y los “modelos en lenguaje grande” (de sistemas como Dall·E 2 y GPT-4). La gente los ha estado usando para muchos propósitos: los jugadores crean personajes para Dungeons & Dragons, los abogados elaboran mociones legales.

Dichos sistemas utilizan redes neuronales y enfoques que involucran aprendizaje profundo y modelos de lenguaje grandes. Es difícil para los humanos interpretar exactamente por qué generan las imágenes o el texto en particular que generan (las “razones” del sistema son un patrón de valores estadísticos y ponderaciones numéricas finamente ajustados). Cuando los procesos son opacos y están impulsados ​​por grandes conjuntos de datos que también se basan en valores culturales, es posible que sesgos injustos y otros males sociales se introduzcan en los sistemas.

Necesitamos ser conscientes y diseñar cuidadosamente los valores culturales en los que se basa la IA. Con cuidado, podemos construir sistemas basados ​​en múltiples visiones del mundo y abordar cuestiones éticas clave en el diseño, como la transparencia y la inteligibilidad. La IA ofrece extraordinarias oportunidades creativas; pero los creadores necesitan realizar un trabajo sociocultural que sea al menos tan difícil como diseñar técnicamente estos sistemas (y quizás más aún). Hay ocasiones en las que un paradigma de comando y control es apropiado en informática. Sin embargo, cuando analizamos la IA, hay momentos en los que, en cambio, necesitamos ver más oportunidades similares al jazz para la improvisación creativa y colaborativa.

D Fox Harrell es profesor de medios digitales, informática e inteligencia artificial en el Instituto de Tecnología de Massachusetts.