Si los agentes de IA pudieran desempeñar un papel activo en nuestra vida social humana en lugar de simplemente operar en segundo plano, ¿sería deseable? La respuesta puede depender de su perspectiva cultural. Cuando un equipo de investigadores de Stanford aplicó la teoría de la psicología cultural para estudiar lo que la gente espera de la IA, encontraron asociaciones claras entre los modelos culturales de agencia que son comunes en los contextos culturales y el tipo de IA que se considera ideal.
Hoy en día, la visión predominante en el desarrollo de la IA a menudo supone que las personas desean controlar la tecnología y tratan la IA como una herramienta al servicio de objetivos e inquietudes individuales. Es una relación impersonal y jerárquica. Pero el investigador de psicología de Stanford Xiao Ge y investigador postdoctoral Chunchen Xu Dicen que esta visión no refleja la forma en que la gente de todo el mundo piensa sobre la IA, sino que refleja el modelo cultural de agencia que prevalece en muchos contextos culturales de clase media europeo-estadounidense.
Según su investigación, una mirada más amplia a las culturas de diversos grupos sugiere que muchas personas tienen una visión diferente del papel que podría desempeñar la IA. Algunos imaginan que la IA tendría una mayor capacidad para influir en su entorno (por ejemplo, algunas personas quieren que la IA tenga sentimientos, emociones y autonomía). En esta interpretación, por ejemplo, algunos imaginan máquinas inteligentes que puedan actuar espontáneamente y participar en sus situaciones sociales.
“Existe una necesidad urgente de incorporar las percepciones, las imaginaciones, las preocupaciones y la creatividad de diversos grupos en los futuros desarrollos de la IA. Queremos permitir que los interesados en la IA aumenten la representación de diferentes visiones del mundo en el diseño y el uso de la IA, de modo que pueda satisfacer las necesidades de segmentos más amplios de la población”, explica Ge.
Basándose en modelos culturales independientes e interdependientes y en los resultados de dos encuestas en línea, el equipo desarrolló un marco teórico para comprender la relación ideal de las personas con la IA, que presentaron en un nuevo artículo, “Cómo la cultura influye en lo que la gente espera de la IA.” Con el apoyo del Instituto Stanford para la IA centrada en el ser humano Programa de subvenciones inicialesEste trabajo está estimulando conversaciones importantes sobre el papel de la cultura en la definición de las concepciones dominantes de la IA.
Los fundamentos de la cultura en la HCI
Muchos estudios de interacción hombre-computadora (HCI) han investigado el impacto de la tecnología en las personas en diferentes países; sin embargo, hasta la fecha pocos investigadores han intentado “dar vuelta la conversación” para observar cómo la cultura puede afectar el diseño de IA o cómo los productos de IA reflejan ideas culturales.
“Cuando los investigadores de HCI consideran la cultura, tienden a hacerlo en las últimas etapas del desarrollo, por ejemplo, en términos de usabilidad o diseño de la interfaz de usuario. Pero nuestros hallazgos sugieren que los factores culturales pueden incluso dar forma a la creación y el diseño inicial de la tecnología, así como a lo que los diseñadores imaginan que serán sus posibles beneficios y resultados”, dice Jeanne Tsai, profesora de psicología y directora de la Universidad de Stanford. Laboratorio de cultura y emocióny uno de los coautores del artículo.
Lea el estudio completo, Cómo la cultura influye en lo que la gente espera de la IA
Para llegar a una comprensión más profunda de la cultura y la IA, los investigadores aplicaron un marco de psicología cultural bien establecido para describir las variaciones en la forma en que las diferentes culturas tienden a ver “el yo” y su relación con los entornos que lo rodean. En el modelo independiente, los individuos se ven a sí mismos como únicos y separados de los demás y del contexto sociofísico. Por el contrario, el modelo interdependiente sostiene que todos están conectados fundamentalmente con otros humanos, así como con sus entornos físicos y sociales.
Este marco también implica si los individuos desean y esperan que el entorno los influya. Los investigadores se refieren a este factor como tener “capacidades para influir”. Las personas en algunas culturas tienden a ver el entorno como una fuente de influencia para guiar sus pensamientos, sentimientos y comportamientos, mientras que otras son menos propensas a ver sus entornos circundantes como una fuente activa de agencia.
“El uso de estas dos dimensiones puede ayudarnos a descubrir interacciones ideales entre humanos y IA según diferentes culturas, y pueden ser bastante diferentes de las que vienen inmediatamente a la mente en nuestros contextos predominantemente individualistas de clase media”, dice la coautora Hazel Rose Markus, profesora de psicología y directora de la facultad de la SPARQ de Stanford Centro de ciencias del comportamiento.
A través de la lente de dos modelos culturales
Aplicando este marco de psicología cultural, estudios previos en ciencias del comportamiento han establecido:
- Gente en Europeo americano contextos culturales Tienden a adoptar un modelo independiente de agencia y ven a la persona como una fuente de influencia mayor que el entorno. Este modelo cultural representa a las personas como más activas, vivas, capaces y en control que sus entornos. Además, las personas intentarán cambiar sus entornos para que sean más coherentes con sus preferencias, deseos y creencias.
- Gente en Chino contextos culturales Tienden a favorecer un modelo interdependiente de agencia. En consecuencia, pueden considerar que los límites entre las personas y sus entornos circundantes son permeables y maleables. En este contexto, las personas pueden conceptualizar el entorno social y físico como algo que las abarca y preferir que el entorno sea más activo, vivo y capaz de ejercer influencia sobre las personas.
- Gente en afroamericano Los contextos culturales adoptan elementos de ambos modelos culturales, y sus preferencias pueden verse influenciadas por la experiencia de cambiar entre contextos predominantemente independientes y contextos predominantemente negros, que a menudo son más interdependientes.
En este contexto, los investigadores de Stanford plantearon la hipótesis de que los estadounidenses de origen europeo buscarían el control sobre la IA más que los encuestados chinos, mientras que los participantes chinos buscarían la conexión con la IA más que los estadounidenses de origen europeo. Y, si se mantuvieran los patrones anteriores, las preferencias de los afroamericanos por controlar y conectarse con la IA se situarían entre las de las culturas estadounidense de origen europeo y china.
De manera similar, sobre el tema del entorno que influye en los individuos, el equipo esperaba encontrar que los estadounidenses europeos eran menos propensos a querer que la IA tuviera características influyentes y que los chinos eran más propensos a preferir estas características, mientras que la preferencia de los afroamericanos estaría entre los dos.
Prueba de supuestos teóricos
Para probar las hipótesis, el equipo primero creó una encuesta para confirmar que estos tres grupos culturales de hecho adoptan diferentes modelos del yo y su relación con el medio ambiente. 373 participantes observaron siete variaciones de un gráfico que representaba la relación entre el yo y el medio ambiente, que iban desde “El medio ambiente influye fuertemente en la persona” hasta “La persona influye fuertemente en el medio ambiente” y seleccionaron la imagen que mejor describía su equilibrio ideal entre los dos.
Escala gráfica de 7 puntos (solo se presentan 1, 4 y 7 con fines ilustrativos) utilizada para medir el nivel ideal y la dirección de la influencia entre el yo y el entorno en el estudio piloto. 1 = “El entorno influye fuertemente en la persona”, 7 = “La persona influye fuertemente en el entorno”.
Como se esperaba, los resultados de este estudio revelaron diferencias culturales en el nivel ideal y la dirección de la influencia entre uno mismo y el entorno.
Basándose en estos hallazgos iniciales, el equipo examinó cómo estos modelos culturales afectaban las preferencias de las personas sobre la IA. Llevaron a cabo un estudio en el que 348 participantes leyeron una breve descripción de la IA y luego vieron uno de seis escenarios asignados aleatoriamente de diferentes aplicaciones de la IA en la gestión del hogar, el bienestar, el trabajo en equipo, la educación, la conservación de los incendios forestales y los contextos de fabricación. (Por ejemplo, un escenario decía: “Imaginemos que en el futuro se desarrolla una IA de gestión del bienestar para recopilar información sobre las condiciones de salud física y mental de las personas. Hace predicciones y toma decisiones personalizadas para mejorar la gestión del bienestar de las personas”).
En el último paso del estudio, los participantes respondieron una lista de preguntas sobre sus preferencias en cuanto a la IA en una situación ideal. Las preguntas fueron diseñadas para alinearse con los modelos culturales independientes/interdependientes, así como con las características centrales de la HCI, como la autonomía de la IA y su emocionalidad percibida.
Encontrar evidencia en apoyo de las hipótesis
Tras analizar los datos, el equipo de investigación sugirió que la cultura moldea tanto las concepciones de las personas sobre lo que significa ser humano como lo que las personas desean en sus interacciones con la IA. En concreto, en comparación con los euroamericanos, los participantes chinos consideraban que era menos importante controlar la IA, pero más importante tener una sensación de conexión con ella. Por su parte, los euroamericanos preferían que la IA tuviera menos capacidad de influencia, con menos autonomía, espontaneidad y emoción.
Los afroamericanos coincidieron con los euroamericanos en su deseo de controlar la IA, pero se situaron entre los euroamericanos y los chinos en cuanto a su deseo de conectarse con la IA. Las preferencias de los afroamericanos en cuanto al nivel óptimo de capacidad de influencia de la IA se situaron entre los euroamericanos y los chinos, como se predijo. En particular, los investigadores descubrieron que, si bien los participantes chinos otorgaron la menor importancia de las tres culturas al control de la IA, su puntuación media seguía reflejando un deseo de tener cierto control sobre la tecnología.
“Hay una fiebre del oro en marcha para optimizar todas las funciones urbanas, desde la educación hasta la atención médica y la banca, pero hay una grave falta de reflexión y comprensión de cómo la cultura moldea estas concepciones”, dice Ge. “Nuestro trabajo está llenando un vacío importante en la literatura, así como en la práctica del desarrollo de IA”.
El equipo reconoce varias limitaciones inherentes a este enfoque preliminar que podrían explorarse en estudios futuros:
- Los tamaños de muestra de las encuestas fueron relativamente bajos.
- La definición de IA fue intencionalmente muy amplia. Comprender qué piensan las personas sobre una IA específica (chatbots o algoritmos de toma de decisiones, por ejemplo) podría brindar aún más información.
- El estudio no examinó si las preferencias informadas por las personas se alinean con las interacciones reales con la IA.
Como próximo paso, les gustaría centrarse en establecer la fiabilidad y validez de las nuevas medidas que idearon para capturar los modelos ideales de identidad de las personas en relación con sus entornos.
Contribuciones al campo de la HCI
Según los coautores Markus y Tsai, estos hallazgos presentan nuevas perspectivas interesantes para el campo de la interacción entre humanos y computadoras. Con este trabajo, el equipo demuestra que es posible desarrollar enfoques empíricos rigurosos y sistemáticos para examinar las preferencias culturalmente moldeadas sobre los propósitos, formas y funciones de la IA. También arrojan luz sobre la importancia de reconocer los valores culturales predeterminados implícitos que están incorporados en los modelos actuales de interacción entre humanos y computadoras. Desde la perspectiva de muchos contextos occidentales, es difícil imaginar la agencia como algo compartido o externo a la persona. Fuera de los contextos occidentales, esto es posible, incluso obvio.
“Si seguimos dependiendo de modelos culturales preexistentes, es probable que limitemos la creatividad y el potencial de la IA para mejorar la condición humana en todo el mundo”, afirma Xu. Por otro lado, es fácil imaginar que si los desarrolladores comienzan a repensar la acción humana y a aprovechar una variedad más amplia de ideas culturales, podría iniciarse una nueva era de innovación que ampliaría los posibles beneficios sociales y ambientales de la IA.
La misión de Stanford HAI es promover la investigación, la educación, las políticas y la práctica de la IA para mejorar la condición humana. Aprende más.
