Un estudio reciente destaca la profunda integración de las actitudes con el lenguaje y sugiere que los modelos de IA reflejan estos sesgos implícitos, lo que señala la necesidad de intervenciones culturales. Crédito: SciTechDaily.com
Los investigadores descubrieron que las actitudes globales se correlacionan con el lenguaje, lo que revela que los sesgos implícitos a menudo se reflejan en modelos de inteligencia artificial como ChatGPT. El estudio sugiere que para abordar estos sesgos es necesario centrarse en la transmisión cultural del lenguaje.
En un nuevo estudio, publicado hoy (14 de junio) en la revista Psicología Social y Ciencias de la Personalidadlos investigadores comparten evidencia de que las actitudes de las personas están profundamente entrelazadas con el lenguaje y la cultura en todo el mundo y durante siglos.
Explorando asociaciones lingüísticas
Los investigadores observaron las conexiones entre las actitudes y el lenguaje de las personas en 55 temas diferentes, como ricos versus pobres, perros versus gatos o amor versus dinero. Utilizaron cuatro fuentes de texto: escritura y textos en inglés actuales, libros en inglés que se remontan a 200 años atrás y textos en 53 idiomas distintos del inglés. Como medida de las actitudes de la gente, utilizaron datos de más de 100.000 estadounidenses; primero, autoinformes directos y, segundo, una medida indirecta basada en los tiempos de reacción de las personas, a menudo denominadas actitudes medidas implícitamente.
Descubrieron que las asociaciones recogidas por grandes modelos de lenguaje de IA como ChatGPT coinciden más estrechamente con la segunda medida indirecta que con las actitudes que declaran explícitamente.
IA y representación social
“Con el auge de la IA y las aplicaciones de grandes modelos de lenguaje, nosotros, como consumidores, líderes, investigadores o formuladores de políticas, debemos comprender qué representan estos modelos sobre el mundo social”, dice la autora principal, la Dra. Tessa Charlesworth, de Northwestern UniversityEscuela de Administración Kellogg de. “¿Tienen preferencias obvias y explícitas? ¿O tienen patrones de asociaciones más ocultos más parecidos a actitudes medidas implícitamente?
Mitigar estos sesgos sutiles en la IA requerirá enfoques diferentes a los de buscar sesgos explícitos. “En lugar de auditar los modelos al final para ver si muestran un sesgo obvio y explícito, probablemente tendremos que profundizar en los patrones en los datos de entrenamiento y proporcionar ejemplos alternativos de asociaciones”, dice el Dr. Charlesworth.
Impacto cultural sobre el sesgo implícito
En términos más generales, “los datos muestran que las actitudes medidas implícitamente se revelan y quizás se refuerzan con el lenguaje, que es un vehículo clave para transmitir la cultura”, señala el Dr. Charlesworth. Como tal, “si queremos abordar y reducir de manera duradera los prejuicios implícitos en la sociedad, probablemente necesitaremos intervenciones que adopten un enfoque más cultural (o de nivel macro)”.
Si bien enfatizan la naturaleza correlacional, los investigadores pretenden continuar explorando las influencias socioculturales. “Dado que vimos cierta variación en cuál de los idiomas distintos del inglés mostró la correlación, es importante comprender qué tipo de factores sociales y culturales podrían ayudar a explicar una mayor transmisión entre el sesgo y el idioma”, dice el Dr. Charlesworth.
Direcciones de investigación sociocultural
El estudio sienta las bases para una mejor comprensión de las formas sutiles en que las actitudes se entrelazan con los sistemas de lenguaje y comunicación, envolviéndonos, tanto hoy como con ecos en siglos pasados.
Referencia: “Ecos de la cultura: relaciones de actitudes implícitas y explícitas con el inglés contemporáneo, el inglés histórico y 53 idiomas distintos del inglés” 14 de junio de 2024, Psicología Social y Ciencias de la Personalidad.
DOI: 10.1177/19485506241256400
