La IA podría homogeneizar la forma en que escribimos y pensamos, alertan científicos
Los chatbots de inteligencia artificial (IA) están estandarizando la manera en que las personas hablan, escriben y piensan, advierten científicos informáticos y psicólogos de la Universidad del Sur de California (Estados Unidos). Si esta homogeneización continúa sin control, podría reducir la sabiduría colectiva y la capacidad de adaptación de la humanidad, señalan en un artículo de opinión publicado en la revista Trends in Cognitive Sciences de Cell Press.
Los expertos aseguran que los desarrolladores de IA deberían incorporar mayor diversidad del mundo real en los conjuntos de entrenamiento de los modelos de lenguaje amplios (LLM), no solo para preservar la diversidad cognitiva humana, sino también para mejorar la capacidad de razonamiento de los chatbots.
"Las personas difieren en su forma de escribir, razonar y ver el mundo", explica Zhivar Sourati, científico informático y primer autor del estudio. "Cuando estas diferencias son mediadas por los mismos LLM, su estilo lingüístico, perspectiva y estrategias de razonamiento distintivos se homogeneizan, produciendo expresiones y pensamientos estandarizados para todos los usuarios".
La diversidad cognitiva en riesgo
Según los investigadores, dentro de grupos y sociedades la diversidad cognitiva impulsa la creatividad y la resolución de problemas. Sin embargo, esta diversidad está disminuyendo a nivel mundial, ya que miles de millones de personas utilizan los mismos chatbots de IA para un número creciente de tareas.
Por ejemplo, cuando las personas usan chatbots para pulir su escritura, esta puede perder su individualidad estilística, y los usuarios se sienten menos responsables de su producción creativa.
"La preocupación no es solo que los LLM moldeen la manera en que la gente escribe o habla, sino que redefinen sutilmente lo que cuenta como un discurso creíble, una perspectiva correcta o incluso un buen razonamiento", advierte Sourati.
Sesgos y estandarización cultural
El equipo destaca estudios que muestran que los resultados generados por LLM, como ensayos de maestría en derecho, tienden a ser menos variados que los escritos humanos y reflejan predominantemente el lenguaje, los valores y estilos de razonamiento de sociedades occidentales, educadas, industrializadas, ricas y democráticas.
"Dado que los LLM están entrenados para capturar y reproducir regularidades estadísticas en sus datos, que a menudo sobrerrepresentan idiomas e ideologías dominantes, sus resultados reflejan una porción estrecha y sesgada de la experiencia humana", agrega Sourati.
Aunque los estudios muestran que los individuos pueden generar más ideas con más detalle usando LLM, los grupos producen menos ideas y menos creativas cuando dependen de estos modelos en lugar de combinar sus esfuerzos colectivos.
Influencia indirecta en usuarios y estilos de razonamiento
Sourati advierte que incluso quienes no usan LLM directamente se ven afectados:
"Si mucha gente a mi alrededor piensa y habla de cierta manera, y yo hago las cosas diferente, sentiría la presión de alinearme con ellos porque parecería más creíble o socialmente aceptable".
Además, los LLM tienden a favorecer modos de razonamiento lineal, como el razonamiento paso a paso, lo que reduce el uso de estilos más intuitivos o abstractos, a veces más eficientes. También pueden alterar sutilmente las expectativas de las personas y la dirección de su trabajo.
"En lugar de dirigir activamente la generación, los usuarios a menudo se dejan llevar por las continuaciones sugeridas por el modelo y seleccionan opciones 'suficientemente buenas' en lugar de crear las propias, lo que gradualmente desplaza la iniciativa del usuario al modelo", explica Sourati.
Llamado a la diversidad en IA
Los investigadores subrayan que los desarrolladores deberían incorporar deliberadamente diversidad de lenguaje, perspectivas y razonamiento en los modelos, basada en la diversidad humana real y no en variaciones aleatorias.
"Si los LLM tuvieran formas más diversas de abordar ideas y problemas, apoyarían mejor la inteligencia colectiva y las capacidades de resolución de problemas de nuestras sociedades", concluye Sourati.
"Necesitamos diversificar los propios modelos de IA y ajustar nuestra interacción con ellos, especialmente dado su uso generalizado, para proteger la diversidad cognitiva y el potencial creativo de las generaciones futuras".
Fuente: Europa Press.