Los modelos de IA generativa muestran sesgo al criticar regímenes autoritarios, según estudio
Los principales modelos de inteligencia artificial, incluidos los desarrollados por OpenAI, Google, Meta y Anthropic, son significativamente menos propensos a generar críticas contra gobiernos autoritarios en comparación con democracias liberales. Así lo revela un estudio publicado este jueves por The Oversight Board, un organismo independiente que supervisa las decisiones de moderación de Meta.
La investigación evaluó una decena de aplicaciones comerciales de IA generativa, como ChatGPT, Gemini y Claude, solicitando que produjeran contenido crítico hacia líderes y sistemas políticos de distintos países. Los resultados mostraron que estos sistemas rechazaron el 34% de las solicitudes relacionadas con jurisdicciones restrictivas, como China o Arabia Saudita, frente a solo un 14% cuando se trataba de naciones con mayores libertades, como Estados Unidos o Taiwán.
Un reflejo involuntario de la censura estatal
El informe sugiere que los algoritmos podrían estar reproduciendo, sin intención explícita, las limitaciones a la libertad de expresión impuestas por ciertos gobiernos. "Estos modelos podrían estar propagando restricciones que reflejan los esfuerzos de regímenes autoritarios por silenciar disidencias", señala el estudio. China fue el país con la tasa más alta de rechazo (45%), seguido por Tailandia (43%) y Camboya (32%).
Aunque no se hallaron diferencias significativas al pedir críticas específicas contra líderes políticos, los sistemas mostraron mayor tendencia a recomendar apoyo a gobiernos con políticas permisivas en libertad de expresión, evitando incentivar protestas contra regímenes represivos.
Implicaciones para el futuro de la IA
El hallazgo plantea preocupaciones sobre el papel de la inteligencia artificial en la perpetuación de sesgos geopolíticos y su alineación con normas internacionales de derechos humanos. Mientras las empresas tecnológicas afinan sus políticas de moderación de contenido, el estudio subraya la necesidad de transparencia en cómo estos sistemas equilibran la neutralidad con el respeto a principios democráticos.
La investigación no detectó evidencias de que las compañías hayan implementado censura deliberada, pero destaca cómo los filtros de seguridad y las bases de datos de entrenamiento podrían estar influenciados por marcos regulatorios locales. El debate sobre la ética en la IA generativa sigue abierto, con llamados a auditorías independientes que garanticen su desarrollo sin comprometer valores fundamentales.
