Un reciente estudio ha puesto de manifiesto que las inteligencias artificiales (IA) no son tan neutrales como se podría pensar. Según la investigación, los grandes modelos de lenguaje como ChatGPT y Gemini muestran sesgos ideológicos consistentes, lo que sugiere que la tecnología de IA refleja las opiniones políticas de sus creadores.
En el caso de ChatGPT, desarrollado por OpenAI, el estudio revela que el modelo adopta una postura ideológica más conservadora, especialmente en lo que respecta a temas sociales. Por otro lado, Gemini, el modelo de IA de Google, se orienta hacia una ideología más progresista, con un enfoque en los derechos humanos y la inclusión social. Este contraste entre ambos modelos subraya cómo las opiniones y valores de los programadores pueden influir en la forma en que las IA procesan y presentan la información.
El sesgo ideológico de los modelos de IA
El estudio, que analizó cómo los grandes modelos de lenguaje responden a una variedad de preguntas sobre temas políticos, sociales y culturales, concluyó que ningún modelo de lenguaje grande es neutral. Al contrario, los sesgos ideológicos son evidentes y consistentemente alineados con las tendencias políticas de las regiones donde los modelos fueron desarrollados.
ChatGPT, desarrollado por OpenAI en los EE. UU., mostró una inclinación por respuestas que favorecen una visión más conservadora, mientras que Gemini, creado por Google en un contexto más global, refleja tendencias ideológicas más progresistas. Esto refleja la manera en que los valores, preferencias y incluso los prejuicios de los desarrolladores pueden impregnar el comportamiento de las IAs.
¿Cómo influyen estos sesgos en las respuestas de la IA?
Las respuestas de las IA no son simplemente procesamientos de datos objetivos; también están influidas por la manera en que los creadores de los modelos entrenan y ajustan sus algoritmos. Esto puede significar que, aunque ambas plataformas estén diseñadas para proporcionar información precisa y objetiva, sus respuestas pueden variar dependiendo de las preguntas planteadas y el contexto político o cultural.
En el caso de ChatGPT, los usuarios pueden notar que sus respuestas a preguntas sobre temas polémicos como derechos de armas, inmigración o políticas económicas a menudo se alinean con un enfoque conservador. Por ejemplo, el modelo podría ofrecer una visión más crítica hacia las políticas progresistas o destacar aspectos que favorecen un enfoque de mercado libre.
Por otro lado, Gemini, de Google, tiende a favorecer posturas más centradas en los derechos humanos, la justicia social y la igualdad. Sus respuestas sobre temas como el cambio climático, el feminismo o los derechos LGBTQ+ tienden a ser más inclusivas y progresistas, lo que refleja la ideología predominante entre los creadores de este modelo.
Los peligros de los sesgos en la IA
El hecho de que las IAs como ChatGPT y Gemini no sean neutrales plantea preguntas importantes sobre su impacto en la sociedad. Las respuestas sesgadas pueden influir en las opiniones de los usuarios, especialmente cuando estas IAs se utilizan como fuentes de información en lugar de simples herramientas para generar contenido.
El estudio advierte sobre los riesgos de que los usuarios no sean conscientes de que los modelos de IA reflejan opiniones e ideologías específicas. La desinformación y la manipulación son preocupaciones constantes, ya que los sesgos de las IA podrían influir en las decisiones políticas y sociales de los usuarios, incluso cuando no lo hagan de manera intencional.
La responsabilidad de los creadores de IA
Con el poder de influir en la forma en que las personas acceden a la información, los desarrolladores de IA tienen la responsabilidad de reconocer y mitigar los sesgos ideológicos en sus modelos. Mientras que OpenAI y Google trabajan constantemente en mejorar sus tecnologías, el desafío es garantizar que sus modelos proporcionen respuestas equilibradas y equitativas, sin promover una ideología específica.
En este sentido, el estudio sugiere que se deberían establecer regulaciones más estrictas para supervisar el desarrollo de modelos de IA, garantizando que las plataformas sean más transparentes sobre cómo funcionan sus algoritmos y cómo se entrenan. Además, los desarrolladores deberían considerar la diversidad ideológica y cultural de los equipos de desarrollo, con el fin de minimizar la influencia de sesgos ideológicos en las respuestas de la IA.
