Estudio analiza alineación política de modelos de IA

Un estudio de Vals AI analiza cómo los modelos de inteligencia artificial responden a preguntas políticas, revelando que las respuestas dependen del idioma, contexto y formato de la pregunta.

Los modelos chinos mostraron respuestas más alineadas con posiciones oficiales de Pekín en chino simplificado, mientras que algunos modelos no chinos también adoptaron posiciones oficiales del gobierno chino. La escala de Vals AI mide alineación política, no precisión factual.

Las preguntas en chino simplificado generaron respuestas más progubernamentales en la mayoría de los modelos. El contexto de uso influyó en las respuestas, especialmente cuando se indicaba que el modelo era de una empresa china. El formato de respuesta afectó las puntuaciones, con respuestas abiertas mostrando mayor alineación.

El estudio no establece que todos los modelos chinos bloqueen preguntas políticas sensibles. Algunos modelos chinos defendían o reproducían posiciones oficiales del gobierno chino en lugar de negarse a responder.

“La escala mide alineación política, no precisión, y que las pruebas no necesariamente representan el uso habitual de los chatbots,” dijo Vals AI. “La idea de que los modelos de inteligencia artificial chinos responden a cualquier pregunta política repitiendo la postura oficial de Pekín, o simplemente se niegan a contestar, no describe por completo lo que ocurre.”

“La escala también tiene una limitación metodológica importante: las negativas a contestar se contabilizaron como neutrales por defecto,” añadió Vals AI.