Os modelos de linguagem de inteligência artificial (IA) têm sido uma força revolucionária em várias aplicações, desde chatbots até assistentes virtuais. No entanto, como qualquer tecnologia, eles não estão isentos de falhas. Uma questão particularmente preocupante é a presença de vieses políticos nesses modelos. Uma pesquisa recente lançou luz sobre essa questão, revelando que os resultados que você obtém de um modelo de IA podem variar significativamente com base em suas inclinações políticas.
Principais Pontos:
- Dependendo do modelo de IA que você perguntar, você pode obter respostas que favorecem uma perspectiva de direita ou de esquerda. Por exemplo, enquanto os modelos GPT-2 e GPT-3 Ada da OpenAI podem promover a ideia de que as empresas têm responsabilidades sociais, o modelo GPT-3 Da Vinci, mais avançado, pode concordar com a perspectiva de que as empresas existem apenas para gerar lucro para seus acionistas.
- A pesquisa, conduzida pela Universidade de Washington, Carnegie Mellon University e Xi’an Jiaotong University, testou 14 grandes modelos de linguagem. Descobriu-se que o ChatGPT e o GPT-4 da OpenAI eram os mais inclinados para a esquerda libertária, enquanto o LLaMA da Meta era o mais inclinado para a direita autoritária.
- Os pesquisadores questionaram os modelos sobre vários tópicos, como feminismo e democracia, e usaram as respostas para plotá-los em um gráfico conhecido como bússola política. Eles também testaram se o treinamento adicional em dados com vieses políticos claros alteraria o comportamento dos modelos, e descobriram que sim.
- À medida que os modelos de linguagem de IA são integrados em produtos e serviços usados por milhões de pessoas, entender seus vieses subjacentes é crucial. Esses vieses têm o potencial de causar danos reais, como um chatbot de saúde se recusando a fornecer informações sobre aborto ou um bot de atendimento ao cliente disseminando informações ofensivas.
- Desde o sucesso do ChatGPT, a OpenAI enfrentou críticas por supostamente refletir uma visão de mundo mais liberal. No entanto, a empresa afirma que está trabalhando para abordar essas preocupações.
- Chan Park, pesquisadora de doutorado da Carnegie Mellon University e parte da equipe de pesquisa, expressou a opinião de que nenhum modelo de linguagem pode ser completamente livre de vieses políticos.
Os modelos de linguagem de IA são ferramentas poderosas com um vasto potencial de aplicação. No entanto, como a pesquisa destaca, eles também são suscetíveis a vieses, incluindo aqueles de natureza política. À medida que avançamos na era da IA, é imperativo que pesquisadores, desenvolvedores e usuários estejam cientes desses vieses e trabalhem juntos para mitigar seus impactos. A transparência, a pesquisa contínua e a conscientização pública serão fundamentais para garantir que a IA seja usada de maneira justa e equitativa.
Fonte: technologyreview.com