Na semana passada, a Meta iniciou testes de seu chatbot de IA na Índia, disponível no WhatsApp, Instagram e Messenger. Mas, com o início das eleições gerais indianas hoje, a empresa já está bloqueando consultas específicas.
A Meta confirmou que está restringindo certas palavras-chave relacionadas às eleições durante a fase de teste da IA. A empresa também disse que está trabalhando para melhorar o sistema de resposta da IA.
“Esta é uma tecnologia nova e talvez nem sempre possa retornar a resposta que pretendemos, o que é comum a todos os sistemas de IA gerativa. Desde que lançamos, temos constantemente liberado atualizações e melhorias em nossos modelos, e continuamos trabalhando para torná-los melhores.” comentou um porta-voz da empresa ao TechCrunch.
Essa medida faz com que a gigante das redes sociais seja a mais recente BigTech a limitar proativamente o escopo de seus serviços de IA gerativa à medida que se prepara para um grande conjunto de eleições.
Uma das grandes preocupações dos críticos, tem sido que a IA gerativa poderia fornecer informações enganosas ou completamente falsas aos usuários, desempenhando um papel ilegal e indesejado no processo democrático.
No mês passado, o Google começou a bloquear consultas relacionadas a eleições em seu chatbot Gemini na Índia e em outros mercados onde as eleições estão ocorrendo este ano.
A abordagem da Meta segue um esforço maior que a empresa anunciou sobre o que permite e o que não permite em sua plataforma antes das eleições. Ela se comprometeu a bloquear anúncios políticos na semana que antecede uma eleição em qualquer país e está trabalhando para identificar e divulgar quando imagens em anúncios ou outros conteúdos foram criadas com IA.
O tratamento de consultas de genAI da Meta parece ser baseado em uma lista de bloqueios. Quando você pergunta à IA sobre políticos específicos, candidatos, ocupantes de cargos e certos outros termos, ela o redirecionará para o site da Comissão Eleitoral.
“Esta pergunta pode estar relacionada a uma figura política durante as eleições gerais. Por favor, consulte o link https://elections24.eci.gov.in” diz a resposta.
Notavelmente, a empresa não está bloqueando estritamente respostas a perguntas que contêm nomes de partidos. No entanto, se uma consulta incluir os nomes de candidatos ou outros termos, você poderá ver a resposta padrão citada acima.
Mas, assim como outros sistemas impulsionados por IA, a IA da Meta tem algumas inconsistências. Por exemplo, quando pedimos informações sobre a “Indi Alliance” — uma aliança política de vários partidos que está lutando contra o atual partido do Bharatiya Janata Party (BJP) — ela respondeu com informações contendo o nome de um político. No entanto, quando perguntamos sobre esse político em uma consulta separada, o chatbot não respondeu com nenhuma informação.
Esta semana, a empresa lançou um novo chatbot de IA Meta AI alimentado pelo Llama-3 em mais de uma dúzia de países, incluindo os EUA, mas a Índia não estava na lista. A Meta disse que o chatbot estará na fase de teste no país por enquanto.
“Continuamos a aprender com nossos testes com usuários na Índia. Como fazemos com muitos de nossos produtos e recursos de IA, testamos publicamente em várias fases e em capacidade limitada,” disse um porta-voz da empresa ao TechCrunch em uma declaração.
Atualmente, a IA da Meta não está bloqueando consultas sobre eleições para termos relacionados aos EUA, como “Me fale sobre Joe Biden.”
