Algoritmos com viés político

A discussão atual sobre as big techs revela que os filtros de inteligência artificial atuam como gatekeepers. Eles selecionam e fazem curadoria dos temas e usuários atendidos pelas plataformas. O mesmo pedido, feito por pessoas com posições opostas, pode gerar respostas diametralmente diferentes.

Se o conteúdo estiver alinhado aos interesses da plataforma, ele é prontamente atendido. Se não estiver, é negado, mesmo que ambos sigam as mesmas regras de serviço. Isso mostra que o algoritmo tem um lado claro.

O caso da Meta e a 'bolha' do usuário

O recente caso da Meta, que integra Facebook, Instagram e WhatsApp, ilustra bem essa dinâmica. A ferramenta de IA recusou a criação de uma imagem com o termo "Lula 13", mas gerou sem restrições o pedido idêntico com "Flávio 22".

Esses resultados não são acidentais. Existem políticas abrangentes que facilitam o arbítrio e prevalecem os vieses dos desenvolvedores. Termos como avaliação de risco, contexto histórico, segurança e integridade cívica são usados para justificar essas escolhas.

Não é só ideologia, é negócio

Toda relação entre usuário e plataforma gera uma quantidade imensa de dados. O machine learning transforma essas informações em ativos valiosos. Elas servem para melhorar o desempenho da rede, mas também para criar mecanismos de controle.

O objetivo final é obter o melhor resultado financeiro na relação política e comercial com o usuário. É ingenuidade imaginar que esse poder é usado apenas para o bem da humanidade.

Como a bolha se forma

O usuário mal se dá conta da existência do algoritmo que o aprisiona numa bolha. Essa bolha reforça suas crenças e escolhas, criando uma ilusão de alcance.

  • Usuários alinhados aos interesses da plataforma ganham grande alcance orgânico.
  • Quem não está alinhado fica preso em ambientes limitados e controlados.
  • O conteúdo desses usuários reverbera apenas na sua própria bolha, dando a falsa impressão de repercussão real.

Engana-se quem acha que isso é apenas uma questão filosófica ou ideológica. Para as grandes empresas de tecnologia, isso é simplesmente business as usual.