"as questões éticas foram eclipsadas”
O chamado racismo algorítmico reflete uma ordem racializada de conhecimentos, práticas e recursos, que estão ligados a um processo histórico de violência racial, que tem como fatores principais os privilégios brancos e a violência contra negros. Em face desta realidade socioeconômica, cultural, de regime cognitivo, religioso, etc, de hegemonia da branquitude, com o surgimento da inteligência artificial, que depende de uma base de dados para incrementar as suas habilidades de codificação generativa desses dados, isto se replica como racismo algorítmico.
Por conseguinte, tais dados advêm de todo este patrimônio comum e compartilhado, seja por meio de direitos públicos de informações, incluindo o creative commons, como também à revelia, com uso de dados que podem ser chamados, sem embargo, de pirataria. Por sua vez, como a base de dados vem da produção humana ampla, o racismo estrutural nele está contido, e se reflete em muitas das respostas que estas inteligências artificiais podem fornecer.
Temos, então, softwares que podem ser problemáticos na sua calibragem e alimentação de dados, pois podem aprofundar discriminações e preconceitos, além de reproduzir desigualdades seculares. O racismo algorítmico, é bom saber, não é algo puramente técnico, pois existe uma seletividade nos dados e sempre é feita uma escolha.
Esta informação é importante : as big techs não são caixas opacas que trabalham de modo alheio, apenas usando algoritmos matematicamente, obedecendo lógicas que não conversam com a realidade em torno. As soluções técnicas existem, mas falta ética, e estamos diante de uma corrida tecnológica com um imperativo econômico que ignora limites de direitos autorais e de direitos sociais.
O racismo algorítmico pode ser mediado por plataformas, aplicativos etc, e que influenciam em decisões no mundo do trabalho, no serviço público, área de segurança, liberdade de expressão e várias outras questões pertinentes. E tal distorção dos dados se dá pela azáfama que começou com a busca de domínio do mercado de inteligência artificial.
A surgimento deste mercado onívoro da inteligência artificial, por sua vez, teve como consequência a desconsideração de limites éticos, como na questão dos direitos humanos, e toda uma faina de coleta de dados se deu de modo pragmático, sem escrúpulos, e com um planejamento puramente competitivo.
Nesta corrida que envolve processamento de dados, desenvolvimento de componentes, e também de modelos de integração dos dados, design, para a implementação e avanço destas inteligências artificiais, a reprodução de vieses e de preconceitos culturais e sociais também se replica no treinamento de tais sistemas, pois estes carecem de uma curadoria, e nem esse é o interesse das big techs.
Segundo Tarcízio Silva, autor do livro que desenvolve este conceito de racismo algorítmico, por sua vez, a branquitude depende da reprodução do que ele chama de epistemologia da ignorância, e que tem o fito de manutenção do status quo, que são estruturas de poder e de hierarquia social e econômica, com reflexos culturais e religiosos, dentre outros, que cristalizam e que reproduzem o racismo estrutural.
Neste contexto das inteligências artificiais, a ausência de limitações éticas para o treinamento e filtro que alimentam estes sistemas, por sua vez, dá azo ao surgimento do que Tarcízio Silva batizou de racismo algorítmico. Ele afirma que o desenvolvimento de tecnologias algorítmicas usa uma base de dados na qual está contido um histórico social, em que, segundo Tarcízio, atualiza o racismo estrutural e, no entanto, se reveste de uma neutralidade inexistente.
Como acontece uma corrida desenfreada neste campeonato pela inteligência artificial mais avançada, temos como consequência um uso irresponsável das bases de dados, que são usadas para treinamento destas inteligências sem passar por um filtro ou uma curadoria. A relação custo-benefício é prioritária para as big techs e as questões éticas foram eclipsadas de todo o processo desde o princípio.
Este debate ético, pois, que também surgiu junto ao fenômeno, até agora passa ao largo do que é produzido por estas empresas, sem qualquer influência no processo, sem mesmo um apoio efetivo dos Estados Nacionais, com alguns, como China e Estados Unidos, pelo contrário, estimulando um viés puramente técnico, só que nem tanto, como dito, e distante de critérios éticos.
A própria abordagem das big techs naturaliza processos discriminatórios, e esta falta de parâmetros éticos é parte do modelo de negócios de startups e empresas de big tech, com CEOs, como Elon Musk e Mark Zuckerberg, que refletem esta branquitude abertamente supremacista, com sucesso privados, ao custo de falhas e fissuras sociais contínuas.
Portanto, a resposta ao racismo algorítmico só pode advir de um esforço conjunto entre Estado, empresariado, comunidade técnico-científica e sociedade civil. A construção de consensos possíveis serve para que se exerça o controle social da tecnologia, sobretudo da inteligência artificial.
O Chat GPT, criado pela Open AI, é um dos concorrentes principais pela liderança de mercado dentre as inteligências artificiais. Num método de lançamentos e inovações agressivas, tenta criar soluções indispensáveis para as empresas, tendo que enfrentar concorrentes como a chinesa DeepSeek, avanços na Alibaba, ambas da China, além da Claude da Anthropic, a Llama da Meta, e a Gemini da Google.
Contudo, não se vê qualquer preocupação além da econômica, ou seja, as questões éticas, com considerações pela diversidade cultural e combate à discriminação, foram deixadas de lado, favorecendo a busca desenfreada de dados, sem respeitar também setores que envolvem direitos autorais.
A pensadora Timnit Gebru chama o Chat GPT e outros sistemas de IA de “papagaios estocásticos”, que são sistemas feitos por empresas que fazem um uso de big data agressivo, e que reproduz, portanto, a aparência de resultados críveis, mas ainda padecem, entretanto, de erros factuais e com respostas, em alguns casos, enviesadas, e no caso da chinesa DeepSeek, sinais evidentes de censura. Também refletem a hegemonia mundial, que no caso tende a uma cisão no mercado de IAs entre Estados Unidos e China.
Os Estados Unidos que, por sua vez, sofreu um revés da China, com o anúncio inesperado da DeepSeek, logo após o anúncio feito pelo governo norte-americano de um investimento de centenas de bilhões de dólares em direção da chamada Inteligência Artificial Geral (AGI - Artificial General Intelligence), que é ainda uma área teórica, a qual visa criar softwares capazes de autoensino, ou seja, que poderão realizar tarefas por conta própria, sem necessariamente passar por um treinamento ou desenvolvimento, com inteligência semelhante à humana.
Em vista da adesão acrítica e irrefletida dos sistemas de IA por diversos governos, sem terem qualquer tipo de iniciativa efetiva de regulação deste mercado, notoriamente na questão do banco de dados, sem preocupação com o mérito dos direitos autorais, num acesso ilimitado e predatório de produções culturais individuais e coletivas, as empresas que desenvolvem a IA estão à vontade para uma expansão tecnológica que até agora passou ao largo e até por cima de qualquer questão ética.
Temos ainda este viés econômico hegemônico, com a reprodução do racismo algorítmico e de discriminações que não passam por um filtro ou refinamento no treinamento destes sistemas, algo possível e fácil de se fazer, uma vez que a DeepSeek não teve problemas em ser censurada pelo governo chinês. Ou seja, a hipocrisia está no pano de fundo de sistemas que ainda dão respostas enviesadas e com discriminações e práticas de racismo algorítmico.
A China, que é notória pelo seu chamado firewall, onde redes sociais ocidentais não funcionam, a não ser clandestinamente por conexão VPN, conseguiu rapidamente censurar as IAs produzidas no país. Vendo, então, esta possibilidade de seleção algorítmica como factível tecnicamente, faz-se necessário o esforço multissetorial para regulamentação desses sistemas de inteligência artificial.
Com o passar dos anos, estes sistemas de inteligência artificial avançarão cada vez mais, aumentando esta necessidade de uma condução coletiva e social, e não somente econômica, dominada, até agora, pela ganância e busca de poder lideradas por big techs. A condução por controle social, por fim, neste tipo de tecnologia, terá como objetivo dissipar vieses e discriminações e, consequentemente, o racismo algorítmico.
Gustavo Bastos, filósofo e escritor.
Link da Século Diário : https://www.seculodiario.com.br/colunas/racismo-algoritmico/