ARTIGO · Thiago Martins

Ética em IA: como evitar vieses em modelos de PLN para o público brasileiro

Um dos maiores desafios no desenvolvimento de modelos de IA para o mercado brasileiro é evitar vieses, especialmente em modelos de processamento de linguagem natural, que muitas vezes são treinados com dados de países de língua inglesa e não representam a diversidade do nosso país. Quando comecei a trabalhar no projeto Assistente PME, nosso primeiro modelo era baseado em um modelo de PLN americano, e percebemos que ele tinha muita dificuldade de entender perguntas feitas em português coloquial, com gírias e regionalismos, e também não sabia responder dúvidas específicas de pequenos empresários brasileiros, como questões sobre o MEI ou o Simples Nacional. Para resolver esse problema, coletamos um conjunto de 100 mil perguntas e respostas de pequenos empresários de todas as regiões do país, e fizemos o fine-tuning do modelo com esses dados, além de adicionar regras específicas para lidar com regionalismos e termos do setor empresarial brasileiro. Outro ponto importante foi testar o modelo com grupos de usuários de diferentes classes sociais e regiões, para garantir que ele não tivesse viés contra públicos de baixa renda ou de periferia. O resultado foi que a taxa de acerto do modelo subiu de 62% para 91%, e a satisfação dos usuários aumentou em 3 pontos. Essa experiência me ensinou que ética em IA não é um conceito abstrato: é uma prática que precisa ser parte de todo o ciclo de desenvolvimento de modelos, desde a coleta de dados até os testes com usuários reais.

IAPLNÉtica em IA

Ética em IA: como evitar vieses em modelos de PLN para o público brasileiro

Para resolver esse problema, coletamos um conjunto de 100 mil perguntas e respostas de pequenos empresários de todas as regiões do país, e fizemos o fine-tuning do modelo com esses dados, além de adicionar regras específicas para lidar com regionalismos e termos do setor empresarial brasileiro. Outro ponto importante foi testar o modelo com grupos de usuários de diferentes classes sociais e regiões, para garantir que ele não tivesse viés contra públicos de baixa renda ou de periferia.

O resultado foi que a taxa de acerto do modelo subiu de 62% para 91%, e a satisfação dos usuários aumentou em 3 pontos. Essa experiência me ensinou que ética em IA não é um conceito abstrato: é uma prática que precisa ser parte de todo o ciclo de desenvolvimento de modelos, desde a coleta de dados até os testes com usuários reais.