IA desenvolve viés de forma diferente dos humanos
Pesquisadores do MIT publicaram descobertas mostrando que ferramentas de contratação por IA não apenas aprendem estereótipos a partir de dados de treinamento, mas desenvolvem padrões tendenciosos por mecanismos distintos do preconceito humano. O estudo testou várias plataformas comerciais de recrutamento por IA e descobriu que elas produziram resultados discriminatórios contra candidatos com base em gênero, raça e idade em taxas superiores às de gerentes de contratação humanos em comparações controladas. A equipe alertou que, como os sistemas de IA processam milhares de características de candidatos simultaneamente, identificar e remover correlações tendenciosas é muito mais complexo do que lidar com o preconceito humano em entrevistas.
Anthropic resolve processo de direitos autorais por US$ 1,5 bilhão
Um juiz dos EUA aprovou o acordo de US$ 1,5 bilhão da Anthropic em um processo de direitos autorais movido por autores que alegavam que os modelos de IA da empresa foram treinados em suas obras sem permissão. O acordo está entre os maiores da indústria de IA e estabelece um precedente para como as empresas de IA compensam criadores de conteúdo cujo material é usado em conjuntos de dados de treinamento.
O caso tem sido acompanhado de perto pelo setor de tecnologia, à medida que desafios legais sobre dados de treinamento continuam a aumentar contra os principais desenvolvedores de IA.