ИИ развивает предвзятость иначе, чем люди
Исследователи из MIT опубликовали результаты, показывающие, что инструменты ИИ для найма не просто усваивают стереотипы из обучающих данных — они вырабатывают шаблоны предвзятости с помощью механизмов, отличных от человеческих предубеждений. В ходе исследования нескольких коммерческих платформ для рекрутинга на базе ИИ было обнаружено, что они создают дискриминационные результаты в отношении кандидатов по признаку пола, расы и возраста с частотой, превышающей показатели людей-менеджеров по найму в контрольных сравнениях.
Исследовательская группа предупредила, что, поскольку системы ИИ обрабатывают тысячи характеристик кандидатов одновременно, выявление и устранение предвзятых корреляций гораздо сложнее, чем борьба с человеческими предубеждениями на собеседованиях.
Anthropic урегулировала иск об авторских правах на $1,5 млрд
В других новостях об ИИ: судья США утвердил мировое соглашение Anthropic на сумму $1,5 млрд по иску об авторских правах, поданному авторами, которые утверждали, что их произведения использовались для обучения моделей компании без разрешения. Это урегулирование является одним из крупнейших в индустрии ИИ и создает прецедент для того, как компании-разработчики ИИ компенсируют авторам контента, используемого в обучающих наборах данных.
Это дело привлекло пристальное внимание технологического сектора, поскольку судебные разбирательства по поводу обучающих данных продолжают накапливаться против крупных разработчиков ИИ.