AI udvikler bias anderledes end mennesker
Forskere ved MIT har offentliggjort resultater, der viser, at AI-ansættelsesværktøjer ikke blot lærer stereotyper fra træningsdata – de udvikler forudindtagede mønstre gennem mekanismer, der er forskellige fra menneskelig fordom. Undersøgelsen testede flere kommercielle AI-rekrutteringsplatforme og fandt, at de producerede diskriminerende resultater mod kandidater baseret på køn, race og alder i en grad, der oversteg menneskelige ansættelseschefer i kontrollerede sammenligninger. Forskerholdet advarede om, at fordi AI-systemer behandler tusindvis af kandidatkarakteristika samtidigt, er det langt mere komplekst at identificere og fjerne forudindtagede korrelationer end at adressere menneskelig fordom i samtaler.
Anthropic indgår forlig i ophavsretssag for 1,5 milliarder dollars
I andre AI-nyheder godkendte en amerikansk dommer Anthropics forlig på 1,5 milliarder dollars i en ophavsretssag anlagt af forfattere, der hævdede, at virksomhedens AI-modeller blev trænet på deres værker uden tilladelse. Forliget er blandt de største i AI-industrien og skaber præcedens for, hvordan AI-virksomheder kompenserer indholdsskabere, hvis materiale bruges i træningsdatasæt. Sagen er blevet fulgt nøje i teknologisektoren, da juridiske udfordringer vedrørende træningsdata fortsætter med at hobe sig op mod større AI-udviklere.