AI, 인간과 다른 방식으로 편향 발생
MIT 연구진은 AI 채용 도구가 단순히 훈련 데이터로부터 고정관념을 학습하는 것이 아니라 인간의 편견과는 구별되는 메커니즘을 통해 편향된 패턴을 발전시킨다는 연구 결과를 발표했다. 연구진은 여러 상용 AI 채용 플랫폼을 테스트한 결과, 통제된 비교에서 인간 채용 관리자보다 높은 비율로 성별, 인종, 나이에 기반한 차별적 결과를 초래한다는 것을 발견했다.
연구팀은 AI 시스템이 수천 개의 지원자 특성을 동시에 처리하기 때문에 편향된 상관관계를 식별하고 제거하는 것이 면접에서 인간의 편견을 다루는 것보다 훨씬 복잡하다고 경고했다.
Anthropic, 저작권 소송 15억 달러에 합의
다른 AI 소식으로, 미국 판사가 작가들이 자사 AI 모델이 허가 없이 자신의 저작물을 훈련에 사용했다고 주장하며 제기한 소송에 대해 Anthropic의 15억 달러 합의를 승인했다. 이 합의는 AI 업계에서 가장 큰 규모 중 하나이며, AI 기업이 훈련 데이터에 사용된 콘텐츠 제작자에게 보상하는 방식에 대한 선례를 남겼다.
이 사건은 주요 AI 개발자들을 상대로 한 훈련 데이터 관련 법적 도전이 계속해서 증가함에 따라 기술 업계의 면밀한 주목을 받고 있다.