Obecne systemy sztucznej inteligencji wykorzystywane do wykrywania obraźliwych lub szkodliwych treści nie zapewniają odpowiedniej ochrony osobom z niepełnosprawnościami – wynika z nowego badania opublikowanego na platformie arXiv. Zdaniem autorów problem wynika z tego, że większość narzędzi stosuje uniwersalne zasady moderacji, pomijając specyfikę poszczególnych grup społecznych.
Badacze współpracowali z ekspertami reprezentującymi środowiska osób z karłowatością oraz osób niewidomych i słabowidzących. Na podstawie 2400 ocenionych obrazów generowanych przez modele AI sprawdzili skuteczność popularnych systemów wykrywania szkodliwych treści.
Wyniki okazały się niepokojące. Około 35 proc. materiałów uznanych przez standardowe systemy za bezpieczne zostało ocenionych przez przedstawicieli społeczności osób z niepełnosprawnościami jako szkodliwe lub obraźliwe. W wielu przypadkach skuteczność popularnych modeli była niewiele lepsza od losowego zgadywania.
Autorzy proponują odejście od jednego, uniwersalnego modelu moderacji na rzecz rozwiązań tworzonych we współpracy z konkretnymi społecznościami. Ich zdaniem tylko takie podejście pozwoli skuteczniej chronić osoby należące do grup narażonych na dyskryminację w treściach generowanych przez sztuczną inteligencję. Jednocześnie podkreślają, że potrzebne są dalsze badania, ponieważ nawet nowe metody nadal nie osiągają skuteczności porównywalnej z klasycznymi systemami wykrywania toksycznych treści.
