Algorytm obniżył oceny uczniom – uregulowań prawnych nadal brak
W Wielkiej Brytanii o tym, kto dostanie się na studia zadecydował algorytm. Skandal wybuchł, gdy okazało się, że obniżył oceny ponad 40 proc. uczniów. Nadal brak uregulowań prawnych, które normowałyby korzystanie z tego narzędzia sztucznej inteligencji.
Kontrowersje wokół algorytmów w Wielkiej Brytanii
Epidemia koronawirusa uniemożliwiła przeprowadzenie w Wielkiej Brytanii egzaminów końcowych po szkole średniej. Tamtejsze Ministerstwo Edukacji postanowiło więc, w miejsce tradycyjnych testów kwalifikujących na studia, użyć algorytmu, który wystawiłby uczniom oceny.
Skandal wybuchł, gdy okazało się, że algorytm obniżył oceny ponad 40 proc. uczniów. W dodatku, nieproporcjonalnie bardziej dotykając uczniów pochodzących z klas niższych. W rezultacie doszło do protestów i rządy regionalne po kolei wycofywały się z tego systemu, opierając się w zamian na ocenach wystawianych przez nauczycieli. Wielu uczniów straciło już jednak szansę studiowania na wybranym kierunku.
Dlaczego algorytmy dyskryminują?
Eksperci podkreślają, że dyskryminacja spowodowana przez algorytm była dosyć typowym przypadkiem. Zastosowany model brał pod uwagę nie tylko indywidualne wyniki danych uczniów, ale też statystyczne wyniki dla danej szkoły z lat ubiegłych. W rezultacie oceny uczniów szkół publicznych, w szczególności z biedniejszych dzielnic, były częściej obniżane, a oceny uczniów ze szkół prywatnych, częściej podwyższane.
Czas na regulacje prawne ws. algorytmów
Przykład ten pokazuje w jaskrawy sposób jak zastosowanie algorytmów opartych na modelach statystycznych może łatwo prowadzić do wypaczeń. Podkreśla też jak paląca jest kwestia uregulowania zasad stosowania algorytmów w podobnych sytuacjach. Obecnie użycie algorytmów nie jest w żaden sposób normowane przez ustawodawstwo państwowe i zależy wyłącznie od decyzji stosujących je organów.
Więcej o sprawie przeczytasz tu:
https://www.politico.eu/article/uk-government-faces-elitism-row-after-algorithm-downgrades-final-year-pupils/
https://www.theguardian.com/education/2020/aug/16/boris-johnson-urged-to-intervene-as-exam-results-crisis-grows
https://www.politico.eu/article/boris-johnson-uk-might-have-done-things-differently-on-exams/