Dlatego nadszedł czas, aby przestać ślepo wierzą w Big Data
Życie / / December 19, 2019
Algorytmy teraz zdecydować, który zatwierdza pożyczki, ubezpieczenia lub którzy otrzymają zaproszenie na rozmowę, ale często robią tak niesprawiedliwie. I to tylko zwiększa odstęp między warstwami ludności.
Katie O'Neill (Cathy O'Neil)
Matematyk, na analizie rynków finansowych specjalisty, autora książki „broni matematycznej porażki.”
Aby skonstruować algorytm, potrzebujemy dwóch rzeczy: dane (co miało miejsce w przeszłości) oraz definicję pomyślnego wyniku (co chcesz znaleźć za pomocą tego algorytmu). Następnie określa kryteria, które doprowadzi do pomyślnego rezultatu. Ale definicja sukcesu nie może być uniwersalna.
Algorytm - to opinia kogoś innego, wbudowany kod.
Zwykliśmy myśleć, że algorytmy są obiektywne i rzetelne, ale jest to tylko chwyt marketingu zaprojektowany do nas zastraszyć i sprawiają nam zaufać algorytmów i danych matematycznych.
O'Neill przytacza przykłady, gdzie algorytmy mogą powodować poważne szkody. Dzieje się to przy ocenie pracowników. Na przykład w 2011 roku w szkole w Washington County zostały oddalone ponad 200 nauczycieli po ich
wyeliminować algorytmMimo że miał doskonałe rekomendacje od swoich rodziców i rówieśników.Ponadto, algorytmy są często powodem usunięcia tendencyjne werdyktów. Aktualności organizacja ProPublica niedawno przeprowadził dochodzenie i znalezionoŻe algorytmy, które określają ryzyko recydywy, działać w sposób obiektywny. Na tych samych zbrodni zdania często wyjęte czarnych Amerykanów.
Wszyscy jesteśmy przedmiotem uprzedzeń, i dostosowania ich do algorytmów, które decydują, który potrzebuje danych należy wziąć pod uwagę.
Algorytmy są po prostu powtarzając nasze błędy z przeszłości, automatyzację istniejącego zamówienia. Więc nie możemy ślepo im ufać, musimy przetestować je za cel: przemyśleć definicję pomyślnego wyniku, błąd, nie są ubezpieczone przez jakiegokolwiek algorytmu. Jak często występuje i kogo dotyczy? Jaki jest koszt takich błędów?
Specjalistów pracujących z danymi, nie powinny być arbitrami sprawiedliwości. Nadszedł czas, aby przestać ślepo wierzyć Big Data.