Przedstawiciele 66% przedsiębiorstw przewidują, że w najbliższych latach będą w coraz większym stopniu podejmować decyzje z wykorzystaniem sztucznej inteligencji i uczenia maszynowego. Aby robić to w sposób odpowiedzialny, powinni uwzględnić aspekty etyczne, a na przeszkodzie takim działaniom może stanąć tendencyjność danych. Z przeprowadzonego przez Progress badania wynika, że zarządy większości firm rozumieją znaczenie tego zjawiska i uważają, że jest ono powszechne w ich przedsiębiorstwach, ale napotykają problemy z jego skuteczną neutralizacją.
Sztuczna inteligencja szturmem zdobywa kolejne branże – od ochrony zdrowia przez finanse po e-commerce i produkcję. Firmy coraz chętniej wykorzystują AI do podejmowania decyzji na bazie reguł dotyczących np. określania zdolności kredytowej czy segmentacji klientów. Korzyści w postaci poprawy wydajności pracy, obniżenia kosztów czy przyspieszenia rozwoju firm są zauważalne dla ich właścicieli oraz konsumentów, którzy zyskują sprawniejszą i szybszą obsługę.
Warto jednak pamiętać, że procesy stojące za wykorzystaniem AI mają pewną wadę – dane wykorzystywane do zasilania tych systemów nie są neutralne. Zawsze istnieje jakaś forma wykreowanego uprzedzenia, które wynika z charakteru medium, za pomocą którego dane zostały zaczerpnięte. Sztuczna inteligencja odzwierciedla i wzmacnia uprzedzenia swoich twórców, co rodzi obawy etyczne związane z prywatnością, bezpieczeństwem, stereotypami i obiektywną oceną.
– Z tendencyjnością danych mamy do czynienia wtedy, gdy ze względu na obecne w nich błędy, określona grupa faworyzowana jest kosztem innej. Zazwyczaj skutkiem tego jest podejmowanie przez algorytm niesprawiedliwych decyzji, gdyż dostępne dane nie odzwierciedlają w dokładny sposób postaw całej reprezentowanej populacji. Tendencyjność powoduje różnice między przewidywanymi, a rzeczywistymi wartościami modelu. Te uprzedzenia mogą być oparte na stereotypach, a nie na konkretnej wiedzy o osobach lub okolicznościach – mówi Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.
Jak zapobiegać tendencyjności danych?
Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi.
Chcąc zapobiegać zjawisku tendencyjności danych należy zastosować podejście, które będzie wynikało bezpośrednio z polityki i kultury organizacyjnej w firmie. Sztuczna inteligencja oraz uczenie maszynowe są coraz bardziej zintegrowane z operacjami biznesowymi. Takie podejście powinno obejmować ustanowienie standardów etycznych, najlepszych praktyk w zakresie gromadzenia danych i opracowywania modeli, regularną ocenę modeli, bieżące monitorowanie oraz współpracę między wszystkimi stronami zaangażowanymi w ich wykorzystanie.
Źródło: Badanie Progress „Data Bias: The Hidden Risk of AI”