Aż 66% firm chce podejmować decyzje wykorzystując AI. Wiąże się z tym spore niebezpieczeństwo

przez Maciej Maciejewski
615 odsłony

Przedstawiciele 66% przedsiębiorstw przewidują, że w najbliższych latach będą w coraz większym stopniu podejmować decyzje z wykorzystaniem sztucznej inteligencji i uczenia maszynowego. Aby robić to w sposób odpowiedzialny, powinni uwzględnić aspekty etyczne, a na przeszkodzie takim działaniom może stanąć tendencyjność danych.

źródło: Pixabay

Z przeprowadzonego przez Progress badania wynika, że zarządy większości firm rozumieją znaczenie tego zjawiska i uważają, że jest ono powszechne w ich przedsiębiorstwach, ale napotykają problemy z jego skuteczną neutralizacją.

Sztuczna inteligencja szturmem zdobywa kolejne branże – od ochrony zdrowia przez finanse po e-commerce i produkcję. Firmy coraz chętniej wykorzystują AI do podejmowania decyzji na bazie reguł dotyczących np. określania zdolności kredytowej czy segmentacji klientów. Korzyści w postaci poprawy wydajności pracy, obniżenia kosztów czy przyspieszenia rozwoju firm są zauważalne dla ich właścicieli oraz konsumentów, którzy zyskują sprawniejszą i szybszą obsługę.

Warto jednak pamiętać, że procesy stojące za wykorzystaniem AI mają pewną wadę – dane wykorzystywane do zasilania tych systemów nie są neutralne. Zawsze istnieje jakaś forma wykreowanego uprzedzenia, które wynika z charakteru medium, za pomocą którego dane zostały zaczerpnięte.

Sztuczna inteligencja odzwierciedla i wzmacnia uprzedzenia swoich twórców, co rodzi obawy etyczne związane z prywatnością, bezpieczeństwem, stereotypami i obiektywną oceną.

– Z tendencyjnością danych mamy do czynienia wtedy, gdy ze względu na obecne w nich błędy, określona grupa faworyzowana jest kosztem innej. Zazwyczaj skutkiem tego jest podejmowanie przez algorytm niesprawiedliwych decyzji, gdyż dostępne dane nie odzwierciedlają w dokładny sposób postaw całej reprezentowanej populacji. Tendencyjność powoduje różnice między przewidywanymi, a rzeczywistymi wartościami modelu. Te uprzedzenia mogą być oparte na stereotypach, a nie na konkretnej wiedzy o osobach lub okolicznościach – mówi Niklas Enge, dyrektor regionalny Nordics i Polska w firmie Progress.

Jak zapobiegać tendencyjności danych? Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi.

Chcąc zapobiegać zjawisku tendencyjności danych należy zastosować podejście, które będzie wynikało bezpośrednio z polityki i kultury organizacyjnej w danej firmie. Sztuczna inteligencja oraz uczenie maszynowe są coraz bardziej zintegrowane z operacjami biznesowymi. Takie podejście powinno obejmować ustanowienie standardów etycznych, najlepszych praktyk w zakresie gromadzenia danych i opracowywania modeli, regularną ocenę modeli, bieżące monitorowanie oraz współpracę między wszystkimi stronami zaangażowanymi w ich wykorzystanie.

Mogą Cię również zainteresować