Etyczna zagadka AI, czyli jak budować zaufanie do sztucznej inteligencji

Katgoria: IT Solutions / Utworzono: 01 grudzień 2020

Sztuczna inteligencja może przyczynić się do pozytywnych zmian społecznych i gospodarczych. Aby wykorzystać ten potencjał, organizacje muszą stawić czoła etycznym wyzwaniom, które niesie ze sobą coraz powszechniejsze wykorzystanie AI. Takie wnioski płyną z najnowszego raportu Capgemini: „Sztuczna inteligencja i zagadka etyczna: jak organizacje mogą budować solidne etycznie systemy sztucznej inteligencji i zdobywać zaufanie konsumentów”.

REKLAMA

W raporcie zauważono, że chociaż organizacje są bardziej świadome etycznie, postęp we wdrażaniu etycznej sztucznej inteligencji jest nierówny. Czego przykładem może być fakt, że prawie tyle samo menedżerów rok temu twierdziło, że podjęło kroki w celu zbudowania „uczciwości” (65 proc. w 2020 w porównaniu z 66 proc. w 2019) i „audytowalności” (45 proc. w 2020 w porównaniu z 46 proc. w 2019) ich systemów AI. Spadła ocena przejrzystości działań: z 73 proc. do 59 proc., a dzieje się to pomimo faktu, że 58 proc. firm twierdzi, że buduje wśród pracowników świadomość problemów, które mogą wynikać z wykorzystania sztucznej inteligencji. Co istotne, badanie pokazuje również, że zdecydowana większość klientów – 70 proc., oczekuje, że organizacje będą zapewniać przejrzystość i uczciwość interakcji ze sztuczną inteligencją.

Negatywne doświadczenia klientów przekładają się na straty dla organizacji

Publiczne i prywatne organizacje w coraz większym stopniu wdrażają technologie oparte na sztucznej inteligencji. Kluczowym wyzwaniem staje się zatem utrzymanie zaufania klientów. Służy temu wspieranie pozytywnych relacji między sztuczną inteligencją a konsumentami. Raport pokazuje, że największe społeczne i kulturowe wątpliwości wciąż budzi proces gromadzenia danych, szczególnie na potrzeby opieki zdrowotnej i sektora publicznego – zauważa Beniamin Poznański, szef zespołu CIS Projects & Consulting Eastern Europe w Capgemini.

Te obawy nie ograniczają się jednak do sektora publicznego. Badanie wykazało, że 65 proc. menedżerów zdawało sobie sprawę z tego, że niektóre używane przez nich systemy AI dyskryminowały różne grupy społeczne. Ponadto, blisko 60 proc. organizacji zostało z tego powodu poddanych kontroli prawnej, a 22 proc. spotkało się z negatywną reakcją klientów spowodowaną decyzją podjętą przez systemy AI. 45 proc. klientów przyznało, że podzieli się swoimi negatywnymi opiniami z rodziną i przyjaciółmi, 39 proc. zgłosi swoje obawy i zażąda wyjaśnień, a 39 proc. odrzuci sztuczną inteligencję na rzecz bardziej kosztownych interakcji międzyludzkich.

Kto weźmie odpowiedzialność za kwestie etyczne w AI?

Tylko 53 proc. organizacji ma w zespole lidera odpowiedzialnego za etykę systemów AI np. w funkcji Chief Ethics Officer. Jak wskazują eksperci Capgemini, ustanowienie przywództwa na najwyższym szczeblu jest konieczne, aby kwestie etyki zostały potraktowane priorytetowo. Tylko połowa badanych przyznała, że ma odpowiednią komórkę do zgłaszania problemów natury etycznej związanych z systemami sztucznej inteligencji, np. w postaci poufnej infolinii lub rzecznika praw konsumenta.

Potrzeba wprowadzenia przez organizacje tzw. “karty etycznej” jest dodatkowo napędzana przez konkretne regulacje prawne. Komisja Europejska wydała wytyczne dotyczące kluczowych zasad etycznych, które należy stosować przy projektowaniu aplikacji AI. Z kolei wytyczne wydane przez Federalną Komisję Handlu USA (FTC) na początku 2020 r., wzywają do tworzenia przejrzystej sztucznej inteligencji.

Według regulacji FTC, gdy system obsługujący sztuczną inteligencję podejmie niekorzystną decyzję (np. odmowa udzielenia kredytu), organizacja powinna pokazać poszkodowanemu konsumentowi kluczowe dane wykorzystane przy podejmowaniu decyzji. Powinna też zagwarantować mu prawo do zmiany wszelkich nieprawidłowych informacji.

Tymczasem, okazuje się, że podczas gdy w 2019 roku aż 73 proc. organizacji poinformowało użytkowników o tym, w jaki sposób decyzje związane ze sztuczną inteligencją mogą na nich wpłynąć, w 2020 roku ten odsetek spadł do 59 proc.

Główne czynniki negatywnie wpływające na funkcjonalność modeli AI to przede wszystkim okoliczności wywołane przez pandemię COVID-19, potrzeby społeczne i środowiskowe, rosnącą złożoność modeli sztucznej inteligencji oraz zmiana zachowań konsumentów. Organizacje zmuszone zostały więc do przeprojektowania swoich systemów tak, aby odpowiadały nowym normom. Doprowadziło to jednak do mniejszej przejrzystości ich działań – podsumowuje Beniamin Poznański z Capgemini.

7 działań niezbędnych przy budowaniu etycznych systemów AI

Raport wskazuje także kierunek, w którym firmy powinny zmierzać, aby wyjść na przeciw oczekiwaniom konsumentów. Proponowany zestaw siedmiu kluczowych zasad opiera się na przywództwie, zarządzaniu i wewnętrznych dobrych praktykach:

Jasno określony cel stosowania AI i ocena ogólnego oraz potencjalnego wpływu na otoczenie.
Wdrażanie sztucznej inteligencji z korzyścią dla społeczeństwa i środowiska.
Uwzględnienie zasady różnorodności i integracji w całym cyklu życia systemów AI.
Dbałość o transparentność zasad wykorzystania systemu za pomocą narzędzi technologicznych.
Humanizacja doświadczenia AI i zapewnienie nadzoru człowieka nad systemami AI.
Zapewnienie solidności technologicznej systemów AI.
Ochrona prywatności ludzi i powierzenie im speawczości i odpowiedzialności za interakcje z AI.

Źródło: Capgemini

Najnowsze wiadomości

Europejski przemysł cyfryzuje się zbyt wolno – ERP, chmura i AI stają się koniecznością

Europejski przemysł średniej wielkości wie, że cyfryzacja jest koniecznością, ale wciąż nie nadąża za tempem zmian. Ponad 60% firm ocenia swoje postępy w transformacji cyfrowej jako zbyt wolne, mimo rosnącej presji konkurencyjnej, regulacyjnej i kosztowej. Raport Forterro pokazuje wyraźną lukę między świadomością potrzeby inwestycji w chmurę, ERP i AI a realną zdolnością do ich wdrożenia – ograniczaną przez braki kompetencyjne, budżety i gotowość organizacyjną.

Czytaj całość

Nowa era komunikacji biznesowej, KSeF stał się faktem

Od 1 lutego 2026 roku, w Polsce z sukcesem rozpoczęła się nowa era elektronicznej komunikacji w biznesie. Od tego dnia przedsiębiorcy zaczynają posługiwać się wspólnym standardem we wzajemnej wymianie dokumentów – fakturą ustrukturyzowaną, znaną jako FA(3) lub po prostu faktura KSeF.

Czytaj całość

Smart Factory w skali globalnej: jak MOWI porządkuje produkcję dzięki danym w czasie rzeczywistym

Cyfryzacja produkcji w skali globalnej wymaga dziś spójnych danych, jednolitych standardów i decyzji podejmowanych w czasie rzeczywistym. W środowisku rozproszonych zakładów produkcyjnych tradycyjne raportowanie i lokalne narzędzia IT przestają wystarczać. Przykład MOWI pokazuje, jak wdrożenie rozwiązań Smart Factory i systemu MES może uporządkować zarządzanie produkcją w wielu lokalizacjach jednocześnie, zwiększając przejrzystość procesów, efektywność operacyjną oraz stabilność jakości.

Czytaj całość

Hakerzy nie kradną już tylko haseł. Oni kradną Twój czas i przyszłość. Jak chronić ERP przed paraliżem?

Hakerzy coraz rzadziej koncentrują się wyłącznie na kradzieży haseł. Ich prawdziwym celem jest dziś sparaliżowanie kluczowych systemów biznesowych, przejęcie kontroli nad danymi i wymuszenie kosztownych decyzji pod presją czasu. System ERP, jako centralny punkt zarządzania finansami, produkcją i logistyką, stał się dla cyberprzestępców najbardziej atrakcyjnym celem. Ten artykuł pokazuje, dlaczego tradycyjne zabezpieczenia przestają wystarczać i jak realnie chronić ERP przed atakami, które mogą zatrzymać firmę z dnia na dzień.

Czytaj całość

PSI automatyzuje logistykę Rossmanna: Wdrożenie WMS i MFC w Czechach

Nowoczesne centrum logistyczne Rossmann w Czechach to przykład, jak strategiczne inwestycje w automatykę i systemy IT wspierają skalowanie biznesu w handlu detalicznym. Projekt realizowany przez PSI Polska obejmuje wdrożenie zaawansowanego systemu WMS oraz sterowania przepływem materiałów, tworząc w pełni zintegrowane środowisko dla obsługi rosnących wolumenów sprzedaży i dynamicznego rozwoju e-commerce. To wdrożenie pokazuje, jak technologia staje się fundamentem efektywnej, przyszłościowej logistyki.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki

Współczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?

Czytaj całość

Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?

Zysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.

Czytaj całość

Warsztaty analityczne i sesja discovery. Jak wygląda pierwszy etap współpracy z partnerem wdrożeniowym ERP

Wdrożenie systemu ERP to jedna z najważniejszych strategicznych decyzji, jakie może podjąć firma. To inwestycja, która ma zrewolucjonizować procesy, zwiększyć efektywność i dać przewagę konkurencyjną. Jednak droga do sukcesu jest pełna potencjalnych pułapek. Wielu menedżerów obawia się nieprzewidzianych kosztów, oporu zespołu czy niedopasowania systemu do realnych potrzeb. Jak zminimalizować to ryzyko? Kluczem jest solidne przygotowanie. Zanim padnie słowo „wdrażamy”, konieczne jest przeprowadzenie trzech fundamentalnych etapów: warsztatów analitycznych, sesji discovery oraz analizy przedwdrożeniowej ERP. To nie są zbędne formalności, ale fundament, na którym zbudujesz sukces całego projektu.

Czytaj całość

Strategia migracji danych do nowego systemu ERP. Metody, ryzyka i najlepsze praktyki

Wdrożenie nowego systemu ERP to dla wielu firm nie tylko krok w stronę unowocześnienia procesów biznesowych, ale także ogromne przedsięwzięcie logistyczne i technologiczne. Aby nowy system ERP zaczął efektywnie wspierać działalność organizacji, kluczowe jest odpowiednie przygotowanie danych, które muszą zostać bezpiecznie i precyzyjnie przeniesione ze starego systemu. Migracja danych ERP to skomplikowany proces, wymagający zarówno zaawansowanej wiedzy technologicznej, jak i dokładnego planowania na poziomie strategicznym. W tym artykule przybliżymy najlepsze metody, wskażemy najczęstsze ryzyka oraz podpowiemy, jak przeprowadzić migrację krok po kroku.

Czytaj całość

Strategiczna przewaga czy kosztowny mit? Kto wygrywa dzięki chmurze?

Chmura miała być odpowiedzią na wyzwania sektora finansowego: przestarzałą infrastrukturę, rozproszone dane, rosnące oczekiwania klientów i klientek. Dziś korzysta z niej już 91% instytucji, a mimo to tylko nieliczne mówią o realnych efektach. Zaledwie 12% firm maksymalizuje potencjał chmury – tworzy skalowalne platformy, wdraża GenAI, monetyzuje dane. Reszta? Często grzęźnie w kosztach, integracjach i braku kompetencji. Różnica nie tkwi w technologii, ale w strategii – i to ona może zadecydować o miejscu w sektorze, który właśnie wchodzi w kolejną fazę transformacji.

Czytaj całość