Przejdź do głównej treści

Wzmocnienie łańcucha dostaw oprogramowania i zarządzania w celu poprawy cyberbezpieczeństwa systemów AI

Katgoria: IT Solutions / Utworzono: 21 październik 2024
Wzmocnienie łańcucha dostaw oprogramowania i zarządzania w celu poprawy cyberbezpieczeństwa systemów AI
W miarę jak rośnie liczba rozwiązań AI w firmach, zwiększa się także powierzchnia ataku AI. Cyberprzestępcy także zyskują dostęp do coraz bardziej zaawansowanych narzędzi opartych na sztucznej inteligencji. Rządy, regionalni legislatorzy oraz sektor prywatny traktują te zagrożenia bardzo poważnie.

REKLAMA
ASSECO KSEF
 
Kilka miesięcy temu, na Aspen Security Forum, grupa wiodących firm technologicznych uruchomiła Koalicję Na Rzecz Bezpiecznej Sztucznej Inteligencji (CoSAI). Inicjatywa będzie się koncentrować na kluczowych kwestiach związanych z bezpieczeństwem łańcucha dostaw oprogramowania dla systemów AI, przygotowaniem obrońców na zmieniający się krajobraz zagrożeń oraz zarządzaniem ryzykiem AI. Bezpieczeństwo AI jest teraz ważniejsze niż kiedykolwiek, ponieważ rośnie liczba hakerów wykorzystujących AI do udoskonalania swoich phishingowych e-maili oraz ataków z wykorzystaniem deepfake.

Na konferencji Black Hat kilka lat temu, singapurska Agencja Technologii Rządowych (GovTech) przedstawiła wyniki eksperymentu, w którym zespół ds. bezpieczeństwa przeprowadził symulowany atak phishingowy, rozsyłając maile do wewnętrznych użytkowników. Okazało się, że znacznie więcej osób kliknęło w linki umieszczone w mailach phishingowych wygenerowanych przez sztuczną inteligencję niż w tych, które napisał człowiek.

Na początku tego roku, pracownik działu finansowego międzynarodowej firmy padł ofiarą technologii deepfake, którą cyberprzestępcy wykorzystali, aby podczas wideokonferencji podszyć się pod dyrektora finansowego. W efekcie wprowadzony w błąd pracownik przelał oszustom 25 milionów dolarów.

Dlatego zaistniała potrzeba utworzenia CoSAI. Jak wspomniano wcześniej, jednym z kluczowych obszarów, na których skupia się koalicja, jest bezpieczeństwo łańcucha dostaw oprogramowania dla systemów AI. Obejmuje on cały cykl życia systemów sztucznej inteligencji, od zbierania danych, przez szkolenie modeli, aż po ich wdrożenie i utrzymanie. Ze względu na złożoność i wzajemne powiązania tego ekosystemu, podatności na cyberataki na którymkolwiek etapie mogą wpłynąć na cały łańcuch.

Systemy AI często funkcjonują dzięki dostarczanym przez zewnętrznych dostawców bibliotekom, frameworkom i komponentom. Takie rozwiązania choć przyspieszają rozwój, mogą prowadzić do powstawania potencjalnych luk w zabezpieczeniach. Z tego powodu kluczowe jest regularne korzystanie z automatycznych narzędzi w celu sprawdzania i rozwiązywania problemów związanych z bezpieczeństwem tych rozwiązań.

Dodatkowo, powszechna dostępność otwartych modeli językowych (LLM) wymaga solidnej weryfikacji źródła ich pochodzenia, jak również integralności modeli oraz zbiorów danych. Należy także korzystać z narzędzi do automatycznego skanowania tych modeli i zbiorów danych pod kątem podatności i obecności złośliwego oprogramowania. Co ważne, LLM-y na urządzeniach mogą zapewniać większe bezpieczeństwo danych, ponieważ obliczenia wykonywane są w pamięci systemu, bez potrzeby łączenia z chmurą.

W przypadku oprogramowania zamkniętego (proprietary software), jego zastrzeżony i niejawny charakter może zapewnić określony poziom ochrony, co utrudnia cyberprzestępcom wykorzystywanie luk. Z drugiej strony, oznacza to, że identyfikacja i naprawa problemów bezpieczeństwa może trwać dłużej.

W przypadku oprogramowania otwartego (open-source software) zyskujemy na współpracy społeczności, ponieważ wiele osób mających wgląd do kodu przyczynia się do szybkiego wykrywania i naprawiania luk w zabezpieczeniach. Niemniej jednak, publiczne ujawnienie kodu może także zdemaskować potencjalne słabe punkty.

Skupienie się CoSAI na zarządzaniu bezpieczeństwem AI jest również bardzo na czasie. Na przykład, w tym roku, Narodowy Instytut Standaryzacji i Technologii (NIST) opublikował dokument opisujący cztery rodzaje ataków na uczenie maszynowe. Obejmują one infekowanie danych, nadużycia danych, ataki na prywatność oraz ataki polegające na ominięciu mechanizmów obronnych systemów predykcyjnych i generatywnych AI.

AI Act wydany przez Unię Europejską także podkreśla potrzebę stosowania środków bezpieczeństwa cybernetycznego, które umożliwiają zapobieganie, wykrywanie, reagowanie i przeciwdziałanie atakom manipulującym zestawem danych szkoleniowych (zatruwanie danych) lub komponentami używanymi do szkolenia (zatruwanie modeli), a także projektowanymi wejściami, które powodują błąd modelu AI (przykłady adwersaryjne lub ominięcie modelu) oraz atakami na poufność czy usterki modelu.

Firmy mogą dzielić się swoim doświadczeniem, uczestnicząc w procesie regulacyjnym oraz prowadząc badania we współpracy z klientami, partnerami, stowarzyszeniami branżowymi oraz instytucjami badawczymi. Wspólne zaangażowanie w innowacje wymaga, aby sztuczna inteligencja była bezpieczna.

Zarządzanie bezpieczeństwem sztucznej inteligencji wymaga wyspecjalizowanych zasobów, aby sprostać wyzwaniom i zagrożeniom związanym z tą technologią. Opracowanie standardowej biblioteki do mapowania ryzyka i kontroli pomaga w osiągnięciu spójnych praktyk w zakresie bezpieczeństwa sztucznej inteligencji w całej branży.

Dodatkowo, lista kontrolna oraz standaryzowany mechanizm oceny dojrzałości bezpieczeństwa AI pozwoliłyby organizacjom samodzielnie przeprowadzić ewaluację własnych środków ochrony. W efekcie firmy mogą zapewnić klientów, że ich produkty bazujące na AI są bezpieczne. Podejście to jest zbieżne z praktykami bezpiecznego cyklu życia oprogramowania (SDLC) stosowanymi już przez organizacje w ramach ocen modelu dojrzałości oprogramowania (SAMM).

Produkty i rozwiązania mogą być wtedy wykorzystywane w aplikacjach, które pomagają organizacjom spełniać wymogi HIPAA, PCI-DSS, RODO, walidację FIPS-140 oraz wspólne kryteria dla produktów. Organizacje powinny korzystać z technologii dostarczanych przez partnerów, takich jak zestawy narzędzi do tworzenia oprogramowania (SDK), interfejsy API oraz narzędzia dla deweloperów. Dzięki takiemu podejściu będą szybko powstawać bezpieczne i skalowalne usługi cyfrowe.

Firmy technologiczne mogą zobowiązać się do tworzenia bezpiecznych rozwiązań AI, które poprawiają produktywność pracowników oraz wdrażanie na urządzeniach brzegowych, poprzez integrację wielopoziomowych zabezpieczeń oraz skupienie się na łatwym zwiększaniu bezpieczeństwa bez uszczerbku dla wydajności.

Podobnie jak w przypadku inicjatyw związanych z cyberbezpieczeństwem i innych działań wymagających koordynacji w całej firmie, organizacje powinny stale rozwijać procesy, zasady, narzędzia i szkolenia dotyczące AI, zapewniając przy tym spójność i zgodność poprzez wewnętrzny model zarządzania typu hub-and-spoke.

Srikrishna Shankavaram, Główny Architekt ds. Cyberbezpieczeństwa, CTO Office, Zebra Technologies

Najnowsze wiadomości

Europejski przemysł cyfryzuje się zbyt wolno – ERP, chmura i AI stają się koniecznością
BPSCEuropejski przemysł średniej wielkości wie, że cyfryzacja jest koniecznością, ale wciąż nie nadąża za tempem zmian. Ponad 60% firm ocenia swoje postępy w transformacji cyfrowej jako zbyt wolne, mimo rosnącej presji konkurencyjnej, regulacyjnej i kosztowej. Raport Forterro pokazuje wyraźną lukę między świadomością potrzeby inwestycji w chmurę, ERP i AI a realną zdolnością do ich wdrożenia – ograniczaną przez braki kompetencyjne, budżety i gotowość organizacyjną.
Nowa era komunikacji biznesowej, KSeF stał się faktem
SymfoniaOd 1 lutego 2026 roku, w Polsce z sukcesem rozpoczęła się nowa era elektronicznej komunikacji w biznesie. Od tego dnia przedsiębiorcy zaczynają posługiwać się wspólnym standardem we wzajemnej wymianie dokumentów – fakturą ustrukturyzowaną, znaną jako FA(3) lub po prostu faktura KSeF.
Smart Factory w skali globalnej: jak MOWI porządkuje produkcję dzięki danym w czasie rzeczywistym
accevoCyfryzacja produkcji w skali globalnej wymaga dziś spójnych danych, jednolitych standardów i decyzji podejmowanych w czasie rzeczywistym. W środowisku rozproszonych zakładów produkcyjnych tradycyjne raportowanie i lokalne narzędzia IT przestają wystarczać. Przykład MOWI pokazuje, jak wdrożenie rozwiązań Smart Factory i systemu MES może uporządkować zarządzanie produkcją w wielu lokalizacjach jednocześnie, zwiększając przejrzystość procesów, efektywność operacyjną oraz stabilność jakości.
Hakerzy nie kradną już tylko haseł. Oni kradną Twój czas i przyszłość. Jak chronić ERP przed paraliżem?
Hakerzy coraz rzadziej koncentrują się wyłącznie na kradzieży haseł. Ich prawdziwym celem jest dziś sparaliżowanie kluczowych systemów biznesowych, przejęcie kontroli nad danymi i wymuszenie kosztownych decyzji pod presją czasu. System ERP, jako centralny punkt zarządzania finansami, produkcją i logistyką, stał się dla cyberprzestępców najbardziej atrakcyjnym celem. Ten artykuł pokazuje, dlaczego tradycyjne zabezpieczenia przestają wystarczać i jak realnie chronić ERP przed atakami, które mogą zatrzymać firmę z dnia na dzień.
PSI automatyzuje logistykę Rossmanna: Wdrożenie WMS i MFC w Czechach
PSINowoczesne centrum logistyczne Rossmann w Czechach to przykład, jak strategiczne inwestycje w automatykę i systemy IT wspierają skalowanie biznesu w handlu detalicznym. Projekt realizowany przez PSI Polska obejmuje wdrożenie zaawansowanego systemu WMS oraz sterowania przepływem materiałów, tworząc w pełni zintegrowane środowisko dla obsługi rosnących wolumenów sprzedaży i dynamicznego rozwoju e-commerce. To wdrożenie pokazuje, jak technologia staje się fundamentem efektywnej, przyszłościowej logistyki.



Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki
SENTEWspółczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?
Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?
BPSC FORTERROZysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.
Warsztaty analityczne i sesja discovery. Jak wygląda pierwszy etap współpracy z partnerem wdrożeniowym ERP
TODIS ConsultingWdrożenie systemu ERP to jedna z najważniejszych strategicznych decyzji, jakie może podjąć firma. To inwestycja, która ma zrewolucjonizować procesy, zwiększyć efektywność i dać przewagę konkurencyjną. Jednak droga do sukcesu jest pełna potencjalnych pułapek. Wielu menedżerów obawia się nieprzewidzianych kosztów, oporu zespołu czy niedopasowania systemu do realnych potrzeb. Jak zminimalizować to ryzyko? Kluczem jest solidne przygotowanie. Zanim padnie słowo „wdrażamy”, konieczne jest przeprowadzenie trzech fundamentalnych etapów: warsztatów analitycznych, sesji discovery oraz analizy przedwdrożeniowej ERP. To nie są zbędne formalności, ale fundament, na którym zbudujesz sukces całego projektu.
Strategia migracji danych do nowego systemu ERP. Metody, ryzyka i najlepsze praktyki
TODISWdrożenie nowego systemu ERP to dla wielu firm nie tylko krok w stronę unowocześnienia procesów biznesowych, ale także ogromne przedsięwzięcie logistyczne i technologiczne. Aby nowy system ERP zaczął efektywnie wspierać działalność organizacji, kluczowe jest odpowiednie przygotowanie danych, które muszą zostać bezpiecznie i precyzyjnie przeniesione ze starego systemu. Migracja danych ERP to skomplikowany proces, wymagający zarówno zaawansowanej wiedzy technologicznej, jak i dokładnego planowania na poziomie strategicznym. W tym artykule przybliżymy najlepsze metody, wskażemy najczęstsze ryzyka oraz podpowiemy, jak przeprowadzić migrację krok po kroku.
Strategiczna przewaga czy kosztowny mit? Kto wygrywa dzięki chmurze?
Chmura miała być odpowiedzią na wyzwania sektora finansowego: przestarzałą infrastrukturę, rozproszone dane, rosnące oczekiwania klientów i klientek. Dziś korzysta z niej już 91% instytucji, a mimo to tylko nieliczne mówią o realnych efektach. Zaledwie 12% firm maksymalizuje potencjał chmury – tworzy skalowalne platformy, wdraża GenAI, monetyzuje dane. Reszta? Często grzęźnie w kosztach, integracjach i braku kompetencji. Różnica nie tkwi w technologii, ale w strategii – i to ona może zadecydować o miejscu w sektorze, który właśnie wchodzi w kolejną fazę transformacji.

Przeczytaj Również

Jak wycisnąć 100% z Microsoft 365 – sprawdzone rozwiązania

Współczesne organizacje, które integrują swoje systemy ERP czy CRM z Microsoft 365, coraz częściej… / Czytaj więcej

Polska lokalizacja autorstwa IT.integro z certyfikatem zgodności z Ustawą o Rachunkowości

Aplikacja lokalizacyjna dla Dynamics 365 Business Central opracowana przez IT.integro - Polish Loca… / Czytaj więcej

IBM Power11 wyznacza nowe standardy w zakresie infrastruktury IT dla przedsiębiorstw

IBM zaprezentował nową generację serwerów IBM® Power®. Serwery IBM Power11 zostały przeprojektowane… / Czytaj więcej

Nowy model co rok? Fani elektroniki już jej nie kupują, tylko wynajmują

Po co kupować, skoro jutro pojawi się nowszy model? Z takiego założenia wychodzi coraz więcej konsu… / Czytaj więcej

Według najnowszego badania Slack, codzienne korzystanie z AI wzrosło o 233%

Z najnowszego raportu Slack Workforce Index wynika, że wykorzystanie sztucznej inteligencji wśród p… / Czytaj więcej

AI napędza polski przemysł

Sztuczna inteligencja przestaje być wizją przyszłości, a staje się jednym z kluczowych czynników ws… / Czytaj więcej