Cyberbezpieczeństwo w kontekście sztucznej inteligencji według NASK

Narodowe Centrum Cyberbezpieczeństwa (NASK) z dumą ogłasza wydanie publikacji zatytułowanej "Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie". Niniejsza praca poświęcona jest aspektom bezpieczeństwa w dziedzinie sztucznej inteligencji. Dokument stanowi wszechstronne omówienie kwestii związanych z cyberbezpieczeństwem w kontekście wykorzystania rozwiązań opartych na sztucznej inteligencji oraz możliwości zastosowania tej technologii w przeciwdziałaniu zagrożeniom.

NASK wskazuje, iż choć sztuczna inteligencja może pełnić rolę narzędzia zabezpieczającego cyberbezpieczeństwo, to jednocześnie może być wykorzystywana w celach ataków na integralność danych, dlatego też należy zadbać o jej odpowiednią ochronę. Systemy operujące na bazie sztucznej inteligencji powinny być wzbogacone o dodatkowe środki bezpieczeństwa, zapewniające skuteczną ochronę przed specyficznymi zagrożeniami. Kolejnym zagadnieniem podkreślonym w publikacji jest konieczność przezwyciężenia niepewności związanej z procesem uczenia maszynowego algorytmów. Organizacje korzystające z tej technologii nie będą w stanie właściwie reagować na potencjalne zagrożenia związanego z jej zastosowaniem, jeśli nie dokonają gruntownej analizy działania tych algorytmów, w celu zrozumienia podstaw podejmowanych przez sztuczną inteligencję decyzji.

Autorzy publikacji podkreślają, że systemy cyberbezpieczeństwa nie mogą całkowicie polegać na rozwiązaniach opartych na sztucznej inteligencji. Zważywszy na coraz bardziej powszechne i różnorodne ataki na te systemy, należy rozważać uzupełniające strategie obronne. Ponadto, istotnym aspektem jest etyczne wykorzystanie rozwiązań opartych na sztucznej inteligencji, które nie powinno prowadzić do naruszenia praw jednostek. W kontekście tego zagadnienia, jako przykład, zostaje przedstawiona sytuacja, w której system oparty na sztucznej inteligencji odmówił dostępu na koncert bożonarodzeniowy prawniczce z kancelarii prawnej reprezentującej stronę w postępowaniu przeciwko właścicielowi sali koncertowej.

Równie ważne jest rozważenie kwestii weryfikacji wiarygodności algorytmów sztucznej inteligencji. Autorzy publikacji zwracają uwagę, że konieczne jest dokładne zrozumienie procesu uczenia maszynowego, aby uniknąć takich problemów, jak nadmierne dopasowanie (przeuczenie) czy wprowadzenie danych do bazy danych o zbyt niskim znaczeniu, co mogłoby zakłócić proces decyzyjny. Istotnym elementem jest również ocena "sprawiedliwości algorytmu", polegająca na weryfikacji, czy dane treningowe nie zawierają uprzedzeń i stereotypów, czy uwzględniają różnice charakterystyczne dla różnych grup danych, czy model jest stosowany zgodnie z zamierzonym celem itp. Niedoskonałości w tym obszarze mogą prowadzić do stronniczych decyzji podejmowanych przez systemy oparte na sztucznej inteligencji, co wpływa na ich wiarygodność.

Zachęcamy do zapoznania się z pełnym tekstem publikacji NASK, który dostępny jest pod poniższym linkiem.