Cyberbezpieczeństwo w kontekście sztucznej inteligencji według NASK
Opublikowano:
3 Listopada 2023r
Narodowe Centrum Cyberbezpieczeństwa (NASK) z dumą ogłasza wydanie publikacji zatytułowanej "Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie". Niniejsza praca poświęcona jest aspektom bezpieczeństwa w dziedzinie sztucznej inteligencji. Dokument stanowi wszechstronne omówienie kwestii związanych z cyberbezpieczeństwem w kontekście wykorzystania rozwiązań opartych na sztucznej inteligencji oraz możliwości zastosowania tej technologii w przeciwdziałaniu zagrożeniom.
NASK wskazuje, iż choć sztuczna inteligencja może pełnić rolę narzędzia zabezpieczającego cyberbezpieczeństwo, to jednocześnie może być wykorzystywana w celach ataków na integralność danych, dlatego też należy zadbać o jej odpowiednią ochronę. Systemy operujące na bazie sztucznej inteligencji powinny być wzbogacone o dodatkowe środki bezpieczeństwa, zapewniające skuteczną ochronę przed specyficznymi zagrożeniami. Kolejnym zagadnieniem podkreślonym w publikacji jest konieczność przezwyciężenia niepewności związanej z procesem uczenia maszynowego algorytmów. Organizacje korzystające z tej technologii nie będą w stanie właściwie reagować na potencjalne zagrożenia związanego z jej zastosowaniem, jeśli nie dokonają gruntownej analizy działania tych algorytmów, w celu zrozumienia podstaw podejmowanych przez sztuczną inteligencję decyzji.
Autorzy publikacji podkreślają, że systemy cyberbezpieczeństwa nie mogą całkowicie polegać na rozwiązaniach opartych na sztucznej inteligencji. Zważywszy na coraz bardziej powszechne i różnorodne ataki na te systemy, należy rozważać uzupełniające strategie obronne. Ponadto, istotnym aspektem jest etyczne wykorzystanie rozwiązań opartych na sztucznej inteligencji, które nie powinno prowadzić do naruszenia praw jednostek. W kontekście tego zagadnienia, jako przykład, zostaje przedstawiona sytuacja, w której system oparty na sztucznej inteligencji odmówił dostępu na koncert bożonarodzeniowy prawniczce z kancelarii prawnej reprezentującej stronę w postępowaniu przeciwko właścicielowi sali koncertowej.
Równie ważne jest rozważenie kwestii weryfikacji wiarygodności algorytmów sztucznej inteligencji. Autorzy publikacji zwracają uwagę, że konieczne jest dokładne zrozumienie procesu uczenia maszynowego, aby uniknąć takich problemów, jak nadmierne dopasowanie (przeuczenie) czy wprowadzenie danych do bazy danych o zbyt niskim znaczeniu, co mogłoby zakłócić proces decyzyjny. Istotnym elementem jest również ocena "sprawiedliwości algorytmu", polegająca na weryfikacji, czy dane treningowe nie zawierają uprzedzeń i stereotypów, czy uwzględniają różnice charakterystyczne dla różnych grup danych, czy model jest stosowany zgodnie z zamierzonym celem itp. Niedoskonałości w tym obszarze mogą prowadzić do stronniczych decyzji podejmowanych przez systemy oparte na sztucznej inteligencji, co wpływa na ich wiarygodność.
Zachęcamy do zapoznania się z pełnym tekstem publikacji NASK, który dostępny jest pod poniższym linkiem.
Zobacz również
03.11.2023
Cyberbezpieczeństwo w kontekście sztucznej inteligencji według NASK
Narodowe Centrum Cyberbezpieczeństwa (NASK) z dumą ogłasza wydanie publikacji zatytułowanej "Cyberbezpieczeństwo AI. AI w...
19.10.2023
E-Doręczenia – zmiany w prawie
W niedługim okresie będzie miała miejsca nowelizacja przepisów, które dotkną przedsiębiorców, w tym...
06.10.2023
Obrót ziemią rolną - zmiany w prawie
Transakcje z prywatną ziemią rolną zostaną uproszczone, podlegając nowym uregulowaniom prawnym. Dodatkowo, przepisy regulujące...
29.09.2023
Rejestracja spółki z ograniczoną odpowiedzialnością (sp. z o.o.)
Spółka z ograniczoną odpowiedzialnością (sp. z o.o.) to jedna z najpopularniejszych form prowadzenia działalności...
25.05.2023
Fundusz MŚP – dotacje do praw ochronnych
Ważnym przypomnienia jest, że aktualnie cały czas trwa nabór wniosków w ramach tegorocznych edycji programu SME...
18.11.2022
Spółki akcyjne z obowiązkiem ujawniania informacji o finansach na stronie internetowej
Każda spółka akcyjna będzie musiała posiadać własną stronę internetową – bez względu czy jest spółką...