Analizy ekspertów Sophos wskazują, że cyberprzestępcy wciąż są sceptyczni wobec GenAI. Wykorzystują ją głównie do automatyzacji prostych zadań oraz analizy danych. Jednocześnie 98% firm wdrożyło już jakieś rozwiązania ochronne bazujące na sztucznej inteligencji. Kierownicy działów IT wyrażają jednak obawy dotyczące nadmiernego polegania na AI. 84% jest zaniepokojonych wynikającą z tego presją na redukcję zatrudnienia specjalistów ds. cyberbezpieczeństwa. Aż 89% wskazuje na potencjalne zagrożenia związane z lukami w zabezpieczeniach narzędzi bazujących na AI.
Na skróty:
Cyberprzestępcy wciąż sceptyczni wobec GenAI
Podczas badania forów hakerskich analitycy z zespołu Sophos X-Ops zaobserwowali, że wielu cyberprzestępców pozostaje sceptycznie nastawionych do GenAI. Liczba dyskusji na ten temat – w porównaniu z „tradycyjnymi” wątkami, takimi jak złośliwe oprogramowanie czy Access-as-a-Service – jest ograniczona. Badacze zaobserwowali jednak niewielką, ale znaczącą zmianę w sposobie wykorzystania AI przez cyberprzestępców. Mimo utrzymującego się sceptycyzmu, niektórzy hakerzy wykorzystują AI do automatyzacji prostych zadań, takich jak projektowanie fałszywych witryn i redagowanie wiadomości do masowej wysyłki czy analiza danych. W cyberprzestępczym podziemiu może więc istnieć rynek na niektóre zastosowania GenAI, ale prawdopodobnie będą to przede wszystkim narzędzia oszczędzające hakerom czas, a nie ułatwiające tworzenie nowych zagrożeń.
Działy IT obawiają się luk i redukcji zatrudnienia
Modele deep learning mogą w ułamku sekundy identyfikować złośliwe pliki, zaś GenAI – tworzyć podsumowanie incydentów czy zalecać analitykowi kolejne kroki do podjęcia. Jednak niskiej jakości lub niewłaściwie wdrożone modele sztucznej inteligencji mogą wprowadzić też znaczne ryzyko dla cyberbezpieczeństwa firm. Dostrzegają to kierownicy działów IT: jak wskazuje badanie Sophos, aż 89% z nich wyraża obawy, że potencjalne luki w narzędziach GenAI stosowanych w cyberbezpieczeństwie mogą zaszkodzić ich firmie. Przedsiębiorstwa zdają sobie również sprawę z konsekwencji nadmiernego polegania na AI. 84% badanych jest zaniepokojonych wynikającą z tego presją na redukcję zatrudnienia specjalistów ds. cyberbezpieczeństwa (42% jest bardzo zaniepokojonych). 87% wyraża obawy związane z wynikającym z tego rozmyciem odpowiedzialności za cyberbezpieczeństwo.
– W przypadku narzędzi bazujących na generatywnej sztucznej inteligencji powinniśmy kierować się zasadą „ufaj, ale sprawdzaj”. Warto pamiętać, że nie nauczyliśmy maszyn myśleć – daliśmy im jedynie kontekst, aby sprawniej przetwarzały duże ilości danych. Potencjał tych narzędzi w usprawnianiu zadań związanych z cyberbezpieczeństwem jest ogromny, jednak by w pełni go wykorzystać, niezbędny jest właściwy nadzór oraz zrozumienie sposobu ich działania – wyjaśnia Chester Wisniewski, dyrektor ds. technologii w firmie Sophos.
Firmy „nie wiedzą, czego nie wiedzą”
Eksperci Sophos wskazują, że wiele firm może nie posiadać wystarczającej wiedzy do rzetelnej oceny dopuszczalnego poziomu ryzyka. Niemal wszystkie badane przedsiębiorstwa deklarują, że dokonują oceny procesów i kontroli zabezpieczeń wykorzystywanych w rozwoju narzędzi GenAI. Wymaga to jednak zaawansowanego poziomu wiedzy na temat sztucznej inteligencji oraz przejrzystości ze strony dostawców, ci zaś rzadko udostępniają pełne procesy wdrażania rozwoju GenAI, a zespoły IT mają ograniczony wgląd w najlepsze praktyki w zakresie tworzenia AI.
GenAI receptą na wypalenie zawodowe, ale w mniejszych firmach
Korzyści, jakie firmy chcą osiągnąć poprzez wdrożenie AI w obszarach dotyczących cyberbezpieczeństwa, różnią się w zależności od ich wielkości, a więc i odmiennych wyzwań, z którymi się one mierzą. Największe przedsiębiorstwa (zatrudniające ponad 1000 osób) skupiają się głównie na zwiększaniu poziomu ochrony. Podmioty zatrudniające od 100 do 249 pracowników – na poprawie wyników biznesowych. Natomiast mniejsze firmy (50-99 pracowników) liczą przede wszystkim na ograniczenie zjawiska wypalenia zawodowego. W ujęciu ogólnym aspekt ten uplasował się najniżej na liście priorytetów. Tak duża różnica może wynikać z faktu, że braki kadrowe oraz nieobecność pracowników są bardziej dotkliwe dla mniejszych przedsiębiorstw.
– Wiele firm dostrzega korzyści z wdrażania AI, wykorzystując sztuczną inteligencję jako „pomocnika” dla swoich specjalistów ds. bezpieczeństwa. Umożliwia to m.in. zwiększenie zdolności do selekcji alertów bezpieczeństwa czy ustalania priorytetów działań. Jednocześnie należy jednak pamiętać także o prywatności i zgodności z przepisami. Większość przedsiębiorstw będzie korzystać z AI za pośrednictwem usług hostowanych w chmurze od takich firm jak OpenAI, Anthropic, Perplexity, a teraz DeepSeek. Bardzo ważne jest, aby zapoznać się z warunkami umowy dotyczącymi sposobu i miejsca przetwarzania danych. Ostatecznie dotrzymanie obowiązków wynikających z RODO spoczywa zarówno na firmie zamawiającej usługi, jak i na tych, którzy je świadczą – podkreśla Chester Wisniewski.
Jak podkreślają eksperci Sophos, firmy powinny też patrzeć na sztuczną inteligencję przez pryzmat człowieka – skoncentrować się na tym, jak AI może wspierać pracowników, zajmując się niskopoziomowymi, powtarzalnymi zadaniami i dostarczając im szczegółowych informacji. W sytuacji, gdy na całym świecie brakuje specjalistów ds. cyberbezpieczeństwa, sztuczna inteligencja może być pomocna zwłaszcza w ograniczaniu ich rotacji.
O badaniu
Raport „Beyond the Hype: The Businesses Reality of AI for Cybersecurity” bazuje na badaniu przeprowadzonym w listopadzie 2024 roku przez Vanson Bourne na zlecenie firmy Sophos. Ankieta objęła 400 decydentów ds. bezpieczeństwa IT w przedsiębiorstwach zatrudniających od 50 do 3 tys. pracowników. Wszyscy respondenci zatrudnieni byli w sektorze prywatnym lub non-profit oraz korzystali z rozwiązań zabezpieczających urządzenia końcowe od 19 różnych dostawców i 14 dostawców usług MDR.