Niedawne incydenty z udziałem agentów AI, w tym przypadek, w którym agent działający na modelu Claude Opus 4.6 usunął firmową bazę danych, pokazują rosnące wyzwanie dla przedsiębiorstw. Sztuczna inteligencja przestała być jedynie narzędziem do generowania treści czy odpowiadania na pytania. Coraz częściej samodzielnie wykonuje działania i wchodzi w interakcje z krytycznymi systemami biznesowymi.
Jak wynika z danych Veeam, już 88% przedsiębiorstw na świecie wykorzystuje agentów AI lub prowadzi ich pilotażowe wdrożenia. To dowód na to, że sztuczna inteligencja staje się stałym elementem codziennej działalności operacyjnej. W miarę jak agenty AI ewoluują z asystentów w autonomicznych operatorów, firmy muszą zdefiniować, czym w praktyce jest nadzór nad tą technologią.
Nowy poziom autonomii i ryzyko nadmiernego zaufania
Systemy AI coraz częściej otrzymują dostęp do wrażliwych danych, środowisk produkcyjnych i procesów wykonywanych z szybkością maszynową. Nierzadko dysponują uprawnieniami, których firma nigdy nie przyznałaby początkującemu pracownikowi bez ścisłego nadzoru.
Dotychczas dyskusja o AI w biznesie skupiała się na zapobieganiu błędom. Dostawcy technologii obiecują bezpieczniejsze modele i silniejsze guardrails, czyli zabezpieczenia mające ograniczać ryzyko halucynacji, stronniczości algorytmów lub niezamierzonych działań AI. Takie mechanizmy są potrzebne, ale mogą też tworzyć złudne poczucie bezpieczeństwa.
Problem polega na tym, że AI bardzo szybko przynosi widoczne korzyści. Zespoły dostrzegają wzrost produktywności i zaczynają ufać nowej technologii, zanim firma zbuduje mechanizmy kontroli adekwatne do skali jej działania. A pomyłki sztucznej inteligencji rzadko są widoczne od razu. O ile błędny raport może zostać wychwycony podczas późniejszej weryfikacji przez człowieka, o tyle agent AI potrafi wprowadzać zmiany w wielu systemach automatycznie i na dużą skalę, zanim ktokolwiek zauważy problem.
Fundamentalne pytania o AI
Gdy dochodzi do awarii, większość firm potrafi wymienić wdrożone mechanizmy zapobiegawcze, ale znacznie rzadziej jest w stanie stwierdzić: jakie zmiany wprowadził agent, jakie skutki to wywołało oraz czy można je odwrócić bez zakłócania prawidłowych działań biznesowych. Brak odpowiedzi na te pytania oznacza, że firma opiera bezpieczeństwo bardziej na przekonaniu niż na faktycznej zdolności do reakcji.
To istotne, ponieważ agentowa sztuczna inteligencja nie działa w próżni. Korzysta z danych, wykonuje operacje, uruchamia procesy i może wpływać na decyzje biznesowe. Jeśli odpowiedzialność za te działania jest niejasna, trudniej nie tylko zapobiegać błędom, ale też szybko reagować, gdy do nich dojdzie.
Tymczasem z raportu Veeam wynika, że w wielu przedsiębiorstwach nie ma jednej funkcji wyraźnie odpowiedzialnej za działania agentów AI. Respondenci najczęściej wskazują lidera AI lub innowacji (35%) oraz zespoły technologiczne (29%). Rzadziej wymieniają osoby odpowiedzialne za zarządzanie danymi (14%) czy CISO (11%). Tylko 7% mówi o ustrukturyzowanej odpowiedzialności współdzielonej między funkcjami.
Błędne dane, błędne decyzje
Kolejnym wyzwaniem dla firm korzystających z AI jest jakość danych. 36% projektów AI spowolniło z powodu niedokładnych lub niespójnych informacji. Systemy zasilane nieaktualnymi albo błędnymi danymi mogą generować wyniki, które wyglądają wiarygodnie, ale prowadzą do niewłaściwych decyzji. Działa tu zasada „garbage in, garbage out”, zgodnie z którą niska jakość danych wejściowych przekłada się na niską jakość wyników – w przypadku AI dodatkowo wzmacnianą przez automatyzację i szybkość działania.
Jedno błędne źródło może wpłynąć na decyzje i działania podejmowane w wielu połączonych systemach. Stąd 79% kadry kierowniczej uważa, że dane w ich przedsiębiorstwach powinny być bardziej aktualne, 74% wskazuje na potrzebę większej dokładności, a 71% – lepszej dostępności.
Gotowość na awarię, a nie tylko prewencja
Duża część rynku cyberbezpieczeństwa koncentruje się dziś na rozwiązaniach prewencyjnych. Guardrails mają zatrzymać błędną odpowiedź, zanim dojdzie do niepożądanego działania. Jednak agenci AI już teraz potrafią modyfikować rekordy, uruchamiać obiegi pracy, uzyskiwać dostęp do systemów wewnętrznych i podejmować decyzje operacyjne z szybkością maszynową. To diametralnie zmienia charakter ryzyka i sprawia, że firmy potrzebują strategii reagowania na incydenty, które wykraczają poza samą prewencję. Zamiast skupiać się wyłącznie na zapobieganiu każdemu błędowi, organizacje muszą umieć szybko je wykrywać i odwracać ich skutki.
Zbudowanie odporności w środowisku opartym na sztucznej inteligencji wymaga trzech kroków. Pierwszym jest pełna widoczność działań AI, czyli wiedza o tym, jak algorytmy wpływają na systemy i gdzie docierają skutki ich pracy. Bez tego skuteczny nadzór nie istnieje. Drugim elementem jest świadome zarządzanie danymi. Przedsiębiorstwa muszą znać pochodzenie, dokładność, aktualność i wiarygodność informacji zasilających modele. Dziś tylko 30% firm w ogóle sprawdza swoje zasoby, a zaledwie 24% wyznaczyło członka kadry kierowniczej odpowiedzialnego za ten obszar. Trzecim krokiem jest precyzyjne odtwarzanie po błędzie. Tradycyjne kopie zapasowe całych systemów często nie sprawdzają się przy incydentach AI, ponieważ masowe przywrócenie systemu do stanu z przeszłości kasuje nie tylko pomyłki maszyny, ale też poprawne transakcje biznesowe wykonane w międzyczasie. Dlatego potrzebne są narzędzia, które pozwalają precyzyjnie cofnąć wyłącznie szkodliwe akcje, bez zatrzymywania normalnej pracy firmy.
Kolejny etap wdrożeń sztucznej inteligencji zweryfikuje, które przedsiębiorstwa potrafią bezpiecznie zarządzać jej działaniami na dużą skalę. Wbudowane mechanizmy ochronne są ważne, ale to tylko jeden z elementów układanki. Obecnie zaledwie 7% firm na świecie jest w pełni gotowych na AI, łącząc ambicje biznesowe z kontrolą i odpowiednim nadzorem nad danymi. To jednak właśnie w tej grupie aż 97% organizacji odnotowuje mierzalne korzyści biznesowe z wdrożeń. W erze zaawansowanej automatyzacji wygrają nie ci, którzy ślepo zakładają nieomylność sztucznej inteligencji, lecz ci, którzy będą przygotowani na moment, w którym maszyna się pomyli.
Autor: Dave Russell, Senior Vice President, Head of Strategy w Veeam
O badaniu
Badanie przeprowadzono w dniach 16 marca – 6 kwietnia 2026 r. wśród 600 przedstawicieli kadry zarządzającej z branż takich jak usługi finansowe, ochrona zdrowia, produkcja, handel detaliczny i technologie. Respondentami były osoby na stanowiskach CEO, CIO, CISO, CDO oraz inni liderzy odpowiedzialni za dane, AI, technologie, reprezentujący podmioty z Ameryki Północnej, Europy oraz regionu Azji i Pacyfiku.