Sektor nowych technologii pozytywnie odbiera prace nad projektem ustawy o systemach sztucznej inteligencji. Wskazuje jednocześnie na kilka niespójności i możliwych zagrożeń dla rozwoju AI w Polsce w proponowanych przez resort cyfryzacji nowych przepisach, które – w ocenie branży – wymagają korekty – wynika z pisma, jakie do ministra cyfryzacji Krzysztofa Gawkowskiego w imieniu przedsiębiorców cyfrowych, przesłał Związek Cyfrowa Polska. Zastrzeżenia organizacji w znacznej mierze dotyczą spójności nowego prawa z unijnymi regulacjami, mechanizmu nakładania ewentualnych sankcji karnych na dostawców technologii, a także sposobu nadzoru i przeprowadzania kontroli nad podmiotami oferującymi produkty lub usługi oparte o AI.
Pismo do resortu cyfryzacji ze Związku Cyfrowa Polska trafiło w ramach drugiej tury konsultacji nad projektem ustawy o systemach sztucznej inteligencji. .Jak ocenia Michał Kanownik, prezes Związku Cyfrowa Polska, proponowana ustawa jest dokumentem kluczowym dla odpowiedniego rozwoju AI w naszym kraju. – Jesteśmy wdzięczni Ministerstwu Cyfryzacji za rozważenie uwag i sugestii, które spłynęły do resortu w pierwszej turze konsultacji projektu. Obecna propozycja stara się chronić prawa obywatelskie, jednocześnie umożliwiając postęp innowacji. A to jest dziś kluczowe dla polskiej gospodarki, bo żadna technologia nie jest dziś tak perspektywiczna, jak sztuczna inteligencja – zaznacza Michał Kanownik.
Jednocześnie eksperci Cyfrowej Polski zgłosili do projektu ustawy szereg poprawek, których wprowadzenie – w ocenie organizacji – jest niezbędne dla wyeliminowania ryzyka niepewności regulacyjnej czy utrudnień w rozwoju AI na polskim rynku.
Nieprecyzyjne przepisy ws. kontroli dostawców systemów AI i zagrożenie dla prywatności danych
Eksperci w piśmie do Ministerstwa Cyfryzacji podnieśli przede wszystkim kwestię sposobu nadzoru oraz prowadzenia kontroli nad podmiotami dostarczającymi rozwiązania oparte o AI. Cyfrowa Polska zwraca uwagę, że ustawa w żaden sposób nie precyzuje kwalifikacji osób kontrolujących i nie nakłada też na nich zobowiązań dotyczących poufności informacji uzyskanych podczas kontroli. Stwarza również ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub nawet osobą, która ma osobisty interes w wydaniu niekorzystnego protokołu kontrolnego.
Ponadto Cyfrowa Polska zwróciła uwagę na ochronę prywatności danych. Proponowane obecnie zapisy są – w ocenie organizacji – na tyle szerokie, że wyznaczeni inspektorzy mogliby zażądać od dostawców sztucznej inteligencji dostępu do treści klientów przechowywanych np. w kontach chmurowych. A to nie tylko grozi oddaniem naszej prywatności w nieznane ręce, ale też wykazuje potencjalną niespójność z intencjami unijnego Aktu w sprawie AI – przestrzega branża. Zdaniem Cyfrowej Polski, przepisy muszą tez umożliwić przedsiębiorcom dostarczającym AI na oznaczanie informacji jako tajemnicy handlowej, podobnie jak dzieje się to w procedurach kontrolnych prowadzonych przez UOKiK.
Według organizacji konieczne jest wprowadzenie również bardziej rygorystycznych zabezpieczeń dotyczących ujawniania przez dostawców AI informacji podmiotom takim jak policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. „Dane związane ze sztuczną inteligencja często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji” – wskazano w piśmie do resortu cyfryzacji.
Kary finansowe zamrożą potencjał rozwoju technologii?
Eksperci branżowi podnoszą też kwestię ewentualnych sankcji karnych na dostawców technologii AI. Przede wszystkim Cyfrowa Polska zwraca uwagę, że przepis przyznający Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować różne obszary zastosowania AI w kraju, uprawnienie do nakazania operatorowi systemu AI zaprzestania korzystania z tego rozwiązania lub wycofania z rynku jest zbyt niejasny. Umożliwia bowiem on wydawanie daleko idących decyzji, egzekwowanych w trybach natychmiastowych, bez realnej możliwości odwołania się do sądu. Brak konkretnych kryteriów podejmowanej decyzji przez członków Komisji jest sprzeczny z zasadami pewności i przewidywalności prawnej – uważa branża.
W ocenie organizacji, nowe przepisy umożliwiają również finansowanie tej Komisji z wpływów z kar pieniężnych nakładanych przez ten podmiot. A to może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej tego podmiotu. – Stoimy na stanowisku, że to rozwiązanie może być bardzo szkodliwe dla rozwoju sztucznej inteligencji w Polsce. Organ państwowy nie powinien być systemowo zachęcany do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji – komentuje Michał Kanownik. Co więcej, prezes Cyfrowej Polski ocenia, że przepisy tego typu mogą w zasadzie przekreślić proponowane rozwiązania sprzyjające rozwojowi sztucznej inteligencji, takie jak chociażby tzw. piaskownice regulacyjne (umożliwiające podmiotom gospodarczym działanie w bezpiecznym środowisku testowym).
Ponadto Związek Cyfrowa Polska proponuje poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować różne obszary zastosowania sztucznej inteligencji. W opinii branży, by zachować transparentność i zrównoważone podejście do rozwoju AI, powinni w niej zasiadać także przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców.
– Państwo powinno zagwarantować spójność ustawy z literą prawa, jak i duchem unijnego Aktu w sprawie sztucznej inteligencji W naszej ocenie, jeśli wskazane wątpliwości i uwagi nie zostaną rozwiązane, mogą prowadzić do znacznej niepewności regulacyjnej, a w efekcie utrudniać rozwój sztucznej inteligencji – uważa Michał Kanownik.