Będziemy inwigilowani przez AI? Szef UODO chce testu prywatności

Wieloletniemu planowi rozwojowi cyfryzacyjnemu Polski powinien towarzyszyć namysł nad rozwojem ochrony danych osobowych - ocenił prezes Urzędu Ochrony Danych Osobowych w uwagach przesłanych do Strategii Cyfryzacji Polski do 2035 r., o czym urząd poinformował w piątkowym komunikacie.

Jak stwierdził, używanie w przestrzeni publicznej internetu rzeczy (IoT) oraz sztucznej inteligencji, związane jest z zagrożeniem szerokiego wykorzystania technologii śledzących, czy wręcz inwigilujących osoby fizyczne.

CZYTAJ TEŻ: Rząd szykuje przepisy o AI. Skąd pieniądze na Fabryki Sztucznej Inteligencji?

- Internet rzeczy oznacza sieć obiektów fizycznych, które są wyposażone w czujniki, oprogramowanie i inne technologie w celu łączenia się i wymiany danych z innymi urządzeniami i systemami za pośrednictwem internetu. W tym kontekście prezes UODO zwrócił uwagę na projekt inteligentnych miast (smart cities), zawarty w Strategii Cyfryzacji Polski. Zakłada on optymalizację zarządzania usługami publicznymi m.in. w oparciu o dane zbierane z coraz bardziej zawansowanych i rozbudowywanych systemów monitoringu - zwrócił uwagę Wróblewski. Według niego kluczowe jest więc określenie w Strategii, w jakim zakresie publiczne instytucje mogą korzystać z nowych technologii.

- Strategia nie rozwija też mechanizmów zgód obywateli na przetwarzanie danych w systemach cyfrowych (opartych o kryteria świadomości, dobrowolności oraz braku ujemnych skutków w przypadku jej nieudzielenia lub odwołania), co stwarzać może pole do nadużyć w wykorzystywaniu danych - dodał Wróblewski.

Przypomniał, że administracja publiczna, podobnie jak sektor prywatny, zobowiązana jest do stosowania zasad: etycznego rozwoju, transparentności przyjmowanych rozwiązań, odpowiedzialności i przeciwdziałania różnym formom dyskryminacji. W związku z tym np. gdy urząd będzie dostarczał do obywatela treść wygenerowaną przez AI - powinien mieć obowiązek informowania o tym, wraz z publikacją w BIP informacji o użytym modelu i treści promptów (poleceń wysyłanych systemowi AI - PAP).

Wyzwania dot. agentów sztucznej inteligencji

Prezes UODO postuluje także wprowadzenie w Strategii obowiązku dla sektora publicznego informowania użytkowników o zastosowanych algorytmach oraz tego, w jaki sposób dane są wykorzystywane i przetwarzane - w formule przystępnej i zrozumiałej dla odbiorcy.

>>> Praca.Wirtualnemedia.pl - tysiące ogłoszeń z mediów i marketingu

Według Wróblewskiego rozszerzonej analizy wymaga zagadnienie tzw. agentów sztucznej inteligencji, a więc tego, jak uregulowane powinno zostać reprezentowanie osób i podmiotów za pomocą oprogramowania, które może wykonywać w imieniu użytkownika zadania, w tym podejmować decyzje i wchodzić w interakcję z innymi podmiotami czy osobami.

Jak twierdzi prezes UODO w dokumencie powinna się także znaleźć analiza ryzyka przetwarzania danych. Powinna zawierać ocenę, czy rozwiązania zaproponowane w Strategii Cyfryzacji Polski są niezbędne i że nie da się osiągnąć założonych celów poprzez rozwiązania o charakterze mniej inwazyjnym dla sfery praw i wolności osób, których dane dotyczą.

Prezes UODO postuluje też wprowadzenie prawnego wymogu przeprowadzenia tzw. testu prywatności, czyli oceny skutków dla ochrony danych osobowych, już na etapie procesu legislacyjnego. Zaznaczył, że tego typu analizy są często pomijane, co stanowi według niego kluczowy problem.

Strategia Cyfryzacji Polski do 2035 r. to ponadsektorowy dokument strategiczny w dziedzinie informatyzacji państwa, pierwszy taki w historii Polski. Jak podkreśla MC na stornie internetowej - jego realizacja możliwa jest tylko dzięki interwencji w szereg obszarów, wykraczających poza tradycyjnie definiowany dział administracji, jakim jest informatyzacja. Te obszary to obywatel, gospodarka, czy rozwój technologii.

Projekt Strategii został zaprezentowany przez Ministerstwo Cyfryzacji 28 października tego roku.