Eksperci: od niedzieli wchodzi w życie obowiązek oznaczania deep fake'ów wygenerowanych przez AI

W niedzielę zaczęły obowiązywać przepisy AI Actu, które zobowiązują m.in. firmy do oznaczania deep fake'ów - wskazali eksperci, z którymi rozmawiała PAP. Nowe prawo dotyczy głównie biznesu i prawdopodobnie nie wpłynie na plagę deep fake'ów obecnych w internecie - oceniła dr Maria Dymitruk.

Jak wskazała w rozmowie z PAP dr Maria Dymitruk, partnerka, radczyni prawna i specjalistka praktyki prawa sztucznej inteligencji w kancelarii Lubasz i Wspólnicy, od 2 sierpnia br. obowiązują przepisy Aktu w sprawie sztucznej inteligencji (AI Act), dotyczące przejrzystości systemów AI. Przepisy te zaczynają być stosowane bezpośrednio we wszystkich państwach UE i nie wymagają dodatkowych, krajowych regulacji.

Od niedzieli obowiązuje m.in. przepis, który zakłada, że podmioty, które stosują systemy AI służące do generowania treści typu deep fake, muszą zapewnić, że treści te będą oznaczane w sposób widoczny dla ludzkiego oka lub słyszalny. Chodzi o opublikowanie czy wyświetlenie obrazu, dźwięku lub wideo powstałego z użyciem AI, który naśladuje osoby, miejsca, obiekty lub zdarzenia - wyjaśniła ekspertka.

- O ile powszechnie deep fake kojarzy się z manipulowaniem wizerunkiem znanych osób, np. tworzeniem memów z papieżem w modnej kurtce albo rapującym politykiem, o tyle AI Act obejmuje tym pojęciem każdy przypadek, w którym u odbiorcy można stworzyć wrażenie, że ogląda autentyczny materiał - zaznaczyła rozmówczyni PAP.

Jak tłumaczyła, obowiązek oznaczania deep fake'ów co do zasady dotyczy przedsiębiorców i sektora publicznego, a nie dotyczy osób prywatnych. - Oznacza to, że firma, która stworzy realistyczną reklamę z użyciem AI przedstawiającą np. mężczyznę robiącego pranie, musi to w wyraźny sposób oznaczyć. Wydaje mi się, że wskutek tych przepisów zostaniemy zalani oznaczeniami AI ze strony biznesu, np. w reklamach. A to, co jest naszą bolączką od dłuższego czasu, czyli zapełnianie internetu plagą deep fake'ów, również tych wykorzystywanych do dezinformacji, może niestety pozostać bez zmian - oceniła ekspertka.

- Samo oznaczanie treści deep fake jako wygenerowanych przez sztuczną inteligencję np. skrótem „AI” może okazać się nieskuteczne, jeśli użytkownicy nie będą rozumieli, co ten skrót oznacza. Mało tego, mogą nie mieć wcale świadomości, że wygenerowany obraz nie odzwierciedla „prawdy”. W mojej opinii dużym wyzwaniem w tym kontekście jest dotarcie z edukacją do ludzi, zwłaszcza do grup mniej obeznanych z technologią, dla których sam dopisek „AI” może być niezrozumiały. Bez podniesienia kompetencji cyfrowych społeczeństwa, obowiązki informacyjne AI Actu nie wpłyną realnie na bezpieczeństwo informacyjne w przestrzeni cyfrowej. A to powinien być obowiązek nie tylko państwa, ale także podmiotów prywatnych, które chcą w odpowiedzialny sposób korzystać z rozwiązań AI - ocenił z kolei w rozmowie z PAP dr Michał Nowakowski, ekspert ds. wdrażania sztucznej inteligencji.

Zaznaczył, że obowiązek oznaczania deep fake'ów jest ograniczony czy też złagodzony, jeśli chodzi o treści o charakterze artystycznym, satyrycznym lub fikcyjnym. - W tych przypadkach należy ujawnić fakt wygenerowania treści przez AI w sposób, który nie utrudnia korzystania z utworu. Przykładowo realistyczny film, który jest deep fakem, nie musi być oznaczony od razu i przez cały seans, a np. w napisach końcowych. Treści reklamowe mogą nie korzystać z tego ułatwienia i zasadniczo powinny być oznaczone przy pierwszej „ekspozycji” - objaśnił ekspert. Dodał, że moment oznaczenia zależy też od tego, czy całość materiału to deep fake, czy też wygenerowana treść pojawia się we fragmencie materiału.

Jak mówił, jest to istotne, ponieważ za nieprzestrzeganie przepisów dotyczących przejrzystości firmom grożą kary. Maksymalna kara finansowa wynosi co do zasady 15 mln euro lub 3 proc. światowego obrotu.

Dr Nowakowski zwrócił też uwagę, że jeśli agencja marketingowa po 2 sierpnia będzie wykorzystywać systemy AI do generowania realistycznych reklam bez wiedzy klienta, to prawdopodobnie ona poniesie odpowiedzialność za brak wymaganych oznaczeń. - Jeżeli natomiast klient podejmie świadomą decyzję o użyciu AI i poinstruuje agencję w tym zakresie, to on stanie się „podmiotem stosującym” AI Act, na którym spoczywa obowiązek przejrzystości - zauważył ekspert. Dodał, że może być też tak, że obie strony będą podlegały obowiązkom, choć kluczowe w tym kontekście stanie się precyzyjne uregulowanie kwestii AI w umowie między agencją a klientem.

Jak wskazali eksperci, od niedzieli dostawcy systemów AI, np. czatbotów i voicebotów (asystentów głosowych wykorzystywanych m.in. w call center), muszą ujawnić użytkownikowi, że wchodzi on w interakcję z maszyną, a nie z człowiekiem, jeśli nie wynika to jasno z kontekstu. Obowiązek ten dotyczy zarówno rozwiązań udostępnianych klientom zewnętrznym, jak i stosowanych wewnątrz firm np. udostępnianym pracownikom. - W praktyce czatbot powinien komunikować użytkownikom np.: „Rozmawiasz z systemem sztucznej inteligencji” - tłumaczyła Dymitruk.

Ponadto od 2 sierpnia podmioty wykorzystujące systemy AI do rozpoznawania emocji i kategoryzacji biometrycznej mają obowiązek informowania osób fizycznych, że są one poddawane działaniu takich systemów. Komisja Europejska wskazała w wyjaśnieniach do AI Actu, że kategoryzacja biometryczna opiera się na cechach fizycznych, np. rysy twarzy, kolor oczu; na DNA lub na aspektach behawioralnych, takich jak analiza naciśnięć klawiszy lub chód danej osoby.

Ostatni obowiązek AI Actu, który zaczął obowiązywać w niedzielę, dotyczy dostawców systemów generatywnej sztucznej inteligencji (GenAI), którzy wprowadzą swoje produkty lub usługi do obrotu po 2 sierpnia br. Jak tłumaczyła dr Dymitruk, dostawcy ci będą zobowiązani do oznaczania wygenerowanych treści, np. wideo, tekstu, obrazu, dźwięku, w formacie nadającym się do odczytu maszynowego, ale niekoniecznie widocznym dla ludzkiego oka. Chodzi np. o oznaczanie materiałów znakiem wodnym lub w metadanych. Dostawcy systemów GenAI już istniejących na rynku, takich jak ChatGPT czy Grok, mają czas na dostosowanie się do tego obowiązku do 2 grudnia br.

Unijny Akt o sztucznej inteligencji (AI Act) wszedł w życie 1 sierpnia 2024 r. z pewnymi wyjątkami. W lutym 2025 r. mocy nabrały przepisy dotyczące systemów AI, które są w UE zakazane. Do 2 sierpnia 2025 r. kraje członkowskie miały czas na powołanie organu nadzoru rynku. 2 sierpnia br. zaczęły być stosowane obowiązki dotyczące przejrzystości. Akt w pełni zacznie obowiązywać w 2028 roku.

Monika Blandyna Lewkowicz (PAP)

mbl/ drag/