Oznaczanie treści tworzonych przez AI – kiedy jest obowiązkowe?
Coraz bardziej zauważalny – w szczególności w przypadku reklam telewizyjnych – staje się obowiązek oznaczania treści wygenerowanych lub zmanipulowanych przy użyciu sztucznej inteligencji. Nie oznacza to jednak, że każda treść, przy której w jakimkolwiek zakresie wykorzystano AI, musi zostać oznaczona.
Obowiązki w tym zakresie dotyczą konkretnych przypadków wskazanych w AI Act, czyli rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1689 ustanawiającym zharmonizowane przepisy dotyczące sztucznej inteligencji.
Od 2 sierpnia 2026 r. zastosowanie mają obowiązki przejrzystości określone w art. 50 AI Act. Regulacja rozróżnia przy tym obowiązki dostawców systemów AI oraz podmiotów stosujących systemy AI.
Obowiązki dostawców systemów generatywnej AI
AI Act rozróżnia przede wszystkim dostawców systemów AI oraz podmioty, które korzystają z gotowych systemów we własnej działalności.
Dostawcy systemów AI, w tym systemów AI ogólnego przeznaczenia, generujących syntetyczne treści dźwiękowe, obrazy, treści wideo lub tekst, powinni zadbać o to, aby wyniki działania takich systemów były oznaczone w formacie nadającym się do odczytu maszynowego oraz możliwe do wykrycia jako sztucznie wygenerowane lub zmanipulowane.
Pliki powinny więc zawierać swego rodzaju techniczny „ślad” pozwalający rozpoznać, że powstały lub zostały zmodyfikowane przy użyciu AI.
Co istotne, obowiązek ten ma charakter techniczny i jest czymś innym niż widoczna dla odbiorcy informacja, np. napis umieszczony na obrazie lub nagraniu.
Informowanie odbiorcy o interakcji z AI
AI Act przewiduje również obowiązki związane z informowaniem osób fizycznych o tym, że wchodzą w interakcję z systemem AI.
Zgodnie z art. 50 ust. 1 AI Act dostawcy powinni zapewnić, aby systemy AI przeznaczone do bezpośredniej interakcji z osobami fizycznymi były zaprojektowane i rozwijane w taki sposób, aby osoby te zostały poinformowane, że wchodzą w interakcję z AI – chyba że jest to oczywiste dla osoby dostatecznie poinformowanej, uważnej i rozsądnej, z uwzględnieniem okoliczności i kontekstu korzystania z systemu.
Odrębne obowiązki dotyczą podmiotów stosujących określone systemy rozpoznawania emocji lub kategoryzacji biometrycznej, które powinny informować osoby poddane działaniu takich systemów o ich wykorzystywaniu.
Deepfake – kiedy trzeba oznaczyć treść wygenerowaną przez AI?
Szczególne znaczenie mają obowiązki dotyczące tzw. deepfake’ów.
AI Act odnosi to pojęcie do wygenerowanych lub zmanipulowanych przez AI obrazów, treści dźwiękowych lub wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub wydarzenia i mogą zostać niesłusznie uznane przez odbiorcę za autentyczne lub prawdziwe.
Przykładem może być realistyczny film przedstawiający polityka podczas wydarzenia, w którym w rzeczywistości nie uczestniczył.
Podmiot stosujący system AI do generowania lub manipulowania treściami stanowiącymi deepfake powinien ujawnić, że treść została sztucznie wygenerowana lub zmanipulowana.
Nie oznacza to jednak, że każda oczywiście fikcyjna treść stworzona przy użyciu AI będzie deepfake’iem. Przykładowo materiał przedstawiający całkowicie fikcyjne stworzenia mitologiczne co do zasady nie imituje istniejącej osoby, miejsca czy wydarzenia w sposób pozwalający uznać go za autentyczny zapis rzeczywistości.
AI Act przewiduje ponadto szczególne zasady dla treści stanowiących część dzieła lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze. W takich sytuacjach obowiązek ujawnienia ma zostać wykonany w odpowiedni sposób, który nie utrudnia korzystania z utworu.
Tekst wygenerowany przez AI a obowiązek oznaczenia
Oznaczeniu może podlegać również tekst wygenerowany lub zmanipulowany przez AI, jeżeli jest publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym.
AI Act przewiduje jednak wyjątek, gdy treść wygenerowana przez AI została poddana procesowi weryfikacji przez człowieka lub kontroli redakcyjnej, a osoba fizyczna lub prawna ponosi odpowiedzialność redakcyjną za jej publikację.
Oznacza to, że samo wykorzystanie AI na etapie przygotowywania tekstu nie przesądza automatycznie o konieczności poinformowania odbiorców o użyciu sztucznej inteligencji.
Istotne są w szczególności: charakter publikacji, jej cel oraz to, czy treść została poddana rzeczywistej kontroli człowieka i czy za publikację odpowiada określona osoba fizyczna lub prawna.
Wyjątki od obowiązków dotyczących deepfake’ów
AI Act przewiduje również wyjątki od obowiązku ujawniania sztucznego pochodzenia treści typu deepfake.
Obowiązek ten nie znajduje zastosowania m.in. w przypadkach, gdy wykorzystanie systemu AI jest zgodnie z prawem dozwolone do wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych lub ścigania przestępstw.
Treści AI a ochrona konsumentów
Niezależnie od obowiązków wynikających z AI Act, w określonych przypadkach zastosowanie mogą znaleźć również polskie przepisy dotyczące ochrony konsumentów.
Ustawa o przeciwdziałaniu nieuczciwym praktykom rynkowym zakazuje praktyk sprzecznych z dobrymi obyczajami, które w istotny sposób zniekształcają lub mogą zniekształcić zachowanie rynkowe przeciętnego konsumenta.
Nieuczciwa praktyka rynkowa może polegać zarówno na przekazywaniu informacji wprowadzających w błąd, jak i na pominięciu istotnej informacji, jeżeli wpływa to lub może wpływać na decyzję konsumenta dotyczącą umowy.
Czy przedsiębiorca musi poinformować, że produkt został stworzony przy użyciu AI?
Jeżeli przedsiębiorca wykorzysta AI do stworzenia produktu, a przemilczenie tego faktu może w konkretnych okolicznościach wprowadzić przeciętnego konsumenta w błąd co do jego autorstwa, pochodzenia lub istotnych cech i wpłynąć na jego decyzję, zastosowanie mogą znaleźć przepisy dotyczące praktyk wprowadzających w błąd.
Ocena będzie wymagała uwzględnienia wszystkich okoliczności konkretnego przypadku, w tym sposobu prezentowania produktu.
Jeżeli natomiast zachowanie przedsiębiorcy będzie godziło w zbiorowe interesy konsumentów, zastosowanie może znaleźć również art. 24 ustawy o ochronie konkurencji i konsumentów. Przepis ten zakazuje praktyk naruszających zbiorowe interesy konsumentów, wskazując m.in. na naruszanie obowiązku udzielania rzetelnej, prawdziwej i pełnej informacji oraz stosowanie nieuczciwych praktyk rynkowych.
Czy każda treść stworzona z pomocą AI musi być oznaczona?
Nie należy zakładać, że każdy produkt lub każda treść, przy których powstaniu wykorzystano sztuczną inteligencję, muszą zawierać informację o jakimkolwiek udziale AI.
Szczególne znaczenie mają te przypadki, w których wykorzystanie sztucznej inteligencji może powodować ryzyko wprowadzenia odbiorcy w błąd – zwłaszcza w przypadku deepfake’ów oraz treści czy produktów, przy których istotne znaczenie może mieć autorstwo, pochodzenie lub sposób ich powstania, takich jak gry, filmy czy utwory audiowizualne.
Obowiązek oznaczania treści tworzonych lub manipulowanych przez AI należy zatem każdorazowo oceniać z uwzględnieniem rodzaju treści, sposobu wykorzystania systemu AI, roli danego podmiotu oraz celu publikacji.
Podsumowanie
AI Act nie wprowadza generalnego obowiązku oznaczania każdej treści stworzonej z wykorzystaniem sztucznej inteligencji. Obowiązki przejrzystości dotyczą określonych sytuacji i różnią się w zależności od tego, czy mamy do czynienia z dostawcą systemu AI, czy podmiotem stosującym takie rozwiązanie.
Szczególną uwagę należy zwrócić na deepfake’i, treści publikowane w sprawach leżących w interesie publicznym oraz techniczne oznaczanie treści syntetycznych.
Równolegle przedsiębiorcy powinni pamiętać o przepisach dotyczących ochrony konsumentów. Nawet jeżeli w konkretnej sytuacji AI Act nie nakazuje oznaczenia treści, sposób jej przedstawienia może wymagać oceny pod kątem ryzyka wprowadzenia konsumenta w błąd.
FAQ
Czy każda grafika wygenerowana przez AI musi być oznaczona?
Nie. AI Act nie ustanawia generalnego obowiązku widocznego oznaczania każdej grafiki stworzonej przy użyciu AI. Zakres obowiązków zależy m.in. od rodzaju treści, roli podmiotu oraz od tego, czy materiał stanowi deepfake.
Czy deepfake musi być oznaczony?
Co do zasady podmiot stosujący AI do stworzenia lub zmanipulowania treści stanowiącej deepfake powinien ujawnić, że materiał został sztucznie wygenerowany lub zmanipulowany.
Czy tekst napisany przez AI trzeba oznaczać?
Obowiązek może dotyczyć tekstu wygenerowanego lub zmanipulowanego przez AI publikowanego w celu informowania społeczeństwa o sprawach interesu publicznego. AI Act przewiduje wyjątek dla treści poddanych weryfikacji przez człowieka lub kontroli redakcyjnej, jeżeli określony podmiot ponosi odpowiedzialność redakcyjną.
Czy ChatGPT trzeba oznaczać jako AI podczas rozmowy z klientem?
Art. 50 AI Act przewiduje obowiązek zapewnienia informacji osobie wchodzącej w bezpośrednią interakcję z systemem AI, chyba że fakt interakcji z AI jest dla niej oczywisty w danych okolicznościach.
Od kiedy obowiązują przepisy AI Act dotyczące przejrzystości?
Obowiązki z art. 50 AI Act stosuje się od 2 sierpnia 2026 r. Dla niektórych systemów wprowadzonych do obrotu wcześniej przewidziano ograniczony okres przejściowy dotyczący technicznego oznaczania treści.
apl. radc. Jakub Kurpiński
Comments are closed.