Wytyczne i kodeks postępowania w zakresie przejrzystych systemów sztucznej inteligencji

• Zasadnicze znaczenie ma przejrzystość w odniesieniu do sztucznego pochodzenia treści generowanych lub zmanipulowanych przez sztuczną inteligencję. Dostępność różnych systemów sztucznej inteligencji o rosnących możliwościach generowania wszelkiego rodzaju treści sprawia, że coraz trudniej jest odróżnić treści sztucznej inteligencji od treści generowanych przez człowieka i autentycznych. Rodzi to nowe ryzyko wprowadzania w błąd i manipulacji na dużą skalę, oszustw, podszywania się pod innych i wprowadzania konsumentów w błąd.
• W tym kontekście w art. 50 aktu w sprawie sztucznej inteligencji określono obowiązki w zakresie przejrzystości dla dostawców i podmiotów wdrażających niektóre systemy sztucznej inteligencji, w tym generatywne i interaktywne systemy sztucznej inteligencji oraz deepfake.
• Obowiązki te mają na celu ograniczenie ryzyka oszustwa, podszywania się pod innych i wprowadzania w błąd oraz zwiększenie zaufania i integralności w ekosystemie informacyjnym. Ludzie będą wiedzieć, kiedy wchodzą w interakcję ze sztuczną inteligencją lub są narażeni na treści generowane przez sztuczną inteligencję, co pomoże im podejmować świadome decyzje. 

• Art. 50 aktu w sprawie sztucznej inteligencji obejmuje cztery rodzaje systemów sztucznej inteligencji. Po pierwsze, dostawcy systemów sztucznej inteligencji, którzy wchodzą w interakcję z ludźmi, muszą poinformować ich, że wchodzą w interakcję z systemem sztucznej inteligencji, a nie z człowiekiem, chyba że jest to oczywiste.
• Po drugie, dostawcy treści generowanych lub zmanipulowanych przez sztuczną inteligencję muszą ułatwiać identyfikację i oznaczanie takich treści w sposób nadający się do odczytu maszynowego oraz umożliwiać powiązane mechanizmy wykrywania.
• Po trzecie, podmioty stosujące systemy rozpoznawania emocji lub kategoryzacji biometrycznej muszą zapewnić informowanie osób narażonych na działanie tych systemów.
• Po czwarte, podmioty wdrażające systemy sztucznej inteligencji generujące treści głęboko fałszywe lub manipulujące takimi treściami lub publikacje tekstowe generowane lub manipulowane przez sztuczną inteligencję mające na celu informowanie społeczeństwa o kwestiach leżących w interesie publicznym muszą informować użytkowników o sztucznym pochodzeniu treści, z wyjątkiem określonych przypadków. Ponadto przekazywane informacje powinny mieć jasny i przystępny format.

• Techniki lub metody oznaczania i wykrywania treści generowanych przez sztuczną inteligencję obejmują znaki wodne, identyfikację metadanych oraz metody kryptograficzne służące do udowodnienia pochodzenia i autentyczności treści, metody rejestrowania, odciski palców lub inne techniki.
• Stosowne techniki i metody powinny być wystarczająco niezawodne, interoperacyjne, skuteczne i solidne, o ile jest to technicznie wykonalne. Dostawcy powinni również uwzględniać specyfikę i ograniczenia różnych rodzajów treści oraz istotne zmiany technologiczne i rynkowe w tej dziedzinie.
• Dalsza identyfikacja pojawiających się najnowocześniejszych technik i praktyk będzie ważnym elementem prac, które należy wykonać w kontekście kodeksu postępowania w zakresie przejrzystych generatywnych systemów sztucznej inteligencji.

Kodeks postępowania w zakresie przejrzystych generatywnych systemów sztucznej inteligencji będzie dobrowolnym narzędziem zapewniającym dostawcom i podmiotom wdrażającym generatywne systemy sztucznej inteligencji należyte przestrzeganie obowiązków określonych w art. 50 ust. 2 i 4 aktu w sprawie sztucznej inteligencji. Jeżeli zostanie ona zatwierdzona przez Komisję jako odpowiednia, zapewni jasne środki podmiotom wdrażającym i dostawcom opracowującym lub planującym rozwijać systemy generatywnej sztucznej inteligencji objęte zakresem stosowania. Kodeks zagwarantuje wystarczającą przejrzystość generatywnych systemów sztucznej inteligencji wprowadzanych do obrotu w Europie przez dostawców i podmioty stosujące AI, zgodnie z odpowiednimi wymogami w zakresie przejrzystości określonymi w akcie w sprawie sztucznej inteligencji.

• Praktyczne środki przewidziane w kodeksie postępowania obejmą jedynie obowiązki określone w art. 50 ust. 2 i 4 aktu w sprawie sztucznej inteligencji. Wytyczne obejmą cały art. 50.
• Ponadto kodeks postępowania zostanie opracowany w drodze procesu z udziałem wielu zainteresowanych stron i zapewni techniczne środki wdrażania.
• Wytyczne, które mają zostać opracowane i przyjęte przez Komisję, wyjaśnią zakres stosowania, odpowiednie definicje prawne, obowiązki w zakresie przejrzystości, wyjątki i powiązane kwestie horyzontalne. 

• Głównymi adresatami kodeksu są dostawcy i podmioty wdrażające generatywne systemy sztucznej inteligencji, w tym MŚP, podlegające obowiązkom. Do wsparcia procesu redakcyjnego zachęca się dostawców technik przejrzystości, organizacje społeczeństwa obywatelskiego, ekspertów akademickich i inne odpowiednie organizacje lub stowarzyszenia branżowe. Dzięki zaangażowaniu wszystkich tych zainteresowanych stron kodeks postępowania ułatwi skuteczne wdrożenie odpowiednich obowiązków w zakresie przejrzystości. Kodeks będzie również wspierał praktyczne ustalenia dotyczące udostępniania mechanizmów wykrywania i ułatwiał współpracę z innymi podmiotami w całym łańcuchu wartości.
• Zainteresowane strony zachęca się do wyrażenia zainteresowania udziałem w procesie redakcyjnym do dnia 9 października. Urząd ds. Sztucznej Inteligencji weryfikuje kwalifikowalność na podstawie przedłożonych i publicznie dostępnych informacji oraz potwierdza udział odpowiednich zainteresowanych stron.

• Obowiązki w zakresie przejrzystości określone w art. 50 aktu w sprawie AI stanowią uzupełnienie zasad przejrzystości mających zastosowanie do modeli AI ogólnego przeznaczenia (art. 53 i 55). Te ostatnie zostały bardziej szczegółowo opisane w modelach kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia (GPAI) oraz we wzorze Komisji na potrzeby podsumowania treści wykorzystywanych do szkolenia w zakresie modelu.
• W szczególności, podczas gdy kodeks postępowania dotyczący sztucznej inteligencji ogólnego przeznaczenia koncentruje się na modelach sztucznej inteligencji ogólnego przeznaczenia oraz dokumentacji i informacjach, które mają być przekazywane Urzędowi ds. Sztucznej Inteligencji, właściwym organom krajowym i dostawcom niższego szczebla, a także na przejrzystości wejściowych danych treningowych, kodeks dotyczący przejrzystych generatywnych systemów sztucznej inteligencji odnosi się do technik znakowania i przejrzystości generowanych lub manipulowanych wyników sztucznej inteligencji w stosunku do osób, które są na nie narażone.
• Kodeks dotyczący przejrzystych generatywnych systemów sztucznej inteligencji jest ukierunkowany na obowiązki w zakresie przejrzystości na poziomie systemu, w tym między innymi na systemy sztucznej inteligencji ogólnego przeznaczenia. W kontekście niniejszego kodeksu rozważone zostaną również techniki przejrzystości, które mogą zostać wdrożone przez dostawców modeli sztucznej inteligencji ogólnego przeznaczenia w celu ułatwienia wypełniania obowiązków w zakresie przejrzystości przez dostawców systemów sztucznej inteligencji niższego szczebla.

• Urząd ds. Sztucznej Inteligencji zaprosi wszystkie kwalifikujące się zainteresowane strony do udziału w procesie opracowywania kodeksu postępowania i wybierze przewodniczących i wiceprzewodniczących do poszczególnych grup roboczych.
• Na początku listopada odbędzie się inauguracyjna sesja plenarna z udziałem wszystkich wybranych uczestników. Oczekuje się, że proces redakcyjny potrwa nie później niż do początku czerwca 2026 r.

Jeżeli kodeks zostanie zatwierdzony przez Komisję, sygnatariusze będą mogli polegać na kodeksie w celu wykazania zgodności z obowiązkami. W odniesieniu do dostawców i podmiotów stosujących, którzy przestrzegają kodeksu, Komisja skoncentruje swoje działania w zakresie egzekwowania przepisów na monitorowaniu przestrzegania przez nich kodeksu.

Będą one korzystać ze zwiększonego zaufania ze strony Komisji i innych zainteresowanych stron.