Настоящият документ с въпроси и отговори придружава консултацията на Комисията и поканата за изразяване на интерес към заинтересованите страни да дадат своя принос за насоките и Кодекса за поведение относно прозрачните системи с генеративен ИИ и да участват в процеса на Кодекса за поведение.
- Прозрачността по отношение на изкуствения произход на генерираното или манипулираното с ИИ съдържание е от съществено значение. Наличието на различни системи с ИИ с нарастващи възможности за генериране на всякакъв вид съдържание прави все по-трудно разграничаването на съдържанието с ИИ от генерираното от човека и автентично съдържание. Това поражда нови рискове от невярна информация и манипулация в голям мащаб, измами, представяне за чужда самоличност и измама на потребителите.
- В този контекст в член 50 от Законодателния акт за ИИ се определят задължения за прозрачност за доставчиците и внедрителите на определени системи с ИИ, включително генеративни и интерактивни системи с ИИ и дълбинни фалшификати.
- Тези задължения имат за цел да намалят рисковете от измама, представяне за фалшива самоличност и невярна информация и да насърчат доверието и почтеността в информационната екосистема. Хората ще знаят кога взаимодействат с ИИ или са изложени на съдържание, генерирано от ИИ, което ще им помогне да вземат информирани решения.
- Член 50 от Законодателния акт за ИИ обхваща четири вида системи с ИИ. Първо, доставчиците на системи с ИИ, които взаимодействат с хора, трябва да ги информират, че взаимодействат със система с ИИ, а не с човек, освен ако това не е очевидно.
- Второ, доставчиците на генерирано или манипулирано с ИИ съдържание трябва да улесняват идентифицирането и маркирането на такова съдържание по машинночетим начин и да дават възможност за свързани механизми за откриване.
- Трето, внедрителите на системи за разпознаване на емоции или за биометрична категоризация трябва да гарантират, че лицата, изложени на тези системи, са информирани.
- Четвърто, внедрителите на системи с ИИ, генериращи или манипулиращи дълбоко фалшиво съдържание, или генерирани или манипулирани от ИИ текстови публикации, предназначени да информират обществеността по въпроси от обществен интерес, трябва да информират ползвателите за изкуствения произход на съдържанието, освен в определени случаи. Накрая, предоставената информация следва да бъде в ясен и достъпен формат.
- Техниките или методите за маркиране и откриване на съдържание, генерирано от ИИ, включват водни знаци, идентификация на метаданни и криптографски методи за доказване на произхода и автентичността на съдържанието, методи за регистриране, пръстови отпечатъци или други техники.
- Съответните техники и методи следва да бъдат достатъчно надеждни, оперативно съвместими, ефективни и стабилни, доколкото това е технически осъществимо. Доставчиците следва също така да вземат предвид особеностите и ограниченията на различните видове съдържание и съответното технологично и пазарно развитие в тази област.
- По-нататъшното идентифициране на нововъзникващи най-съвременни техники и практики ще бъде важна част от работата, която трябва да се извърши в контекста на Кодекса за поведение относно прозрачните системи с генеративен ИИ.
Кодексът за поведение относно прозрачните системи с генеративен ИИ ще бъде доброволен инструмент за гарантиране на правилното спазване на задълженията, предвидени в член 50, параграфи 2 и 4 от Законодателния акт за ИИ, за доставчиците и внедрителите на системи с генеративен ИИ. Ако бъде одобрено от Комисията като подходящо, то ще осигури ясни мерки за внедрителите и доставчиците, които разработват или планират да разработят системи с генеративен ИИ, попадащи в обхвата. Кодексът ще гарантира, че генеративните системи с ИИ, пуснати на европейския пазар от присъединяващи се доставчици и внедрители, са достатъчно прозрачни в съответствие със съответните изисквания за прозрачност на Законодателния акт за ИИ.
- Практическите мерки на Кодекса на практиката ще обхващат само задълженията, определени в член 50, параграфи 2 и 4 от Законодателния акт за ИИ. Насоките ще обхващат член 50 като цяло.
- Освен това Кодексът за поведение ще бъде разработен чрез процес с участието на множество заинтересовани страни и ще осигури технически средства за изпълнение.
- Насоките, които ще бъдат разработени и приети от Комисията, ще изяснят приложното поле, съответните правни определения, задълженията за прозрачност, изключенията и свързаните с тях хоризонтални въпроси.
- Основните адресати на Кодекса са доставчиците и внедрителите на системи с генеративен ИИ, включително МСП, които подлежат на задълженията. Доставчиците на техники за прозрачност, организациите на гражданското общество, академичните експерти и други съответни организации или браншови асоциации се приканват да подкрепят процеса на изготвяне. Като включва всички тези заинтересовани страни, Кодексът за поведение ще улесни ефективното изпълнение на съответните задължения за прозрачност. Кодексът също така ще подкрепи практическите договорености за осигуряване на достъп до механизмите за откриване и ще улесни сътрудничеството с други участници по веригата за създаване на стойност.
- Заинтересованите страни се насърчават да изразят интереса си до 9 октомври, за да участват в процеса на изготвяне. Службата по ИИ ще провери допустимостта въз основа на подадена и публично достъпна информация и ще потвърди участието на съответните заинтересовани страни.
- Задълженията за прозрачност по член 50 от Законодателния акт за ИИ допълват правилата за прозрачност, приложими за моделите на ИИ с общо предназначение (членове 53 и 55). Последните са подробно описани в Кодекса на практиките за моделите на ИИ с общо предназначение (GPAI) и в образеца на Комисията за резюме на съдържанието, използвано за обучението по модела.
- По-специално, докато Кодексът за добри практики в областта на ИИ с общо предназначение се съсредоточава върху моделите на ИИ с общо предназначение и документацията и информацията, които трябва да се предоставят на Службата по ИИ, националните компетентни органи и доставчиците надолу по веригата, както и върху прозрачността на входящите данни за обучение, Кодексът за прозрачни генеративни системи с ИИ разглежда техниките за маркиране и прозрачността на генерираните или манипулираните резултати от ИИ по отношение на лицата, изложени на тях.
- Кодексът за прозрачни системи с генеративен ИИ е насочен към задълженията за прозрачност на системно равнище, включително, но не само, системите с ИИ с общо предназначение. В контекста на настоящия кодекс ще бъдат разгледани и техники за прозрачност, които могат да бъдат прилагани от доставчиците на модели с ИИ с общо предназначение за улесняване на задълженията за прозрачност за доставчиците на системи с ИИ надолу по веригата.
- Службата по ИИ ще покани всички отговарящи на условията заинтересовани страни да участват в процеса на изготвяне на кодекса за поведение и ще избере председатели и заместник-председатели за различните работни групи.
- В началото на ноември ще се проведе встъпителна пленарна сесия с всички избрани участници. Очаква се процесът на изготвяне да продължи не по-късно от началото на юни 2026 г.
Ако Кодексът бъде одобрен от Комисията, подписалите го страни ще могат да се позовават на него, за да докажат спазването на задълженията. По отношение на доставчиците и внедрителите, които се придържат към Кодекса, Комисията ще съсредоточи своите дейности по правоприлагане върху наблюдението на спазването на Кодекса от тяхна страна.
Те ще се възползват от повишеното доверие от страна на Комисията и други заинтересовани страни.
Related content
Законодателният акт за ИИ е първата по рода си правна рамка в областта на ИИ, която разглежда рисковете, свързани с ИИ, и поставя Европа на водеща роля в световен мащаб.