Тази страница предоставя отговори на често задавани въпроси, свързани с понятия и задължения, изяснени в Насоките на Комисията относно член 50 от Законодателния акт за ИИ.
Кой е доставчик на система с ИИ и какви задължения за прозрачност се прилагат за него?
Съгласночлен 3, параграф 3 от Законодателния акт за ИИ доставчиците на системи с ИИ са физически или юридически лица, публични органи, агенции или други органи, които разработват или възлагат разработването на системи с ИИ и ги пускат на пазара на ЕС или ги въвеждат в експлоатация със своето име или търговска марка. Това не зависи от това дали тези доставчици са установени или се намират в рамките на ЕС или в трета държава.
Доставчиците на системи с ИИ, установени или намиращи се извън ЕС, също подлежат на разпоредбите на Законодателния акт за ИИ, ако резултатите от тяхната система с ИИ се използват в ЕС.
Доставчиците трябва да гарантират, че техните системи с ИИ отговарят на съответните задължения за прозрачност, определени вчлен 50, параграфи 1, 2 и 5 от Законодателния акт за ИИ, преди да пуснат тези системи на пазара или да ги въведат в експлоатация.
Съгласно член 50, параграф 2 от Законодателния акт за ИИ доставчиците трябва да проектират и разработват системи с ИИ, които взаимодействат пряко с физически лица — като чатботове, агенти с ИИ и аватари — за да се гарантира, че хората са информирани, че взаимодействат с ИИ. Доставчиците трябва също така да гарантират, че резултатите от техните системи с генеративен ИИ са маркирани с ефективни, надеждни, стабилни и оперативно съвместими машинночетими маркировки, които позволяват резултатите да бъдат открити като генерирани или манипулирани от системите с ИИ.
Кой е внедрител и какви задължения за прозрачност се прилагат за него?
Внедрителите на системи с ИИ са физически или юридически лица, публични органи, агенции или други органи, които използват системи с ИИ под тяхно ръководство, с изключение на използването за лични, непрофесионални дейности.
Когато физическо лице използва система с ИИ в лично качество — например за генериране на дълбинни фалшификати и разпространението им в социалните медии — това се счита за лична дейност. Такова използване е изключено от обхвата на Законодателния акт за ИИ. Ако обаче става въпрос за дейност, чрез която те получават редовно икономическа полза (или участват по друг начин в стопанска, търговска, професионална дейност или дейност на свободна практика), това се счита за „професионална“ дейност. В този случай физическото лице се счита за внедрител на тази система с ИИ.
Когато внедрителят на система с ИИ е юридическо лице, под чието ръководство се използва системата (напр. рекламно дружество), отделните служители, които действат съгласно инструкциите и под контрола на това юридическо лице (напр. цифрови аниматори, уеб дизайнери, създатели на съдържание, журналисти), не следва да се считат за отделни внедрители на тази система. Юридическо лице остава внедрител дори ако трети страни (напр. изпълнители, лица на свободна практика) участват в експлоатацията на системата от негово име и под негова отговорност и контрол.
Съгласно Законодателния акт за ИИ внедрителите трябва да гарантират, че информират хората, когато използват системи за разпознаване на емоции или биометрична категоризация (член 50, параграф 3 от Законодателния акт за ИИ), и ясно обозначават дълбинните фалшификати и генерираните от ИИ или манипулирани текстове, публикувани по въпроси от обществен интерес, без преглед от човек или редакционен контрол (член 50, параграф 4 от Законодателния акт за ИИ).
Кога доставчиците на системи с ИИ трябва да информират хората, че взаимодействат със система с ИИ?
Съгласночлен 50, параграф 1 от Законодателния акт за ИИ доставчиците на системи с ИИ, които взаимодействат пряко с хора, трябва да проектират и разработват тези системи по такъв начин, че съответните лица да бъдат информирани, че взаимодействат със система с ИИ, освен ако това не е очевидно.
ВНасоките относно прозрачността на генерираното от ИИ съдържание се изясняват четирите кумулативни критерия, по които се прилага това задължение:
- системата трябва да се квалифицира като система с ИИ;
- тя трябва да бъде предназначена за истински двупосочен обмен с хората, а не просто за събиране на данни или предоставяне на автоматизирани отговори;
- взаимодействието трябва да бъде пряко, което означава, че самият ИИ комуникира с лицето, а не чрез човешки посредник;
- взаимодействието трябва да бъде с физически лица, независимо дали са потребители, специалисти или други ползватели.
Системите с ИИ, работещи единствено във фонов режим, чрез междумашинна комуникация или без пряк контакт с хора, попадат извън обхвата на това задължение.
Хората трябва да бъдат уведомявани, когато взаимодействат със система с ИИ от началото на първото взаимодействие по ясен и различим начин и в съответствие с изискванията за достъпност.
Това ще им позволи да вземат информирани решения относно взаимодействието си със системата и съответно да калибрират доверието си в съдържанието.
Не е необходимо хората да бъдат информирани, когато е очевидно, че взаимодействат със система с ИИ. На практика, за да се оцени колко очевидно е взаимодействието с ИИ, доставчикът ще трябва да идентифицира средностатистически човек, който е сравнително добре информиран, предпазлив и наблюдателен. Такова лице оценява дали е очевидно, че те взаимодействат пряко със система с ИИ.
В насоките се предоставят допълнителни насоки и практически примери за това как да се прилага това изключение. Той следва да се тълкува ограничително, като се има предвид, че лишава хората от прозрачност.
Кога доставчиците на системи с ИИ трябва да маркират резултатите от своите системи с генеративен ИИ и да гарантират тяхната откриваемост?
ВНасоките относно прозрачността на генерираното от ИИ съдържание се пояснява, че някои резултати попадат извън обхвата на задълженията, като например:
- кратка последователност от цифри, символи или букви,
- изходен код
- резултати от система с ИИ, предназначени да бъдат предавани изключително от машина на машина и обработвани автоматично, без да бъдат излагани на хора, или
- продукти, които се използват само в затворени промишлени среди и среди за разработване на продукти, например за производство на филми, освен ако те не са крайният продукт.
Задължението за маркиране на генерирано или манипулирано синтетично съдържание с ИИ не се прилага, когато системата с ИИ изпълнява помощна функция за стандартно редактиране. Насоките предоставят разнообразен набор от практически примери за това какво може да се счита за стандартно редактиране и какво надхвърля това.
За да се гарантира, че член 50, параграф 2 от Законодателния акт за ИИ се прилага по пропорционален начин, се предвижда тясно освобождаване от задължението за маркиране за системи с ИИ, които генерират резултати, използвани в „от предприятие за предприятие“ или „промишлен контекст“ (при условие че са изпълнени условията, посочени в насоките).
Трябва да се вземат предвид и особеностите и ограниченията на различните видове съдържание, разходите за изпълнение и общопризнатото съвременно техническо равнище. В насоките тези понятия са допълнително обяснени.
ВКодекса за поведение относно прозрачността на генерираното от ИИ съдържание се определят мерки, на които доставчиците, които се придържат към Кодекса, могат да разчитат, за да докажат спазването на тези задължения за маркиране и откриване по правно сигурен и предвидим начин, независимо от тяхното място на установяване, функциониране или компетентен орган за надзор на пазара.
Кога внедрителите на основани на ИИ системи за разпознаване на емоции или биометрична категоризация трябва да информират физическите лица, изложени на тези системи?
Съгласночлен 50, параграф 3 от Акта за ИИ внедрителите на системи за разпознаване на емоции и системи за биометрична категоризация трябва да информират физическите лица, които са изложени на тези системи, за своето функциониране с цел защита на неприкосновеността на личния им живот. Това не предполага предоставяне на информация, например относно целта на експлоатацията на системата.
Задължението се прилага независимо от това дали лицата са изложени на такива системи в реално време или се експлоатират впоследствие.
Какво е „дълбок фалшификат“ и кога трябва да бъдат етикетирани?
Дълбоките фалшификати са определени вчлен 3, параграф 60 от Законодателния акт за ИИ като генерирани от ИИ или манипулирани изображения, аудио- или видеосъдържание, които наподобяват съществуващи лица, обекти, места, субекти или събития и които погрешно биха изглеждали на дадено лице като автентични или достоверни.
Трябва да бъдат изпълнени три кумулативни критерия, за да може съдържанието да представлява „дълбок фалшификат“:
- Прилика: висока степен на сходство между съдържанието на дълбинните фалшификати и симулирания обект.
- Съществуващи: симулираните лица, обекти, места, същности или събития трябва да приличат на някого или нещо, което съществува, може да съществува правдоподобно или би могло да съществува правдоподобно в реалността.
- Фалшив външен вид, за да бъде автентичен или истинен: това се отнася до основната характеристика на дълбинното фалшиво съдържание и способността му потенциално да заблуди или подведе дадено лице по отношение на автентичността или истинността на съдържанието
За оценката на последния критерий по-горе Насокитеотносно прозрачността на генерираното от ИИ съдържание позволяват на заинтересованите страни да вземат предвид:
- степента на сходство,
- потенциалното послание по същество на съдържанието
- предвидения и предвидимия контекст на разгръщане,
- предвидения и разумно предвидим състав на публиката и техните очаквания.
Това дава възможност на внедрителите надлежно да вземат предвид специфичния контекст, в който работят, и аудиторията, на която ще бъде изложено тяхното съдържание. Ако целевата аудитория в рамките на конкретен контекст на внедряване не очаква съдържанието да бъде автентично или достоверно, генерираното или манипулираното с ИИ съдържание може да не изглежда погрешно автентично или достоверно. Например генерирането на изкуствен интелект или манипулирането на фонови сцени, специални ефекти или техническа предварителна и последваща обработка като част от стандартните процеси за производство на филми няма вероятност да направят съдържанието невярно да изглежда на публиката автентично или достоверно.
Внедрителите трябва да разкрият съдържанието на дълбинни фалшификати на физическо лице най-късно при първото им излагане. Това оповестяване следва да се извършва по ясен и различим начин. Тя следва да бъде разбираема и разбираема за физическите лица (напр. с видими или звукови етикети), без да са необходими специфични технически инструменти или извършване на специални действия. Поради това внедрителите не могат просто да разчитат на машинночитаемата маркировка, вградена в съдържанието от доставчика съгласно член 50, параграф 2 от Законодателния акт за ИИ, за да изпълнят задължението си за оповестяване.
Някои дълбинни фалшификати са част от очевидно художествени, творчески, сатирични, измислени или аналогични произведения или програми. За тях задължението за прозрачност е ограничено до оповестяването на дълбинно фалшивото съдържание по подходящ начин, който не възпрепятства показването или ползването на произведението.
Какъв текст, генериран или манипулиран от ИИ, трябва ясно да етикетират внедрителите?
Съгласночлен 50, параграф 4 от Законодателния акт за ИИ внедрителите на системи с генеративен ИИ трябва ясно да обозначават генерирания или манипулирания от ИИ текст, публикуван с цел информиране на обществеността по въпроси от обществен интерес. За да попадне текстът в обхвата на това задължение, трябва да бъдат изпълнени 3 критерия. Текстът трябва да бъде:
- Публикувана
- Информиране на обществеността
- По въпроси от обществен интерес, като например:
- политически и демократични процеси,
- публична администрация и услуги,
- правораздаване и правоприлагане,
- основните права,
- обществената сигурност,
- общественото здраве,
- опазване на околната среда,
- безопасността на потребителите и всички икономически,
- финансови, политически, научни или културни развития, които могат да бъдат от значение за обществения дебат.
Какво представлява прегледът от човек или редакционният контрол/отговорност, необходими за получаване на право на освобождаване от задължението за етикетиране?
Публикуван текст, който е преминал преглед от човек или редакционен контрол — не е необходимо да бъде етикетиран.
Прегледът от човек се отнася до умишленото разглеждане на съдържанието от едно или повече физически лица, притежаващи съответните знания и професионална преценка, свързани с разглеждания въпрос (напр. академична партньорска проверка или професионални вериги за валидиране). Редакционният контрол се отнася до контрола, упражняван на практика от отговорен редакционен субект (напр. главен редактор) върху съдържанието, което има правомощия да одобрява, изменя или отхвърля съдържанието на текста въз основа на материалноправни основания (вкл. проверка на фактите на информацията и гарантиране на надеждността на източниците).
Повърхностните, чисто формални или процедурни проверки (напр. проверка на правописа или граматическа корекция) не се считат за преглед от човек или редакционен контрол.
Редакционна отговорност означава, че дадено лице трябва да носи крайната правна отговорност за публикуването на съдържанието, включително прегледа от човек или редакционния контрол.
Как доставчиците и внедрителите могат да докажат съответствие и какви са последиците от Кодекса за поведение за прозрачността на генерираното от ИИ съдържание?
Кодексът за поведение относно прозрачността на генерираното от ИИ съдържаниепредоставя доброволен практически инструмент, за да се помогне на доставчиците и внедрителите на генеративни системи с ИИ да докажат съответствие със задълженията за маркиране и етикетиране съгласно член 50, параграфи 2, 4 и 5 от Законодателния акт за ИИ. Кодексът беше оценен като подходящ както от Комисията, така и от Съвета по ИИ. Тя позволява на подписалите страни да се възползват от правната сигурност, предвидимостта и доверието, тъй като те могат да разчитат на одобрен кодекс, който са подписали, независимо от мястото си на установяване, дейност или компетентен надзорен орган.
Доставчиците и внедрителите на системи с генеративен ИИ, които решат да не се придържат към кодекса, ще трябва да докажат съответствие чрез алтернативни подходящи средства. Те могат да бъдат обект на повече искания за информация, тъй като има по-малка прозрачност относно начина, по който спазват задълженията за прозрачност по член 50, параграфи 2, 4 и 5 от Законодателния акт за ИИ.
За другите задължения за прозрачност (напр. посочените в член 50, параграфи 1 и 3 от Законодателния акт за ИИ) доставчиците и внедрителите могат сами да определят подходящи мерки за съответствие, като същевременно вземат предвид Насокитеотносно прозрачността на генерираното от ИИ съдържание.
Как Кодексът за поведение относно прозрачните системи с генеративен ИИ взаимодейства с неотдавнашния Кодекс за поведение относно ИИ с общо предназначение?
Задълженията за прозрачност, определени вчлен 50 от Законодателния акт за ИИ, допълват правилата за прозрачност, приложими за моделите на ИИ с общо предназначение, определени в членове 53 и 55 от Законодателния акт за ИИ. Средствата за спазване на последните са описани по-подробно в Кодекса за поведение относно моделите на ИИ с общо предназначение (GPAI) и в образеца на Комисията за резюме на съдържанието, използвано за обучение по модели.
По-специално Кодексът за поведение във връзка с ИИ с общо предназначение е съсредоточен върху моделите на ИИ с общо предназначение и документацията и информацията, които трябва да бъдат предоставени на Службата по ИИ, националните компетентни органи и доставчиците надолу по веригата, както и върху прозрачността на входящите данни за обучение. Кодексът за поведение относно прозрачността на генерираното от ИИ съдържание се отнася до техниките за маркиране и прозрачността на генерираните или манипулирани резултати от ИИ по отношение на лицата, изложени на тях.
Кодексът за поведение относно прозрачността на генерираното от ИИ съдържание е насочен към задълженията за прозрачност на системно равнище, включително, но не само, системите с ИИ с общо предназначение. Техниките за прозрачност, които могат да бъдат прилагани от доставчиците на модели с ИИ с общо предназначение, за да се улесни спазването от страна на доставчиците на системи с ИИ надолу по веригата на задълженията за прозрачност по член 50 от Законодателния акт за ИИ, също ще бъдат разгледани в контекста на настоящия кодекс.
Кога започва да се прилага член 50 от Законодателния акт за ИИ и има ли гратисен период?
Член 50 от Законодателния акт за ИИ се прилага от 2 август 2026 г. От тази дата нататък доставчиците и внедрителите на системи с ИИ трябва да спазват задълженията за прозрачност, предвидени в тази разпоредба. Ограничен гратисен период се предвижда само за системите с ИИ, пуснати на пазара преди 2 август 2026 г., и само по отношение на задължението за маркиране и откриване на генерирано от ИИ съдържание (член 50, параграф 2 от Законодателния акт за ИИ). Доставчиците на такива системи трябва да спазват тези задължения едва от 2 декември 2026 г.
Не е необходимо съдържанието, генерирано преди 2 август 2026 г., да бъде етикетирано със задна дата. Въпреки това Комисията насърчава съответните внедрители да направят това, когато е възможно, тъй като то допринася за постигането на целите, преследвани с член 50 от Законодателния акт за ИИ.
Кой ще наблюдава прилагането на член 50 от Законодателния акт за ИИ и ще има правомощието да налага глоби?
Спазването на правилата ще се осигурява главно от националните компетентни органи за надзор на пазара. Службата по ИИ има ограничена роля в мониторинга и правоприлагането, тъй като е компетентна само за системи с ИИ, които са изградени върху модели на ИИ с общо предназначение, ако един и същ субект предоставя системата и модела или ако системата с ИИ е интегрирана в много голяма онлайн търсачка или много голяма онлайн платформа, определена съгласно Законодателния акт за цифровите услуги.Европейският надзорен орган по защита на данните ще прилага правилата по отношение на системите с ИИ, използвани от институциите, органите и агенциите на ЕС.
Глобите могат да достигнат до 15 милиона евро или 3 % от общия световен оборот за предходната финансова година, докато пропорционалността може да бъде взета предвид в случая на малките и средните предприятия (МСП) и малките дружества със средна пазарна капитализация (МСП).