Модели на ИИ с общо предназначение в Законодателния акт за ИИ — въпроси и коментари; отговори

Изкуственият интелект („ИИ“) обещава огромни ползи за нашата икономика и общество. Моделите на ИИ с общо предназначение играят важна роля в това отношение, тъй като могат да се използват за различни задачи и следователно формират основата за редица системи с ИИ надолу по веригата, използвани в Европа и по света.

Законодателният акт за ИИ има за цел да гарантира, че моделите на ИИ с общо предназначение са безопасни и надеждни. 

За постигането на тази цел е от решаващо значение доставчиците на модели на ИИ с общо предназначение да гарантират добро разбиране на своите модели по цялата верига за създаване на стойност в областта на ИИ, така че да се даде възможност на доставчиците надолу по веригата както да интегрират такива модели в системите с ИИ, така и да изпълняват собствените си задължения съгласно Законодателния акт за ИИ. По-конкретно и както е обяснено по-подробно по-долу, доставчиците на модели на ИИ с общо предназначение трябва да изготвят техническа документация за своите модели, която да предоставят на доставчиците надолу по веригата и да предоставят при поискване на Службата по ИИ и националните компетентни органи, да въведат политика в областта на авторското право и да публикуват резюме на учебното съдържание. Освен това доставчиците на модели на ИИ с общо предназначение, пораждащи системни рискове, какъвто може да бъде случаят или защото моделите са много способни, или защото имат значително въздействие върху вътрешния пазар по други причини, трябва да уведомят Комисията за тези модели, да оценят и смекчат произтичащите от тях системни рискове, включително чрез извършване на оценки на моделите, докладване на сериозни инциденти и осигуряване на адекватна киберсигурност на тези модели. 

По този начин Законодателният акт за ИИ допринася за безопасни и надеждни иновации в Европейския съюз.  

Законодателният акт за ИИ определя модел на ИИ с общо предназначение като „модел на ИИ, включително когато такъв модел на ИИ е обучен с голямо количество данни, като се използва самонадзор в голям мащаб, който показва значителен общ характер и е в състояние компетентно да изпълнява широк набор от различни задачи, независимо от начина, по който моделът се пуска на пазара, и който може да бъде интегриран в различни системи или приложения надолу по веригата“ (член 3, параграф 63 от Законодателния акт за ИИ).

В съображенията на Законодателния акт за ИИ допълнително се пояснява за кои модели следва да се счита, че имат значителен общ характер и че са в състояние да изпълняват широк набор от различни задачи.

Съгласно съображение 98 от Акта за ИИ „като се има предвид, че общият характер на даден модел би могъл, наред с другото, да се определя и от редица параметри, следва да се счита, че моделите с най-малко един милиард параметри и обучени с голямо количество данни, използващи самоконтрол в голям мащаб, показват значителен общ характер и компетентно изпълняват широк спектър от отличителни задачи.“

В съображение 99 от Акта за ИИ се добавя, че „големите модели на генеративен ИИ са типичен пример за модел на ИИ с общо предназначение, като се има предвид, че те позволяват гъвкаво генериране на съдържание, например под формата на текст, аудио, изображения или видео, което лесно може да поеме широк спектър от отличителни задачи.“

Имайте предвид, че значителен общ характер и способност за компетентно изпълнение на широк спектър от отличителни задачи могат да бъдат постигнати чрез модели в рамките на една модалност, като текст, аудио, изображения или видео, ако модалността е достатъчно гъвкава. Това може да се постигне и чрез модели, които са разработени, прецизирани или модифицирани по друг начин, за да бъдат особено добри в конкретна задача или в редица задачи в конкретна област.

Различните етапи от разработването на даден модел не представляват различни модели.

Комисията предоставя допълнителни разяснения в раздел 2.1 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение. По-специално, индикативен критерий, за да може даден модел да се счита за модел на ИИ с общо предназначение, е неговият изчислителен модул за обучение да е по-голям от 10^23 FLOP и да може да генерира език (независимо дали под формата на текст или аудио), текст към изображение или текст към видео.

Системните рискове са рискове от мащабни вреди от най-модерните (т.е. най-съвременните) модели във всеки един момент или от други модели, които имат равностойно въздействие (вж. член 3, параграф 65 от Законодателния акт за ИИ). Такива рискове могат да се проявят например чрез намаляване на пречките пред разработването на химически или биологични оръжия или чрез непредвидени въпроси, свързани с контрола върху автономните модели на ИИ с общо предназначение (съображение 110 от Законодателния акт за ИИ). Най-усъвършенстваните модели във всеки един момент могат да породят системни рискове, включително нови рискове, тъй като те изместват състоянието на техниката. В същото време някои модели под прага, съответстващ на състоянието на техниката, също могат да породят системни рискове, например чрез обхват, мащабируемост или скеле.

Съответно Законодателният акт за ИИ класифицира модел на ИИ с общо предназначение като модел на ИИ с общо предназначение със системен риск, ако той е един от най-напредналите модели към този момент или ако има равностойно въздействие (член 51, параграф 1 от Законодателния акт за ИИ). Кои модели се считат за модели на ИИ с общо предназначение със системен риск може да се променят с течение на времето, което отразява развитието на технологиите и потенциалното адаптиране на обществото към все по-напредналите модели. Понастоящем няколко дружества разработват модели на ИИ с общо предназначение със системен риск, въпреки че това може да се промени в бъдеще.  

За да се обхванат най-усъвършенстваните модели, т.е. модели, които съответстват или надхвърлят възможностите, регистрирани в най-усъвършенстваните модели до момента, в Законодателния акт за ИИ се определя праг от 10^25 операции с плаваща запетая (FLOP), използвани за обучение на модела (член 51, параграф 1, буква а) и параграф 2 от Законодателния акт за ИИ). Обучението на модел, който отговаря на този праг, понастоящем се оценява на десетки милиони евро (Epoch AI, 2024 г.). Службата по ИИ непрекъснато следи технологичното и промишленото развитие и Комисията може да актуализира прага чрез приемането на делегиран акт (член 51, параграф 3 от Акта за ИИ), за да гарантира, че с развитието на съвременното технологично равнище тя продължава да откроява най-модерните модели. Например стойността на самия праг може да бъде коригирана и/или да бъдат въведени допълнителни прагове.  

За да се обхванат модели с въздействие, еквивалентно на най-усъвършенстваните модели, Законодателният акт за ИИ оправомощава Комисията да определя допълнителни модели като пораждащи системен риск въз основа на критерии като оценки на възможностите на модела, брой на ползвателите, възможност за разрастване или достъп до инструменти (член 51, параграф 1, буква б) и приложение XIII към Законодателния акт за ИИ).

Комисията предоставя допълнителни разяснения в раздел 2.3 от своитенасоки относно обхвата на задълженията за моделите на ИИ с общо предназначение. По-специално в насоките се посочва как доставчиците трябва да уведомяват Службата по ИИ за модели на ИИ с общо предназначение със системен риск и как могат да оспорват класифицирането на даден модел като модел на ИИ с общо предназначение със системен риск.

Правилата на Законодателния акт за ИИ относно моделите на ИИ с общо предназначение се прилагат за доставчиците, които пускат такива модели на пазара в Съюза, независимо дали тези доставчици са установени или се намират в Съюза или в трета държава (член 2, параграф 1, буква а) от Законодателния акт за ИИ).

Доставчик на модел на ИИ с общо предназначение означава физическо или юридическо лице, публичен орган, агенция или друга структура, която разработва модел на ИИ с общо предназначение или която е разработила такъв модел и го пуска на пазара, независимо дали срещу заплащане, безплатно или безплатно (член 3, параграф 3 от Законодателния акт за ИИ).

Да се пусне модел на пазара означава да се предостави за първи път на пазара на Съюза (член 3, параграф 9 от Законодателния акт за ИИ), т.е. да се достави за разпространение или използване на пазара на Съюза за първи път в процеса на търговска дейност, независимо дали срещу заплащане или безплатно (член 3, параграф 10 от Законодателния акт за ИИ). Следва да се отбележи, че модел на ИИ с общо предназначение също се счита за пуснат на пазара, ако доставчикът на този модел интегрира модела в собствената си система с ИИ, която се предоставя на пазара или се въвежда в експлоатация, освен ако моделът а) се използва за чисто вътрешни процеси, които не са от съществено значение за предоставянето на продукт или услуга на трети страни, б) правата на физическите лица не са засегнати и в) моделът не е модел на ИИ с общо предназначение със системен риск (съображение 97 от Акта за ИИ).

Комисията предоставя допълнителни разяснения в раздел 3 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение.

Доставчиците на модели на ИИ с общо предназначение трябва да документират техническата информация за своите модели с цел предоставяне на тази информация при поискване на Службата по ИИ и националните компетентни органи (член 53, параграф 1, буква а) от Законодателния акт за ИИ) и предоставянето ѝ на доставчиците надолу по веригата (член 53, параграф 1, буква б) от Законодателния акт за ИИ). Те трябва също така да въведат политика за спазване на правото на Съюза в областта на авторското право и сродните му права (член 53, параграф 1, буква в) от Законодателния акт за ИИ) и да изготвят и направят публично достояние достатъчно подробно резюме на съдържанието, използвано за обучение на модела (член 53, параграф 1, буква г) от Законодателния акт за ИИ).

Кодексът за поведение във връзка с ИИ с общо предназначение предоставя на подписалите го страни допълнителни подробности за това как да се гарантира спазването на задълженията, определени в член 53, параграф 1, букви а), б) и в) в главите, посветени на прозрачността и авторското право (ръководени от работна група 1), а образецът на Комисията за публично резюме на учебното съдържание за модели на ИИ с общо предназначение очертава необходимото съдържание за член 53, параграф 1, буква г) от Законодателния акт за ИИ.

Съгласно Законодателния акт за ИИ доставчиците на модели на ИИ с общо предназначение със системен риск имат допълнителни задължения. Те трябва да оценяват и смекчават системните рискове, по-специално чрез извършване на оценки на моделите, проследяване, документиране и докладване на сериозни инциденти и осигуряване на адекватна защита на киберсигурността на модела и неговата физическа инфраструктура (член 55 от Законодателния акт за ИИ).

Кодексът за поведение във връзка с ИИ с общо предназначение предоставя на подписалите го страни допълнителни подробности за това как да се гарантира спазването на тези задължения в главата, посветена на оценката на системния риск, смекчаването на техническия риск и смекчаването на управленския риск (ръководена съответно от работни групи 2, 3 и 4).

Задълженията на доставчиците на модели на ИИ с общо предназначение се прилагат от 2 август 2025 г. (член 113, буква б) от Законодателния акт за ИИ), със специални правила за моделите на ИИ с общо предназначение, пуснати на пазара преди тази дата (член 111, параграф 3) от Законодателния акт за ИИ.

Задълженията за изготвяне и предоставяне на документация на Службата по ИИ, националните компетентни органи и доставчиците надолу по веригата (член 53, параграф 1, букви а) и б) от Законодателния акт за ИИ) не се прилагат, ако моделът се предоставя под свободен лиценз с отворен код и неговите параметри, включително теглата, информацията за архитектурата на модела и информацията за използването на модела, са публично достъпни (член 53, параграф 2 от Законодателния акт за ИИ). В съображения 102 и 103 от Акта за ИИ допълнително се пояснява какво представлява безплатен лиценз с отворен код и Комисията предоставя допълнителни разяснения в раздел 4 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение.

Това изключение не се прилага за модели на ИИ с общо предназначение със системен риск. След пускането на модела с отворен код мерките, необходими за гарантиране на спазването на задълженията по член 55, може да бъдат по-трудни за прилагане (съображение 112 от Законодателния акт за изкуствения интелект). Следователно може да се наложи доставчиците на модели на ИИ с общо предназначение със системен риск да оценят и смекчат системните рискове, преди да пуснат своите модели като такива с отворен код.

Кодексът за поведение във връзка с ИИ с общо предназначение предоставя на подписалите го страни допълнителни подробности за това как да спазват задълженията по членове 53 и 55 във връзка с различните начини за освобождаване на модели на ИИ с общо предназначение, включително отворено възлагане на дейности на външни изпълнители.

Важен, но труден въпрос, който е в основата на процеса на изготвяне на Кодекса за поведение в областта на ИИ с общо предназначение, е този за намиране на баланс между преследването на ползите и смекчаването на рисковете от отвореното възлагане на външни изпълнители на усъвършенствани модели на ИИ с общо предназначение: откритото възлагане на авангардни модели на ИИ с общо предназначение може действително да донесе значителни ползи за обществото, включително чрез насърчаване на научните изследвания в областта на безопасността на ИИ; в същото време, когато тези модели са с отворен код, намаляването на риска се заобикаля или премахва по-лесно. 
 

В член 2, параграф 8 от Законодателния акт за ИИ се предвижда, че като цяло Законодателният акт за ИИ „не се прилага за научноизследователска, изпитвателна или развойна дейност по отношение на системи с ИИ или модели на ИИ, преди те да бъдат пуснати на пазара или въведени в експлоатация“.

Същевременно някои задължения за доставчиците на модели на ИИ с общо предназначение (със и без системен риск) се отнасят изрично или имплицитно до етапа на разработване на моделите, предназначени за, но преди пускането на пазара. Такъв е случаят например със задълженията на доставчиците да уведомяват Комисията, че техният модел на ИИ с общо предназначение отговаря или ще отговаря на прага за изчисляване на обучението, определен в член 51, параграф 2 от Законодателния акт за ИИ (членове 51 и 52 от Законодателния акт за ИИ), да документират информация относно обучението и изпитването (член 53 от Законодателния акт за ИИ) и да оценяват и смекчават системния риск (член 55 от Законодателния акт за ИИ). По-специално в член 55, параграф 1, буква б) от Акта за ИИ изрично се предвижда, че „доставчиците на модели на ИИ с общо предназначение със системен риск оценяват и смекчават възможните системни рискове на равнището на Съюза, включително техните източници, които могат да произтичат от разработването (...) на модели на ИИ с общо предназначение със системен риск.“

Службата по ИИ очаква дискусиите с доставчиците на модели на ИИ с общо предназначение със системен риск да започнат на ранен етап от разработването. Това е в съответствие със задължението на доставчиците на модели на ИИ с общо предназначение, които отговарят на прага за изчисляване на обучението, „да уведомят Комисията незабавно и във всеки случай в срок от две седмици, след като това изискване бъде изпълнено или стане известно, че то ще бъде изпълнено“ (член 52, параграф 1 от Законодателния акт за ИИ). В действителност обучението на модели на ИИ с общо предназначение изисква значително планиране, което включва предварително разпределяне на изчислителни ресурси, и поради това доставчиците на модели на ИИ с общо предназначение са в състояние да знаят дали техният модел ще достигне прага за изчисляване на обучението преди завършване на обучението (съображение 112 от Акта за ИИ). Комисията предоставя допълнителни разяснения по този въпрос в раздел 2.3 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение.

Въз основа на член 56 от Законодателния акт за ИИ в Кодекса за дейността в областта на ИИ с общо предназначение се описва подробно начинът, по който доставчиците на модели на ИИ с общо предназначение и на модели на ИИ с общо предназначение със системен риск могат да изпълняват задълженията си съгласно Законодателния акт за ИИ. Службата по ИИ улесни изготвянето на настоящия Кодекс за поведение с четири работни групи, председателствани от независими експерти и включващи близо 1000 заинтересовани страни, представители на държавите — членки на ЕС, както и европейски и международни наблюдатели.

По-конкретно в Кодекса на практиката се описва подробно как доставчиците на модели на ИИ с общо предназначение могат да спазват задълженията, предвидени в членове 53 и 55 от Законодателния акт за ИИ. Комисията  и Съветът по ИИ оцениха Кодекса за поведение, публикуван на 10 юли 2025 г., като подходящ.

Кодексът за поведение включва ангажименти от страна на доставчиците на модели на ИИ с общо предназначение, които подписват Кодекса, да документират и докладват допълнителна информация, както и да включват Службата по ИИ и трети страни през целия жизнен цикъл на модела, доколкото това се счита за необходимо, за да могат доставчиците ефективно да изпълняват задълженията си съгласно Законодателния акт за ИИ.

Кодексът за поведение не разглежда, наред с другото, следните въпроси: определяне на ключови понятия и определения от Законодателния акт за ИИ (като например „модел на ИИ с общо предназначение“), актуализиране на критериите или праговете за класифициране на модел на ИИ с общо предназначение като модел на ИИ с общо предназначение със системен риск (член 51), очертаване на начина, по който Службата по ИИ ще налага задълженията на доставчиците на модели на ИИ с общо предназначение (глава IX, раздел 5), и въпроси относно глобите, санкциите и отговорността.

Тези въпроси са и ще бъдат решени чрез други средства (насоки на Комисията, решения, делегирани актове, актове за изпълнение, допълнителни съобщения от Службата по ИИ и др.).

В Законодателния акт за ИИ се прави разграничение между системите с ИИ и моделите на ИИ, като се налагат изисквания за някои системи с ИИ (глави II—IV) и задължения за доставчиците на модели на ИИ с общо предназначение (глава V). Въпреки че разпоредбите на Акта за ИИ относно системите с ИИ зависят от контекста на използване на системата, разпоредбите на Акта за ИИ относно моделите на ИИ с общо предназначение се прилагат за самия модел, независимо от това каква е или ще бъде крайната му употреба. Кодексът за поведение се отнася само до задълженията в Законодателния акт за ИИ за доставчиците на модели на ИИ с общо предназначение.

Въпреки това съществуват взаимодействия между двата набора от правила, тъй като моделите на ИИ с общо предназначение обикновено са интегрирани в системите с ИИ и са част от тях. Ако доставчик на модел на ИИ с общо предназначение интегрира този модел в система с ИИ, той трябва да спазва задълженията на доставчиците на модели на ИИ с общо предназначение и, ако системата с ИИ попада в обхвата на Законодателния акт за ИИ, изискванията за системите с ИИ. Ако доставчик надолу по веригата интегрира модел на ИИ с общо предназначение в система с ИИ, доставчикът на модела на ИИ с общо предназначение трябва да си сътрудничи с доставчика надолу по веригата на системата с ИИ, за да гарантира, че последният може да изпълни задълженията си съгласно Законодателния акт за ИИ, ако системата с ИИ попада в обхвата на Законодателния акт за ИИ (например чрез предоставяне на определена информация на доставчика надолу по веригата).

Като се имат предвид тези взаимодействия между моделите и системите, както и между задълженията и изискванията за всеки от тях, важен въпрос, който е в основата на Кодекса на практиката, се отнася до това кои мерки са подходящи на нивото на модела и кои трябва да бъдат предприети на нивото на системата.

Кодексът за поведение определя цели, ангажименти и мерки. Ангажиментите и мерките, свързани със задълженията, приложими за доставчиците на всички модели на ИИ с общо предназначение, надлежно отчитат размера на доставчика и позволяват опростени начини за спазване на изискванията за МСП, включително новосъздадените предприятия, за да не представляват прекомерни разходи и да не възпират използването на такива модели (съображение 109 от Законодателния акт за ИИ). Освен това ангажиментите за докладване, свързани със задълженията, приложими за доставчиците на модели на ИИ с общо предназначение със системен риск, отразяват разликите в размера и капацитета между различните доставчици (член 56, параграф 5 от Законодателния акт за ИИ), като същевременно се гарантира, че те са пропорционални на рисковете (член 56, параграф 2, буква г) от Законодателния акт за ИИ).

След като бъде оценено като адекватно, спазването на Кодекса на практиката се превръща в средство за доказване на спазването на Законодателния акт за ИИ, като същевременно не се осигурява презумпция за съответствие със Законодателния акт за ИИ. Доставчиците могат също така да докажат съответствие със Законодателния акт за ИИ по други начини. В този случай от доставчиците ще се очаква да приемат алтернативни подходящи мерки, за да гарантират спазването на задълженията си по Законодателния акт за ИИ, което може да включва докладване пред Службата по ИИ. Доставчиците, които не подписват и не се придържат към Кодекса на практиката, трябва да могат да обосноват защо предложените от тях алтернативни средства за съответствие са подходящи, например чрез извършване на анализ на пропуските в сравнение с Кодекса на практиката, който е оценен като подходящ.

Въз основа на Законодателния акт за ИИ допълнителните правни последици от Кодекса за поведение са, че Службата за ИИ може да вземе предвид спазването на Кодекса за поведение от страна на доставчика, когато наблюдава неговото ефективно прилагане и съответствие със Законодателния акт за ИИ (член 89, параграф 1 от Законодателния акт за ИИ), и може да вземе предвид ангажиментите, поети в Кодекса за поведение, като смекчаващ фактор при определянето на размера на глобите в зависимост от конкретните обстоятелства (член 101, параграф 1 от Законодателния акт за ИИ). Комисията предоставя допълнителни разяснения в раздел 5 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение.

Въз основа на член 56, параграф 8 от Акта за ИИ „Службата по ИИ, когато е целесъобразно, също така насърчава и улеснява прегледа и адаптирането на кодексите за добри практики, по-специално с оглед на нововъзникващите стандарти“. Комисията предоставя допълнителни разяснения по този въпрос в раздел 4 от своята оценка на адекватността на Кодекса за поведение. 

Службата по ИИ ще упражнява надзор и ще прилага задълженията, определени в Законодателния акт за ИИ за доставчиците на модели на ИИ с общо предназначение (член 88 от Законодателния акт за ИИ), и по изключение задълженията за доставчиците на системи с ИИ, основани на модели на ИИ с общо предназначение, ако доставчикът на модела и системата са едни и същи (член 75, параграф 1 от Законодателния акт за ИИ). Службата по ИИ ще подпомага съответните органи за надзор на пазара на държавите членки при прилагането от тяхна страна на изискванията за системите с ИИ (член 75, параграфи 2 и 3 от Законодателния акт за ИИ), наред с други задачи. Прилагането от страна на Службата по ИИ се основава на правомощията, предоставени ѝ от Законодателния акт за ИИ, а именно правомощията да изисква информация (член 91 от Законодателния акт за ИИ), да извършва оценки на модели на ИИ с общо предназначение (член 92 от Законодателния акт за ИИ), да изисква мерки от доставчиците, включително прилагане на мерки за смекчаване на риска, и да изтегля модела от пазара (член 93 от Законодателния акт за ИИ), както и да налага глоби в размер до 3 % от световния годишен оборот или 15 милиона евро, в зависимост от това коя от двете стойности е по-висока (член 101 от Законодателния акт за ИИ). Комисията предоставя допълнителни разяснения по този въпрос в раздел 5 от своите насоки относно обхвата на задълженията за моделите на ИИ с общо предназначение.