Модели на ИИ с общо предназначение в Законодателния акт за ИИ — въпроси и коментари; отговори

Изкуственият интелект („ИИ“)обещава огромни ползи за нашата икономика и общество. Моделите на ИИ с общо предназначение играят важна роля в това отношение, тъй като могат да се използват за различни задачи и следователно формират основата за редица системи с ИИ надолу по веригата, използвани в Европа и по света.

Законодателният акт за ИИ има за цел да гарантира, че моделите на ИИ с общо предназначение са безопасни и надеждни. 

За постигането на тази цел е от решаващо значение доставчиците на модели на ИИ с общо предназначение да гарантират добро разбиране на своите модели по цялата верига за създаване на стойност в областта на ИИ, така че да се даде възможност на доставчиците надолу по веригата както да интегрират такива модели в системите с ИИ, така и да изпълняват собствените си задължения съгласно Законодателния акт за ИИ. По-конкретно и както е обяснено по-подробно по-долу, доставчиците на модели на ИИ с общо предназначение трябва да изготвят техническа документация за своите модели, която да предоставят на доставчиците надолу по веригата и да предоставят при поискване на Службата по ИИ и националните компетентни органи, да въведат политика в областта на авторското право и да публикуват резюме на учебното съдържание. Освен това доставчиците на модели на ИИ с общо предназначение, пораждащи системни рискове, какъвто може да бъде случаят или защото моделите са много способни, или защото имат значително въздействие върху вътрешния пазар по други причини, трябва да уведомят Комисията за тези модели, да оценят и смекчат системните рискове, произтичащи от тези модели, включително чрез извършване на оценки на моделите, докладване на сериозни инциденти и осигуряване на адекватна киберсигурност на тези модели.

По този начин Законодателният акт за ИИ допринася за безопасни и надеждни иновации в Европейския съюз.  

Законодателният акт за ИИ определя модел на ИИ с общо предназначение като „модел на ИИ, включително когато такъв модел на ИИ е обучен с голямо количество данни, като се използва самонадзор в голям мащаб, който показва значителен общ характер и е в състояние компетентно да изпълнява широк набор от различни задачи, независимо от начина, по който моделът се пуска на пазара, и който може да бъде интегриран в различни системи или приложения надолу по веригата“ (член 3, параграф 63 от Законодателния акт за ИИ).

В съображенията на Законодателния акт за ИИ допълнително се пояснява за кои модели следва да се счита, че имат значителен общ характер и че са в състояние да изпълняват широк набор от различни задачи.

Съгласно съображение 98 от Акта за ИИ „като се има предвид, че общият характер на даден модел би могъл, наред с другото, да се определя и от редица параметри, следва да се счита, че моделите с най-малко един милиард параметри и обучени с голямо количество данни, използващи самоконтрол в голям мащаб, показват значителен общ характер и компетентно изпълняват широк спектър от отличителни задачи.“

В съображение 99 от Акта за ИИ се добавя, че „големите модели на генеративен ИИ са типичен пример за модел на ИИ с общо предназначение, като се има предвид, че те позволяват гъвкаво генериране на съдържание, например под формата на текст, аудио, изображения или видео, което лесно може да поеме широк спектър от отличителни задачи.“

Имайте предвид, че значителен общ характер и способност за компетентно изпълнение на широк спектър от отличителни задачи могат да бъдат постигнати чрез модели в рамките на една модалност, като текст, аудио, изображения или видео, ако модалността е достатъчно гъвкава. Това може да се постигне и чрез модели, които са разработени, прецизирани или модифицирани по друг начин, за да бъдат особено добри в конкретна задача или в редица задачи в конкретна област.

Различните етапи от разработването на даден модел не представляват различни модели.

Службата по ИИ възнамерява да предостави допълнителни разяснения относно това какво следва да се счита за модел на ИИ с общо предназначение, като се основава на информация от Съвместния изследователски център на Комисията, който понастоящем работи по научноизследователски проект, насочен към този и други въпроси.

Системните рискове са рискове от мащабни вреди от най-модерните (т.е. най-съвременните) модели във всеки един момент или от други модели, които имат равностойно въздействие (вж. член 3, параграф 65 от Законодателния акт за ИИ). Такива рискове могат да се проявят например чрез намаляване на пречките пред разработването на химически или биологични оръжия или нежелани въпроси, свързани с контрола върху автономните модели на ИИ с общо предназначение (съображение 110 от Законодателния акт за ИИ). Най-усъвършенстваните модели във всеки един момент могат да породят системни рискове, включително нови рискове, тъй като те изместват състоянието на техниката. В същото време някои модели под прага, отразяващ състоянието на техниката, също могат да породят системни рискове, например чрез обхват, мащабируемост или скеле.

Съответно Законодателният акт за ИИ класифицира модел на ИИ с общо предназначение като модел на ИИ с общо предназначение със системен риск, ако той е един от най-напредналите модели към този момент или ако има равностойно въздействие (член 51, параграф 1 от Законодателния акт за ИИ). Кои модели се считат за модели на ИИ с общо предназначение със системен риск може да се променят с течение на времето, което отразява развитието на технологиите и потенциалното адаптиране на обществото към все по-напредналите модели. Понастоящем няколко дружества разработват модели на ИИ с общо предназначение със системен риск, въпреки че това може да се промени в бъдеще.  

За да се обхванат най-усъвършенстваните модели, т.е. модели, които съответстват или надхвърлят възможностите, регистрирани в най-усъвършенстваните модели до момента, в Законодателния акт за ИИ се определя праг от 10^25 операции с плаваща запетая (FLOP), използвани за обучение на модела (член 51, параграф 1, буква а) и параграф 2 от Законодателния акт за ИИ). Обучението на модел, който отговаря на този праг, понастоящем се оценява на десетки милиони евро (EpochAI, 2024 г.). Службата по ИИ непрекъснато следи технологичното и промишленото развитие и Комисията може да актуализира прага чрез приемането на делегиран акт (член 51, параграф 3 от Акта за ИИ), за да гарантира, че с развитието на съвременното технологично равнище тя продължава да откроява най-модерните модели. Например стойността на самия праг може да бъде коригирана и/или да бъдат въведени допълнителни прагове.  

За да се обхванат модели с въздействие, еквивалентно на най-усъвършенстваните модели, Законодателният акт за ИИ оправомощава Комисията да определя допълнителни модели като пораждащи системен риск въз основа на критерии като оценки на възможностите на модела, брой на ползвателите, възможност за разрастване или достъп до инструменти (член 51, параграф 1, буква б) и приложение XIII към Законодателния акт за ИИ).

Службата по ИИ възнамерява да предостави допълнителни разяснения относно начина, по който моделите на ИИ с общо предназначение ще бъдат класифицирани като модели на ИИ с общо предназначение със системен риск, като се основава на информация от Съвместния изследователски център на Комисията, който понастоящем работи по научноизследователски проект, насочен към този и други въпроси.

Правилата на Законодателния акт за ИИ относно моделите на ИИ с общо предназначение се прилагат за доставчиците, които пускат такива модели на пазара в Съюза, независимо дали тези доставчици са установени или се намират в Съюза или в трета държава (член 2, параграф 1, буква а) от Законодателния акт за ИИ).

Доставчик на модел на ИИ с общо предназначение означава физическо или юридическо лице, публичен орган, агенция или друга структура, която разработва модел на ИИ с общо предназначение или която е разработила такъв модел и го пуска на пазара, независимо дали срещу заплащане, безплатно или безплатно (член 3, параграф 3 от Законодателния акт за ИИ).

Пускането на даден модел на пазара означава първото предоставяне на модела на пазара на Съюза (член 3, параграф 9 от Законодателния акт за ИИ), т.е. предоставянето му за разпространение или използване на пазара на Съюза за първи път в процеса на търговска дейност, независимо дали срещу заплащане или безплатно (член 3, параграф 10 от Законодателния акт за ИИ). Следва да се отбележи, че модел на ИИ с общо предназначение също се счита за пуснат на пазара, ако доставчикът на този модел интегрира модела в собствената си система с ИИ, която се предоставя на пазара или се въвежда в експлоатация, освен ако моделът а) се използва за чисто вътрешни процеси, които не са от съществено значение за предоставянето на продукт или услуга на трети страни, б) правата на физическите лица не са засегнати и в) моделът не е модел на ИИ с общо предназначение със системен риск (съображение 97 от Акта за ИИ).

Доставчиците на модели на ИИ с общо предназначение трябва да документират техническата информация за своите модели с цел предоставяне на тази информация при поискване на Службата по ИИ и националните компетентни органи (член 53, параграф 1, буква а) от Законодателния акт за ИИ) и предоставянето ѝ на доставчиците надолу по веригата (член 53, параграф 1, буква б) от Законодателния акт за ИИ). Те трябва също така да въведат политика за спазване на правото на Съюза в областта на авторското право и сродните му права (член 53, параграф 1, буква в) от Законодателния акт за ИИ) и да изготвят и направят публично достояние достатъчно подробно резюме на съдържанието, използвано за обучение на модела (член 53, параграф 1, буква г) от Законодателния акт за ИИ).

Кодексът за поведение във връзка с ИИ с общо предназначение следва да предостави на подписалите го страни допълнителни подробности за това как да се гарантира спазването на тези задължения в разделите, посветени на прозрачността и авторското право (ръководени от работна група 1).

Съгласно Законодателния акт за ИИ доставчиците на модели на ИИ с общо предназначение със системен риск имат допълнителни задължения. Те трябва да оценяват и смекчават системните рискове, по-специално чрез извършване на оценки на моделите, проследяване, документиране и докладване на сериозни инциденти и осигуряване на адекватна защита на киберсигурността на модела и неговата физическа инфраструктура (член 55 от Законодателния акт за ИИ).

Кодексът за поведение във връзка с ИИ с общо предназначение следва да предостави на подписалите го страни допълнителни подробности за това как да се гарантира спазването на тези задължения в разделите, посветени на оценката на системния риск, смекчаването на техническия риск и смекчаването на управленския риск (водени съответно от работни групи 2, 3 и 4).

Задълженията на доставчиците на модели на ИИ с общо предназначение се прилагат от 2 август 2025 г. (член 113, буква б) от Законодателния акт за ИИ), със специални правила за моделите на ИИ с общо предназначение, пуснати на пазара преди тази дата (член 111, параграф 3) от Законодателния акт за ИИ.

В член 2, параграф 8 от Законодателния акт за ИИ се предвижда, че като цяло Законодателният акт за ИИ „не се прилага за научноизследователска, изпитвателна или развойна дейност по отношение на системи с ИИ или модели на ИИ, преди те да бъдат пуснати на пазара или въведени в експлоатация“.  

Същевременно някои задължения за доставчиците на модели на ИИ с общо предназначение (със и без системен риск) се отнасят изрично или имплицитно до етапа на разработване на моделите, предназначени за, но преди пускането на пазара. Такъв е случаят например със задълженията на доставчиците да уведомяват Комисията, че техният модел на ИИ с общо предназначение отговаря или ще отговаря на прага за изчисляване на обучението (членове 51 и 52 от Законодателния акт за ИИ), да документират информация относно обучението и изпитването (член 53 от Законодателния акт за ИИ) и да оценяват и намаляват системния риск (член 55 от Законодателния акт за ИИ). По-специално в член 55, параграф 1, буква б) от Акта за ИИ изрично се предвижда, че „доставчиците на модели на ИИ с общо предназначение със системен риск оценяват и смекчават възможните системни рискове на равнището на Съюза, включително техните източници, които могат да произтичат от разработването (...) на модели на ИИ с общо предназначение със системен риск.

Службата по ИИ очаква дискусиите с доставчиците на модели на ИИ с общо предназначение със системен риск да започнат на ранен етап от разработването. Това е в съответствие със задължението на доставчиците на модели на ИИ с общо предназначение, които отговарят на прага за изчисляване на обучението, определен в член 51, параграф 2 от Законодателния акт за ИИ, да „уведомят Комисията незабавно и във всеки случай в срок от две седмици, след като това изискване е изпълнено или стане известно, че то ще бъде изпълнено“ (член 52, параграф 1 от Законодателния акт за ИИ). В действителност обучението на модели на ИИ с общо предназначение изисква значително планиране, което включва предварително разпределяне на изчислителни ресурси, и поради това доставчиците на модели на ИИ с общо предназначение са в състояние да знаят дали техният модел ще достигне прага за изчисляване на обучението преди завършване на обучението (съображение 112 от Акта за ИИ).

Службата по ИИ възнамерява да предостави допълнителни разяснения по този въпрос. 

Въз основа на член 56 от Законодателния акт за ИИ Кодексът за поведение в областта на ИИ с общо предназначение следва да описва подробно начина, по който доставчиците на модели на ИИ с общо предназначение и на модели на ИИ с общо предназначение със системен риск могат да изпълняват задълженията си съгласно Законодателния акт за ИИ. Службата по ИИ улеснява изготвянето на настоящия кодекс за поведение с четири работни групи, председателствани от независими експерти и включващи близо 1000 заинтересовани страни, представители на държавите — членки на ЕС, както и европейски и международни наблюдатели.

По-конкретно Кодексът за поведение следва да описва подробно най-малко как доставчиците на модели на ИИ с общо предназначение могат да спазват задълженията, предвидени в членове 53 и 55 от Законодателния акт за ИИ. Това означава, че може да се очаква Кодексът за поведение да се състои от две части: една, която се прилага за доставчиците на всички модели на ИИ с общо предназначение (член 53), и една, която се прилага само за доставчиците на модели на ИИ с общо предназначение със системен риск (член 55).  

Кодексът за поведение не следва да разглежда, наред с другото, следните въпроси: определяне на ключови понятия и определения от Законодателния акт за ИИ (като например „модел на ИИ с общо предназначение“), актуализиране на критериите или праговете за класифициране на модел на ИИ с общо предназначение като модел на ИИ с общо предназначение със системен риск (член 51), очертаване на начина, по който Службата по ИИ ще налага задълженията на доставчиците на модели на ИИ с общо предназначение (глава IX, раздел 5), и въпроси относно глобите, санкциите и отговорността.

Вместо това тези въпроси могат да бъдат решени чрез други средства (решения, делегирани актове, актове за изпълнение, допълнителни съобщения от Службата по ИИ и др.).

Въпреки това Кодексът за поведение може да включва ангажименти от страна на доставчиците на модели на ИИ с общо предназначение, които подписват Кодекса, да документират и докладват допълнителна информация, както и да включват Службата по ИИ и трети страни през целия жизнен цикъл на модела, доколкото това се счита за необходимо, за да могат доставчиците ефективно да изпълняват задълженията си съгласно Законодателния акт за ИИ.

В Законодателния акт за ИИ се прави разграничение между системите с ИИ и моделите на ИИ, като се налагат изисквания за някои системи с ИИ (глави II—IV) и задължения за доставчиците на модели на ИИ с общо предназначение (глава V). Въпреки че разпоредбите на Акта за ИИ относно системите с ИИ зависят от контекста на използване на системата, разпоредбите на Акта за ИИ относно моделите на ИИ с общо предназначение се прилагат за самия модел, независимо от това каква е или ще бъде крайната му употреба. Кодексът за поведение следва да се отнася само до задълженията в Законодателния акт за ИИ за доставчиците на модели на ИИ с общо предназначение.

Въпреки това съществуват взаимодействия между двата набора от правила, тъй като моделите на ИИ с общо предназначение обикновено са интегрирани в системите с ИИ и са част от тях. Ако доставчик на модел на ИИ с общо предназначение интегрира този модел в система с ИИ, той трябва да спазва задълженията на доставчиците на модели на ИИ с общо предназначение и, ако системата с ИИ попада в обхвата на Законодателния акт за ИИ, изискванията за системите с ИИ. Ако доставчик надолу по веригата интегрира модел на ИИ с общо предназначение в система с ИИ, доставчикът на модела на ИИ с общо предназначение трябва да си сътрудничи с доставчика надолу по веригата на системата с ИИ, за да гарантира, че последният може да изпълни задълженията си съгласно Законодателния акт за ИИ, ако системата с ИИ попада в обхвата на Законодателния акт за ИИ (например чрез предоставяне на определена информация на доставчика надолу по веригата).

Като се имат предвид тези взаимодействия между моделите и системите, както и между задълженията и изискванията за всеки от тях, важен въпрос, който е в основата на Кодекса на практиката, се отнася до това кои мерки са подходящи на нивото на модела и кои трябва да бъдат предприети на нивото на системата.

Кодексът за поведение следва да определи своите цели, ангажименти, мерки и, когато е целесъобразно, ключови показатели за ефективност (КПЕ) за измерване на постигането на неговите цели. Ангажиментите, мерките и КПЕ, свързани със задълженията, приложими за доставчиците на всички модели на ИИ с общо предназначение, следва надлежно да отчитат размера на доставчика и да позволяват опростени начини за спазване на изискванията за МСП, включително новосъздадените предприятия, които не следва да представляват прекомерни разходи и да не възпират използването на такива модели (съображение 109 от Законодателния акт за ИИ). Освен това ангажиментите за докладване, свързани със задълженията, приложими за доставчиците на модели на ИИ с общо предназначение със системен риск, следва да отразяват разликите в размера и капацитета между различните доставчици (член 56, параграф 5 от Законодателния акт за ИИ), като същевременно се гарантира, че те са пропорционални на рисковете (член 56, параграф 2, буква г) от Законодателния акт за ИИ).

След публикуването на третия проект на Кодекса за поведение се очаква през следващите месеци да има още един кръг на изготвяне. Тринадесет председатели и заместник-председатели с различен опит в областта на компютърните науки, управлението на ИИ и правото отговарят за обобщаването на становищата от консултация с множество заинтересовани страни и дискусии с пленарното заседание относно Кодекса за поведение, състоящо се от около 1000 заинтересовани страни. Този повтарящ се процес ще доведе до окончателен Кодекс за поведение, който следва да отразява различните становища, като същевременно гарантира подходящо отразяване на начина, по който трябва да се спазва Законодателният акт за ИИ.

Въз основа на член 56, параграф 9 „кодексите за добри практики трябва да бъдат готови най-късно до 2 май 2025 г.“, за да се даде на доставчиците достатъчно време, преди правилата за СДПИ да започнат да се прилагат на 2 август 2025 г.

След като Кодексът бъде финализиран, „Службата по ИИ и Съветът по ИИ оценяват дали кодексите за добри практики обхващат задълженията, предвидени в членове 53 и 55 (...). Те публикуват своята оценка на адекватността на кодексите за поведение. Чрез акт за изпълнение Комисията може да одобри кодекс за поведение и да му придаде обща валидност в рамките на Съюза.“ (член 56, параграф 6 от Акта за ИИ).  

Ако бъде одобрен чрез акт за изпълнение, Кодексът за поведение придобива обща валидност, което означава, че спазването на Кодекса за поведение се превръща в средство за доказване на съответствие със Законодателния акт за ИИ, като същевременно не се осигурява презумпция за съответствие със Законодателния акт за ИИ. Доставчиците могат също така да докажат съответствие със Законодателния акт за ИИ по други начини. В този случай от доставчиците ще се очаква да приемат мерки, за да гарантират спазването на своите задължения по Законодателния акт за ИИ, които са адекватни, ефективни и пропорционални и които могат да включват докладване пред Службата по ИИ.

Въз основа на Законодателния акт за ИИ допълнителните правни последици от Кодекса за поведение са, че Службата по ИИ може да вземе предвид спазването на Кодекса за поведение от страна на доставчика, когато наблюдава неговото ефективно прилагане и съответствие със Законодателния акт за ИИ (член 89, параграф 1 от Законодателния акт за ИИ), и може благоприятно да вземе предвид ангажиментите, поети в Кодекса за поведение, когато определя размера на глобите в зависимост от конкретните обстоятелства (член 101, параграф 1 от Законодателния акт за ИИ).

И накрая, „Ако до 2 август 2025 г. даден кодекс за добри практики не може да бъде финализиран или ако Службата по ИИ счете, че той не е подходящ след оценката ѝ съгласно параграф 6 от настоящия член, Комисията може да предвиди чрез актове за изпълнение общи правила за изпълнението на задълженията, предвидени в членове 53 и 55, включително въпросите, посочени в параграф 2 от настоящия член.“ (член 56, параграф 9 от Законодателния акт за ИИ).

Въз основа на член 56, параграф 8 от Акта за ИИ „Службата по ИИ, когато е целесъобразно, също така насърчава и улеснява прегледа и адаптирането на кодексите за добри практики, по-специално с оглед на нововъзникващите стандарти“. Третият проект на Кодекса за поведение включва предложен механизъм за неговото преразглеждане и актуализиране.

Службата по ИИ ще упражнява надзор и ще прилага задълженията, определени в Законодателния акт за ИИ за доставчиците на модели на ИИ с общо предназначение (член 88 от Законодателния акт за ИИ), и по изключение задълженията за доставчиците на системи с ИИ, основани на модели на ИИ с общо предназначение, ако доставчикът на модела и системата са едни и същи (член 75, параграф 1 от Законодателния акт за ИИ). Службата по ИИ ще подпомага съответните органи за надзор на пазара на държавите членки при прилагането от тяхна страна на изискванията за системите с ИИ (член 75, параграфи 2 и 3 от Законодателния акт за ИИ), наред с други задачи. Прилагането от страна на Службата по ИИ се основава на правомощията, предоставени ѝ от Законодателния акт за ИИ, а именно правомощията да изисква информация (член 91 от Законодателния акт за ИИ), да извършва оценки на модели на ИИ с общо предназначение (член 92 от Законодателния акт за ИИ), да изисква мерки от доставчиците, включително прилагане на мерки за смекчаване на риска, и да изтегля модела от пазара (член 93 от Законодателния акт за ИИ), както и да налага глоби в размер до 3 % от световния годишен оборот или 15 милиона евро, в зависимост от това коя от двете стойности е по-висока (член 101 от Законодателния акт за ИИ).