iStock Photo Getty Images +
Това събиране бележи значителен напредък в насърчаването на глобалното сътрудничество в областта на безопасността на ИИ. Срещата е организирана около три писти.
По линия 1 мрежата ще обсъди инициативи за смекчаване на рисковете, свързани със синтетичното съдържание, генерирано от ИИ, като се съсредоточи върху техниките за прозрачност на цифровото съдържание, както и предпазни мерки на равнището на модела и системата с ИИ за намаляване и предотвратяване на вредни или незаконни синтетични резултати, като например материали, съдържащи сексуално насилие над деца. Участниците ще обсъдят принципите и първоначалните практики. Въпреки че техническите методи все още се развиват, най-добрите практики могат да насърчат привеждането в съответствие на заинтересованите страни по отношение на прозрачността и смекчаването на рисковете, произтичащи от синтетичното съдържание, и да демонстрират доверие към целевата аудитория. Допълнителните подходи — включително нормативни, образователни, регулаторни и пазарни мерки — са от съществено значение.
Приносът на заинтересованите страни по време на срещата ще прецизира тази работа, като постави началото на обсъжданията на срещата на високо равнище за действие в областта на ИИ в Париж през февруари 2025 г.
Track 2 ще се съсредоточи върху оценката и тестването на моделите на фондацията. Целта е да се насърчи съвместното разбиране за това как да се извършват оценки, за да се постигне състояние на допълващо изпитване сред членовете на мрежата. Институтите за безопасност на ИИ ще представят прототип на съвместно изпитване, което ще постави основата за обсъждане на това как да се разшири и развие това в подготовка за срещата на високо равнище за действие в областта на ИИ във Франция.
По направление 3 мрежата ще одобри съвместно изявление относно оценката на риска от усъвършенствани системи с ИИ. Този технически документ, координиран от Службата на ЕС за ИИ с Обединеното кралство, очертава развиващата се наука и практика за оценка на риска. Тя има за цел да създаде обща техническа основа в подкрепа на продължаващите усилия на мрежата за създаване на всеобхватни и ефективни стратегии за оценка на риска за усъвършенствани системи с ИИ.
Съвместното изявление въвежда шест ключови аспекта, които са от съществено значение за надеждната оценка на риска:
- Действителни прозрения
- Прозрачност
- Цялостен обхват
- Участие на множество заинтересовани страни
- Повтарящи се процеси
- Възпроизводимост
Track 3 ще обсъди как тази работа би могла да продължи да напредва до срещата на високо равнище за действие в областта на ИИ във Франция през февруари.
Научете повече за Международната мрежа от институти за безопасност на изкуствения интелект.