iStock Photo Getty Images +
Toto shromáždění milníků představuje významný pokrok v podpoře celosvětové spolupráce v oblasti bezpečnosti umělé inteligence. Schůzka je organizována kolem tří okruhů.
V rámci první etapy bude síť jednat o iniciativách ke zmírnění rizik spojených se syntetickým obsahem vytvořeným umělou inteligencí, přičemž se zaměří na techniky transparentnosti digitálního obsahu, jakož i na záruky na úrovni modelu a systému umělé inteligence s cílem omezit škodlivé nebo nezákonné syntetické výstupy, jako jsou materiály pohlavního zneužívání dětí, a předcházet jim. Účastníci budou diskutovat o principech a počátečních postupech. Ačkoli se technické metody stále vyvíjejí, osvědčené postupy mohou podpořit sladění zúčastněných stran v oblasti transparentnosti a zmírňování rizik vyplývajících ze syntetického obsahu a prokázat důvěru cílovým skupinám. Zásadní význam mají doplňkové přístupy - včetně normativních, vzdělávacích, regulačních a tržních opatření.
Příspěvky zúčastněných stran během zasedání tuto práci zpřesní a připraví půdu pro diskuse na pařížském akčním summitu o umělé inteligenci v únoru 2025.
Druhá etapa se zaměří na hodnocení a testování základových modelů. Cílem je podpořit společné chápání toho, jak provádět hodnocení, aby se nakonec dosáhlo stavu doplňkového testování mezi členy sítě. Instituty pro bezpečnost umělé inteligence představí prototyp společného testovacího cvičení, které položí základy pro diskusi o tom, jak tuto oblast rozšířit a rozvíjet v rámci přípravy na summit o akci v oblasti umělé inteligence ve Francii.
Ve třetí etapě síť schválí společné prohlášení o posuzování rizik pokročilých systémů UI. Tento technický dokument, který koordinuje Úřad EU pro umělou inteligenci se Spojeným královstvím, nastiňuje vyvíjející se vědu a praxi posuzování rizik. Jeho cílem je vytvořit sdílený technický základ na podporu pokračujícího úsilí sítě o vytvoření komplexních a účinných strategií posuzování rizik pro pokročilé systémy UI.
Společné prohlášení zavádí šest klíčových aspektů nezbytných pro důkladné posouzení rizik:
- Praktické postřehy
- Transparentnost
- Komplexní oblast působnosti
- Zapojení více zúčastněných stran
- Iterativní procesy
- Reprodukovatelnost
Třetí etapa bude diskutovat o tom, jak by tato práce mohla dále pokročit až do únorového akčního summitu o umělé inteligenci ve Francii.
Další informace o mezinárodní síti institutů pro bezpečnost UI.