Novinky

CISA a partneři G7 vydali minimální prvky SBOM pro umělou inteligenci

CISA a partneři G7 vydali minimální prvky SBOM pro umělou inteligenci

Novinky Date: Zobrazení: 6

CISA a partneři G7 vydali minimální prvky SBOM pro umělou inteligenci

Americká agentura CISA společně s odbornými partnery ze sedmi zemí vydala 12. května společný dokument, který rozšiřuje koncept Software Bill of Materials o specifika systémů umělé inteligence. Dokument definuje minimální datové prvky, jež má SBOM pro AI obsahovat, aby provozovatelé i regulátoři dokázali pracovat s transparentností v dodavatelských řetězcích modelů.

Software Bill of Materials, tedy „seznam ingrediencí" softwaru, se v posledních letech ustálil jako základní nástroj pro řízení rizik v dodavatelských řetězcích. Provozovatel díky němu ví, jaké open-source i komerční komponenty obsahuje aplikace, kterou nasazuje, a může reagovat na zveřejněné zranitelnosti dříve, než je útočníci stihnou zneužít. U klasického softwaru je struktura SBOM popsaná standardy SPDX a CycloneDX a vychází z minimálních prvků, které v roce 2021 zveřejnila americká NTIA na základě výkonného nařízení 14028. Modely umělé inteligence ale s tímto modelem nezapadají úplně přesně: kromě kódu obsahují trénovací data, váhy, fine-tuning skripty a další artefakty, jejichž původ a stav je pro bezpečnost a regulatorní dohled stejně důležitý jako u běžných knihoven.

Nový dokument „Software Bill of Materials for AI – Minimum Elements" reaguje právě na tuto mezeru. Vznikl jako společný výstup CISA a expertních zástupců G7 ze Spojených států, Německa, Kanady, Francie, Itálie, Japonska, Velké Británie a Evropské unie. Cílem je zajistit, aby SBOM pro AI dokázal vystihnout celý životní cyklus modelu – od trénovacích datasetů přes architekturu a parametry po runtime knihovny – a aby formát zůstal interoperabilní napříč jurisdikcemi, které začínají AI regulovat různými způsoby.

Image

Doporučená minimální struktura kombinuje dvě roviny. První rovina kopíruje stávající minimum NTIA: identifikace dodavatele, název komponenty, verzi, časové razítko vytvoření a unikátní identifikátor, vztahy mezi komponentami a autora SBOM. Druhá rovina přidává AI specifika: zdroje trénovacích dat (včetně licencí a poznámek o tom, zda data obsahují osobní údaje nebo chráněné dílo), informace o tréninkovém procesu (kdo trénoval, na jakých zdrojích, s jakými hyperparametry), evaluation metriky, známé limity modelu, případně i údaje o předzpracování dat a o použitém retrieval-augmented generation kontextu. Dokument popisuje i to, jak SBOM pro AI propojit s existujícími SBOM softwarových komponent, které model obklopují – inference engine, vektorové databáze, webové rozhraní.

Pro evropské organizace má dokument dvojí význam. Praktický: i když AI Act formálně nepředepisuje SBOM, řada povinností týkajících se vysoce rizikových systémů (technická dokumentace podle přílohy IV, řízení datasetů podle článku 10, transparentnost vůči nasaditeli podle článku 13) se k podobné struktuře přirozeně blíží. SBOM ve formátu, který doporučuje G7, je tak rozumný způsob, jak tyto požadavky technicky uchopit. Politický: dokument jasně signalizuje, že západní demokracie chtějí mít sdílený jazyk pro popis AI systémů ve chvíli, kdy se regulatorní trajektorie ve Spojených státech a Číně začínají rozcházet. Pro Acresia klienty, kteří v dohledné době budou implementovat AI systémy pod NIS2 nebo AI Act, je to signál, že se vyplatí už při návrhu architektury počítat s tím, že SBOM pro AI bude součástí compliance evidence.

Dokument je explicitně živý – počítá se s tím, že se bude vyvíjet spolu s AI technologiemi a s regulatorními požadavky G7 i EU. CISA upozorňuje, že jde o doporučení, ne o závazný standard, a vyzývá k zapojení komunity dodavatelů, akademiků a uživatelských organizací do dalšího vývoje. To otevírá prostor i pro české bezpečnostní komunity, aby svoje pohledy do diskuse vnesly.

Zdroj

Další články