NIST vydal rámec pro řízení rizik v oblasti umělé inteligence
NIST

Umělá inteligence a kybernetická bezpečnost jsou dva termíny, které v naší kanceláři zní každý den. Proro nás zaujal NIST AI Risk Management Framework (AI RMF), který je dobrovolným rámcem, jenž mohou organizace používat k řízení rizik spojených se systémy umělé inteligence. Rámec je navržen tak, aby byl flexibilní a přizpůsobivý, takže jej mohou používat organizace všech velikostí a ve všech odvětvích. AI RMF se skládá ze čtyř funkcí:

  • Govern: Zavádí organizační strukturu a procesy pro řízení rizik spojených s AI.
  • Map: Slouží jako základ pro tvorbu mapy rizik: Identifikuje a vyhodnocuje rizika spojená se systémy AI.
  • Measure: Monitoruje a vyhodnocuje účinnost činností v oblasti řízení rizik AI.
  • Manage: Zavádí a udržuje kontrolní mechanismy ke zmírnění rizik AI.

RMF AI vychází z rámce řízení rizik NIST (NIST Risk Management Framework), který je zavedeným rámcem pro řízení rizik v oblasti bezpečnosti informací. RMF AI zahrnuje zásady a koncepty RMF, ale zároveň je přizpůsobuje specifickým rizikům spojeným se systémy AI. AI RMF se stále vyvíjí, ale je cenným zdrojem informací pro organizace, které chtějí řídit rizika spojená se systémy AI. Rámec je komplexní a flexibilní a mohou jej využívat organizace všech velikostí a ve všech odvětvích.

Zde jsou některé klíčové vlastnosti rámce NIST AI RMF:

  • Je dobrovolný a nepředpisový, což organizacím umožňuje přizpůsobit jej svým konkrétním potřebám.
  • Je založen na rizicích a zaměřuje se na identifikaci a zmírňování rizik pro jednotlivce, organizace a společnost.
  • Je flexibilní a přizpůsobivý, což umožňuje jeho využití organizacemi všech velikostí a ve všech odvětvích.
  • Je v souladu s dalšími relevantními rámci, jako je NIST RMF a obecné nařízení Evropské unie o ochraně osobních údajů (GDPR).

Rámec NIST AI RMF je cenným zdrojem informací pro organizace, které chtějí řídit rizika spojená se systémy umělé inteligence. Je komplexní, flexibilní a přizpůsobivý a mohou jej využívat organizace všech velikostí a ve všech odvětvích.

Pokud máte zájem dozvědět se o NIST AI RMF více, můžete navštívit webové stránky NIST. Na webu najdete také řadu zdrojů, včetně průvodce rámcem, kontrolního seznamu a školicího kurzu.

Towards a Standard for Identifying and Managing Bias in Artificial Intelligence