Національний інститут стандартів і технологій підготував доповнення до своєї широко використовуваної структури кібербезпеки, яке зосереджується на тому, як організації можуть безпечно використовувати штучний інтелект.
Профіль системи кібербезпеки NIST для штучного інтелекту, який агентство опублікувало в минулому тижні у вигляді проекту, описує, як організації можуть управляти проблемами кібербезпеки різних систем ШІ, покращувати свої можливості кіберзахисту за допомогою ШІ та блокувати кібератаки, що використовують ШІ.
У документі компоненти системи кібербезпеки (CSF) відображені у вигляді конкретних рекомендацій у кожній з трьох областей, які NIST назвав «безпека», «захист» та «перешкоджання» відповідно.
«Ці три основні області відображають той факт, що ШІ по-різному проникає у свідомість організацій», — зазначила у своїй заяві Барбара Катхілл, одна з авторів профілю. «Але в кінцевому підсумку кожна організація матиме справу з усіма трьома».
Профіль ШІ призначений для того, щоб допомогти організаціям реалізувати заходи CSF щодо всіх трьох категорій проблем, пов’язаних із ШІ. У ньому перелічено специфічні для ШІ міркування щодо кожного пункту CSF, що охоплюють усе: від виявлення вторгнень до безпеки ланцюгів постачання, виявлення вразливостей та їх усунення. У своєму оголошенні NIST зазначив, що документ «містить інформацію, яка допоможе організаціям зрозуміти, проаналізувати та вирішити проблеми кібербезпеки, пов’язані із ШІ, а також продумано інтегрувати ШІ у свої стратегії кібербезпеки».
NIST підготував документ у співпраці з спільнотою з понад 6500 осіб, які подали ідеї щодо того, як відобразити міркування щодо ШІ в CSF. Агентство зараз збирає коментарі громадськості щодо проекту до 30 січня. Воно планує провести віртуальний семінар 14 січня.
Розширення існуючих рекомендацій
Профіль CSF, присвячений штучному інтелекту, є останньою публікацією NIST, спрямованою на допомогу організаціям в управлінні перевагами та недоліками штучного інтелекту. У 2023 році агентство опублікувало Рамку управління ризиками штучного інтелекту, а в 2024 році — генеративний профіль штучного інтелекту для цієї рамки. У серпні NIST опублікувало документ, покликаний допомогти організаціям захистити свої системи штучного інтелекту за допомогою існуючого та широко прийнятого каталогу засобів контролю безпеки агентства.
Кілька президентів доручили NIST розробити рекомендації з безпеки для ШІ. Президент Джо Байден доручив NIST опублікувати стандарти для тестування безпеки ШІ та синтетичного контенту. Президент Дональд Трамп скасував деякі з цих директив і додав інші, включаючи інструкції для NIST щодо допомоги іншим агентствам в оцінці їхніх моделей ШІ.
