Уряд Великобританії заявляє, що заборонить так звані «нудифікаційні» додатки в рамках боротьби з мізогінією в Інтернеті.
Нові закони, оголошені в четвер в рамках більш широкої стратегії щодо скорочення вдвічі насильства проти жінок і дівчат, заборонять створювати та поширювати інструменти штучного інтелекту, що дозволяють користувачам редагувати зображення, нібито знімаючи з них одяг.
Нові правопорушення будуть базуватися на існуючих правилах щодо сексуально відвертих фейкових зображень та зловживання інтимними зображеннями, заявило уряд.
«Жінки та дівчата заслуговують на безпеку як в Інтернеті, так і в реальному житті», — сказала міністр технологій Ліз Кендалл.
«Ми не будемо стояти осторонь, коли технологія використовується як зброя для зловживання, приниження та експлуатації жінок і дівчат шляхом створення неконсенсусних сексуально відвертих фейкових зображень».
Створення відвертих зображень з використанням технології deepfake без згоди особи, яка на них зображена, вже є кримінальним злочином згідно із Законом про безпеку в Інтернеті.
Пані Кендалл заявила, що новий злочин, який забороняє створювати або поширювати додатки для оголення, означатиме, що «ті, хто отримує від них прибуток або сприяє їх використанню, відчують на собі всю силу закону».
Додатки для оголення або «роздягання» використовують генеративну штучну інтелігенцію, щоб реалістично створити враження, ніби людина була роздягнена на зображенні або відео.
Експерти висловили застереження щодо зростання популярності таких додатків та потенційної можливості фальшивих зображень оголених людей завдати серйозної шкоди жертвам, особливо коли вони використовуються для створення матеріалів із сексуальним насильством над дітьми (CSAM).
У квітні комісар з питань дітей Англії Дейм Рейчел де Соуза закликала до повної заборони додатків для оголення.
«Створення таких зображень є незаконним, і технологія, що це уможливлює, також повинна бути незаконною», — зазначила вона у своєму звіті.
У четвер уряд заявив, що «об’єднає зусилля з технологічними компаніями» для розробки методів боротьби із зловживанням інтимними зображеннями.
Це включатиме продовження співпраці з британською компанією SafeToNet, що спеціалізується на технологіях безпеки, йдеться в повідомленні.
Британська компанія розробила програмне забезпечення на основі штучного інтелекту, яке, за її твердженням, може ідентифікувати та блокувати сексуальний контент, а також блокувати камери, коли вони виявляють зйомку сексуального контенту.
Така технологія базується на існуючих фільтрах, впроваджених такими платформами, як Meta, для виявлення та позначення потенційної оголеності на зображеннях, часто з метою запобігання зйомці або поширенню дітьми інтимних зображень себе.
Плани щодо заборони додатків, що оголюють, з’явилися після попередніх закликів благодійних організацій із захисту дітей до уряду вжити жорстких заходів щодо цієї технології.
Фонд Internet Watch Foundation (IWF), чия гаряча лінія Report Remove дозволяє особам віком до 18 років конфіденційно повідомляти про відверті зображення себе в Інтернеті, заявив, що 19% підтверджених заявників повідомили, що деякі або всі їхні зображення були підроблені.
Генеральний директор фонду Керрі Сміт привітала ці заходи.
«Ми також раді бачити конкретні кроки щодо заборони цих так званих додатків для оголення, які не мають підстав існувати як продукт», — сказала вона.
«Такі додатки піддають реальних дітей ще більшому ризику шкоди, і ми бачимо, що створені зображення збираються в найпохмуріших куточках Інтернету».
Однак, хоча дитяча благодійна організація NSPCC привітала цю новину, її директорка з питань стратегії д-р Марія Неофіту сказала, що «розчарована» відсутністю подібної «амбіції» щодо введення обов’язкових заходів захисту на рівні пристроїв.
Ця благодійна організація є однією з тих, які закликають уряд змусити технологічні компанії знайти простіші способи виявлення та запобігання поширенню CSAM у своїх сервісах, наприклад у приватних повідомленнях.
У четвер уряд заявив, що зробить «неможливим» для дітей знімати, ділитися або переглядати оголені зображення на своїх телефонах.
Він також прагне заборонити інструменти штучного інтелекту, призначені для створення або розповсюдження CSAM.
