Офком “терміново зв’язався” з компанією Ілона Маска xAI після повідомлень про те, що її інструмент штучного інтелекту Grok може використовуватися для створення “сексуалізованих зображень дітей” і роздягання жінок.
Речник регулятора заявив, що він також розслідує занепокоєння щодо того, що Grok створює “роздягнені зображення” людей.
Бі-бі-сі бачила кілька прикладів на платформі соціальних мереж X, коли люди просили чат-бота змінити реальні зображення, щоб жінки з’являлися в бікіні без їхньої згоди, а також ставили їх у сексуальні ситуації.
X не відповіла на прохання про коментар. У неділю компанія попередила користувачів не використовувати Grok для створення незаконного контенту, в тому числі матеріалів про сексуальне насильство над дітьми
Ілон Маск також написав, що кожен, хто попросить штучний інтелект генерувати незаконний контент, “зазнає таких самих наслідків”, як якщо б він завантажив його сам.
Власна політика прийнятного використання XAI забороняє “зображати подібність людей у порнографічній манері”.
Але люди використовували Grok для цифрового роздягання людей без їхньої згоди і без їхнього попередження.
Це безкоштовний віртуальний помічник – з деякими платними преміум-функціями – який реагує на підказки користувачів X, коли вони позначають його в публікації.
Саманта Сміт, журналістка, яка виявила, що користувачі використовували штучний інтелект для створення її фотографій у бікіні, розповіла в п’ятницю в програмі “Прем’єр-міністр” на BBC, що вона відчула себе “дегуманізованою і перетвореною в сексуальний стереотип”.
“Хоча це не я була роздягнена, це виглядало як я, і це відчувалося як я, і це було так само образливо, як якби хтось насправді опублікував мою фотографію в бікіні”, – сказала вона.
Відповідно до Закону про безпеку в Інтернеті, Ofcom заявляє, що незаконно створювати або поширювати інтимні або відверто сексуальні зображення – в тому числі “глибокі фейки”, створені за допомогою ШІ, – людини без її згоди.
Технічні фірми також повинні вжити “відповідних заходів”, щоб зменшити ризики для британських користувачів, які стикаються з таким контентом, і “швидко” видаляти його, коли їм стає відомо про це.
Представник Міністерства внутрішніх справ заявив, що воно законодавчо забороняє інструменти для оголення, і згідно з новим кримінальним злочином, будь-кому, хто постачає такі технології, “загрожує тюремне ув’язнення і значні штрафи”.
