Жінка розповіла BBC, що відчула себе «знелюдненою і зведеною до сексуального стереотипу» після того, як штучний інтелект Grok Ілона Маска був використаний для цифрового видалення її одягу.
BBC побачила кілька прикладів на соціальній платформі X, де люди просили чат-бота роздягнути жінок, щоб вони з’явилися в бікіні без їхньої згоди, а також поставити їх у сексуальні ситуації.
Компанія XAI, яка стоїть за Grok, не відповіла на запит про коментар, окрім автоматично згенерованої відповіді, в якій йшлося про «брехню традиційних ЗМІ».
Саманта Сміт поділилася в X дописом про те, що її зображення було змінено, на що відреагували коментарями ті, хто пережив те саме, перш ніж інші попросили Grok створити більше її зображень.
«Жінки не дають на це згоди», — сказала вона.
«Хоча це була не я в роздягненому вигляді, це виглядало як я і відчувалося як я, і це було так само образливо, якби хтось насправді опублікував моє оголене фото або фото в бікіні».
Представник Міністерства внутрішніх справ заявив, що уряд готує закон про заборону інструментів для створення оголених зображень, і згідно з новим кримінальним злочином, будь-хто, хто постачає таку технологію, «загрожує тюремним ув’язненням і значними штрафами».
Регулюючий орган Ofcom заявив, що технологічні компанії повинні «оцінювати ризик» перегляду незаконного контенту на своїх платформах людьми у Великій Британії, але не підтвердив, чи розслідує він зараз X або Grok у зв’язку з AI-зображеннями.
Grok — це безкоштовний AI-асистент (деякі функції преміум-класу є платними), який реагує на запити користувачів X, коли вони позначають його в публікації.
Його часто використовують для реагування або надання додаткового контексту коментарям інших користувачів, але користувачі X також можуть редагувати завантажені зображення за допомогою функції редагування зображень за допомогою штучного інтелекту.
Його критикували за те, що він дозволяє користувачам створювати фотографії та відео з оголеними людьми та сексуальним контентом, а раніше його звинувачували у створенні відвертого кліпу з Тейлор Свіфт.
Клер МакГлінн, професор права в Дурхамському університеті, сказала, що X або Grok «могли б запобігти таким формам зловживання, якби захотіли», додавши, що вони «здається, користуються безкарністю».
«Платформа вже кілька місяців дозволяє створювати та поширювати такі зображення, не вживаючи жодних заходів, і ми ще не бачили жодних дій з боку регуляторних органів», — сказала вона.
Власна політика прийнятного використання XAI забороняє «зображення осіб у порнографічному стилі».
У заяві для BBC Ofcom зазначив, що «створення або поширення інтимних зображень без згоди або матеріалів про сексуальне насильство над дітьми» є незаконним, і підтвердив, що це включає сексуальні депфейки, створені за допомогою штучного інтелекту.
Вона зазначила, що такі платформи, як X, зобов’язані вживати «відповідних заходів» для «зменшення ризику» того, що британські користувачі натраплять на незаконний контент на їхніх платформах, і швидко видаляти його, коли дізнаються про його наявність.
