Позов мами сина Ілона Маска проти xAI
Ешлі Сент-Клер, мати одного з дітей Ілона Маска, подала до суду на його компанію xAI через сексуалізовані діпфейки її обличчя, створені на платформі соціальних мереж X.
У позові, поданому в Нью-Йорку в четвер, стверджується, що інструмент штучного інтелекту Grok створив сексуально відверті фотографії пані Сент-Клер.
Материнська компанія X та Grok, xAI, подала зустрічний позов проти пані Сент-Клер за порушення умов надання послуг.
X не відповіла безпосередньо на запити BBC News щодо позовів.
«Ми маємо намір притягнути Grok до відповідальності та допомогти встановити чіткі правові межі на благо всієї громадськості, щоб запобігти використанню штучного інтелекту як зброї для насильства», – сказала BBC News адвокат пані Сент-Клер Керрі Голдберг.
«Створюючи недобросовісні сексуально відверті зображення дівчат та жінок, xAI є громадським порушенням та не є достатньо безпечним продуктом».
У судовому позові пані Сент-Клер стверджується: «Користувачі X повністю відкопали фотографії Сент-Клер одягнена у 14 років і попросила Грока роздягнути її та одягнути в бікіні. Грок погодився”.
У ньому йдеться, що зображення, створене пані Сент-Клер, було “фактично не за згодою”, але розробники Грока також мали “явне уявлення” про її відсутність згоди.
Також стверджується, що Грок створив зображення, на якому пані Сент-Клер, яка є єврейкою, зображена “у бікіні-стрічці, покритому свастиками”.
Реакція xAI та хід судового процесу
У відповідь на її скарги, йдеться у документі, компанія “вжила заходів проти неї, демонетизуючи її обліковий запис X та створюючи ще безліч її зображень”.
Деякі преміум-користувачі X, які сплачують щомісячну плату, можуть отримувати частку рекламного доходу, отриманого від публікацій, які отримують велику кількість залучень.
У зустрічному позові xAI заявила, що пані Сент-Клер порушила їхні умови надання послуг, подавши позов до Нью-Йорка.
Умови компанії говорять, що суперечки з xAI повинні вирішуватися в Техасі.
Пані Голдберг повідомила BBC News, що зустрічний позов компанії був «шокуючим».
«Я ніколи не чула, щоб якийсь відповідач подавав до суду на когось за те, що той повідомив його про свій намір скористатися правовою системою», – сказала вона.
«І їхнє жорстоке поводження з нею в Інтернеті імітується в їхній правовій стратегії».
Вона додала, що пані Сент-Клер «енергійно захищатиме» свою справу в Нью-Йорку, і що «будь-яка юрисдикція визнає» цю скаргу.
Минулого року пані Сент-Клер у своєму дописі на X повідомила, що вона народила дитину технологічного мільярдера — одну з щонайменше 13 дітей, батьком яких, як вважається, він є.
Вважається, що пані Сент-Клер та Маск ведуть боротьбу за опіку над своєю дитиною.
X потрапив під пильну увагу користувачів, політиків та регуляторів у всьому світі через використання Grok для створення сексуалізованих зображень людей без згоди.
Користувачі могли позначати обліковий запис Grok у дописах або відповідях на дописи на платформі та просити його редагувати зображення, щоб роздягнути людей.
Grok виконав багато таких запитів на створення фотореалістичних зображень справжніх жінок у бікіні та відвертому одязі, а також повідомлялося, що він створював сексуалізовані зображення дітей.
Критика AI-безпеки й deepfake у технологіях
У середу, перед поданням до суду, пані Сент-Клер розповіла BBC Newsnight, що її зображення було «роздягнено», щоб воно виглядало «практично оголеним, зігнутим», незважаючи на те, що вона сказала Гроку, що не дає згоди на сексуалізоване зображення. зображення.
Вона та інші жінки, чиї зображення були відредаговані за допомогою Grok, заявили, що сайт робить недостатньо для боротьби з незаконним контентом, включаючи зображення сексуального насильства над дітьми.
Після негативної реакції X змінив свої правила, щоб лише платні користувачі могли використовувати цю функцію, що викликало критику з боку жіночих груп та уряду Великої Британії.
Компанія заявила в середу, що всі користувачі X більше не зможуть редагувати фотографії реальних людей, щоб показувати їх у відвертому одязі в юрисдикціях, де це незаконно.
Пізніше вона оновила свою публікацію, повідомивши, що запровадить «аналогічні заходи геоблокування для програми Grok», яка є окремою від X.
У п’ятницю The Guardian повідомила, що все ще можна використовувати окрему програму Grok для створення сексуалізованих діпфейків реальних людей та публікації їх на X «без будь-яких ознак модерації».
Уряд Великої Британії вводить в дію закон, який заборонить створення інтимних зображень без згоди, а регулятор Ofcom все ще розслідує, чи порушив X чинні правила Великої Британії. закони.
Джерело: BBC
