Згенерований ШІ клон української блогерки продає російські товари в Китаї

У Китаї з’явилася велика кількість відео жінок, які виглядають як іноземки, але розмовляють китайською і пропагують любов до країни. Як з’ясувалося, відео зроблені за допомогою штучного інтелекту та почали з’являтися на платформах китайських соціальних мереж на початку цього місяця.

Про це пише «Голос Америки».

Аватари у відео створюються з викрадених та змінених онлайн-зображень. 

20-річна українка Ольга Лоєк — одна з жінок, що впізнали себе на відео. Зараз вона вивчає когнітивні науки в Університеті Пенсильванії. Кілька місяців тому Ольга Лоєк створила канал на YouTube, де вона розповідає про ментальне здоров’я та ділиться своїми філософськими поглядами на життя. Однак незабаром після цього вона почала отримувати повідомлення від підписників, які розповідали, що бачили її в китайських соціальних мережах.

Там вона не Ольга Лоєк, а росіянка, яка розмовляє китайською, любить Китай і хоче вийти заміж за китайця. Її звуть Наташа або Анна, або Грейс, залежно від платформи соціальних мереж в Китаї.

— Я почала перекладати відео за допомогою Google Translate і зрозуміла, що більшість цих облікових записів говорять про такі речі, як Китай, Росія, про те, наскільки хороші відносини між Китаєм і Росією. Це дуже образливо, — сказала вона «Голосу Америки».

У деяких роликах аватари розповідають про те, як вони цінують тісні зв’язки Росії та Китаю. В інших роликах вихваляють китайську історію та культуру або розповідають про те, як сильно росіянки хочуть вийти заміж за китайця.

— Якщо ти одружишся з російськими жінками, ми будемо прати білизну, готувати, мити посуд кожен день. Ми також дамо вам іноземних дітей, скільки захочете, — каже аватарка.

На відеосайтах Douyin і Bilibili міститься кілька десятків відео, на яких аватар Ольги Лоєк розмовляє китайською. Більшість із цих облікових записів запрошують глядачів відвідати онлайн-магазини, щоб купити, як вони кажуть, справжні російські товари.

Douyin, китайська версія TikTok, позначила деякі з цих відео як потенційно згенеровані ШІ. Але з коментарів видно, що багато хто вірить, що дивиться на справжню жінку. 

Ольга Лоєк сказала, що ніколи не скаже подібних речей, очевидно, враховуючи, що вона з України, яка перебуває у стані війни з Росією. 

На Bilibili, найбільшому відеосайті Китаю, деякі відео зі штучним інтелектом, в яких використовується обличчя Ольги Лоєк, позначено логотипом HeyGen, що вказує на те, що відео було створено на вебсайті компанії. В одному відео з Bilibili демонстратор навіть показує, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Ольга Лоєк.

HeyGen — це компанія штучного інтелекту зі штаб-квартирою в Лос-Анджелесі, яка працює в Китаї з 2020 року. Вона спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладі відео. Технологія, розроблена HeyGen, була використана у відео штучного інтелекту, де Дональд Трамп і Тейлор Свіфт розмовляють ідеальною китайською мовою, які стали вірусними в китайських соціальних мережах у жовтні 2023 року.

За даними Forbes, зараз компанія оцінюється в 75 мільйонів доларів.

У політиці модерації HeyGen зазначено, що користувачі не можуть створювати аватари, які «зображують реальних людей, включаючи знаменитостей або громадських діячів, без явної згоди».

Навчальне відео компанії зі створення аватарів показує, що користувачі повинні надіслати відео людей, які дають згоду на використання їх зображення.

Ольга Лоєк сказала, що після того, як вона та її підписники на YouTube надіслали скарги китайським компаніям соціальних мереж, близько десятка облікових записів, які імітували її, було видалено.

«Голос Америки» звернувся до материнської компанії HeyGen і Douyin, ByteDance, за коментарями, але не отримав відповіді.

Нагадаємо, в груді у Брюсселі делегати від Європарламенту, країн-членів ЄС і Єврокомісії уклали політичну угоду щодо Закону про штучний інтелект — першої спроби блоку регулювати нові технології. 

Також Україна підписала Міжнародну декларацію про безпечне використання штучного інтелекту (ШІ) на наймасштабнішому саміті з безпеки штучного інтелекту — AI Safety Summit в лондонському Блечлі-парку.