В США з'явилося багато DeepFake відео покійних знаменитостей

Зельда Вільямс, дочка покійного актора Робіна Вільямса, має зворушливе послання для шанувальників свого батька.

«Будь ласка, просто перестаньте надсилати мені відео тата зі штучним інтелектом. Перестаньте вірити, що я хочу це побачити, або що я зрозумію. Я не хочу і не зрозумію», – написала вона в дописі в історії свого Instagram у понеділок. «Якщо у вас є хоч трохи пристойності, просто перестаньте робити це з ним і зі мною, навіть з усіма, крапка. Це дурість, це марна трата часу та енергії, і повірте, це НЕ те, чого б він хотів».

Ймовірно, не випадково Вільямс опублікував це лише через кілька днів після випуску відеомоделі Sora 2 від OpenAI та соціального додатка Sora , який дає користувачам можливість створювати дуже реалістичні діпфейки себе , своїх друзів та певних мультяшних персонажів.

Це також стосується померлих людей, які, здається, є чесною здобиччю, оскільки наклеп на померлого не є незаконним , згідно з Юридичним центром студентської преси.

Sora не дозволить вам створювати відео живих людей, хіба що це ви самі або ваш друг, який дав вам дозвіл використовувати їхню подобу (або «камео», як це називає OpenAI). Але ці обмеження не поширюються на померлих, яких здебільшого можна створювати без перешкод. Додаток, який досі доступний лише за запрошенням, був переповнений відео історичних постатей, таких як Мартін Лютер Кінг-молодший, Франклін Делано Рузвельт і Річард Ніксон, а також померлих знаменитостей, таких як Боб Росс, Джон Леннон, Алекс Требек і, так, Робін Вільямс.

Як OpenAI обмежує створення відео з мертвими, незрозуміло. Наприклад, Sora 2 не генеруватиме колишнього президента Джиммі Картера, який помер у 2024 році, або Майкла Джексона, який помер у 2009 році, хоча, згідно з тестами TechCrunch, він створював відео зі схожістю на Робіна Вільямса, який помер у 2014 році. І хоча функція камео OpenAI дозволяє людям встановлювати інструкції щодо того, як вони виглядатимуть у відео, які інші генерують про них — захисні огорожі, що з'явилися у відповідь на ранню критику Sora — померлі не мають такого права голосу. Б'юся об заклад, що Річард Ніксон перевернувся б у могилі, якби побачив той діпфейк, який я зробив з нього, виступаючи за скасування поліції.

OpenAI не відповіла на запит TechCrunch прокоментувати допустимість діпфейкування померлих людей. Однак, можливо, що діпфейкування померлих знаменитостей, таких як Вільямс, є прийнятною практикою фірми; юридичний прецедент показує , що компанія, ймовірно, не нестиме відповідальності за наклеп на померлого.

«Спостерігати, як спадщина реальних людей зводиться до «це хоч трохи схоже на них, тож досить», лише для того, щоб інші люди могли штампувати жахливий мотлох TikTok, підлаштовуючи їх під ляльки, — це божевілля», — написав Вільямс.

Критики OpenAI звинувачують компанію у швидкому та вільному підході до таких питань , саме тому Sora швидко була завалена кліпами ШІ з персонажами, захищеними авторським правом, такими як Пітер Гріффін та Пікачу, одразу після її виходу. Генеральний директор Сем Альтман спочатку заявив, що голлівудські студії та агентства повинні будуть чітко відмовитися, якщо вони не хочуть, щоб їхня інтелектуальна власність була включена до відео, згенерованих Sora. Асоціація кіноіндустрії вже закликала OpenAI вжити заходів щодо цього питання, заявивши у своїй заяві, що «добре встановлений закон про авторське право захищає права творців і застосовується тут». З того часу він заявив, що компанія змінить цю позицію.

Sora, мабуть, є найнебезпечнішою моделлю штучного інтелекту, здатною створювати діпфейки, доступною людям на цю мить, враховуючи реалістичність її результатів. Інші платформи, такі як xAI, відстають, але мають ще менше захисних бар'єрів, ніж Sora, що дозволяє створювати порнографічні діпфейки реальних людей . Коли інші компанії наздоганятимуть OpenAI, ми створимо жахливий прецедент, якщо ставимося до реальних людей — живих чи мертвих — як до власних особистих іграшок.