OpenAI запустив власний TikTok для настільки реалістичних діпфейків, що довелося терміново вводити контроль

OpenAI може змінити курс щодо авторського права та інтелектуальної власності у своєму новому відеододатку Sora.

Перед запуском Sora цього тижня видання The Wall Street Journal повідомило, що OpenAI повідомляв голлівудські студії та агентства, що їм потрібно явно відмовитися, якщо вони не хочуть, щоб їхня інтелектуальна власність була включена у відео, створені Sora.

Оновлення Sora 2 та нова соцплатформа Sora від OpenAi?

У вівторок OpenAI оголосила про випуск Sora 2, генератора аудіо та відео, який прийде на зміну торішньому Sora.

Поряд із цією моделлю компанія також запустила пов’язаний із ними соціальний додаток під назвою Sora, де користувачі можуть створювати відео себе та своїх друзів, щоб ділитися ними в алгоритмічній стрічці в стилі TikTok.

Про роботу OpenAI над новою соціальною платформою раніше повідомляв Wired.

Хоча ми користувачі поки не мають змоги самостійно протестувати застосунок, який доступний лише за запрошеннями, та модель Sora 2, OpenAI поділився вражаючими прикладами.

Зокрема, Sora 2 краще дотримується законів фізики, що робить відео більш реалістичними. Публічні кліпи OpenAI зображують, серед іншого, гру в пляжний волейбол, трюки на скейтборді, гімнастичні номери та стрибки з гарматного ядра з трампліна.

«Попередні відеомоделі були надмірно оптимістичними — вони змінювали об’єкти та деформували реальність, щоб успішно виконувати текстові запити», — написав OpenAI у своєму блозі. «Наприклад, якщо баскетболіст промахується, м’яч може спонтанно телепортуватися до кільця. У Sora 2, якщо баскетболіст промахується, він відскочить від щита».

Як працює відеододаток Sora?

Додаток Sora має функцію «завантажити себе» під назвою «камео», яка дозволяє користувачам потрапляти в будь-які сцени, згенеровані Sora. Щоб використати власну подобу у згенерованому відео, користувачам потрібно буде завантажити одноразовий відео- та аудіозапис, щоб підтвердити свою особу та зафіксувати свою зовнішність.

Ця функція також дозволяє користувачам ділитися своїми «камео» з друзями, дозволяючи їм давати іншим користувачам дозвіл включати їхню подобу у відео, які вони створюють, включаючи відео кількох людей разом.

«Ми вважаємо, що соціальний додаток, побудований навколо цієї функції «камео», — це найкращий спосіб відчути магію Sora 2», — написала компанія.

Додаток Sora для iOS доступний для завантаження зараз і спочатку буде розгорнуто в США та Канаді, хоча OpenAI заявляє, що сподівається швидко розширитися в інших країнах.

Хоча соціальна платформа Sora наразі доступна лише за запрошеннями, користувачі ChatGPT Pro повинні мати змогу випробувати модель Sora 2 Pro без запрошення.

Після створення відео ними можна ділитися у стрічці в додатку Sora, який, схоже, буде схожий на TikTok, Instagram Reels або інші короткі відеострічки.

Цікаво, що Meta минулого тижня оголосила про додавання відеострічки під назвою «Vibes» до свого додатку Meta AI (це фактично бездумна нісенітниця).

Алгоритми соцмережі Sora

Для формування алгоритмічних рекомендацій OpenAI враховуватиме активність користувача в Sora, його місцезнаходження (отримане за IP-адресою), його попередні публікації та історію розмов у ChatGPT, хоча це можна вимкнути.

Додаток Sora також постачається з батьківським контролем через ChatGPT, який дозволяє батькам змінювати обмеження на нескінченне прокручування, вимикати алгоритмічну персоналізацію та керувати тим, хто може надсилати прямі повідомлення своїй дитині.

Однак ці функції настільки потужні, наскільки потужні технічні знання батьків.

Вартість використання додатку Sora

Додаток Sora буде безкоштовним на момент запуску, що, за словами OpenAI, «покликане дозволити людям вільно досліджувати його можливості».

Компанія заявляє, що на момент запуску єдиним планом монетизації буде стягнення плати з користувачів за створення додаткових відео в періоди високого попиту.

Проблема безпеки: нова епоха контенту

Запуск соціальної платформи вимагатиме значних заходів безпеки користувачів від OpenAI, яка зіткнулася з тими ж проблемами в ChatGPT.

Хоча користувачі можуть будь-коли скасувати доступ до свого зображення, таким доступом можна легко зловживати.

Навіть якщо користувач довіряє комусь своєму знайомому доступ до свого зображення, створеного штучним інтелектом, ця особа все одно може створювати оманливий контент, який можна використовувати для заподіяння шкоди цій особі.

Відео, створені без згоди, є постійною проблемою відео, створеного штучним інтелектом, завдаючи значної шкоди, при цьому мало законів чітко регулюють відповідальність платформи.

OpenAi вводить нові правила щодо авторських прав

OpenAI може змінити свій підхід до авторського права та інтелектуальної власності у своєму новому відеододатку Sora.

До запуску Sora цього тижня видання The Wall Street Journal повідомило, що OpenAI повідомляв голлівудським студіям та агентствам, що їм потрібно чітко відмовитися, якщо вони не хочуть, щоб їхня інтелектуальна власність була включена у відео, створені Sora.

Незважаючи на те, що доступ до запрошення можливий лише за запрошенням, додаток швидко піднявся на вершину чартів App Store.

Найбільш відмінною рисою Sora можуть бути її «камео», де користувачі можуть завантажувати свої біометричні дані, щоб побачити свою цифрову схожість у відео, створених штучним інтелектом.

Водночас, користувачі, здається, також із задоволенням порушують закони про авторське право, створюючи відео з популярними персонажами, що належать студіям.

У деяких випадках ці персонажі можуть навіть критикувати підхід компанії до авторського права, наприклад, у відео, де Пікачу та Губка Боб взаємодіють з діпфейками генерального директора OpenAI Сема Альтмана.

У блозі, опублікованому в п'ятницю, Альтман заявив, що компанія вже планує дві зміни в Sora, по-перше, надавши власникам авторських прав «більш детальний контроль над створенням персонажів, подібно до моделі згоди для схожості, але з додатковими елементами керування».

Ключовим словом тут, здається, є «згода», що говорить про те, що OpenAI заборонить користувачам створювати відео з персонажами, захищеними авторським правом, якщо студії та інші правовласники фактично не надали Sora дозвіл на це.

«Ми чуємо від багатьох правовласників, які дуже раді цьому новому виду «інтерактивного фанфіку» та вважають, що цей новий вид взаємодії принесе їм велику цінність, але хочуть мати можливість вказувати, як їхні персонажі можуть бути використані (включно з тим, щоб взагалі не використовувати)», – сказав Альтман.

Навіть з цим новим підходом, Альтман визнав, що, ймовірно, будуть «деякі крайні випадки поколінь, які пройдуть через це, але не повинні».

Друга зміна, яку він згадав, — це якась невизначена форма монетизації відео. Раніше компанія заявляла, що її єдиний план монетизації полягає в тому, щоб стягувати з користувачів плату за створення додаткових відео в періоди високого попиту, і допис Альтмана в блозі, здається, детальніше розвиває цю ідею, визнаючи, що «нам доведеться якось заробляти гроші на створення відео».

Він також пропонує розділити дохід з правовласниками. «Ми сподіваємося, що новий вид взаємодії буде навіть ціннішим, ніж розподіл доходу, але, звичайно, ми… хочемо, щоб обидва були цінними».

Більше контексту: що таке діпфейки

Діпфейки в контексті Sora — це синтетичні відео, створені штучним інтелектом на основі текстових описів або іншого контенту.

Як це працює з Sora:

Sora від OpenAI — це AI-модель, яка генерує відеоконтент з текстових промптів. Користувач просто описує сцену словами (наприклад, "кіт у костюмі астронавта на Марсі"), і Sora створює реалістичне відео з нуля.

Чому це діпфейки:

• Нічого реального не знімали — всі сцени, люди, місця повністю синтезовані AI.
• Надреалістичність — відео виглядають настільки природно, що важко відрізнити від справжніх знімків.
• Потенціал для імітації — технологія може створювати відео з особами, що нагадують реальних людей, або імітувати їхні голоси та манери.

Який зв'язок це має з TikTok-форматом?

OpenAI зробив інтерфейс схожим на TikTok — вертикальні короткі відео, стрічка з контентом, можливість швидко створювати та ділитися. Але замість знімання на камеру — генерація AI.

Проблема: коли AI-відео стають такими, які важко розрізнити від реальності, виникає питання достовірності інформації та захисту авторських прав на використані для навчання матеріали.

Відеопрезентація Sora App від OpenAI