Meta змінює правила і тепер вимагає позначати контент, створений штучним інтелектом

Meta повідомляє про нові правила щодо контенту, створеного штучним інтелектом на своїх платформах – Facebook, Instagram та Threads.

Meta повідомляє, що відповідально співпрацює з галузевими партнерами над загальними технічними стандартами для ідентифікації контенту, створеного із застосуванням штучного інтелекту, зокрема відео та аудіо.

Правила: контент, створений штучним інтелектом у Facebook, Instagram та Threads

Згідно з Meta: "Оскільки різниця між людським і синтетичним контентом стає розмитою, люди хочуть знати, де проходить межа. Люди часто вперше стикаються зі створеним штучним інтелектом контентом, і наші користувачі сказали нам, що вони цінують прозорість цієї нової технології. Тому важливо, щоб ми допомагали людям знати, коли фотореалістичний контент, який вони бачать, створений за допомогою ШІ. Ми робимо це, застосовуючи мітки «Imagined with AI» до фотореалістичних зображень, створених за допомогою нашої функції Meta AI, але ми хочемо також мати можливість робити це з контентом, створеним за допомогою інструментів інших компаній.

Meta ділиться своїми планами: "Ось чому ми співпрацюємо з галузевими партнерами, щоб узгодити загальні технічні стандарти, які сигналізують про те, коли контент було створено за допомогою ШІ. Можливість виявити ці сигнали дасть нам змогу позначати створені штучним інтелектом зображення, які користувачі публікують у Facebook, Instagram і Threads. Зараз ми створюємо цю можливість, а в найближчі місяці ми почнемо застосовувати мітки всіма мовами, які підтримуються кожною програмою."

Новий підхід до ідентифікації та маркування контенту, створеного ШІ

Коли фотореалістичні зображення створюються за допомогою нашої функції Meta AI, компанія робить кілька речей, щоб переконатися, що люди знають про задіяність AI, зокрема розміщують видимі маркери, які ви бачите на зображеннях, а також невидимі водяні знаки та метадані, вбудовані у файли зображень.

Використання невидимих водяних знаків і метаданих таким чином покращує надійність цих невидимих маркерів і допомагає іншим платформам їх ідентифікувати. Це важлива частина відповідального підходу до створення генеративних функцій ШІ.

Оскільки створений штучним інтелектом контент з’являється в Інтернеті, Meta інформує, що співпрацює з іншими компаніями в галузі, щоб розробити загальні стандарти його ідентифікації на форумах, як-от Partnership on AI (PAI). Невидимі маркери, які вони використовують для зображень Meta AI – метадані IPTC і невидимі водяні знаки – відповідають найкращим практикам PAI.

Meta створює нові спеціальні інструменти, які можуть ідентифікувати невидимі маркери в масштабі – зокрема, інформацію, «генеровану штучним інтелектом» у технічних стандартах C2PA та IPTC – щоб позначати зображення з Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock коли вони реалізують свої плани щодо додавання метаданих до зображень, створених їхніми інструментами.

Проблема позначення в інструментах штучного інтелекту

Попри те, що компанії починають включати сигнали у свої генератори зображень, вони ще не почали включати їх у інструменти штучного інтелекту, які генерують аудіо та відео в однаковому масштабі, тому Мета ділиться, що ще не може виявити ці сигнали та позначити цей контент від інших компаній.

Поки індустрія працює над цією можливістю, Мета розповідає, що додає функцію, за допомогою якої люди можуть повідомляти, коли вони діляться створеним штучним інтелектом відео чи аудіо, щоб ми вони могли додати до них мітку. Meta вимагатиме, щоб люди використовували цей інструмент для розголошення та позначення, коли вони публікують звичайний контент із фотореалістичним відео чи аудіо з реалістичним звучанням, створеним або зміненим діджитал способом, і відтепер Meta зможе застосувати штрафи, якщо вони цього не зроблять.

Згідно з новими правилами Meta: "Якщо ми визначимо, що створене діджитал способом або змінене зображення, відео чи аудіовміст створює особливо високий ризик матеріального введення громадськості в оману щодо важливого питання, ми можемо додати більш помітну позначку, якщо це необхідно, щоб люди мали більше інформації та контексту.

Цей підхід представляє передовий край того, що технічно можливо прямо зараз. Але поки що неможливо ідентифікувати весь контент, створений ШІ, і є способи, якими люди можуть видалити невидимі маркери. Тому ми шукаємо низку варіантів. Ми наполегливо працюємо над розробкою класифікаторів, які можуть допомогти нам автоматично виявляти створений штучним інтелектом контент, навіть якщо у контенті відсутні невидимі маркери. У той же час ми шукаємо способи ускладнити видалення або зміну невидимих водяних знаків. Наприклад, дослідницька лабораторія Meta AI FAIR нещодавно поділилася дослідженням технології невидимих водяних знаків, яку ми розробляємо під назвою Stable Signature. Це інтегрує механізм водяних знаків безпосередньо в процес генерації зображень для деяких типів генераторів зображень, що може бути цінним для моделей з відкритим кодом, тому водяні знаки не можна вимкнути.

На думку Meta, ця робота особливо важлива, оскільки в наступні роки це, ймовірно, стане все більш ворожим простором. Люди та організації, які активно хочуть обдурити людей за допомогою контенту, створеного штучним інтелектом, будуть шукати способи обійти засоби захисту, які застосовуються для його виявлення. У нашій галузі та суспільстві загалом нам потрібно буде продовжувати шукати способи бути на крок попереду."

Джерело: Meta