OpenAI заявив, що не буде використовувати водяні знаки в текстах ChatGPT

OpenAI повідомили, що не будуть використовувати водяні знаки на текстах ChatGPT.

Оскільки деякі користувачі ChatGPT заявили, що будуть менше використовувати ChatGPT, якщо будуть включені водяні знаки на текстах ChatGPT, компанія відреагувала на це.

Водяні знаки в ChatGPT

OpenAI вже близько року має систему для нанесення водяних знаків на тексти, створені ChatGPT, та інструмент для їх виявлення, повідомляє The Wall Street Journal. Але компанія розділена всередині щодо того, чи варто її випускати.

З одного боку, це здається відповідальним рішенням; з іншого — це може негативно вплинути на прибутки компанії.

Водяні знаки OpenAI описуються як налаштування того, як модель прогнозує найбільш ймовірні слова та фрази, що будуть слідувати за попередніми, створюючи таким чином виявлюваний паттерн. (Це спрощення, але ви можете ознайомитися з більш детальним поясненням водяних знаків у текстах Gemini від Google).

Запит: кому потрібні водяні знаки в ChatGPT

Надання будь-якого способу виявлення матеріалів, написаних ШІ, є потенційною вигодою для вчителів, які намагаються відмовити студентів від використання ШІ для виконання письмових завдань.

The Wall Street Journal повідомляє, що компанія виявила, що водяні знаки не впливають на якість текстового виводу чатбота. У дослідженні, замовленому компанією, "люди в усьому світі підтримали ідею інструменту для виявлення ШІ з перевагою в чотири до одного", пише видання.

Після публікації статті журналом, OpenAI підтвердила, що працювала над нанесенням водяних знаків на тексти в оновленні блогу сьогодні, яке було помічено TechCrunch.

У ньому компанія заявляє, що її метод дуже точний ("99.9% ефективний", згідно з документами, які бачив журнал) і стійкий до "спотворення, такого як перефразування". Але вона зазначає, що такі техніки, як перефразування іншою моделлю, роблять його "тривіальним для обходу зловмисниками".

Компанія також зазначає, що стурбована стигматизацією корисності інструментів ШІ для носіїв ненативної мови.

Хвилювання OpenAI

Однак, здається, OpenAI також турбується, що використання водяних знаків може відштовхнути опитаних користувачів ChatGPT, майже 30% яких, очевидно, сказали компанії, що вони будуть менше використовувати програмне забезпечення, якщо буде впроваджено водяні знаки.

Попри це, деякі працівники все ще вважають, що водяні знаки ефективні.

У своєму оновленні блогу сьогодні компанія заявила, що знаходиться "на ранніх стадіях" дослідження вбудовування метаданих. Вона зазначає, що ще "занадто рано" говорити, наскільки добре це працюватиме, але оскільки це криптографічно підписано, не буде хибних спрацювань.

Джерело: OpenAI, The Verge