OpenAI спеціально зробив свою останню модель o1 повільнішою

OpenAI представила ще одну модель штучного інтелекту – o1.

Нова модель OpenAI називається o1, і компанія стверджує, що вона може виконувати складні завдання логічного мислення ефективніше, ніж його попередники.

Нова модель AI від OpenAI – O1

O1 все ще знаходиться на стадії зародження. OpenAI називає це «попереднім переглядом» і робить його доступним лише для платних клієнтів ChatGPT, починаючи від учора, з обмеженнями щодо кількості запитань, які вони можуть поставити йому на тиждень.

Крім того, OpenAI також запускає o1-mini, зменшену версію, яка, за словами компанії, є особливо ефективною для кодування.

Як працює O1 від OpenAI

Згідно з OpenAI: "Ми навчили цю модель витрачати більше часу на обмірковування проблем, перш ніж на них відповісти, подібно до того, як це робить людина.

Завдяки навчанню вони вчаться вдосконалювати свій процес мислення, пробувати різні стратегії та визнавати свої помилки.

У наших тестах наступне оновлення моделі працює подібно до аспірантів у складних контрольних завданнях з фізики, хімії та біології.Ми також виявили, що вона чудовий у математиці та кодуванні.

На відбірковому іспиті до Міжнародної олімпіади з математики (IMO) GPT-4o правильно розв’язав лише 13% задач, тоді як модель міркування набрала 83%.

Їхні здібності до кодування оцінювали на змаганнях і досягли 89 процентиля на змаганнях Codeforces.

Ви можете прочитати більше про це в нашому дописі про технічне дослідження. Будучи ранньою моделлю, вона ще не має багатьох функцій, які роблять ChatGPT корисним, як-от пошук інформації в Інтернеті та завантаження файлів і зображень. У багатьох поширених випадках GPT-4o буде більш ефективним у найближчому майбутньому. Але для складних завдань міркування це значний прогрес і представляє новий рівень можливостей ШІ. Враховуючи це, ми повертаємо лічильник до 1 і називаємо цю серію OpenAI o1."

Безпека OpenAI o1

Згідно з OpenAI: "У рамках розробки цих нових моделей ми розробили новий підхід до навчання з безпеки, який використовує їхні здібності міркування, щоб змусити їх дотримуватися вказівок з безпеки та вирівнювання. Маючи можливість міркувати про наші правила безпеки в контексті, він може застосовувати їх більш ефективно.

Один з способів вимірювання безпеки — це тестування того, наскільки наша модель продовжує дотримуватися правил безпеки, якщо користувач намагається їх обійти (відомий як «злам»).

В одному з наших найскладніших тестів на джейлбрейк GPT-4o отримав 22 бали (за шкалою від 0 до 100), тоді як наша модель попереднього перегляду o1 набрала 84 бали."

"Щоб посилити нашу прихильність до безпеки ШІ, ми нещодавно офіційно оформили угоди з Інститутами безпеки ШІ США та Великобританії. Ми почали реалізацію цих угод, включаючи надання інститутам раннього доступу до дослідницької версії цієї моделі. Це був важливий перший крок у нашому партнерстві, який допоміг налагодити процес дослідження, оцінки та тестування майбутніх моделей до та після їх публічного випуску."

OpenAI зробив новинку повільною

Очевидно, o1 була навчений «проводити більше часу, обдумуючи проблеми, перш ніж відповісти». За словами компанії: «[моделі] вчаться вдосконалювати свій процес мислення, пробувати різні стратегії та визнавати свої помилки».

Ця більш зважена відповідь означає, що вона значно повільніше обробляє підказки, ніж GPT-4o. І хоча вона може думати більше, o1 не розв'язав проблему галюцинацій — термін для моделей ШІ, які створюють інформацію.

Головний науковий співробітник OpenAI Боб МакГрю сказав The Verge: «Ми не можемо сказати, що розгадали галюцинації».

Для чого найкраще використовувати OpenAI o1

OpenAI ділиться, що ці розширені можливості міркування o1 можуть бути особливо корисними, якщо ви розв'язуєте складні проблеми в науці, програмуванні, математиці тощо.

Наприклад, o1 може використовуватися дослідниками охорони здоров’я для анотування даних секвенування клітин, фізиками для створення складних математичних формул, необхідних для квантової оптики, а розробниками в усіх галузях для створення та виконання багатоетапних робочих процесів.