OpenAI прокачує GPT-4 та робить його значно дешевшим
Компанія OpenAI оголосила про подальші вдосконалення своїх великих мовних моделей, GPT-4 і GPT-3.5, включаючи оновлені бази знань і набагато довше контекстне вікно. Компанія заявляє, що вона також піде за прикладом Google і Microsoft і почне захищати клієнтів від позовів про порушення авторських прав.
GPT-4 Turbo, який наразі доступний через попередній перегляд API, був навчений на інформації, датованій квітнем 2023 року, оголосила компанія в понеділок на своїй першій в історії конференції для розробників. Попередня версія GPT-4, випущена в березні, навчалася тільки на даних, датованих вереснем 2021 року. OpenAI планує випустити готову до виробництва модель Turbo протягом наступних кількох тижнів, але не назвала точної дати.
GPT-4 Turbo також “бачитиме” більше даних завдяки контекстному вікну на 128 тис. символів, що, за словами OpenAI, “еквівалентно більш ніж 300 сторінкам тексту в одному промті”. Як правило, більші контекстні вікна дозволяють великим мовним моделям, таким як GPT, розуміти більшу частину питання і пропонувати більш продумані відповіді. Раніше OpenAI випустила дві версії GPT-4: одну з контекстним вікном розміром лише 8K, а іншу – 32K.
OpenAI стверджує, що GPT-4 Turbo є дешевшою у використанні для розробників. Вхідний запит коштуватиме лише $0,01 за 1000 токенів – основну одиницю тексту або коду для читання LLM – порівняно з $0,03 у GPT-4. Кожен вихідний запит буде коштувати $0,03 за 1000 токенів. В цілому, OpenAI стверджує, що нова версія GPT-4 втричі дешевша за попередні.
Найновіша версія GPT-4, як і раніше, буде приймати підказки із зображеннями, запити на перетворення тексту в мову й інтегрувати DALL-E 3 – функцію, вперше анонсовану в жовтні.
Компанія заявляє, що поліпшення в GPT-4 Turbo означають, що користувачі можуть попросити модель виконати складніші завдання в одному запиті. Вони навіть можуть вказати GPT-4 Turbo використовувати для результатів обрану ними мову кодування, наприклад, XML або JSON.
Компанії, які використовують модель GPT-3.5 Turbo, також побачать поліпшення в контекстних вікнах, функціональності та цінах. За замовчуванням вона матиме контекстне вікно розміром 16K і такі ж оновлення функцій, як і GPT-4 Turbo. GPT-3.5 Turbo коштуватиме $0.01 на вхід і $0.002 на вихід.