3 июля, 2023 
adminGWP 
OpenAI oгoлoсилa прo випуск нoвиx вeрсій GPT-3.5-turbo тa GPT-4. GPT-4 oтримує мoжливість виклику функцій, щo дoзвoлить рoзрoбникaм oписaти функції прoгрaмувaння угоду кому) вeликиx мoвниx мoдeлeй, a вони надалі створять адрес для їх виконання. Це допоможе створити чатботів, які відповідатимуть сверху запитання, викликаючи зовнішні інструменти; перетворюватимуть природну мову в запити предварительно бази даних і витягуватимуть структуровані дані з тексту.
GPT-3.5-turbo отримає розширене контекстне вікно. Моделі з маленьким контекстним вікном (яке вимірюється в токенах либо необроблених бітах тексту) мають тенденцію «забувати» зміст навіть нещодавніх розмов. Оновлення отримує у 4 рази більше токенів (16 000) у порівнянні з попередньою версією GPT-3.5-turbo по (по грибы) вдвічі дорожчою ціною ($0,003 вслед за 1000 вхідних токенів і $0,004 вслед за 1000 вихідних токенів).
За словами представників OpenAI, тип може завантажувати близько 20 сторінок тексту следовать раз (компанія також тестує версію GPT-4 із контекстним вікном із 32 000 токенів, але в обмеженому доступі).
Водночас OpenAI знижує ціни возьми попередні версії API своїх LLM: оригінальна GPT-3.5-turbo здешевшає сверху 25%. Тобто розробники можуть використовувати лекало за $0,0015 за 1000 вхідних токенів і $0,002 следовать 1000 вихідних токенів (що дорівнює приблизно $1 по (по грибы) 700 сторінок). А text-embedding-ada-002, відтепер коштує $0,0001 после 1000 токенів, що на 75% нижче попередньої ціни.
Опубликовано в рубрике