Доступность GPT-4 API и фаза устаревания старых моделей в API Completions
Нейросети

Доступность GPT-4 API и фаза устаревания старых моделей в API Completions

Razilator

С GPT-4 все платные клиенты API теперь могут получить доступ к самой продвинутой модели OpenAI. API ChatGPT было представлено в марте разработчиками, а в начале этого месяца были выпущены первые обновления для моделей на основе чатов. OpenAI видит будущее, где модели на основе чатов способны поддерживать любой случай использования.

Сегодня OpenAI объявляет о постепенном устаревании более старых моделей API Completions и рекомендует пользователям перейти на API Chat Completions.

GPT-4 API теперь доступен для всех платных клиентов

С момента представления API GPT-4 в марте, миллионы разработчиков запрашивали доступ к GPT-4 API, и количество инновационных продуктов, использующих GPT-4, растет с каждым днем. Сегодня все существующие разработчики API с успешными платежами могут получить доступ к GPT-4 API с контекстом 8K. Планируется открыть доступ для новых разработчиков до конца этого месяца, а затем постепенно увеличивать ограничения на скорость в зависимости от доступности вычислительных ресурсов.

На основе стабильности и готовности этих моделей для использования в масштабе производства, OpenAI также делает API GPT-3.5 Turbo, DALL·E и Whisper доступными для всех. В настоящее время ведутся работы по безопасному включению возможности тонкой настройки для GPT-4 и GPT-3.5 Turbo, и ожидается, что эта функция станет доступной позднее в этом году.

OpenAI переходит от завершения текста к завершению чата. API Chat Completions было представлено в марте и в настоящее время составляет 97% всего использования API GPT.

Исходное API Completions было представлено в июне 2020 года для предоставления свободного текстового запроса для взаимодействия с языковыми моделями OpenAI. Однако опыт показал, что результаты могут быть лучше с использованием более структурированного запроса. Парадигма чат-моделей доказала свою эффективность, обрабатывая подавляющее большинство предыдущих случаев использования и новых потребностей в общении, предоставляя большую гибкость и специфичность.

API Chat Completions предлагает структурированный интерфейс (например, системные сообщения, вызовы функций) и возможности многоходового разговора, позволяющие разработчикам создавать разнообразные конверсационные опыты и выполнять широкий спектр задач завершения. Это также помогает снизить риск атак внедрения запросов, поскольку пользовательский контент может быть структурно разделен от инструкций.

Устаревание старых моделей в API Completions

В рамках увеличенного вложения в API Chat Completions и усилий по оптимизации вычислительных ресурсов, через 6 месяцев OpenAI прекратит использование некоторых старых моделей в API Completions.

Несмотря на то, что это API останется доступным, его пометят как "устаревшее" в документации для разработчиков начиная с 8 июля.

OpenAI планирует фокусироваться на улучшении моделей и продуктов в рамках API Chat Completions и не планирует публично выпускать новые модели с использованием API Completions.

С 4 января 2024 года старые модели завершения больше не будут доступны, и их заменят следующие модели:

Заменяемый модели
Заменяемый модели

Взято с openai.

;