OpenAI запустила новый режим Ultrafast для своей флагманской модели GPT-5.6 Sol. По данным компании, ускоренная версия способна генерировать до 750 токенов в секунду — примерно в 14 раз быстрее стандартного режима обработки, сообщает Techcrunch.com.
В OpenAI отмечают, что до сих пор высокая скорость работы ИИ обычно достигалась за счет использования менее крупных или специализированных моделей. Ultrafast предлагает другой подход: сохранить возможности мощной модели, одновременно значительно увеличив количество выполняемой за секунду работы.
Компания рассчитывает использовать новую технологию прежде всего в задачах, где критична минимальная задержка. Среди возможных сценариев OpenAI называет реагирование на инциденты, клиентскую поддержку, анализ финансовых рынков и работу в электронной коммерции. Таким образом, ускоренный режим ориентирован не только на обычные запросы пользователей, но и на корпоративные процессы, где каждая секунда обработки может иметь значение.
Ultrafast пока доступен в формате предварительной версии ограниченному числу клиентов. Технология работает благодаря сотрудничеству OpenAI с производителем специализированных чипов Cerebras. В компании заявили, что доступ к режиму будет постепенно расширяться по мере увеличения доступных вычислительных мощностей.
На рынке ускоренных ИИ-моделей OpenAI сталкивается с конкуренцией со стороны Anthropic, которая также предлагает ускоренный режим для Claude. Однако OpenAI заявляет, что Ultrafast обеспечивает значительно более высокую скорость генерации.
