OpenAI Update

OpenAI випустили dev-дайджест.

Якщо ви не в курсі, то Response API — це їхня заміна «стандартного» Chat Completion API, який практично не розвивається. https://openai.com/index/new-tools-and-features-in-the-responses-api/

• [[OpenAI Response API]] Додали підтримку віддалених MCP. Це не складно було зробити і на своєму боці. І, можливо, я так і продовжу робити, щоб зберегти контроль і мати можливість якось впливати на прийняття рішень. Але для зовсім простих проєктів можливість цікава.
• [Response API] Додали gpt-image-1 як tool зі стрімінгом та редагуванням картинок.
• [Response API] Code Interpreter Tool: написання та запуск python коду. Звучить круто, і в певних випадках це покращує якість відповідей, але 3 центи за кожне створення контейнера для моїх особистих завдань того не варті. Хоча для якогось асистента дата-сатаніста це може бути цілком виправдано. Особливо в парі з File search, який дозволяє завантажувати файли та шукати в них.
• [Response API] Background mode: щоб не чекати синхронно, а надсилати та пОлити статус.
• [Response API] Reasoning summaries: chain-of-thoughts моделей, що міркують, подивитися все ще не можна (досі не розумію чому), але тепер можна хоча б отримати самарі. Цікаво, чи сильно це відрізнятиметься від думок, які модель пише прямо у відповідь (або виклик tool), якщо її попросити. За ідеєю, корисно для «налагодження» промптів.
• Додали «флексячий» режим у всі API: моделі відповідають повільніше, але зате ціни як у Batch API + знижка за кеш input tokens. Поки це бета і доступно тільки для o3 та o4-mini. https://platform.openai.com/docs/guides/flex-processing
• Увімкнули fine-tuning для o4-mini.
• У Codex CLI тепер можна логінитися через ChatGPT. Користувачі ChatGPT Plus та Pro можуть отримати $5 та $50 безкоштовних API-кредитів відповідно протягом наступних 2 тижнів.
• У Codex CLI додали нову модель codex-mini, на яку можна отримати 10М безкоштовних токенів, якщо продати душу дати доступ до своїх даних.
• Codex тепер доступний у ChatGPT Pro та Team.