OpenAI Update

OpenAI пуснаха dev-дайджест.

Ако не сте в течение, Response API е тяхната замяна на „стандартния“ Chat Completion API, който практически не се развива. https://openai.com/index/new-tools-and-features-in-the-responses-api/

  • [[OpenAI Response API]] Добавена поддръжка за дистанционни MCP. Това не беше трудно да се направи и от собствена страна. И вероятно ще продължа да го правя така, за да запазя контрола и да имам възможност да влияя на вземането на решения. Но за съвсем прости проекти възможността е интересна.
  • [Response API] Добавен gpt-image-1 като инструмент със стрийминг и редактиране на изображения.
  • [Response API] Code Interpreter Tool: писане и изпълнение на python код. Звучи страхотно и в определени случаи подобрява качеството на отговорите, но 3 цента за всяко създаване на контейнер за моите лични задачи не си струват. Въпреки че за някой асистент на дейта-сатанист това може да бъде напълно оправдано. Особено в комбинация с File search, който позволява качване на файлове и търсене в тях.
  • [Response API] Background mode: за да не се чака синхронно, а да се изпраща и да се проверява статуса.
  • [Response API] Reasoning summaries: все още не може да се види chain-of-thought на разсъждаващите модели (все още не разбирам защо), но сега поне може да се получи резюме (summary). Интересно е дали това ще се различава съществено от мислите, които моделът пише директно в отговора (или при извикване на инструмент), ако бъде поискано. По идея е полезно за „дебъгване“ на промпти.
  • Добавен „флекс“ режим във всички API: моделите отговарят по-бавно, но пък цените са като в Batch API + отстъпка за кеширани input tokens. Засега това е бета и е достъпно само за o3 и o4-mini. https://platform.openai.com/docs/guides/flex-processing
  • Включен fine-tuning за o4-mini.
  • В Codex CLI вече може да се влиза чрез ChatGPT. Потребителите на ChatGPT Plus и Pro могат да получат съответно $5 и $50 безплатни API кредити за следващите 2 седмици.
  • В Codex CLI е добавен нов модел codex-mini, за за който могат да се получат 10 милиона безплатни токена, ако продадете душата си дадете достъп до данните си.
  • Codex вече е достъпен в ChatGPT Pro и Team.