Потребителите на API получават пълен достъп до новия модел o1
Разработчиците на приложения, които имат достъп до OpenAI чрез неговия дългогодишен API, сега ще се докоснат до най-новия пълен модел o1 на компанията. Надграждането е една от многото нови функции, които ще се предлагат на клиентите.
OpenAI обяви, че новият модел o1 ще върне много от основните функции, които сме пропуснали от API по време на o1-preview. Това включва възможността за използване на съобщения на разработчици. Така ще се подпомогне насочването на вашия конкретен чатбот. Ще разполагаме и с достъп до параметър за разсъждение, който казва на API колко време да обмисля конкретни заявки. Това може да спести време и пари за прости проблеми, така че да могат да се използват за по-сложни задачи. Потребителите на API могат също да използват визуална информация като сканиране на документи като вход.
Удобни функции
OpenAI подчерта подобренията в използването на новия API за вътрешно извикване на функции. Моделът сам решава да извиква функции, предварително написани от външни разработчици. Така ще генерира отговори на определени заявки, когато е подходящо. Новият API ще е по-точен в използването на структурирани изходи, които използват JSON схема за представяне на информация в специфичен формат.
Моделът o1 използва 60% по-малко мислещи токени от o1-preview. Едновременно с това, той генерира по-бързи и по-евтини резултати. Те се определят с приблизително от 25 до 35% подобрена точност при бенчмаркове като LiveBench и AIME.
Докато o1 достъпът вече започна да се разпространява към клиентите за разработка от ниво 5, API достъпът до $200/месец o1 Pro модела е предвиден за пускане в близко бъдеще.
Актуализации за взаимодействие
Разработчиците, които използват гласовите API в реално време на OpenAI, също ще получат пълен достъп до поддръжката на WebRTC. Това идва в допълнение към съществуващата поддръжка за аудио стандарта WebSocket и може да опрости създаването на аудио интерфейси за приложения на трети страни от приблизително 250 реда код до около дузина.
Предстои да бъде реализиран и прост WebRTC код, който може да се използва на принципа на plug-and-play в много устройства. Такива могат да бъдат играчки елени до интелигентни очила и камери, които искат да използват контекстно ориентирани AI асистенти. За да насърчи тези видове употреби, OpenAI ще намали цената на аудио токените o1 за разработчиците на API с 60%. При мини токените 4o това се случи с цели 90%.
Собствени AI модели
Разработчиците, които се интересуват от фина настройка на собствените си AI модели, също могат да използват нов метод. Той е наречен „директна оптимизация на предпочитанията“. В настоящата система за контролирана фина настройка създателите на модели трябва да предоставят примери за точните двойки вход/изход. С директната оптимизация на предпочитанията създателите на модели могат да осигурят два отделни отговора и да посочат, че единият е предпочитан пред другия.
Нов процес на фина настройка ще се оптимизира, за да научи разликата между предоставените предпочитани и непредпочитани отговори. Той автоматично открива промени в неща като многословност, форматиране и насоки за стил или нивото на полезност/креативност на отговорите и ги взема предвид в нов модел.
Програмистите, които пишат на Go или Java, също ще могат да използват нови SDK за тези езици, за да се свържат с OpenAI API.
