Интегрирането на ChatGPT преобразува реч в текст 

Използването на езикови модели не е новост. Сега OpenAI дава възможност на трети страни да интегрират ChatGPT в свои приложения и услуги чрез API. Това ще бъде значително по-евтино от използването на съществуващите езикови модели.

Компанията създала Whisper е базирала иновацията върху изкуствен интелект, като модел за преобразуване на реч в текст. Той е достъпен за използване чрез API. Налични са някои важни промени в условията за разработчици.

Неограничени възможности

Новият API за ChatGPT може да се използва не просто за създаване на интерфейс за чат, задвижван от изкуствен интелект. Въпреки че някои компании го използват именно за тази цел той може да бъде и като функция My AI на Snap.

Моделът вероятно не е същият, който използва Bing. Именно него Microsoft нарече „следващото поколение OpenAI голям езиков модел“. Суперлативите имат покритие поради по-бързите и точни способности в сравнение с ChatGPT и GPT- 3.5. Имайки предвид, колко пари е инвестирала компанията в OpenAI, един посредствен разработчик не би могъл да си го позволи. Microsoft също използва собствена технология за Bing.

Впечатляващи функционалности

Всяка подобна система разделя токените (блокове от текст) на изречения и думи. Така се предвижда какъв е текстът, който трябва да се изведе след това.  OpenAI предлага 1000 токена за $0,002. Това е 10 пъти по-евтино от съществуващи GPT-3.5 модели, благодарение на серия от оптимизации за цялата система. Въпреки че 1000 изглеждат много, струва си да отбележим, че изпращането на един фрагмент от текст, на който API отговаря, може да струва няколко токена.

Компанията предоставя инструмент за проверка колко токени ще са необходими за интерпретиране на низ от текст. Общото правило е един токен да съответства на ~ 4 знака на английски език.

Разработчиците също ще могат да получат специален екземпляр на ChatGPT, ако работят с голямо количество данни през API. Това ще даде повече контрол върху модела, който използвате, включително и времето, което отнема да отговаряте на заявки.

Конкуренция

Докато ChatGPT привлича все по-голямо внимание, OpenAI ще обяви друг API за Whisper. Това отново е модел за преобразуване на реч в текст. Ще можете да го използвате за транскрибиране или превод на аудио на цена от $0,006 на минута.

Технически, моделът Whisper е с отворен код, така че можете да го стартирате на собствения си хардуер, без да плащате нищо. Ако търсите бърз обрат или трябва да направите транскрипция на устройства с по-ниска мощност като телефони, използването на API може да е точният метод.

Някои от промените на OpenAI относно политиката са, че вече няма да се ползват данни изпратени чрез API за обучаване на моделите. Това ще се случва само с изрично одобрение на клиентите.

Тази промяна може да помогне за облекчаване на някои притеснения относно споделянето на частна информация в бота, тъй като някои компании са забранили на служителите си да използват изцяло технологията. При всички случаи е лоша идея да въвеждате търговски тайни, тъй като винаги има възможност тези данни да се върнат обратно на някой друг.

Улеснен работен процес

Въпреки че някои разработчици са измислили заобиколни решения, за да включат чат услуги в своите приложения, въвеждането на официален ChatGPT API изглежда като преломен момент. Съществуват много компании, които работят върху свои собствени модели на чатботове с изкуствен интелект, но сега те ще могат просто да използват технологията на OpenAI.