Meta и Qualcomm се обединяват за създаването на голям ИИ модели за телефони
Технологията ще позволи създаването на приложения като интелигентни виртуални асистенти. Qualcomm и Meta разрешават на компанията за социални мрежи, Llama 2, да работи върху чипове на Qualcomm за телефони и компютри от 2024 г.
Qualcomm и Мета
Досега LLM се изпълняваха предимно в големи сървърни терени за графични процесори на Nvidia. Поради огромните нужди на технологията от изчислителна мощност и данни, увеличавайки акциите на Nvidia, които са нараснали с повече от 220% тази година се наблюдават някои нови възможности.
Бумът на AI до голяма степен пропусна компаниите, които произвеждат водещи процесори за телефони и компютри, като Qualcomm. Акциите им са нараснали с около 10% до този период на годината, изоставайки от печалбата на NASDAQ от 36%.
Нови висоти
Qualcomm иска да позиционира своите процесори като подходящи за ИИ. Това трябва да стане на самото устройство, а не в облачното пространство. Ако големите езикови модели могат да работят на телефони вместо в големи центрове за данни, това ще намали значително разходи им за управление. Също така ще доведе до по-добри и по-бързи гласови асистенти и много други полезни приложения.
Qualcomm ще направи моделите Llama 2 с отворен код за Meta достъпни на устройства на Qualcomm. За последните се смята, че ще активират приложения като интелигентни виртуални асистенти. Те ще бъдат способни на много от действията на ChatGPT, но ще бъдат опаковани в по-малка програма, което им позволява да рабоят на телефон.
Съдържание на чиповете
Чиповете на Qualcomm включват „тензорен процесор“ или TPU. Той е много подходящ за видовете изчисления, които A.I. моделите изискват. Въпреки това количеството процесорна мощност, което ще е налично на мобилно устройство, бледнее в сравнение с центъра за данни, зареден с авангардни графични процесори.
Продуктът на Meta е забележителен, защото помага да се управлява работата с конкретен AI модел. Това ще позволи на изследователите и евентуално на търговските предприятия да използват AI модели на собствените си компютри, без да искат разрешение или да плащат допълнително. Други забележителни LLM са GPT-4 на OpenAI или Bard на Google. Те притежават затворен код, който е строго пазена тайна.
Qualcomm е работил тясно с Meta в миналото, по-специално върху чипове за своите устройства за виртуална реалност Quest. Бяха демонстрирани някои A.I. модели, работещи на въпросните чипове, като генератор на изображения с отворен код Stable Diffusion.
