Сегашният ви компютър вероятно няма AI процесор, но следващият ви може би ще разполага с такъв
Microsoft обяви 2024 г. за „годината на AI PC“. От една страна, това е просто амбициозна PR прокламация, която има за цел да покаже на инвеститорите, че Microsoft възнамерява да продължи внедряването на AI. Това ще я постави в конкуренция с Apple за титлата на най-ценната публично търгувана компания.
На техническо ниво е вярно, че персоналните компютри, произведени и продадени през 2024 г. и след това, вероятно ще включват AI. Те ще разполагат и с възможности за обработка на машинно обучение, които по-старите компютри нямат. Основно нещо тук е модулът за невронна обработка (NPU). Това е специализиран блок на последните процесори от висок клас Intel и AMD. Той може да ускори някои видове генеративни AI и работни натоварвания с машинно обучение.
Qualcomm на Windows
Windows компютрите на Qualcomm бяха едни от първите, които включваха NPU. Процесорите Arm, използвани в повечето смартфони, включват някакъв вид ускорение на машинно обучение от няколко години насам. Чиповете от M-серията на Apple за Macs също ги имат. Но Arm версията на Windows е незначително малка част от целия компютърен пазар. Компютри x86 с чипове Core Ultra на Intel, процесори за лаптоп Ryzen 7040/8040 от серията на AMD или процесори за настолни компютри Ryzen 8000G ще бъдат първият контакт на много масови потребители с този вид хардуер.
Дори и вашият компютър да има NPU, Windows не може да го използва много. Може да се приложи за замъгляване фона на уеб камерата и шепа други видео ефекти. Това бавно се променя. Ще бъде относително лесно за разработчиците да създават NPU приложения по същия начин, по който разработчиците на компютърни игри в момента правят GPU игри.
Това е основният начин, по който Microsoft се доближава до DirectML. Компанията обяви, че добавя DirectML поддръжка за Meteor Lake NPU на Intel в предварителен преглед за разработчици. Ще се започне от DirectML 1.13.1 и ONNX Runtime 1.17.
Въпреки че ще изпълнява само неуточнена подгрупа от модели за машинно обучение, които са били насочени за поддръжка, това отваря вратата за повече приложения на трети страни.
Позицията на Samsung
Samsung използва NPU на Intel и DirectML за функции за разпознаване на лица в своето приложение фотогалерия. За същата цел Apple използва своя Neural Engine в macOS и iOS. Ползите могат да бъдат значителни в сравнение с изпълнението на тези натоварвания на GPU или CPU.
Intel и Microsoft работят за модел, при който NPU се третират почти като GPU. Разработчиците обикновено се насочват към DirectX, а не към конкретен производител на графични карти или GPU архитектура. Новите функции, еднократните корекции на грешки и подобренията в производителността могат да бъдат адресирани чрез актуализации на драйвери на GPU. Някои графични процесори изпълняват конкретни игри по-добре от други и разработчиците могат да изберат да отделят повече време за оптимизиране за Nvidia карти или AMD карти.
По същия начин Intel вече предлага актуализации на драйвери в стил GPU за своите NPU. Windows вече по същество разпознава NPU като графична карта без възможност за рендиране.
Широка достъпност
NPU ще бъдат много по-широко достъпни през 2024 г., отколкото са били преди. Те са присъщи за чисто нови чипове от висок клас. В наши дни Intel и AMD редовно ребрандират по-старите CPU архитектури като нови или обслужват масовия към бюджетния PC пазар с чипове от предишно поколение.
Чисто новите не-Ultra Core процесори на Intel не включват собствени NPU, а само чиповете за лаптоп Ryzen 7000 и Ryzen 8000 от най-висок. Ако купувате лаптоп от висок клас, следващият ви компютър е много вероятно да разполага с NPU. Ако пазарувате лаптоп или настолен компютър от среден или бюджетен клас, може би ще трябва да изчакате година или две, преди NPU да станат стандартно оборудване.
