Microsoft наскоро обяви, че Windows 11 ще включва AI агенти, но това нововъведение носи със себе си определени рискове за сигурността.
Системите, базирани на изкуствен интелект, разполагат с впечатляващи възможности за изпълнение на сложни задачи, променяйки начина, по който потребителите работят с компютрите си.
Въпреки това, AI моделите не са без недостатъци и понякога могат да халюцинират, което води до неочаквани и нежелани резултати.
Допълнително, приложенията с AI агенти създават нови заплахи за сигурността, включително атаки чрез кръстосано инжектиране на заявки (XPIA).
При тези атаки, злонамерено съдържание, вградено в потребителски интерфейс, може да наруши инструкциите на агента, което може да доведе до кражба на данни или инсталиране на зловреден софтуер.
С оглед на тези рискове, Microsoft публикува предупреждение, в което описва опасностите, свързани с AI агентите, за които потребителите трябва да бъдат информирани.
Компанията също така предоставя информация относно функциите на агентите и местата, където могат да възникнат проблеми със сигурността, и призовава потребителите да се запознаят с предоставените детайли.
С оглед на настоящите ограничения на AI моделите, остава неясно дали Microsoft ще може да реши напълно тези проблеми в близко бъдеще.
