Microsoft публикува най-новия си доклад Cyber Pulse, в който представя практически анализ за нововъзникващите рискове за киберсигурността с навлизането на AI агентите в ежедневните бизнес операции. Едно от най-належащите предизвикателства е управлението: употребата на AI агентите расте по-бързо, отколкото много организации могат да проследят или управляват, а тази липса на видимост представлява нарастващ риск за бизнеса.

Създаването на AI агенти вече не е ограничено до техническите екипи

В екосистемата на Microsoft клиентите вече създават и внедряват AI агенти във всяка основна платформа – от Fabric и Foundry до Copilot Studio и Agent Builder – което отразява растящата тенденция към автоматизация, задвижвана от AI, в работния процес. 

Създаването на агенти не се ограничава до техническите роли; днес служители на различни позиции създават и използват агенти в ежедневната си работа. Данните на Microsoft показват, че над 80% от компаниите в класацията Fortune 500 внедряват активни агенти, създадени с инструменти с ниско ниво на кодиране/без кодиране. С разширяването на употребата на агенти и умножаването на възможностите за трансформация, сега е моментът да се въведат основни контролни механизми.

AI агентите се разпространяват бързо в различни региони и индустрии

Прилагането на AI агенти се ускорява в световен мащаб, като 42% от активните AI агенти са в Европа, Близкия Изток и Африка, следвани от САЩ (29%), Азия (19%) и Северна и Южна Америка (10%). Ръстът е най-силен в силно регулираните и оперативно сложни индустрии. След софтуерния и технологичния сектор (16%), производството покрива 13% от глобалното използване на AI агенти, следвано от финансовите услуги (11%) и търговията (9%). В тези сектори AI агентите се използват все по-често за изготвяне на предложения, анализ на финансови данни, сортиране на сигнали за сигурност, автоматизиране на повтарящи се процеси и извличане на информация с машинна скорост.

Сляпо петно и рискът от „двойни агенти“

Докладът предупреждава, че бързото внедряване на AI агенти може да изпревари рамките за сигурност и съответствие, което увеличава риска от „Shadow AI“ (нерегламентиран AI). Агентите с прекомерен достъп – или повлияни от подвеждащи данни – могат да бъдат експлоатирани от злонамерени лица и да се превърнат в нежелани „двойни агенти“. Подобно на реалните служители, AI агентите се нуждаят от ясни роли, ограничени привилегии и непрекъснат надзор, за да не се превърнат в уязвимост. Според доклада Cyber Pulse, вече 29% от служителите са се обърнали към неразрешени AI агенти за изпълнение на работни задачи.

„В България и в целия Адриатически регион AI агентите бързо се превръщат в дигитални сътрудници в ежедневните бизнес операции. Но без ясни правила, прозрачност и отчетност, те могат да се превърнат и в сериозен риск за сигурността. Иновациите и сигурността трябва да се развиват с еднаква скорост. Организациите, които прилагат принципите на „нулево доверие“, пълно наблюдение и централизирано управление към AI агентите – точно както правят това за хората и системите – ще намалят риска, ще укрепят доверието и ще бъдат в по-добра позиция да се конкурират на все по-регулирания и цифровизирания европейски пазар и извън него“, заяви Томислав Врачич, регионален технологичен директор на Microsoft за Южна Европа.

Управлението на AI като отговорност на ръководството

Според индекса за сигурност на данните на Microsoft само 47% от организациите в различни сектори съобщават, че прилагат специфични мерки за сигурност на GenAI, което подчертава възможността пред останалите организации да получат необходимата яснота за безопасното внедряване на AI.

Управлението на AI не може да бъде само в рамките на ИТ отделите, нито сигурността на AI може да бъде делегирана само на експертите по информационна сигурност (CISO). Това е междуфункционална отговорност, която обхваща правните и регулаторните отдели, човешките ресурси, екипите за данни, бизнес ръководството и борда на директорите. Когато рискът, свързан с изкуствения интелект, се разглежда като основен корпоративен риск – наред с финансовия, оперативния и регулаторния риск – организациите са в по-добра позиция да действат бързо и безопасно.

От управление на риска към конкурентно предимство

Това е вълнуващо време за водещите компании, които вече използват изкуствения интелект, за да модернизират управлението, да намалят прекомерното споделяне на данни и да внедрят мерки за сигурност, които позволяват отговорно използване на AI. Докладът Cyber Pulse извежда извода, че сигурността и иновациите не са противоположни сили – те се подсилват взаимно. Силното управление изгражда прозрачност, а прозрачността се превръща в решаващо конкурентно предимство.

Организациите, които действат сега, ще намалят риска, ще ускорят иновациите, ще защитят доверието на клиентите и ще изградят устойчивост в структурата на своите предприятия, задвижвани от изкуствен интелект.