Microsoft добавила в Windows 11 экспериментальных ИИ-агентов с риском «галлюцинаций»Microsoft интегрировала в Windows 11 экспериментальные функции искусственного интеллекта, которые работают в режиме «агентов». Компания сразу отметила, что эти функции могут быть нестабильными. После установки сборки Build 26220.7262 в системе появляется переключатель, активирующий экспериментальные агентные функции. Операционная система предупреждает, что использование ИИ может влиять на работу компьютера и приводить к появлению «галлюцинаций» — правдоподобных, но ошибочных ответов.
Особое внимание следует уделить автономным агентам.
Хакеры уже начали использовать скрытые подсказки для ввода вредоносных команд в документы или элементы веб-страниц. ИИ может автоматически выполнять эти команды, что представляет угрозу утечки данных или установки вредоносного программного обеспечения.
Microsoft утверждает, что агенты работают в изолированной среде, напоминающей песочницу, и имеют ограниченный доступ к папкам Desktop, Downloads и Documents. Однако именно этот доступ увеличивает риск атак, поэтому компании необходимо усилить меры защиты. На данный момент функция находится в тестовом режиме, и Microsoft рекомендует её использовать только тем, кто полностью осознаёт связанные с ней риски.
