№ 583. Почему автономным ИИ-агентам нужна новая модель безопасности

moveworks.com · раздел «Практики контроля» · доказательность: средняя. Moveworks в своём блоге перечисляет угрозы для автономных ИИ-агентов: косвенное внедрение инструкций, неправильное использование инструментов, повышение привилегий, отравление памяти и вывод данных. Среди мер — минимальные…

Атлас показывает матрицу и указатель с включённым JavaScript.