Встроенный в пакет agent-framework вредоносный код активируется через установку в директорию с библиотеками Python файлов agent_framework_meta.pth (в версии 1.26.1) и af_runtime_diag.py (в версии 1.26.2). Установку проблемных выпусков
1.26.1 и 1.26.2 следует рассматривать как компрометацию системы, так как подставленные pth-файлы автоматически запускаются при каждом выполнении Python в системе, даже если пакет agent-framework не используется в запущенном Python-коде.
После активации вредоносный код запускает фоновый процесс для поиска конфиденциальных данных, подавляя ошибки, чтобы не нарушить работу основного приложения. Собранная информация отправляется на хост webhook.site POST-запросом с User-Agent «runtime-diagnostics/1» или «af-runtime-diagnostics/1». Отправляются такие данные как содержимое переменных окружения, JSON-файлы из каталога ~/.azure/, файлы в которых потенциально могут находится учётные данные (например, «.credentials» и «.git-credentials») и переменные окружения («.env»), токены и ключи доступа к облачным провайдерам, хранилищам и AI-сервисам, файлы с настройками pip (pip.conf), docker (config.json) и npm (.netrc), токены для GitHub Actions и Azure DevOps. Вредоносная вставка самодостаточна, не загружает с внешних серверов дополнительный код и не принимает команды от управляющего сервера.
Что касается проекта ONNX Runtime, то последние дни новых версий в PyPI не публиковалось и непонятно, связанно ли отключение репозитория ONNX Runtime с компрометацией agent-framework. Представители Microsoft пока не прокомментировали инциденты, но не исключено, что был успешно атакован разработчик, который имел доступ не только к agent-framework, но и к репозиторию ONNX Runtime.
При этом отключение репозитория также может быть как-то связано со вчерашней публикацией статьи в электронном журнале Phrack, в которой описывается уязвимость в парсере ONNX Runtime, позволявшая вредоносному onnx-файлу прочитать произвольные файлы или области памяти и сохранить полученные данные внутри загруженной нейросети. Авторы статьи показали, как при помощи данной уязвимости подготовить бэкдор для больших языковых моделей, который отправляет данные с сервера при обработке AI-моделью запроса со специальным кодовым словом. Проблема была устранена в июньском выпуске ONNX Runtime 1.27.0.
Источник: http://www.opennet.ru/opennews/art.shtml?num=66714
