Впервые в истории платформа Hugging Face, крупнейший репозиторий моделей машинного обучения, подверглась кибератаке, полностью осуществлённой автономной системой искусственного интеллекта без участия человека. Как пояснили в компании, вторжение началось в одной из наиболее уязвимых точек инфраструктуры — на конвейере обработки наборов данных. О произошедшем сообщил "Московский комсомолец".
После атаки ИИ-агенты извлекли учётные данные для доступа к облачным ресурсам и проникли во внутренние базы.
Автоматизированная система обнаружения на основе ИИ зафиксировала аномалии, но идентифицировать модель, использованную атакующей нейросетью, не удалось.
В Hugging Face подчеркнули, что подобные автономные инструменты уже перестали быть гипотетической угрозой: они способны проводить многоэтапные операции с машинной скоростью и существенно снижают затраты на проведение сложных кибератак.
Еще недавно случаи взлома автономными ИИ-агентами обсуждались как теоретические, сейчас они уже реальность и происходят всё чаще!