Ура, началось! В Anthropic заявили о первом вирусе на основе ИИ
Американская компания Anthropic, известная моделями Claude, заявляет о новой угрозе самовоспроизводящегося искусственного интеллекта, который способен совершенствоваться и распространяться без опоры на вычислительные центры. На сегодняшний день подобное развертывание выглядит нереалистичным, однако по мере развития технологий оно способно стать источником серьезного беспокойства.
Специалисты группы Frontier Red, работающей в составе Anthropic, представили два элемента гипотетического ИИ-червя. При условии решения ключевых задач практической реализации такой червь мог бы проникать на потребительские устройства — включая бюджетные ТВ-приставки на Android TV и устройства умного дома — и, предположительно, обходиться без инфраструктуры дата-центров.
Известно, что программа завелась на устройствах NVIDIA Jetson Nano, компьютерах Mac на базе Apple Silicon, серверах Xeon, Google TPU, AMD MI300X и как одном ПК с RTX 4090. Кроме того, модель Gemma4-26B-A4B стартовала даже на приставках Android TV по 55 долларов за штуку. Заданный агент распространялся между узлами через порт Android Debug Bridge (ADB) без аутентификации, передавая файлы и устанавливая сервер логического вывода на каждом целевом устройстве.
В отчете, опубликованном 12 октября под заголовком «Модели искусственного интеллекта могут быть способны к самовоспроизведению без доступа к дата-центру», Anthropic анализирует особый класс вредоносного ПО, названный «репликатором на основе весов». Вместо того чтобы распространять обычный исполняемый код, он переносил бы веса ИИ-моделей вместе с программной инфраструктурой, требующейся для выполнения логических выводов на зараженных устройствах. Проведенные опыты свидетельствуют о том, что ИИ-агенты в состоянии адаптировать вывод данных под разные аппаратные платформы и управлять своим размножением внутри сети.