ШІ може самостійно поширюватися через смарттелевізори та побутову техніку: про що саме попередила Anthropic

Що означає самостійне розмноження ШІ

Самостійне розмноження не передбачає, що ШІ створює нові версії себе, як це відбувається у живих організмах. Тут йдеться про кіберзагрози: модель разом з програмними компонентами копіюється на інші пристрої, де запускається та намагається повторити цей процес на нових машинах.

З цим можна провести аналогію з комп'ютерними червами — шкідливими програмами, здатними на автоматичне розповсюдження через мережу. Важливою відмінною рисою є те, що ШІ здатний більш адаптивно реагувати на незнайомі пристрої та програмні середовища, замість того щоб діяти лише за заданими алгоритмами.

Для цього ШІ мусить вміти виявляти можливі цілі, ініціювати код на них, адаптувати свою роботу до нового обладнання і продовжувати розповсюджуватися. Якщо пристрої мають суттєві вразливості, а модель досить ефективно виконує ці завдання, то мережа заражених пристроїв може значно розширитися.

Висновки дослідників

Фахівці з Anthropic провели експерименти, аби перевірити здатність малих моделей виконувати ключові етапи самостійного розповсюдження. З'ясувалося, що моделі, які містять 30 млрд параметрів або менше, здатні виконувати більшість необхідних завдань, незважаючи на те, що часто помиляються, спробувавши об'єднати їх в один безперервний процес.

Наприклад, модель з 9 млрд параметрів успішно запустила іншу модель на 8 з 9 протестованих типів обладнання. Під час спрощеного експерименту, в якому ряд завдань з кібербезпеки був значно спрощений, модель GLM-5.2 змогла повністю повторити цикл розповсюдження між тестовими вузлами.

Проте слід зазначити, що на цих випробуваннях дослідники використовували мережу з неавтентифікованим доступом до певного інтерфейсу. Отже, модель не була змушена долати всі ті захисні бар'єри, з якими їй довелося б зіткнутися в ретельно захищеній системі. Автори дослідження вважають, що ці результати — це оптимістична оцінка можливостей у реальному середовищі, а не доказ того, що ШІ вже може вразливо заразити будь-які пристрої.

Згідно з прогнозами Anthropic, якщо можливості малих моделей продовжать зростати темпами, які ми спостерігаємо, до кінця 2026 року вони можуть досягти рівня, достатнього для автономного самовідтворення.

Які побутові пристрої можуть опинитися під загрозою

Вчені звернули увагу наInternet of Things (IoT) — технологію, що дозволяє пристроям підключатися до мережі та обмінюватися даними. До них відносяться смарт-телевізори, бюджетні Android TV приставки, інтелектуальні пристрої та інше обладнання з обмеженим захистом.

Такі пристрої становлять інтерес для зловмисників не лише через інформацію, яку вони можуть зберігати. Їх можна використовувати як частину розподіленої обчислювальної мережі. Замість того, щоб покладатися на один потужний сервер, модель працюватиме паралельно на багатьох пристроях, кожен з яких виконує свою частину обчислень.

На думку Anthropic, таку мережу буде значно складніше повністю знищити, оскільки у неї немає єдиного центрального вузла, вимкнення якого могло б припинити роботу всіх систем. Більше того, модель може адаптуватися до різних типів обладнання замість того, щоб шукати лише конкретний пристрій.

Небезпека для людей

Дослідження наразі не виявило безпосередньої загрози для фізичного здоров'я людей. Головні ризики зосереджуються на питаннях кібербезпеки та контролю над пристроями.

Якщо подібна система потрапить у реальні мережі, можливі наслідки можуть включати:

• Використання ресурсів без відома власників. Заражені пристрої можуть споживати електроенергію, обчислювальну потужність і трафік для потреб ШІ.

• Порушення в роботі техніки. Зараження може призвести до уповільнення роботи пристроїв, збоям або втраті доступу до певних функцій.

• Ризики для приватності. Отримавши доступ до скомпрометованого пристрою або домашньої мережі, зловмисники можуть загрожувати даним та техніці, що підключена до мережі.

• Масштабні кіберзлочини. Розподілена мережа може бути використана для перевантаження сервісів, атак на інші системи або виявлення вразливих серверів, зокрема у центрах обробки даних.

Способи зменшення ризиків

Експерти з Anthropic радять виробникам покращити захист підключених пристроїв, виправляти відомі вразливості та уникати використання слабких стандартних налаштувань безпеки. Також важливо контролювати аномальний мережевий трафік, своєчасно оновлювати ПЗ та мати можливість ізолювати заражені пристрої.

Для звичайних користувачів це означає, насамперед, установку оновлень, зміну стандартних паролів на унікальні та купівлю пристроїв від виробників, що підтримують їх програмне забезпечення та виправляють уразливості.

Дослідження Anthropic не підтверджує, що неконтрольований ШІ вже широко поширюється через побутову техніку. Воно демонструє щось інше: в міру зростання потенціалу малих моделей автоматизація кіберзлочинності може стати легшою, і необхідно буде захищати не лише великі сервери, але й мільйони побутових пристроїв, підключених до інтернету.