Ethereum Foundation залучила ШІ для пошуку вразливості, що могла виводити валідаторів з ладу

Розробники Ethereum Foundation випробували ШІ-агентів на клієнтському ПЗ, на якому працює мережа Ethereum, щоб швидше знаходити помилки та підсилювати безпеку найбільшого блокчейна за показником TVL. Вразливості справді виявили, але команда наголошує: без ретельної ручної перевірки не обійтися. Підрозділ Protocol Security опублікував польові нотатки з порадами для інших команд, які планують вбудовувати ШІ у власні процеси безпекового тестування. Ethereum працює на тисячах вузлів — звичайних комп'ютерах із мережевим софтом, що зберігають копію ланцюга та обмінюються повідомленнями з сусідами. Над цим шаром працюють валідатори: вузли, які стейкають ether і голосують за коректність блоків. Їхня робота залежить від безперебійної доставки повідомлень. Знайдений інженерами баг стосувався gossipsub. Вразливість дозволяла віддаленій системі спричинити аварійне завершення роботи вузла: ПЗ натрапляло на неможливий розрахунок, зупинялося й вимикалося, через що валідатор переходив в офлайн доти, доки оператор не перезапустить вузол. Проблему оперативно виправили та розкрили під ідентифікатором 'CVE202634219', зазначивши внесок команди. Ключовим викликом виявилося відділити реальні знахідки агентів від переконливих хибнопозитивних спрацювань. Автор допису Нікос Баксеваніс написав, що найбільшим сюрпризом стала диспропорція між зусиллями на пошук і зусиллями на верифікацію: визначити, де справжня вразливість, а де лише правдоподібна історія. Проблема починається з формату результату. Класичний фазир (fuzzer), інструмент, який закидає в софт некоректні дані, повертає факт крашу та точку, де він стався — інженер здатен підтвердити це за лічені хвилини. ШІ-агент натомість видає згенерований наратив: описує шлях до дефекту, пояснює наслідки, пропонує рівень критичності та додає робочий код, який нібито демонструє атаку. Усе це подається гладкою прозою й звучить однаково переконливо незалежно від того, реальна помилка чи вигадана. За даними Foundation, найчастіше повторювалися три типи хибних спрацювань. Перший — краш, який виникає лише в тестовій збірці: компілятор вмикає додаткові перевірки безпеки, яких немає у релізному ПЗ, тож у реальних користувачів нічого не ламається. Другий — 'атака', що працює тільки якщо небезпечне значення вручну підставити всередину програми, тоді як усі зовнішні шляхи доставки відсікають його раніше. Третій — кейси з формальної верифікації, коли доказ 'проходить', підтверджуючи тривіально істинну тезу й не повідомляючи нічого суттєвого про поведінку ПЗ. У всіх трьох випадках тест фактично нічого не тестує, а агент здатен так само швидко й переконливо описати порожній результат, як і справжній. Окремо в Foundation звернули увагу на ще одну слабкість: агенти добре міркують про окремий момент, але гірше знаходять баги, що розгортаються в послідовності кроків, кожен із яких сам по собі коректний, а проблема — лише в порядку виконання. Саме так виглядає більшість експлойтів, які цього року призводили до виведення коштів із криптопротоколів: технічні дії поодинці не викликають підозр, але їхня комбінація дає зловмисний результат. Описаному шаблону відповідають і нещодавні інциденти. Експлойт Edel Finance на початку місяця обійшов коректний прайс-фід Chainlink через шар обгортання, розташований над ним. У атаці на управління BONK купівля токенів, голосування та виконання ухваленої пропозиції були звичайними транзакціями. Підхід Foundation полягає в тому, щоб використовувати агентів для підказок, які послідовності варто перевіряти, і все одно запускати реальні тести. Це має знизити ризик того, що правдоподібний опис від ШІ замінить собою фактичну перевірку.