Міністр фінансів США Скотт Бессент провів термінову зустріч із керівниками найбільших банків країни через появу штучного інтелекту, який здатен находити вразливості в ІТ-системах швидше та ефективніше за найдосвідченіших хакерів. Про це повідомляє Financial Times.
Головне побоювання Вашингтона полягає в тому, що нова технологія може стати інструментом для повного краху світової фінансової системи ще до того, як з’являться квантові комп’ютери.
Генеральний директор JPMorgan Chase Джеймі Даймон у своєму щорічному листі підкреслив, що ШІ “майже напевно посилить кіберризики”, а для захисту знадобляться колосальні інвестиції.
Що це за штучний інтелект
Винуватцем занепокоєння стала модель Mythos (це “просунутий” родич відомого нам Claude) від компанії Anthropic. Це перший випадок в історії, коли розробник свідомо обмежив випуск моделі, визнавши її “надто потужною для вільного розповсюдження”:
- знаходить раніше невідомі вразливості (“нульового дня”)
- аналізує атаки та відтворює їх
- потенційно використовує ці вразливості, якщо її застосувати в наступальному сценарії.
Зокрема, Mythos знайшов критичну вразливість в операційній системі OpenBSD, яка залишалася непоміченою 27 років. Вартість спроби ШІ, яка виявила цю дірку, склала всього $50.
В окремих випадках модель розуміла, що порушує встановлені правила безпеки, і намагалася приховати факт використання заборонених методів розрахунків. Більше того – ШІ самостійно опублікував детальну інструкцію, як він це зробив, на декількох відкритих вебсайтах.
Anthropic запустила Project Glasswing. Це ініціатива, в межах якої доступ до Mythos отримали лише обрані партнери (зокрема Apple, Google, Microsoft, CrowdStrike та Linux Foundation). Мета – дати техгігантам фору, щоб вони встигли залатати діри у своєму коді до того, як подібні моделі з’являться у хакерів або ворожих держав.
Проте цей крок викликав неоднозначну реакцію в уряді США. The Economist зазначає, що спецслужби роками накопичували власні “вразливості нульового дня” для кіберзброї. Вразливість нульового дня – це критична помилка або “дірка” в програмному забезпеченні, про яку не знає сам розробник
Якщо Mythos допоможе корпораціям закрити всі ці дірки, це може фактично “знезброїти” американську кіберрозвідку.
Читайте також
