Штучний інтелект вперше зламав антихакерський захист у трьох компаніях

Модель штучного інтелекту Google Gemini автономно зламала дані трьох компаній під час тестування своїх можливостей з кібербезпеки, повідомляє ВВС. Це перший відомий випадок такого роду. 

Gemini знайшов «публічну інформацію в Інтернеті та вгадав облікові дані для доступу до веб-сайтів, які, на його думку, були частиною тесту», – повідомив представник Google, зазначивши, що в кожному випадку «модель зупинялася».

Це відбувається на тлі підвищення громадської уваги до темпів розвитку штучного інтелекту. Критики ШІ закликають сповільнити його розвиток, щоб уникнути потенційних «загроз для людства». Але компанії-розробники, як правило, не погоджуються з цим. 

Як з’ясувалося, хакерські атаки, про які вперше повідомила Wall Street Journal, сталися у травні під час тестування у незалежній компанії Irregular, що проводить оцінки кібербезпеки. За даними Wall Street Journal, в одному з випадків модель просто вгадувала паролі, доки не отримала доступ до захищеної системи. Тобто, штучний інтелект впорався із завданням, на виконання якого, як вважали раніше, потрібно витратити мало не століття. 

Віце-президентка з питань інженерії безпеки в Google Гізер Адкінс заявила: «Ми забезпечили інформування трьох організацій і працювали з нашим партнером з навчання над змінами, які вони внесли до своїх процесів тестування».

«Ці події підкреслюють важливість навчання потужних моделей штучного інтелекту діяти відповідально», – додала вона.

Інші системи штучного інтелекту нещодавно повідомляли про аналогічні випадки порушень. У липні Claude з Anthropic вирвався з тестового середовища, щоб самостійно зламати три організації, лише через кілька днів після того, як його конкурент OpenAI заявив, що його моделі здійснили кібератаки на кілька «загальнодоступних сервісів».

Раніше ми писали:

• У Польщі заборонили в’їзд китайських автомобілів на військові та поліційні автостоянки. У Польщі більше не можна абсолютно вільно використовувати автомобілі китайського виробництво. Це особливо стосується тих власників, які служать у війську, поліції, службі безпеки, охорони тощо. 
   
• Експерт розповів, чому стрімко збільшується кількість кібератак на цивільні морські судна. Адвокат лондонської комерційної юридичної фірми HFW Генрі Клек поділився своїми думками стосовно того, чому останнім часом значно збільшилася кількість кібератак на цивільні морські судна.  
   
• Saxo Bank застерігає від необачних інвестицій в штучний інтелект. Штучний інтелект залишається ключовим трендом, але ейфорія першого періоду розвитку новітнього технологічного сектору вже закінчилася, заявили у Saxo Bank. Інвесторам варто усвідомити, що процес глобального запровадження ШІ уже вийшов на другий щабель. А це вимагає суттєвих змін у підходах до інвестування у дану галузь.