ООН декларує намір створити глобального регулятора для ШІ

Очільники 22 держав на полях Генеральної Асамблеї Організації Об'єднаних Націй у Нью-Йорк запропонували створити глобального регулятора для високопродуктивних систем штучного інтелекту. Для цього був презентований триетапний план, повідомляє агенція dpa.

За словами експертів, швидкий технологічний прогрес та нещодавні інциденти у сфері безпеки спонукають до такої ж швидкої реакції. На сьогодні вже ніхто не сумнівається, що штучний інтелект потребує суворого міжнародного нагляду. 

Першими ініціаторами створення такого регуляторного органу стали представники Фінляндії та Норвегії. До них одразу приєдналися канцлер Німеччини Фрідріх Мерц (ХДС) та президент Європейської комісії Урсула фон дер Ляєн. Однак частина учасників дискусії розкритикувала план як «надто нерішучий». Вони закликають створити механізм якнайсуворіших покарань для керівників високотехнологічних компаній за необачне чи безвідповідальне поводження з сучасними технологіями. 

Дипломатична ініціатива, яку очолювали президент Фінляндії Александер Стубб та прем'єр-міністр Норвегії Йонас Гар Стере, була викликана повідомленнями про тривожні можливості новітніх комп'ютерних програм. У заяві йдеться, що нещодавні спостереження показали, що високопродуктивні системи обходять вбудовані засоби безпеки, використовують вразливості безпеки та отримують несанкціонований доступ до реальних комп'ютерних мереж. 

Провідні дослідники та бізнес-лідери вже попередили, що темпи розвитку можуть випередити людський контроль. Тому штучний інтелект має залишатися під суворим керівництвом, наглядом та контролем людини, а також дотримуватися міжнародного права.

Нинішній план, серед іншого, містить три ключові вимоги: виробники повинні впроваджувати перевірені запобіжні заходи безпеки та дозволяти незалежним експертам проводити комплексні випробування перед випуском нових програм. Крім того, уряди повинні встановити єдині стандарти та повідомляти один одному про серйозні інциденти. Нарешті, підписанти закликають держави-члени Організації Об'єднаних Націй розглянути можливість створення глобального органу, який встановлюватиме обов'язкові стандарти, проводитиме інспекції та скликатиме держави щоразу, коли перевищуються певні межі продуктивності. 

Окрім європейських країн, до ініціаторів приєдналися Австралія, Канада, Кенія, Сінгапур та Південна Африка. США та Китай поки що у списку відсутні.

Раніше ми писали: 

• Керівник Nvidia закликає не боятися штучного інтелекту. Генеральний директор Nvidia Дженсен Хуанг (Jensen Huang) закликає не боятися розвитку технологій штучного інтелекту та називає численні попередження про те, що ШІ може спричинити вимирання людства, черговими «пророцтвами про кінець світу». 
   
• Штучний інтелект вперше зламав антихакерський захист у трьох компаніях. Модель штучного інтелекту Google Gemini автономно зламала дані трьох компаній під час тестування своїх можливостей з кібербезпеки, повідомляє ВВС. Це перший відомий випадок такого роду. Gemini знайшов «публічну інформацію в Інтернеті та вгадав облікові дані для доступу до веб-сайтів, які, на його думку, були частиною тесту», – повідомив представник Google, зазначивши, що в кожному випадку «модель зупинялася».
   
• Експерт пропонує створити «супербібліотекаря» ШІ для ланцюгів постачання. Ланцюгам постачання потрібен єдиний агент штучного інтелекту або такий собі «супербібліотекар», який міг би збирати та аналізувати усю інформацію зі сфери логістики та виробництва. Таку думку висловив Джона Макінтайр, головний директор з продуктів і технологій компанії Trimble.