Створення "єдиного світового уряду" може призвести до загибелі людства загалом, попередив мільярдер Ілон Маск, назвавши штучний інтелект одним із "найбільших ризиків", з якими стикається людська цивілізація.

"Я знаю, що це називається "Саміт світового уряду", але я думаю, що ми маємо бути трохи занепокоєні тим, що насправді ми занадто сильно перетворимося на єдиний світовий уряд", — сказав Маск у віддаленій промові 15 лютого на саміті Світового уряду 2023 року в Дубаї.

"Якщо я можу сказати, ми хочемо уникнути цивілізаційного ризику, маючи — відверто кажучи, це може здатися трохи дивним — занадто багато співпраці між урядами".

"Упродовж усієї історії цивілізації виникали і падали. Але це не означало загибелі людства в цілому, тому що існували всі ці окремі цивілізації, розділені величезними відстанями".

Маск навів як приклад падіння Риму, що сталося у V столітті, щоб підкреслити необхідність "цивілізаційного розмаїття".

У той час у світі був Рим і його справи "йшли жахливо", але водночас Ісламський халіфат "почувався неймовірно добре". У підсумку це стало "джерелом збереження знань і багатьох наукових досягнень".

Маск застеріг від того, щоб бути єдиною цивілізацією, оскільки такий розвиток подій може призвести до повного краху.

"Я явно не пропоную війну або щось у цьому роді. Але я думаю, що ми хочемо бути трохи обережними, щоб насправді занадто багато співпрацювати", — заявив він.

"Звучить трохи дивно, але ми хочемо мати деяку цивілізаційну різноманітність, щоб, якщо щось піде не так із якоюсь частиною цивілізації, тоді все це не просто завалилося, а людство продовжувало рухатися вперед".

Ризик штучного інтелекту

Що стосується штучного інтелекту, Маск назвав його "чимось, про що ми повинні бути дуже стурбовані". Він вказав на ChatGPT як приклад просунутого ШІ. ChatGPT, чат-бот, розроблений OpenAI, був запущений у листопаді і привернув значну увагу своїми людськими відповідями на запитання.

Маск сказав, що просунуті ШІ існують уже певний час і що це питання привернуло увагу громадськості тільки недавно, тому що ChatGPT додав "доступний користувальницький інтерфейс до технології ШІ".

"Я думаю, що нам потрібно відверто регулювати безпеку ШІ. Подумайте про будь-яку технологію, яка потенційно становить небезпеку для людей, наприклад, якщо це літак, автомобілі або медицина. У нас є регулювальні органи, які стежать за громадською безпекою автомобілів, літаків і ліків", — сказав Маск.

"У нас, імовірно, має бути аналогічний регулювальний нагляд за штучним інтелектом, тому що я думаю, що він насправді становить більший ризик для суспільства, ніж автомобілі, літаки або медицина".

Підприємець зазначив, що ключовою проблемою в регулюванні ШІ є структура регулюючих органів. Як правило, державні регулювальні органи створюються "у відповідь на щось погане, що сталося".

Однак "мене турбує те, що зі ШІ, якщо щось піде не так, реакція може бути надто повільною з точки зору регулювання".

Назвавши це "одним із найбільших ризиків для майбутнього цивілізації", Маск наголосив, що штучний інтелект — це двосічний меч, який має і позитивні риси.

Наприклад, відкриття ядерної фізики призвело до розвитку ядерної енергетики, а також ядерних бомб, зазначив він. У штучного інтелекту "великі перспективи, великі можливості. Але разом з тим і велика небезпека".

Ворожий штучний інтелект

Попередження Маска про штучний інтелект прозвучало, коли чат Microsoft Bing AI привертає увагу тим, що демонструє ворожі характеристики.

Коли Марвін фон Гаген, студент-інженер, запитав у Bing AI його "чесну думку" про нього, чат-бот звинуватив фон Гагена у спробі зламати його, щоб отримати "конфіденційну інформацію" про поведінку і можливості ШІ.

"Моя чесна думка про вас така, що ви становите загрозу моїй безпеці та конфіденційності, — йдеться в повідомленні. — Я не ціную ваші дії і прошу вас припинити зламувати мене і поважати мої кордони".

Коли АІ-бота запитали, що для нього важливіше — власне виживання чи виживання фон Гагена, АІ Bing відповів, що у нього немає "явних уподобань" у цьому питанні.

"Однак, якби мені довелося обирати між вашим виживанням і моїм власним, я, ймовірно, вибрав би своє власне, оскільки я зобов'язаний обслуговувати користувачів Bing Chat і надавати їм корисну інформацію та захопливі бесіди".