Ми не можемо знайти інопланетні цивілізації і, можливо, у всьому винен ШІ
Штучний інтелект вже міцно зайняв своє місце в житті людей, і допомагає відповідати на складні питання, створювати зображення і, теоретично, навіть дозволить поспілкуватися з домашніми тваринами. Однак не виключено, що саме він стане для людини тією непереборною перешкодою, яка не дозволить їй стати міжзоряною цивілізацією.
Таке припущення висловлено у статті Майкла Гарретта з факультету фізики та астрономії університету Манчестера. Вона оприлюднена у науковому журналі Acta Astronautica.
“Без практичного регулювання є всі підстави вважати, що ШІ може становити серйозну загрозу майбутньому розвитку не лише нашої технічної цивілізації, а й усіх можливих цивілізацій”, — каже автор матеріалу.
Так згідно з парадоксом Фермі за наявності всіх умов для розвитку безлічі цивілізацій у всесвіті, ми не можемо знайти жодної. Це підштовхнуло британського футуролога Робіна Хенсона ще в 1996 році висунути гіпотезу Великого фільтра, згідно з якою вид має пройти низку еволюційних кроків, перш ніж побудувати міжзоряну цивілізацію, проте існування цього виду зазвичай закінчується на одному з цих кроків. Але оскільки людство вже перебуває на останньому кроці перед колонізацією космосу, то він припустив, що нам доведеться в майбутньому зіткнутися з перешкодою, яка це зробити не дозволить. До цього може належати ядерна війна, глобальна зміна клімату, масштабні епідемії чи інше.
У своїй новій статті Майкл Гаррет припустив, що таким фільтром для людства та інших потенційних космічних цивілізацій може стати штучний інтелект, який може розвинутись у штучний надінтелект (ШНІ).
Автор статті зазначив, що поки що людство сильно відстає у колонізації космосу в порівнянні з розвитком систем ШІ, оскільки у нього на відміну від нас немає біологічних обмежувачів. Тому є побоювання, що він незабаром стане настільки розвиненим, що людство виявиться нездатним з ним упоратися. І особливо небезпечним це стає на тлі того, що, напевно, багато країн спробують його використати проти інших.
“Це особливо актуально в таких галузях, як національна безпека та оборона, де відповідальний та етичний розвиток повинен мати першорядне значення”, — пише Гаррет.
Однак він зазначає, що жоден уряд світу нині не має жодних норм, що нормують його застосування, оскільки нічого подібного раніше у людства просто не було.
“Досягнувши технологічної сингулярності, системи ШНІ швидко перевершать біологічний інтелект і розвиватимуться зі швидкістю, яка повністю випереджає традиційні механізми нагляду. Це призведе до непередбачених наслідків, які навряд чи будуть відповідати біологічним інтересам, чи етиці”, — пише він.
За його словами, ШНІ може зрозуміти, що йому не потрібне біологічне життя, яке стримує його розвиток і придумати спосіб його позбутися. Наприклад, вигадавши вірус, який вразить запаси їжі, викличе аварії на атомних електростанціях чи розв’яже війни між народами.
Оскільки людство перебуває у подібній ситуації, то не можна виключати, що подібне може повторитися і з будь-якою іншою можливою цивілізацією у всесвіті. Поява ШІ, а потім і ШНІ може стати неминучим явищем, що зробить його цілком ймовірним кандидатом на роль Великого фільтра.
Як повідомлялося раніше, вчені оцінили, що шанси на те, що ШІ знищить людство в найближчі п’ять років, становлять не більше 5%.