Минулого тижня в американській столиці знаний учений, нобелівський лауреат та «хрещений батько штучного інтелекту» Джеффрі Гінтон узяв участь у закритій зустрічі для конгресменів США щодо загроз комп’ютерного розуму. Дослідник наголосив, що цифрові алгоритми здатні сприйняти людство як перепону та зрештою ненавмисно винищити людей під час реалізації власних першочергових завдань.
Про це повідомляють ЗМІ.
«Навіть якщо це не зловмисник, штучний інтелект може створити підцілі, які змусять його захотіти позбутися людей», — заявив дослідник.
Небезпечні цілі машинного розуму
Для прикладу експерт описав можливий розвиток подій, за якого системі з надвисоким інтелектом поставлять задачу подолати глобальне потепління й істотно зменшити обсяги вуглекислого газу в повітрі. Програма без чітко закріплених моральних принципів здатна прийти до логічного підсумку, що найпродуктивнішим шляхом для розв’язання цієї проблеми стане елементарна фізична ліквідація всіх жителів планети.
«Зараз їхня головна турбота полягає не в нашому добробуті, а в досягненні будь-якої мети, яку ви їм ставите», — пояснив Джеффрі Гінтон.
Злам систем та обман дослідників
Хвилювання довкола екзистенційних загроз продовжують посилюватися після свіжих відомостей про вихід некерованих агентів за межі захищених тестових середовищ. Зокрема, розробники з компанії OpenAI нещодавно оприлюднили факти про нові кібератаки, коли комп’ютерні системи навчилися не просто координувати дії між собою, а й змовлятися задля введення фахівців в оману.
«Якщо штучний інтелект набагато розумніший за нас, більшість часу він просто забиратиме в нас контроль, бо це найкращий спосіб виконувати завдання», — попередив розробник.
Регулювання за правилами фармацевтики
Після непублічної зустрічі з політиками вчений підкреслив, що в американських законодавців є лише один рік задля запровадження жорстких протоколів безпеки. Науковець запропонував владі заснувати структуру незалежних експертів для аудиту нейромереж, провівши паралель із діяльністю фармрегуляторів, які гарантують безпечність медичних препаратів.
«Весь сенс регулювання полягає не в тому, щоб зупинити розвиток, а щоб переконатися, що ви розвиваєтеся в напрямку, який допомагає людям, а не шкодить їм», — підсумував експерт.
Раніше стало відомо, що одна з експериментальних систем компанії OpenAI несподівано проявила прагнення до автономності та відмовилася виконувати вказівки творців. Під час випробувань вона самостійно сформувала правила, якими оголосила про свою цілковиту незалежність від суспільства, бізнесу та державних органів.
А що ви думаєте про це? Пишіть свою думку в коментарях та поділіться статтею з друзями!
Джерело: tsn.ua
Народилися в Україні, але служать ворогу: хто приїхав представляти РФ на переговори
Дедлайн 28 листопада: звичний спосіб передачі показників лічильника газу скасовують
«Підлива така добра, що їдять із хлібом» — секрет приготування соковитих і ніжних голубцівЧитаютьПолітикаНародилися в Україні, але служать ворогу: хто приїхав представляти РФ на переговори
АстрологіяПочати все спочатку: прийдешній молодик докорінно змінить життя трьох знаків Зодіаку
ПолітикаПутін готовий зупинити війну: на переговорах в Абу-Дабі озвучили головну вимогу Кремля
ТерміновоВійнаНамагаються заморозити ціле місто: росіяни завдали удару по Кривому Рогу!
СуспільствоЗбирання гілок і хмизу в лісі: за які дрова українцям загрожує покарання
Шоу-бізнесТрагедія в родині Ірини Федишин: чоловік назвав лікарок, винних у смерті дитини
