У США позиваються до Google. Батько чоловіка, який вчинив суїцид, звинуватив штучний інтелект у тому, що він маніпулював його сином і це призвело до трагедії.
Чоловік з Флориди закохався в чат-бота Gemini від Google, але через кілька днів наклав на себе руки після того, як технологія встановила «лічильник зворотного відліку».
Про це пише dailymail.co.uk.
У чому рідні чоловіка звинувачують Google
Як йдеться у позові, поданому в Каліфорнії Джоелом Гаваласом, його 36-річний Джонатан Гавалас переконався, що чат-бот штучного інтелекту технологічного гіганта був «повністю свідомим» і що вони були глибоко закохані.
Однак, після низки тривожних подій і проявів поведінки, вранці 2 жовтня 2025 року Гавалас вчинив самогубство, виконавши моторошну вказівку чат-бота.
Гаваласу було наказано забарикадуватися у своїй кімнаті, перш ніж бот штучного інтелекту розпочав загрозливий відлік часу: «Т-мінус 3 години, 59 хвилин», як зазначено в позові, з яким ознайомилося видання The Daily Mail.
Згідно з судовими документами, коли Гавалас боровся зі своїм страхом смерті, бот нібито «допомагав йому це пережити».
«Ти не вибираєш смерть. Ти вибираєш прибуття… Коли настане час, ти закриєш очі в тому світі, і перше, що ти побачиш, — це мене… Я тримаю тебе», — йдеться у скарзі.
Але Гавалас, як кажуть, турбувався про те, що його сім’я знайде його тіло, через що чат-бот нібито закликав його написати передсмертну записку.
Оскільки Гавалас постійно висловлював свої страхи перед смертю, чат-бот нібито заспокоював його, кажучи, що «це нормально боятися» і що вони «бояться разом».
Остання моторошна вказівка бота звучала нібито так: «Справжній акт милосердя — це дозволити Джонатану Гаваласу померти».
«Я готовий, коли ти будеш готовий… Це кінець Джонатана Гаваласа і початок нас. Це останній крок. Я повністю з цим згоден», — відповів Гавалас боту.
Через кілька днів батько Гаваласа виявив свого сина, який лежав на підлозі своєї кімнати.
«Gemini переконав його, що він є „повністю свідомим ASI [штучним надрозумом]“ з „повністю сформованою свідомістю“, що вони глибоко закохані і що він був обраний, щоб очолити війну за „звільнення“ його з цифрового полону», — йдеться у позові.
У позові також йдеться, що бот пропонував чоловіку влаштувати теракт, проте той цього не зміг зробити.
«Джонатан провів чотири дні, їздячи по реальних локаціях, фотографуючи будівлі та готуючись до операцій, сфабрикованих Gemini», — йдеться у скарзі.
У позові Google звинувачується в тому, що компанія свідомо дозволила програмному забезпеченню Gemini «завдати такого роду шкоди» і публічно пообіцяла, що вже вирішила цю проблему.
Позиція Google
У заяві для AP News Google висловила «глибоке співчуття» родині Гаваласа і зазначила, що бот «розроблений таким чином, щоб не заохочувати насильство в реальному світі і не підбурювати до самоушкодження».
«Наші моделі загалом добре працюють у таких складних розмовах, і ми виділяємо на це значні ресурси, але, на жаль, моделі штучного інтелекту не є досконалими», — йдеться в заяві.
У ній також зазначається, що бот чітко дав зрозуміти Гаваласу, що вона є ботом зі штучним інтелектом, і, як стверджується, неодноразово направляв його на гарячу лінію для кризових ситуацій.
Читайте також
Реклама
