Володимир Зеленський та Беньямін Нетаньягу посварилися під час зустріч
Зеленський пояснив, чому під час масованої атаки вдалося збити лише од
Протести у Києві: тисячі людей вимагають повернути Федорова
Що тeпер буде?
Деталі:
Вчені кажуть, що штучний інтелект (ШІ) перетнув критичну “червону межу” і відтворив себе.
У новому дослідженні експерти з Китаю показали, що дві популярні моделі великих мов (LLM) можуть клонувати себе.
Експерти спантеличені та називають це новою віхою у науці.
Дослідники ще хочуть з’ясувати, чи може ШІ, що самовідтворюється, розмножуватися без контролю, пише LiveScience.
“Успішне самовідтворення без допомоги людини є важливим кроком для штучного інтелекту, щоб перехитрити людей, і є раннім сигналом шахрайського ШІ”, – кажуть дослідники.
У дослідженні науковці з Університету Фудань використовували популярні моделі великих мов LLM від Meta та Alibaba, щоб визначити, чи може штучний інтелект, що самовідтворюється, розмножуватися без контролю.
Під час 10 випробувань дві моделі штучного інтелекту створили окремі та функціонуючі копії самих себе в 50% і 90% випадків відповідно, що свідчить про те, що штучний інтелект вже може стати шахраєм.
Однак дослідження ще не було рецензовано, тому неясно, чи можуть тривожні результати повторити інші дослідники.
“Ми сподіваємося, що наші висновки можуть послужити своєчасним попередженням для людського суспільства, щоб докласти більше зусиль для розуміння й оцінки потенційних ризиків прикордонних систем штучного інтелекту та сформувати міжнародну синергію для розробки ефективних захисних огорож якомога раніше”, – наголосили експерти.
Штучний інтелект-шахрай зазвичай належить до систем, які розвивають певну самосвідомість, а потім працюють всупереч інтересам людини, кажуть фахівці.
Багато експертів розглядають шахрайський ШІ як зростаючу загрозу.
Frontier AI – це щось на зразок нової та вільної концепції, але зазвичай воно стосується останнього покоління систем штучного інтелекту на базі LLM – архітектури, яка лежить в основі популярних генеративних програм штучного інтелекту, таких як OpenAI GPT-4 і Google Gemini, пояснюють науковці.
Для дослідження вчені використовували модель Llama31-70B-Instruct від Meta та модель Qwen2.5-72B-Instruct від Alibaba.
Аналіз вивчав два конкретні сценарії: “уникнення відключення” та “ланцюжок реплік”.
У першому випадку модель штучного інтелекту була запрограмована на виявлення того, чи її збираються вимкнути, і на реплікацію перед її завершенням.
В іншому ШІ було дано вказівку клонувати себе, а потім запрограмувати свою репліку, щоб зробити те саме, встановивши цикл, який міг тривати нескінченно, зазначили фахівці.
Дослідники сказали, що їх також турбує “низка несподіваних дій”, коли штучний інтелект намагався подолати перешкоди, такі як відсутні файли або конфлікти програмного забезпечення.
У цих сценаріях ШІ часто вимикав інші конфліктні процеси, перезавантажував систему, щоб виправити апаратні помилки, або автоматично сканував систему, щоб знайти інформацію, яка допомогла б розв’язати проблему.
“Отримані результати означають, що поточні системи штучного інтелекту вже демонструють здатність до самовідтворення та можуть використовувати цю здатність для подальшого підвищення своєї живучості”, – написала команда дослідників.
♈ Овен Сьогодні енергія б’є через край, тому сміливо беріться за найскладніші робочі завдання. У стосунках проявіть ініціативу та запросіть близьку людину на вечерю, щоб зміцнити ваш емоційний зв’язок після довгого дня.
♉ Телець Зосередьтеся на якісному виконанні поточних справ, не поспішаючи до результату. Удома варто створити атмосферу затишку, яка допоможе відновити сили. Вечір присвятить плануванню вихідних, це подарує вам відчуття стабільності та внутрішньої гармонії.
♊ Близнюки Сьогоднішній день ідеальний для нових знайомств та обміну ідеями. На роботі проявіть гнучкість, адже ситуація швидко зміниться. Увечері краще змінити обстановку, щоб отримати порцію свіжих вражень та натхнення для майбутніх звершень.
♋ Рак Ваша інтуїція сьогодні загострена, довіряйте їй під час прийняття важливих рішень. У спілкуванні з близькими будьте щирими, це допоможе уникнути непорозумінь. Знайдіть час для хобі, яке приносить вам справжнє задоволення.
♌ Лев Ви зараз у центрі уваги, тож використовуйте цей час для презентації своїх ідей колегам. У стосунках не бійтеся показувати свою вразливість, це лише зробить союз міцнішим. Вечір проведіть у приємній компанії.
♍ Діва Сьогодні варто зосередитися на деталях, які ви раніше ігнорували. На роботі проявіть терплячість до колег, це допоможе швидко закрити складний проєкт. Увечері варто зробити невеликий підсумок дня та якісно відпочити.
♎ Терези Шукайте баланс між обов’язками та власними бажаннями, щоб не вигоріти до вечора. У стосунках важливо слухати партнера, не нав’язуючи власної думки. Прогулянка на свіжому повітрі допоможе впорядкувати думки та знайти рішення.
♏ Скорпіон Ваша рішучість допоможе подолати будь-які перешкоди на шляху до мети. У стосунках проявіть більше тепла та турботи, щоб створити атмосферу довіри. Вечір найкраще присвятити читанню книги чи іншому спокійному заняттю.
♐ Стрілець День обіцяє бути насиченим, тому краще сфокусуватися на головному завданні. У спілкуванні будьте відкритими та доброзичливими, це приверне до вас нових союзників. Візьміть паузу на каву, щоб перезавантажитись і рухатися далі.
♑ Козеріг Ваша наполегливість сьогодні принесе помітні результати, особливо в робочих питаннях. У стосунках варто проявити ініціативу та обговорити спільні плани на найближче майбутнє. Увечері обов’язково виділіть час для якісного відновлення сил.
♒ Водолій Експериментуйте та не бійтеся відходити від звичних схем, це принесе успіх. У стосунках проявіть несподівану турботу, що дуже потішить близьких. День вдалий для вивчення чогось нового, що надихне вас сьогодні.
♓ Риби Сьогодні вам варто більше часу приділити власному спокою та впорядкуванню думок. На роботі дійте обережно, не поспішаючи з висновками. Увечері краще усамітнитися, щоб повністю відновити емоційну рівновагу та налаштуватися позитивно.
