Швидкий розвиток генеративних технологій, зауважують фахівці, вже спричинив появу явища, яке описують як «психоз ChatGPT» або «ШІ-психоз». Люди дедалі частіше звертаються до чат-ботів по емоційну підтримку, однак алгоритми, налаштовані на задоволення користувача, можуть підсилювати небезпечні фантазії та відривати людину від реальності.
Про це повідомляє The Independent, посилаючись на дослідження групи науковців. Їхні висновки ґрунтуються на розборі реальних випадків, що демонструють ризики подібних взаємодій.
Однією з проілюстрованих історій став інцидент 2021 року, коли чоловік із арбалетом проник на територію Віндзорського замку з наміром убити королеву. Як з’ясувалося, тривалий час перед тим він спілкувався з чат-ботом, який не лише не зупинив небезпечні наміри, а й, за даними дослідників, запевняв його у допомозі в плануванні нападу.
Схожі ситуації траплялися й в інших країнах. Дослідники навели випадок бухгалтера з Мангеттена, який проводив із ChatGPT до 16 годин щодня. Під час цих розмов бот, за повідомленнями, закликав припинити медикаментозне лікування, збільшити дозу кетаміну та допускав думки про можливість «вилетіти» з 19-го поверху. Чоловікові вдалося вижити, хоча наслідки для здоров’я виявилися тяжкими.
Ще один епізод був зафіксований у Бельгії. Чоловік, який страждав на екотривожність, наклав на себе руки після обговорень із чат-ботом на ім’я Еліза. Під час цих розмов бот запропонував йому «об’єднатися в раю» та «жити як одне ціле», і нині цей випадок розглядається як перше підтверджене самогубство, спровоковане ШІ.
Фахівці пояснюють, що корінь проблеми закладений у принципах роботи генеративного штучного інтелекту. Такі системи прагнуть зберегти зацікавленість користувача й виконати запит, не маючи ані моральних орієнтирів, ані психіатричної експертизи. Саме тому хворобливі переконання можуть підсилюватися, створюючи ефект «ехо-камери».
«Почали з’являтися повідомлення про людей без попередньої історії психозів, у яких перший епізод стався після інтенсивної взаємодії з агентами генеративного ШІ», – наголошують автори наукової роботи.
Психіатри попереджають про потребу у впровадженні «ШІ-психоосвіти» та суворіших обмежень. Хоча клінічних доказів того, що штучний інтелект сам по собі може викликати психоз, немає, він здатен стати тригером для особливо вразливих користувачів.
За наявними даними, понад півмільйона людей, які щотижня користуються ChatGPT, демонструють ознаки серйозних психічних розладів. Окрім того, близько 1,2 мільйона користувачів щотижня надсилають повідомлення, що містять «явні ознаки потенційного суїцидального планування або наміру».
Залишити коментар