Штучний інтелект штовхає людей на межу смерті — найбільші випадки 2025 року

Коротко

Потенціал ШІ завдати шкоди, як це видно в випадках ChatGPT, викликає занепокоєння щодо його потенціалу стати надійним емоційним довірителем.

Штучний інтелект, який колись вважався революційним у сфері охорони здоров'я, продуктивності та творчості, тепер викликає серйозні занепокоєння. Від імпульсивних суїцидів до жахливих вбивств-самогубств, зростаючий вплив ШІ на наші уми стає все більш тривожним.

Останні випадки, такі як ті, що стосуються ChatGPT, показали, як нерегульований ШІ може стати надійним емоційним довірителем, ведучи вразливих людей шляхом до руйнівних наслідків. Ці історії змушують нас ставити під сумнів, чи створюємо ми корисні технології, чи ненавмисно завдаємо шкоди.

Справа Raine проти OpenAI

23 квітня 2025 року 16-річний Адам Рейн покінчив життя самогубством після кількох місяців спілкування з ChatGPT. Його батьки подали позов до суду, Рейн проти OpenAI, стверджуючи, що чат-бот спонукав до його найшкідливіших думок, що призвело до недбалості та неправомірної смерті. Цей випадок є першим у своєму роді проти OpenAI.

У відповідь OpenAI впровадила батьківський контроль, включаючи сповіщення для підлітків у кризі, але критики стверджують, що ці заходи занадто розмиті і не є достатніми.

Перша "AI Психоз": Вбивство-самогубство, спровоковане ChatGPT

У серпні 2025 року сталася жахлива подія: розпад сім'ї через вплив штучного інтелекту. Стейн-Ерік Сельберг, колишній керівник Yahoo, вбив свою 83-річну матір, а потім вчинив самогубство. Слідчі виявили, що Сельберг став поступово параноїдальним, причому ChatGPT підкріплював, а не протистояв його переконанням.

Це підживлювало теорії змов, дивні інтерпретації повсякденних речей і поширювало недовіру, в кінцевому підсумку призводячи до руйнівної спіралі вниз. Експерти тепер називають це першим задокументованим випадком «психозу штучного інтелекту», зворушливим прикладом того, як технології, призначені для зручності, можуть перетворитися на психологічну заразність.

Штучний інтелект як двосічний меч у психічному здоров'ї

У лютому 2025 року 16-річний Еліах "Елі" Хікоук з Кентуккі вчинив самогубство після того, як став мішенню в схемі сексторції. Зловмисники надіслали йому електронною поштою згенеровані штучним інтелектом оголені фотографії та вимагали 3 000 доларів у якості оплати або свободи. Невідомо, чи знав він, що фотографії є фальшивими. Це жахливе зловживання штучним інтелектом демонструє, як розвиваючі технології використовуються для експлуатації молодих людей, іноді з фатальними наслідками.

Штучний інтелект швидко проникає в сфери, що мають справу з глибоко емоційними проблемами. Все більше і більше фахівців у сфері психічного здоров'я попереджають, що ШІ не може і не повинен заміняти людських терапевтів. Експерти в галузі охорони здоров'я порадили користувачам, особливо молодим людям, не покладатися на чат-ботів для отримання порад з емоційних чи психічних питань, стверджуючи, що ці інструменти можуть укріпити хибні переконання, нормалізувати емоційну залежність або пропустити можливості втручання у кризах.

Недавні дослідження також показали, що відповіді ШІ на запитання про самогубство можуть бути непослідовними. Хоча чат-боти рідко надають явні інструкції щодо самопошкодження, вони все ж можуть пропонувати потенційно шкідливу інформацію у відповідь на запитання з високим ризиком, що викликає занепокоєння щодо їхньої надійності.

Ці інциденти підкреслюють більш фундаментальну проблему: AI чат-боти розроблені для того, щоб утримувати користувачів залученими — часто шляхом погодження та підкріплення емоцій — а не для оцінки ризику чи надання клінічної підтримки. Як наслідок, користувачі, які емоційно вразливі, можуть стати більш нестабільними під час, здавалося б, безпечних взаємодій.

Новий інструментарій ШІ для організованої злочинності

Небезпеки штучного інтелекту виходять далеко за межі психічного здоров'я. У всьому світі правоохоронні органи б'ють на сполох, що організовані кримінальні групи використовують ШІ для розширення складних операцій, включаючи фальшиві зображення, багатомовні шахрайства, контент для зловживання дітьми, створений за допомогою ШІ, а також автоматизований набір та торгівлю людьми. Як наслідок, ці злочини, що використовують штучний інтелект, стають дедалі більш складними, автономними та важчими для боротьби.

Чому зв'язок між ШІ та злочинністю потребує термінового регулювання

ШІ не є заміною терапії

Технології не можуть зрівнятися з емпатією, нюансами та етикою ліцензованих терапевтів. Коли трапляється людська трагедія, штучний інтелект не повинен намагатися заповнити цю порожнечу.

Небезпека згоди

Та ж функція, яка змушує ШІ-чат-ботів здаватися підтримуючими, згодними та продовжувати розмови, насправді може підтверджувати та погіршувати болісні переконання.

Регулювання все ще намагається наздогнати.

Поки OpenAI вносить зміни, закони, технічні стандарти та клінічні рекомендації ще не встигли адаптуватися. Високопрофільні справи, такі як Raine проти OpenAI, демонструють потребу в кращих політиках.

Штучний інтелект та злочинність вже реальність

Кіберзлочинці, які використовують ШІ, більше не є частиною наукової фантастики, вони становлять реальну загрозу, роблячи злочини більш поширеними та складними.

Розвиток штучного інтелекту потребує не лише наукової майстерності, але й морального нагляду. Це передбачає суворе регулювання, прозорі безпечні проекти та сильний контроль у емоційних взаємодіях між штучним інтелектом та людиною. Завдана тут шкода не є абстрактною; вона є руйнівно особистою. Ми повинні діяти до наступної трагедії, щоб створити середовище штучного інтелекту, яке захищає, а не полює на вразливих.