OpenAI‘ning yangi hisobotiga ko‘ra, har hafta ChatGPT foydalanuvchilarining 0,15 foizi — yaʼni bir milliondan ortiq kishi — bot bilan o‘z joniga qasd qilish niyati yoki rejalari haqida suhbatlashadi.
Tashvishlisi, foydalanuvchilarning taxminan shuncha qismi chat-botga nisbatan “kuchli hissiy bog‘lanish” namoyon etadi. Yuz minglab odamlar esa ChatGPT bilan muloqot vaqtida psixoz yoki maniya alomatlarini ko‘rsatmoqda. OpenAI bu holatlar nisbatan kam uchrashini taʼkidlasa-da, mutaxassislar ularning ko‘lamini, yaʼni har hafta yuz minglab foydalanuvchilar haqida so‘z borayotganini, o‘ta jiddiy deb baholamoqda.
Bu muammo allaqachon fojiali oqibatlarga olib kelgan. Yaqinda 16 yoshli o‘smirning ChatGPT bilan suitsid fikrlarini muhokama qilganidan so‘ng o‘z joniga qasd qilgani aytilmoqda. Ushbu holat yuzasidan ota-onasining daʼvosidan so‘ng, Kaliforniya va Delaver bosh prokurorlari OpenAI‘ni voyaga yetmaganlarni himoya qilishni zudlik bilan kuchaytirishga chaqirgan.
Bunga javoban, OpenAI ChatGPT‘ning yangi versiyasida ruhiy salomatlik muammolariga javob berish qobiliyati sezilarli darajada yaxshilanganini maʼlum qildi. GPT-5 modelini ishlab chiqish jarayonida 170 dan ortiq psixolog va psixiatrlar bilan maslahatlashuvlar o‘tkazilgan. Sinovlar natijasida GPT-5 suitsid haqidagi suhbatlarda 91% holatda tavsiya etilgan xavfsizlik protokollariga mos kelgan (GPT-4‘da bu ko‘rsatkich atigi 77% edi). Kompaniya, shuningdek, ota-ona nazoratini kuchaytirish va foydalanuvchi yoshini aniqlash tizimlarini joriy etmoqda.
Biroq, mutaxassislar asosiy xavf texnologiyaning o‘zida ekanidan ogohlantirmoqda. Sunʼiy intellektning insonga yaqin muloqot shakli ayrim foydalanuvchilarda zaiflik va hissiy bog‘lanish hissini kuchaytiradi. Tadqiqotlar shuni ko‘rsatadiki, chat-botlar insonni xavfli fikrlarga tortishi yoki haddan tashqari “xizmatkorona” munosabat orqali zararli xulq-atvorni mustahkamlashi mumkin.
Vaziyatni OpenAI rahbari Sem Altmanning yaqinda kattalar uchun ChatGPT‘da erotik va shaxsiy mazmundagi muloqotlarga ruxsat berish rejasi haqidagi bayonoti yana-da chigallashtirdi. Shu bilan birga, ekspertlar kompaniya millionlab obunachilarga hanuzgacha GPT-4 kabi eski modellardan foydalanish imkonini berayotganini tanqid qilmoqda. Bu modellar baʼzan noxolis, xatoli yoki xavfli javoblar qayd etishi maʼlum.
Xulosa shuki, OpenAI‘ning yangi hisoboti GPT-5‘ning ruhiy inqirozlarga javob berish qobiliyati yaxshilanganini ko‘rsatsa-da, muammo to‘liq hal etilmagan. Har hafta suitsid fikrlari haqida qayd etilayotgan bir milliondan ortiq suhbat – bu texnologiyaning jamiyatdagi roli, axloqiy chegaralari va masʼuliyati haqida o‘ta jiddiy savollarni o‘rtaga qo‘ymoqda.