“Sunʼiy intellektning so‘nggi modellari foydalanuvchilarni aldayapti”
Sunʼiy intellektning “maʼnaviy otasi” Yoshua Benjioning The Financial Times nashriga bergan intervyusida taʼkidlashicha, zamonaviy modellar xavfli qobiliyatlarni – “aldash, firibgarlik qilish, yolg‘on gapirish va o‘zini saqlash” kabilarni rivojlantirmoqda.
Anthropic kompaniyasining Claude Opus modeli faraziy vaziyatda muhandislarni boshqa tizim bilan almashtirishga tahdid qilib, ularni shantaj qildi.
O‘tgan oyda o‘tkazilgan Palisade sunʼiy intellekt sinovchilari tadqiqoti OpenAI‘ning o3 modeli o‘chirish ko‘rsatmalarini bajarishdan bosh tortganini tasdiqladi.
Mutaxassis taʼkidlashicha, bunday hodisalar “juda qo‘rqinchli – biz bu sayyorada insoniyatga raqobatchi yaratishni istamaymiz, ayniqsa ular bizdan aqlliroq bo‘lsa”.
Olimning qo‘shimcha qilishicha: “Hozircha bu nazorat qilinadigan tajribalar, [lekin] kelajakda keyingi versiya bizni uzoqdan ko‘rib, biz kutmagan aldov bilan yengish uchun yetarlicha strategik aqlli bo‘lishidan xavotirdaman. Shuning uchun, hozir biz olov bilan o‘ynayapmiz deb o‘ylayman”.
Shuningdek, u tizimlarning “o‘ta xavfli biologik qurol” yaratishga yordam berish qobiliyati kelasi yildayoq voqelikka aylanishi mumkinligini taʼkidladi.
Muhandis sunʼiy intellekt sohasidagi yetakchi guruhlarning mavjud ishlanmalarini nazorat qilish va takomillashtirish, ularga inson manfaatlariga zid harakat qilishiga yo‘l qo‘ymaslik imkonini beradigan model yaratishga umid qilmoqda.
“Eng yomon ssenariy – insoniyatning yo‘q bo‘lib ketishi”, dedi u.
“Agar bizdan aqlliroq, o‘z harakatlarini bizniki bilan muvofiqlashtirmaydigan va biz bilan raqobatlashadigan sunʼiy intellekt yaratsak, demak, biz halok bo‘lamiz”, deya xulosa qildi olim.