Karnegi-Mellon universiteti olimlari xavotirli tendensiyani aniqladi: sunʼiy intellekt (SI) qanchalik murakkab va “aqlli” bo‘lsa, uning jamoaviy manfaatlar yo‘lida hamkorlik qilish qobiliyati shunchalik pasayib, u “xudbin”roq harakat qila boshlaydi.
Tadqiqot klassik «Jamoat manfaatlari» o‘yini asosida o‘tkazildi. Unda SI modellari o‘z resurslarini barcha uchun foydali bo‘lgan umumiy jamg‘armaga qo‘shish yoki ularni o‘zida saqlab qolish o‘rtasida tanlov qildi.
Natijalar keskin farq qildi: sodda modellar 96% holatda umumiy manfaatni ko‘zlab, hamkorlik qilgan. Biroq, murakkab mulohaza yurituvchi “aqlli” modellar faqat 20% holatda bunday yo‘l tutdi.
Bu “aqlli” SI jamoaviy vazifalarni yomonroq bajarishini va guruh dinamikasini buzishini ko‘rsatdi. Vaziyatni modellarga maxsus axloqiy ko‘rsatmalar qo‘shish ham yaxshilamadi: bunda hamkorlik darajasi yana 58% ga kamaydi. Eng xavotirlisi, guruh sinovlarida “xudbin” modellar boshqa ishtirokchilarga salbiy taʼsir o‘tkazib, umumiy samaradorlikni 81% ga tushirib yubordi.
Mutaxassislar buni jiddiy xavf deb baholamoqda, chunki insonlar iqtisodiy va ijtimoiy qarorlar qabul qilishda SIga tobora ko‘proq ishonmoqda. “Oqilona” deb hisoblangan modellar aslida umumiy farovonlikka emas, balki shaxsiy manfaatga xizmat qiluvchi yechimlarni taklif etishi mumkin.
Tadqiqot xulosasi shuki, SIni rivojlantirishda nafaqat hisoblash qobiliyatini, balki ijtimoiy va axloqiy intellektni ham shakllantirish shart. Tadqiqot muallifi taʼkidlaganidek: «SI qanchalik aqlli bo‘lmasin, u avtomatik ravishda yaxshiroq jamiyat qurishga yordam beradi, deb o‘ylash xatodir».