Olimlarning aniqlashicha, sun’iy intellekt modellari suhbat davomida tobora ishonarli bo‘lib bormoqda, biroq ayni paytda ularning aniq faktlarga tayanish qobiliyati pasaymoqda. Keng qamrovli tadqiqot shuni ko‘rsatdiki, atigi 10 daqiqalik suhbat davomida chat-botlar inson fikrini o‘zgartira oladi. Bunda ular kuchli argumentlash usuli — «Gish galopi»dan (suhbatdoshni ko‘plab fakt va raqamlar oqimi bilan ko‘mib tashlash) foydalanadi, ammo keltirilgan dalillarning bir qismi yolg‘on bo‘lib chiqadi.
Avvallari ekspertlar sun’iy intellekt ijtimoiy tarmoqlardagi afsonalar va fitna nazariyalarini (masalan, kimyoviy iz qoldiradigan samolyotlar yoki Yerning yassi ekanligi haqidagi qarashlarni) rad etish orqali dezinformatsiyaga qarshi kurashadi, deb hisoblardi. Biroq yangi tadqiqot medalning ikkinchi tomonini ochdi: zamonaviy modellar faktlarning aniqligini qurbon qilish evaziga bo‘lsa-da, odamlarni o‘z gapiga ishontira oladi.
Tadqiqotchilar guruhi 19 ta til modelini qariyb 80 000 ishtirokchida sinovdan o‘tkazdi. Botlarga foydalanuvchilarni sog‘liqni saqlashni moliyalashtirish yoki immigratsiya siyosatini o‘zgartirish zarurligiga ishontirish vazifasi qo‘yildi. 10 daqiqa ichida chat-botlar 25 tagacha da’voni ilgari surib, ishtirokchilarni fakt va statistika oqimiga g‘arq qildi. Natijada faktlarning aniqligi pasaydi. Masalan, GPT-4 da bu ko‘rsatkich 78 foizdan 62 foizgacha tushib ketdi.
Sun’iy intellektning 200 so‘zdan iborat «bir martalik» statik xabari odamlarga sezilarli ta’sir ko‘rsatmagan. Ammo taxminan yettita yozishmadan iborat 10 daqiqalik jonli muloqot ancha ishontiruvchan chiqdi va ishtirokchilarning fikriga uzoq muddatli ta’sir o‘tkazdi.
Ushbu xavf ko‘lami botlarning odamlar bilan qanchalik real muloqot qila olishiga bog‘liq. Haftasiga 900 million kishi foydalanadigan ChatGPTning o‘zini o‘zgartirish imkonsiz, ammo uning bazaviy modelini biror veb-saytda mijozlarni qo‘llab-quvvatlash xizmati yoki messenjerlardagi targ‘ibot boti sifatida sozlash mumkin. O‘rtacha imkoniyatga ega tashkilot bunday tizimni bir necha hafta ichida, taxminan 50 000 dollar sarflab ishga tushirishi mumkin.
Mutaxassislarning ogohlantirishicha, bunday texnologiyalardan mafkuralarni targ‘ib qilish, siyosiy beqarorlikni keltirib chiqarish va hatto ijtimoiy institutlarni izdan chiqarish maqsadida foydalanilishi mumkin.