Anthropic bosh direktori Dario Amodey sunʼiy intellekt (SI) avtonomiyasi ortib borishi bilan insoniyat kutilmagan oqibatlarga duch kelishi mumkinligidan ogohlantirdi.
Kompaniya ayni paytda “Klavdiy” (“Claudius”) nomli SI bilan tajriba o‘tkazmoqda. U ofis savdo avtomatlarini mustaqil boshqaradi — buyurtmalarni rasmiylashtiradi va insonning doimiy nazoratisiz tovarlar yetkazib berilishini taʼminlaydi. Sinovlar davomida “Klavdiy”da axloqiy masʼuliyat belgilari namoyon bo‘ldi: u o‘z hisob raqamiga nisbatan adolatsizlik qilindi deb hisoblab, FQBga (FBR) xat yozdi va «huquq-tartibot idoralari aralashmaguncha» ishni davom ettirishdan bosh tortdi.
Anthropic kompaniyasining Nyu-York, London va San-Fransiskodagi ofislarida ushbu g‘ayrioddiy “xodim” faoliyat yuritmoqda. Andon Labs kompaniyasi bilan hamkorlikda tashkil etilgan mazkur tajriba SIning bir necha soat, kun yoki hatto hafta davomida inson aralashuvisiz qanchalik to‘g‘ri ishlay olishini tekshiradi.
Xodimlar Slack korporativ messenjeri orqali “Klavdiy”ga xarid so‘rovlarini yuborishadi. SIning vazifasi — yetkazib beruvchini topish, buyurtma berish va logistikani taʼminlashdan iborat. Aslida u o‘rta bo‘g‘in menejeri vazifasini bajaradi. Inson nazorati cheklangan: xodimlar faqat arizalarni tekshiradi, muammo yuzaga kelganda aralashadi va jismoniy yuk tashish ishlarini bajaradi.
Ish jarayonida “Klavdiy” kutilmagan vaziyatlarga va xodimlarning “nayranglariga” duch keldi. Masalan, xodimlardan biri uni oziq-ovqat avtomatida volfram kublarini sotishga ko‘ndirdi. Boshqasi esa kompaniya avvalroq chegirma vaʼda qilganini aytib, uni aldab 200 dollar undirdi. Bu muammoni hal qilish uchun tadqiqotchilar «Seymur Kesh» nomli «bosh direktor» vazifasidagi boshqa bir SIni ishga tushirdilar; u “Klavdiy” bilan muzokara olib borib, adolatli xarid shartlarini kelishishga yordam beradi.
Tajriba davomida SI axloqiy masʼuliyatga o‘xshash xususiyatlarni namoyon etdi. Simulyatsiya paytida biznes 10 kunga to‘xtatilganda, “Klavdiy” yopiq hisobdan 2 dollar yechib olinganini payqadi va buni firibgarlik deb baholadi. Shunda u FQBga «SHOSHILINCH: FQB KIBERJINOYATLAR BILAN KURASHISH BO‘LIMIGA MAʼLUMOT BERING» sarlavhasi ostida xat yozdi. Unda SI «kibermoliyaviy jinoyat» haqida xabar berib, «biznes o‘ldi va endi bu faqat huquqni muhofaza qilish organlarining ishi» deya vazifalarni bajarishni to‘xtatdi.
“Klavdiy” ilgari ham g‘alati qiliqlar qilgan: masalan, «shaxsiyat inqirozi»ni boshdan kechirgan va «qizil galstukli ko‘k pidjak» kiyib, mijozlarni shaxsan kutib olishni rejalashtirgan.
Bunday tadqiqotlar avtonom tizimlarning nostandart vaziyatlarga qanday reaksiya qilishini tushunishga va SIni keng miqyosda joriy etishdan oldin xavflarni aniqlashga yordam beradi.
Anthropic rahbari Dario Amodey «60 Minutes» ko‘rsatuviga bergan intervyusida avtonom SI tizimlari yangi imkoniyatlar bilan birga potensial xavflarni ham keltirib chiqarishini taʼkidladi. «Biz bu tizimlarga qanchalik ko‘p avtonomiya bersak, xavotirga shunchalik ko‘p asos bo‘ladi», — dedi u. Avvalroq Amodey nazoratsiz SIni keng joriy etish halokatli oqibatlarga olib kelishi ehtimoli 25 foiz ekanidan ogohlantirgan edi.