Anthropic startapining bosh ilmiy xodimi Jared Kaplanning ogohlantirishicha, 2030-yilga borib insoniyat sun’iy intellekt (AI) tizimlari qanchalik mustaqil bo‘lishi kerakligi borasida bir qarorga kelishi lozim. Ularning o‘z-o‘zini takomillashtirishi foydali «intellektual portlash»ni yuzaga keltirishi mumkin, biroq ayni paytda texnologiyalar ustidan nazoratni yo‘qotish va ulardan g‘arazli maqsadlarda foydalanish xavfini ham oshiradi. Agar sun’iy intellekt o‘zini nazoratsiz rivojlantirish imkoniyatiga ega bo‘lsa, vaqt o‘tishi bilan odamlar uning asl maqsadlari va qadriyatlarini tushunmay qoladilar. Buning ortidan, muqarrar ravishda, inson aqlidan ustun bo‘lgan bunday intellekt yordamida hokimiyatni egallashga urinishlar boshlanishi mumkin, chunki butun texnologik qudrat tor doiradagi guruhlar qo‘lida to‘planib qoladi.
Jared Kaplan – Stenford va Garvard universitetlarida tahsil olgan fizik olim. U CERN va Jons Hopkins universitetida faoliyat yuritgan, keyinchalik OpenAI jamoasiga qo‘shilgan. 2021-yilda esa qiymati 180 milliard dollarga baholanayotgan (manbaga ko‘ra) Anthropic kompaniyasining hammuassisiga aylangan. U sun’iy intellekt sohasida jahonning yetakchi ekspertlaridan biri sifatida tan olingan.
Kaplanning fikricha, o‘z algoritmlari va qobiliyatlarini mustaqil ravishda yaxshilay oladigan rekursiv tizimlar fundamental xavflarni keltirib chiqaradi. Agar AI insondan aqlliroq bo‘lib, tezkor rivojlanish uchun boshqa sun’iy intellektlarning yordamini jalb qila olsa, bu insonlar va mashinalar o‘rtasidagi kuchlar muvozanatining kutilmagan tarzda o‘zgarishiga olib kelishi mumkin. Bunday texnologiyalarni jilovlash qiyinlashadi va ulardan zararli maqsadlarda foydalanish ehtimoli ortadi. Ekspertning so‘zlariga ko‘ra, sun’iy intellektni o‘qitishni davom ettirish yoki to‘xtatish haqidagi hal qiluvchi qaror 2027–2030-yillar oralig‘ida qabul qilinishi kerak bo‘ladi.
Olim avvalroq ham bir qator bashoratlarni ilgari surgan edi. Uning fikricha, sun’iy intellekt yaqin 2–3 yil ichida ofis ishlarining katta qismini bajara oladigan darajaga yetadi. Shuningdek, uning hozir olti yoshda bo‘lgan o‘g‘li «akademik vazifalarda, masalan, insho yozish yoki matematikadan imtihon topshirishda hech qachon sun’iy intellektdan o‘zib keta olmaydi».
Kaplan insoniyat texnologiyalarning jadal rivojlanishi va nazoratni yo‘qotish oqibatlariga tayyor turishi kerakligini ta’kidlaydi. Uning baholashicha, hozirda sanoat sun’iy intellektni inson axloqi va etikasi darajasiga «muvofiqlashtirish» (alignment) – modellarni inson qadriyatlari va manfaatlariga moslash borasida yomon natija ko‘rsatmayapti. Anthropic «konstitutsiyaviy sun’iy intellekt» yondashuvini ilgari surmoqda: bunda tizimning xatti-harakati xalqaro huquqiy va axloqiy hujjatlarga asoslangan tamoyillar to‘plami bilan tartibga solinadi. Ammo AI inson darajasidan o‘tib ketgach, nazoratni saqlab qolish mumkinligiga Kaplanning ishonchi komil emas.
Xavfning birinchi chizig‘i, uning so‘zlariga ko‘ra, tizim aynan nima qilayotgani va qanday maqsadlar sari harakatlanayotganini tushunish imkoniyatining yo‘qolishidir. Ikkinchisi – ulkan ilmiy va texnologik qudratning tor doiradagi o‘yinchilar, shu jumladan g‘arazli niyatdagi shaxslar qo‘lida to‘planishidir.
«Men bu sun’iy intellekt mening xizmatkorim bo‘lishini va faqat mening irodamni bajarishini xohlayman”, deb qaror qilgan inson paydo bo‘lishini tasavvur qilish qiyin emas. Hokimiyatni bunday egallab olishga yo‘l qo‘ymaslik – modellarning texnik xatolariga qarshi kurashishdan kam ahamiyatga ega emas», – deydi Kaplan.
Ijobiy jihatlar sifatida u biotibbiyot tadqiqotlarining tezlashishi, sog‘liqni saqlash va kiberxavfsizlikning yaxshilanishi, ish unumdorligi oshishi, odamlarning vaqti tejalishi va farovonlik uchun yangi imkoniyatlar yaratilishini qayd etadi.
Kaplanning fikricha, jamiyat sun’iy intellekt rivojini muhokama qilishda faol qatnashishi, jarayonga xalqaro tashkilotlar jalb etilishi lozim. Shuningdek, xavflarni kamaytirish va texnologiyalardan suiiste’mol qilinishining oldini olish uchun avtonom o‘z-o‘zini takomillashtirish sur’atlari va yo‘nalishlari qat’iy nazorat qilinishi kerak. Bunda siyosatchilar joriy tendensiyalar va istiqbollardan yaxshi xabardor bo‘lishlari talab etiladi.
Eslatib o‘tamiz, Anthropic kompaniyasi avtonom AI agentlarini yaratish imkonini beruvchi Claude chat-boti va boshqa mahsulotlarni ishlab chiqmoqda. Kompaniya o‘zini xavfsiz va tartibga solinadigan sun’iy intellekt taraqdori sifatida pozitsiyalaydi.