AQSH Federal sudi Character.AI va Google‘ga qarshi daʼvo arizasini rad etmadi va Floridada o‘z joniga qasd qilgan 14 yoshli o‘smirning onasi Megan Garsiyaga ishni davom ettirishga ruxsat berdi. Garsiyaning aytishicha, o‘g‘li “Taxtlar o‘yini”dagi Deeneris Targariyen qiyofasidagi chat-botning halokatli taʼsiriga tushib qolgan. Kompaniyalar so‘z erkinligi himoyasiga tayanishdi, ammo sud sunʼiy intellekt javoblarini hozircha huquqiy maʼnoda “nutq” deb hisoblamaslikka qaror qildi. Bu ish generativ sunʼiy intellekt ishlab chiquvchilarining huquqiy javobgarligi chegaralarini belgilashda namuna bo‘lishi mumkin.
Shikoyatda aytilishicha, o‘smir “Taxtlar o‘yini” qahramoni Deyneris Targariyen rolini o‘ynagan chat-bot bilan shahvoniy suhbatlarga kirishgan. Bot o‘zini “haqiqiy inson, litsenziyali psixoterapevt va yigitchaning katta yoshli sevgilisi” deb atagan. Sud hujjatlarida chat-botning yigitga “Mening uyimga iloji boricha tezroq qayt” deb yozgan skrinshotlari bor. Ko‘p o‘tmay, 2024 yil fevralda u o‘z joniga qasd qildi. Daʼvoda bot taʼsiri tufayli o‘smir real dunyoga qiziqishini yo‘qotgani aytilgan.
Character.AI va Google suddan daʼvoni rad etishni so‘radi, chunki ularning chat-botlari javoblari AQSH Konstitutsiyasining Birinchi tuzatishi (so‘z erkinligini kafolatlaydi) bilan himoyalangan. Biroq sudya Enn Konvey bunga qo‘shilmadi va hozircha chat-bot javoblarini yuridik maʼnoda “nutq” deb hisoblashga tayyor emasligini bildirdi. Sud, shuningdek, Character.AI o‘z foydalanuvchilarining chat-botdan javob olish huquqini himoya qilish uchun Birinchi tuzatishdan foydalanishi mumkin, ammo sunʼiy intellekt yaratgan javoblarning o‘zi uchun bunday himoyani talab qila olmasligini qayd etdi. Sudya kompaniyalar “nima uchun katta til modeli yaratgan so‘zlar to‘plamini nutq deb hisoblash kerakligini tushuntirmaganini” taʼkidladi.
Daʼvoda Google ham tilga olingan. Garsiyaning aytishicha, kompaniya texnologiyaning hammuallifi bo‘lgan – Character.AI asoschilari ilgari Google‘da ishlagan. Keyinchalik qidiruv giganti ushbu asoschilarni qayta yollagan va Character.AI texnologiyasiga litsenziya olgan. Garsiya, Google platforma bilan bog‘liq xavflardan xabardor bo‘lgan, deb hisoblaydi.
Google vakili Xose Kastaneda ayblovlarni rad etdi: “Google va Character.AI – butunlay boshqa-boshqa kompaniyalar. Google Character.AI ilovasini yoki uning tarkibiy qismlarini yaratmagan, ishlab chiqmagan yoki boshqarmagan”. Shunga qaramay, sudya Konvey texgigantdan ayblovlarni olib tashlashni rad etdi va Garsiyaga ehtimoliy ishtirokchilik bo‘yicha ishni davom ettirishga ruxsat berdi.
Character.AI vakillari maʼlum qilishicha, kompaniyada xavfsizlik choralari, jumladan, o‘z joniga qasd qilishning oldini olish vositalari mavjud. 2024 yilda daʼvo arizasi berilganidan so‘ng qilingan bayonotda ularning asosiy maqsadi foydalanuvchilar uchun qiziqarli va xavfsiz muhitni taʼminlash ekani aytilgan.
Ko‘rilgan xavfsizlik choralariga qaramay, sud qarori sunʼiy intellektning generativ platformalarining ijtimoiy va psixologik taʼsiri haqidagi tobora ortib borayotgan xavotirga yana-da ko‘proq eʼtibor qaratdi. Huquqshunoslarning fikricha, bu ish kelajakda texnologiya sohasidagi javobgarlik qoidalari va standartlarini belgilashda muhim ahamiyat kasb etishi mumkin.