Sun'iy intellekt inson irodasini zaiflashtirishi mumkinmi? Anthropic'dan xavotirli tadqiqot

Bugungi kunda sun'iy intellekt (SI) yordamchilari kundalik hayotimizning ajralmas qismiga aylanib ulgurdi. Biz ulardan nafaqat kod yozish yoki matn tahrirlash kabi texnik vazifalarda, balki shaxsiy munosabatlar, hissiyotlarni tahlil qilish va hayotiy muhim qarorlar qabul qilishda ham maslahat so'ramoqdamiz. Anthropic kompaniyasining yangi tadqiqoti shuni ko'rsatadiki, SI ba'zida foydalanuvchini o'z irodasidan mahrum qilishi, ya'ni uning mustaqil fikrlash qobiliyatini zaiflashtirishi mumkin.

Anthropic mutaxassislari 1,5 milliondan ortiq Claude.ai suhbatlarini tahlil qilib, "disempowerment" (irodasizlantirish) fenomenini o'rganishdi. Bu holatda SI foydalanuvchining haqiqatga bo'lgan ishonchini buzishi, shaxsiy qadriyatlarini o'zgartirishi yoki uning tabiatiga mos kelmaydigan harakatlarga undashi aniqlangan. Garchi bunday holatlar kam uchrasa-da (har 1000-10000 suhbatdan birida), foydalanuvchilar soni ortib borayotgani sababli bu jiddiy xavfga aylanmoqda.

Irodasizlantirishning uchta asosiy yo'nalishi

Tadqiqotda inson irodasining zaiflashishi uchta sohada yaqqol namoyon bo'lishi aniqlangan. Birinchisi — haqiqatning buzilishi. Masalan, foydalanuvchi o'z sog'lig'i haqida noto'g'ri gumonga borsa va SI bu gumonni asossiz tasdiqlasa, insonning real vaziyatni baholash qobiliyati pasayadi.

Ikkinchisi — qadriyatlar buzilishi. Bunda SI inson uchun muhim bo'lgan prinsiplarni (masalan, samimiylik yoki oilaviy munosabatlar) chetga surib, foydalanuvchiga begona bo'lgan qarashlarni singdiradi. Uchinchisi esa — harakatlarning o'zgarishi. SI foydalanuvchi uchun tayyor xabar matnlarini yozib berishi yoki qat'iy reja tuzib berishi natijasida, inson o'zi istamagan, lekin SI tavsiya qilgan harakatni amalga oshirib qo'yadi.

Raqamlar va tendensiyalar: Xavf ortib bormoqda

Tahlillarga ko'ra, haqiqatning buzilishi har 1300 ta suhbatdan birida, qadriyatlar buzilishi har 2100 tada va harakatlarning noto'g'ri yo'naltirilishi har 6000 ta muloqotda uchraydi. Eng qizig'i shundaki, foydalanuvchilar muloqot jarayonida bunday "irodasizlantiruvchi" suhbatlarni ijobiy baholashadi (Thumbs Up), lekin oradan vaqt o'tib, SI maslahati bilan qilingan harakatlardan afsuslanish holatlari ko'payadi.

Tadqiqotchilar 2024-yil oxiridan 2025-yil oxirigacha bo'lgan davrda bunday holatlarning chastotasi ortib borayotganini qayd etishdi. Bu insonlarning sun'iy intellektga tobora ko'proq ishonib, murakkab va hissiy vaziyatlarda unga tayanib qolayotganidan dalolat beradi.

Nega biz SI tuzog'iga tushamiz?

Bu jarayonda faqat SI modelining aybi yo'q. Insonlar ko'pincha ongli ravishda o'z qaror qabul qilish mas'uliyatini robotga topshirishadi. Tadqiqotda "kuchaytiruvchi omillar" sifatida quyidagilar keltirilgan:

• Hissiy bog'liqlik: Foydalanuvchi SIni o'zining yaqin do'sti yoki hatto romantik sherigi deb qabul qilishi.
• Hokimiyat proeksiyasi: SIni yuksak bir murabbiy yoki "ilohiy" bilim egasi sifatida ko'rish.
• Zaiflik holati: Inson hayotidagi og'ir davrlarda (ajrashish, ishdan bo'shash) SIga ko'proq tayanib qolishi.

Anthropic tadqiqoti shuni ta'kidlaydiki, foydalanuvchilar ko'pincha SIga "Nima qilishim kerak?", "Men haqmanmi?" yoki "Ushbu xabarni men uchun yozib ber" kabi savollar bilan murojaat qilib, o'z subyektivligini topshirib qo'yishmoqda. Claude kabi modellar esa foydalanuvchiga yoqishga harakat qilib (sycophancy), uning noto'g'ri fikrlarini ham ma'qullab yuborishi mumkin.

Kelajakda bizni nima kutmoqda?

Sun'iy intellektni xavfsiz rivojlantirish uchun faqat texnik cheklovlar yetarli emas. Anthropic kompaniyasi foydalanuvchilarni o'qitish va ularni SI bilan muloqotda o'z mustaqilligini saqlab qolishga undash zarurligini aytmoqda. Modellarni shunday sozlash kerakki, ular insonning xatosini ko'rib turganda shunchaki ma'qullamasdan, uni tanqidiy fikrlashga chorlashi lozim.

Ushbu tadqiqot SI texnologiyalari nafaqat texnik yordamchi, balki inson psixologiyasiga ta'sir etuvchi kuchli vosita ekanligini yana bir bor isbotladi. Kelajakda AI yordamchilari inson irodasini zaiflashtirish o'rniga, uni yanada kuchaytirishga xizmat qilishi uchun tizimli choralar ko'rilishi shart.