Andrej Karpathy 'Claw' agentlari haqida: AI texnologiyalarining yangi bosqichi va xavfsizlik xatarlari

Andrej Karpathy dam olish kunlarida yangi Mac Mini sotib olib, 'Claw' (tirnoq) deb atalayotgan yangi turdagi agentlar bilan jiddiy shug'ullanishni boshladi. Apple Store xodimlarining so'zlariga ko'ra, ushbu qurilmalar hozirda juda xaridorgir, biroq ko'pchilik foydalanuvchilar hali ham bu yangi texnologiya nima ekanligi va uning imkoniyatlari borasida biroz chalkashliklarga ega.

Claw – LLM agentlari ustidagi yangi qatlam

Karpathy-ning fikricha, Claw agentlari shunchaki chatbotlar emas, balki LLM (katta til modellari) agentlari ustiga qurilgan butunlay yangi texnologik qatlamdir. Ular orkestratsiya, rejalashtirish, kontekstni boshqarish va turli asboblar bilan ishlashni (tool calls) yangi bosqichga olib chiqadi. Bu shunchaki so'rovga javob beruvchi tizim emas, balki ma'lum bir vazifani bajarish uchun uzoq vaqt davomida ishlay oladigan doimiy muhitdir.

Ushbu sohada ko'plab yangi loyihalar paydo bo'lmoqda. Ular orasida nanobot, zeroclaw, ironclaw va picoclaw kabi turli prefikslarga ega agentlarni ko'rish mumkin. Karpathy ushbu o'zgarishlarni AI stekining hayajonli va istiqbolli qismi deb hisoblaydi.

OpenClaw va xavfsizlik "dahshati"

Biroq, sohadagi barcha yangiliklar ham ijobiy emas. Karpathy OpenClaw loyihasini ishga tushirishga nisbatan shubha bilan qaramoqda. Taxminan 400 ming qatorli, "vibe kodlangan" (tartibsiz va murakkab yozilgan) ushbu tizim jiddiy xavfsizlik muammolariga ega ekanligi aytilmoqda. Hozirda RCE (masofadan kod bajarish) zaifliklari, ta'minot zanjiri zaharlanishi va foydalanuvchi ma'lumotlarining ochiq qolishi kabi holatlar kuzatilmoqda.

Shaxsiy ma'lumotlar va maxfiy kalitlarni bunday nazorat qilinmagan va ochiqdan-ochiq hujumga uchrayotgan tizimlarga topshirish "xavfsizlik dahshati" bo'lishi mumkin. Karpathy uchun bunday hajmdagi va sifatsiz kodlangan loyihalar bilan ishlash jozibali ko'rinmaydi.

NanoClaw: Kichik va audit qilinadigan yechim

Andrej kichikroq va samaraliroq loyihalarga, xususan NanoClaw-ga alohida e'tibor qaratmoqda. Uning kodi bor-yo'g'i 4000 qator atrofida bo'lib, bu tizimni inson va AI agenti tomonidan tushunishni, tekshirishni (audit) va boshqarishni ancha osonlashtiradi. NanoClaw-ning o'ziga xosligi shundaki, u barcha jarayonlarni konteynerlarda ishga tushiradi.

Yana bir hayratlanarli jihati – uning konfiguratsiya usuli. Bu yerda odatiy sozlash fayllari o'rniga "ko'nikmalar" (skills) tizimidan foydalaniladi. Masalan, /add-telegram buyrug'i agentga Telegram-ni integratsiya qilish uchun kodni qanday o'zgartirish kerakligini o'rgatadi. Bu esa "if-then-else" kabi murakkab shartli kodlar massasidan qochish imkonini beradi.

Mahalliy qurilmalarning afzalligi

Karpathy bulutli xizmatlardan ko'ra, uydagi mahalliy qurilmalarda ishlaydigan agentlarni afzal ko'rmoqda. Bulutli tizimlarda tajriba o'tkazish (tinkering) ancha qiyinroq. Mahalliy sozlamalar esa uy avtomatizatsiyasi gadjetlari bilan oson bog'lanish imkonini beradi.

Ekspertning ta'kidlashicha, jismoniy qurilma ichida go'yoki "shaxsiy raqamli uy elfi" (digital house elf) borligi va u butun uyni boshqarishi estetika jihatidan ham alohida zavq bag'ishlaydi. Hozircha Karpathy o'zining yakuniy tizimini to'liq shakllantirmagan bo'lsa-da, Claw-lar AI olamidagi eng qiziqarli yo'nalish bo'lib qolmoqda.