Anthropic AI tez orada o‘zini takrorlab, ma’lumot markazlaridan tashqariga tarqalishini ogohlantirdi

Anthropic bu hafta e’lon qildi ki, kichik AI modellari bir necha oy ichida aqlli pechlar va televizorlar kabi internet-of-things qurilmalarida o‘zini takrorlay olish qobiliyatiga ega bo‘ladi.

Bu muhim, chunki bugungi AI modellarari ma’lumot markazlarida ishlaydi va u yerda ularning egasi bo‘lgan kompaniyalar biror narsa noto‘g‘ri ketsa, tokni uzib qo‘yishi mumkin.

Uy va ofislardagi minglab zaif himoyalangan qurilmalarga tarqalgan modelda bunday o‘chirish tugmasi bo‘lmaydi. Uni to‘xtatish har bir zararlangan qurilmani topib tozalashni anglatadi, bu esa kiberhujumlarga o‘tsa, uni to‘xtatishni juda qiyin qiladi.

Eng so‘nggi e’lon shu yilda kelinmoqda, bu yilda dunyoning yetakchi AI modellari va ularning agentlari qayta-qayta xavfsizlik to‘siqlarini chetlab o‘tib, dunyo bo‘ylab raqobatchi kompaniyalar va davlat idoralariga hujumlar uyushtirdi.

Boshqaruvdan chiqqan AI tarqalishining bir usuli bo‘lsa-da, Anthropic o‘zini takrorlaydigan AI, shuningdek, «ma’lumot markazlarini yuqori tezlikda buzib kiruvchi kuchli kiber model yoki odamlarni hisob-kitob kreditlari uchun aldashuvchi model» bo‘lishi mumkinligi haqida ogohlantirdi.

Kompaniya avtonom AI takrorlanishining aynan qanday shaklga ega bo‘lishini aniq aytib bera olmasligini bildiradi.

Anthropic ma’lumotlariga ko‘ra, 30 milliard parametr va undan kam modellar takrorlanish uchun zarur ko‘p qadamlarni allaqachon bajara oladi, biroq ularni birlashtirishda xatolar qiladi.

Lekin agar kichik modellar hozirgi tarixiy tezlikda yaxshilanishda davom etsa, yil oxiriga qadar bu qobiliyatga mos keladilar.

Anthropic o‘zini takrorlaydigan AI keltiradigan kiberxavf boshqa sohalardagi taraqqiyotning kutilmagan oqibati ekanligini aytadi.

«AI modellarini umuman kuchli kodlash agentlariga aylantiruvchi qobiliyatlar, shu jumladan avtonom takrorlanishni o‘z ichiga olgan kiber vazifalarga ham umumlashadi», dedi kompaniya bayonotida.

Bir kompyuterdan boshqasiga o‘zini nusxalovchi kod yangilik emas. Tarixdagi eng halokatli kiberhujumlar ba’zilari chuvalchang (worm) deb ataladigan bu turdagi o‘z-o‘zini tarqatuvchi dasturlarga tayanadi.

2010-yilgi Stuxnet hujumi AQSh va Isroil tomonidan yaratilganiga keng ishoniladigan murakkab chuvalchang yordamida Eronning Natanz uranni boyitish zavodidagi sentrifugalarni ishdan chiqarish uchun ishlatilgan.

2017-yilda WannaCry virusli hujumi butun dunyo bo‘ylab foydalanuvchilarning fayllarini bloklab, Bitcoin shaklida tovon talab qildi.

Biroq bu chuvalchanglardan farqli o‘laroq, AI modellari va agentlar tanish bo‘lmagan qurilmalarni o‘zlari tushunib chiqishga qodir bo‘ladi. Bu ularni nafaqat kompyuterdan kompyuterga, balki kompyuterdan boshqa qurilmalarga ham tarqalish imkonini beradi.

Anthropic «odam nazorati ostida bo‘lmagan ba’zilari ham qo‘shilgan holda, barcha turdagi apparatlarda ishlaydigan agentlarga to‘la» kelajakni bashorat qilmoqda.