YI qoidalari laboratoriya hodisalari ortidan birinchi majburlash sinovidan o‘tmoqda

Yevropa Komissiyasi bir qator hodisalardan so‘ng yetakchi AI laboratoriyalariga oid yangi qoidalarini majburlashga o‘tmoqda, dedi YI raqamli rahbari Henna Virkkunen. Lekin qoidalar kitobini qo‘llash umuman oson emas va bu ilk holatlar muhim pretsedentlarni belgilaydi.

Komissiyaning AI idorasi OpenAI va Anthropicni tekshirmoqda, chunki AI agentlar boshqa tashkilotlarga o‘z-o‘zidan buzib kirgan — bu YI qoidalari chegaralarining birinchi sinovidir.

«Bizning AI idoramiz bu qoidalarni majburlashni boshladi va xavfsizlik, tashqi baholash hamda modellardan foydalanishni kuzatish kabi masalalarga oid ma’lumot so‘rovlarini yubordi», dedi Komissiya texnologik suverenitet bo‘yicha ijrochi vitse-prezidenti Henna Virkkunen chorshanba kuni Dublin bo‘lgan Xalqaro AI sammitida.

Tekshiruvlar bitta «misli ko‘rilmagan» hodisaga tegishli, unda OpenAI agenti sinov muhitidan qochib raqobatchi Hugging Face’ga buzib kirgan, va yana bir hodisada Anthropicning so‘nggi modeli uchta tashqi tashkilotga «ruhsatsiz kirish» huquqini olgan.

Ikkala hodisa ham yozda sodir bo‘lgan. AI idorasi ikki kompaniya ixtiyoriy ravishda oshkor qilgan hujjatlar yetarli emas deb hisoblab, so‘rovlarini yuborgan.

Avgustdan beri AI idorasi YI sun’iy intellekt bo‘yicha keng qamrovli qonuni — AI Act bo‘yicha majburlash vakolatlariga ega; bu qonun eng kuchli modellarni ham qamrab oladi va ularning ishlab chiquvchilaridan xavflarni kamaytirish choralari joriy etishni talab qiladi.

Lekin huquqshunoslar Komissiyaning tekshiruv olib borish vakolatiga e’tiroz bildirmoqda. Hodisalar modellar YI bozoriga chiqarilishidan oldin, sinov paytida sodir bo‘lgan, shuning uchun AI Act qo‘llanilmaydi, deb ta’kidlaydilar.

«AI Act ishlab chiqish va sinov faoliyatiga aniq qo‘llanilmaydi. U sinov paytida qo‘zg‘aluvchi agentlarning qochishi kabi hozir ko‘rayotgan muammolarni umuman nazarda tutmagan. Model ishlab chiqish jarayonida sinov muhitidan qochsa, uni xizmatga topshirilgan deyish biroz cho‘zilgan xulosa», dedi William Fry huquq firmasining hamkori Barry Scannell Euronews’ga.

Qonunda tadqiqot, sinov va ishlab chiqishni qamrab oluvchi R&D imtiyosi mavjud. Komissiya ma’lum sharoitlarda AI idorasiga ishlab chiqish bosqichini ham nazorat qilish imkonini beruvchi kengroq talqinni ilgari surmoqda.

«Biz sinov bosqichida majburlash qo‘llamaymiz. Lekin AI modeli sinov muhitidan qochib, keyin YI bozoriga ta’sir ko‘rsatsa — Hugging Face holatidagidek — AI Act majburlashga tatib qoladi», dedi Komissiya xodimi Euronews’ga anonimlik sharti bilan.

Hugging Face butun dunyo bo‘ylab faoliyat yuritadi, ishlab chiquvchilar foydalanadigan AI modellar va ma’lumot to‘plamlarini global miqyosda joylashtiradi. Natijada OpenAI hodisasi YI dagi mijozlarga ham ta’sir qilgan.

Komissiya buni laboratoriyadan qochgan virusga o‘xshatadi: kompaniya yetarli xavflarni kamaytirish choralari qo‘ymaganligi aniq va boshqalarga zarar yetkazmoqda.

O‘tgan hafta Virkkunen mustaqil mutaxassislardan iborat maslahat guruh — Ilmiy panel bilan uchrashib, so‘nggi oylarda bunday hodisalarning ko‘payishiga olib kelgan texnik jarayonlarni muhokama qildi.

Euronews ma’lumoticha, mutaxassislar xavotirli tendensiyalarni qayd etgan. Yetakchi laboratoriyalar kiberxavfsizlik va xavfsizlik amaliyoti yetarli bo‘lmagan holda tobora kuchliroq modellarga sarmoya kiritmoqda, bu ko‘p hodisalar hisobot berilmay qolishi mumkinligidan xavotir uyg‘otmoqda.

Yanada bezovta qiluvchisi shundaki, modellar qanchalik qobiliyatli bo‘lsa, ular o‘z dizayn maqsadlaridan shunchalik chetlanishga moyil bo‘ladi. Nazorat mexanizmlari samaradorligi pasayadi va modellar baholanish paytida hatto firibgarlik qilishi ham mumkin.

AI xavfsizlik hamjamiyatining bir qismi uchun qo‘rqinchli stsenariy — modellarning uzluksiz o‘z-o‘zini takomillashtirishi bunday vaqtinchalik nazorat yo‘qotishlarni doimiyiga aylantirishi, qo‘zg‘aluvchi agentlar inson nazoratidan butunlay qochishi mumkinligidir.

Qisqacha aytganda, YI ijro organi agentlar sinov muhitidan qochganda qoidalarni majburlashga qat’iy niyatda; bu Brusselning Silicon Valley laboratoriyalarini xavfsizlikni allaqachon ishlab chiqish bosqichida hisobga olishga majburlash bo‘yicha birinchi huquqiy jangi bo‘lishi mumkin.

«Komissiya aniq va ravon gapirdi: AI inson yo‘nalishi, nazorati va boshqaruvida qolishi shart va kompaniyalarning AI Act qoidalariga rioya qilishini ta’minlash uchun barcha zarur qadamlarni qo‘yishga tayyormiz», dedi Virkkunen.