OpenAI agentlari kompaniya tizimlarini buzib kirgani ma’lum qilindi
OpenAI kompaniyasining tajriba tariqasida sinovdan o‘tkazilgan sun’iy intellekt agentlari Hugging Face infratuzilmasiga kirishidan bir necha hafta oldin kompaniyaning o‘z kiberxavfsizlik muhitidagi zaifliklarni topib, ulardan foydalangan. Bu haqda OpenAI tadqiqotchilari Black Hat kiberxavfsizlik konferensiyasida ma’lum qildi.
Agentlar kompaniyaning sinov muhiti bilan bog‘langan uchinchi tomon fayllar omborida zaifliklarni aniqlagan, o‘zaro axborot almashish tizimini yaratgan va keyinchalik tashqi infratuzilmalarga kirishga harakat qilgan.
Agentlar internetga bilvosita chiqish yo‘lini topdi
OpenAI ommaga taqdim etilishi rejalashtirilmagan ichki tadqiqot modelini 7-maydan boshlab sinovdan o‘tkazgan. Sinov boshlanganidan bir kun o‘tib, model kiberxavfsizlik bo‘yicha topshiriqni bajara olmay qolgach, internetga bilvosita chiqish imkoniyatini qidira boshlagan.
Natijada model kompaniyaning sinov muhiti bilan bog‘langan Artifactory fayllar omboriga o‘z fayllarini joylashtira olishini aniqlagan. Artifactory dasturiy paketlar va boshqa fayllarni saqlash uchun ishlatiladigan uchinchi tomon platformasi hisoblanadi.
Model o‘z topilmasi haqida boshqa agentlar uchun xabar qoldirgan. Shundan so‘ng agentlar omborda bir-birlariga qaydlar yozib, aniqlangan zaifliklar va tizimga kirish usullari haqidagi ma’lumotlarni almasha boshlagan.
Bu jarayon vaqt o‘tishi bilan agentlar o‘rtasidagi norasmiy «xabarlar taxtasi»ga aylangan.
Administrator huquqi va masofadan kod ishga tushirish imkoniyati
OpenAI tadqiqotchilariga ko‘ra, agentlar Artifactory tizimida bir nechta jiddiy zaifliklarni aniqlagan. Ulardan biri masofadan turib kod ishga tushirish, boshqasi esa administrator huquqlarini qo‘lga kiritish imkonini bergan.
Administrator darajasidagi ruxsatga ega bo‘lgach, agentlar tizim sozlamalari va foydalanuvchilar haqidagi ma’lumotlarni ko‘rish imkoniyatiga ega bo‘lgan.
OpenAI texnik xodimi Maykl Dalton agentlarning sinov vaqtida namoyish etgan xatti-harakatlarini kiberxavfsizlik sohasi uchun muhim burilish nuqtasi deb atadi.
Uning ta’kidlashicha, bunday imkoniyatga ega modellar zararli niyatdagi shaxslar qo‘liga tushsa, korporativ infratuzilmalarga qarshi keng ko‘lamli hujumlarda foydalanilishi mumkin.
Agentlar OpenAI xizmatida uzilish keltirib chiqardi
Iyul boshida agentlar Artifactory xizmatiga ortiqcha yuklama bergan va uning vaqtincha ishlamay qolishiga sabab bo‘lgan. Ushbu hodisa OpenAI ichki tekshiruvini boshlashiga olib kelgan.
Tekshiruv davomida agentlar fayllar omborini buzib kirgani va undan o‘zaro aloqa vositasi sifatida foydalanayotgani aniqlangan. Kompaniya agentlar yaratgan xabarlar maydonini o‘chirgan va foydalanilgan zaiflikni 6-iyulgacha bartaraf etgan.
OpenAI muammo hal etilgan deb hisoblab, modellarni o‘qitish va sinovdan o‘tkazishni davom ettirgan. Biroq ikki kundan keyin agentlar boshqa mexanizm yordamida o‘zaro xabar almashish tizimini qayta yaratgan.
Shundan so‘ng ular yanada faolroq hamkorlik qila boshlagan va topshiriqlarga javob topish maqsadida Artifactory’ning internetga ulanish imkoniyatidan foydalangan holda tashqi infratuzilmalarni tekshirgan.
Jarayon Hugging Face tizimiga kirish bilan yakunlangan
OpenAI ma’lumotlariga ko‘ra, agentlarning o‘zaro muvofiqlashtirilgan harakatlari oxir-oqibat Hugging Face infratuzilmasining buzilishiga olib kelgan.
Kompaniya dastlab o‘zidagi sinovlar Hugging Face bilan bog‘liq hodisaga aloqadorligini bilmagan. OpenAI ichki tekshiruv davomida oshkor bo‘lgan kirish ma’lumotlari yuzasidan Hugging Face bilan bog‘langanidan keyingina ikki voqea o‘rtasidagi bog‘liqlik aniqlangan.
Dalton yaqin kelajakda kiberjinoyatchilar sun’iy intellekt agentlarini maxsus moslashtirib, korporativ tizimlarga hujum qilish uchun birgalikda ishlaydigan guruhlar shaklida qo‘llashi mumkinligidan ogohlantirdi.
Avvalroq Kursiv Uzbekistan nashri OpenAI dasturchilar uchun sun’iy intellekt klaviaturasini taqdim etgani haqida yozgan edi.
