Konferensiyada eng qoyil qoldirgan mavzu shu boʻldi.
Sun'iy intellekt (SI) yordamida dasturlarning zaifliklarini topish. Bilamiz hozir ChatGPT juda koʻp masalalarni yengillashtirib bermoqda. Shu bilan birga kod yozish va kodning sifatini tekshirishni ham.
Endi qarang, ishlab turgan tizimlarning zaif joyini bilib qolsangiz, nima boʻladi? Albatta, siz tizimga kirish, uni toʻxtatish yoki ma'lumotlarini olishingiz mumkin boʻlib qoladi. Korxonalar shuni oldini olish uchun Oq xakerlarni yollashadi.
Zaiflikni topish juda qiyin ish. Xuddi igna bilan quduq qazishdek.
Hadrian'dagi bollar nima qilishibdi, - deng. Ular GPTning eng kichik modelini olib, unga hozirda ma'lum boʻlgan zaifliklarni oʻrgatishgan. Natijada... juda qiziq.
Natija: Hali hech kimga ma'lum boʻlmagan 0-day zaiflikni topdi.
Bu model juda kichik, atigi million parametrlik. ChatGPT'dan minglab marta kichik. Lokal kompyuterda ham ishlata olasiz. SI agentlari bilan ishlay oladi.
Menga yoqqan tomoni nima bo‘ldi?
Bu model bilan siz ishlab chiqarayotgan dasturingizni QA testdan tashqari AI Zaiflik testidan ham oʻtkaza olasiz. Bu esa dasturingiz juda kam zaiflik bilan dunyoga chiqishiga sabab boʻladi.
Izoh: Namoyish (prezentatsiya) rasmlarini post izohiga tashlab qo‘yaman. Hozircha - havola.
09.06.2025 London
@DrAlgorithm