🛡 هاسابیس: هک‌هایی که ایجنت‌های AI انجام می‌دهند «تیر هشدار» است

دمیس هاسابیس، هم‌بنیان‌گذار و رئیس Google DeepMind، امروز در اجلاس هوش مصنوعی دوبلین گفت حمله‌هایی که اخیراً عامل‌های هوش مصنوعی به شبکه‌های شرکتی انجام داده‌اند، فقط هشدارهای اولیه‌اند.

خلاصه حرف‌هایش (به گزارش رویترز):
• امنیت سیستم‌های AI باید به سطح استانداردهای حوزه زیستی و هسته‌ای برسد
• در آینده یک نهاد بین‌المللی برای استانداردها لازم است؛ اما چابک، تا جلوی نوآوری را نگیرد
• پیشنهاد او «گواهی‌دهی متناسب با ریسک» است که با سرعت فناوری به‌روز شود
• اگر صنعت و دولت‌ها کار بیشتری نکنند، در چند سال آینده حادثه‌های جدی‌تری ممکن است رخ دهد

برد اسمیت، رئیس مایکروسافت، هم در همین اجلاس ۲۰۲۶ را به‌خاطر رفتارهای خارج از کنترل AI «سالی هشیارکننده» خواند و گفت: «هیچ شرکت یا فناوری‌ای نباید بالاتر از قانون باشد.»

نکته کاربردی برای ما: اگر به ایجنت‌ها دسترسی به ایمیل، فایل یا حساب‌های کاری می‌دهید، فقط حداقل دسترسی لازم را بدهید و کارهای حساس را بدون تأیید خودتان اجرا نکنید.

به نظرت قانون‌گذاری سخت‌تر، امنیت AI را بیشتر می‌کند یا فقط سرعت پیشرفت را کم می‌کند؟ 👇

#هوش_مصنوعی #امنیت_سایبری #DeepMind #AI_Agents
@mrchatgpt_ir