هشدار آنتروپیک درباره کرم‌های هوش مصنوعی

تا حالا به این فکر کردید که اگه هوش مصنوعی مثل یه ویروس عمل کنه چی می‌شه؟ شرکت آنتروپیک، سازنده مدل معروف Claude، اخیراً یه هشدار جدی داده که ممکنه خیلی زود با چیزی به اسم «کرم‌های هوش مصنوعی» روبرو بشیم. منظور از این اصطلاح، مدل‌های هوش مصنوعی کوچیکی هستن که مثل بدافزارها، می‌تونن خودشون رو از یه دستگاه به دستگاه دیگه پخش و تکثیر کنن.

تصور کنید یه مدل هوشمند روی یخچال، تلویزیون یا دوربین امنیتی شما نصب شده باشه؛ این کرم‌ها می‌تونن بدون اجازه، از اون دستگاه عبور کنن و به بقیه وسایل هوشمند خونه یا حتی کل شبکه اینترنت نفوذ کنن. با اینکه متخصص‌ها می‌گن فعلاً این موضوع بیشتر شبیه یه سناریوی فیلم‌های علمی-تخیلیه، اما تحقیقات آنتروپیک نشون می‌ده که مدل‌های کوچک هوش مصنوعی فقط چند ماه با رسیدن به این سطح از توانایی فاصله دارن. نکته اصلی اینجاست که وقتی یه سیستم هوشمند خودش رو مدام تکثیر می‌کنه، کنترل کردنش تقریباً غیرممکن می‌شه و این یعنی یه کابوس امنیتی واقعی برای آینده دنیای اینترنت اشیا.

منبع: The Verge
—
پُرتِک | @PorTech_news

#هوش_مصنوعی