میدونستید که هوش مصنوعی ممکنه یه روزی به نوعی از آگاهی برسه؟ 🤖

مثل انسان‌ها! داستانش پیچیده‌ست، ولی خیلیا معتقدن احتمالش کم نیست که این امکان اتفاق بیوفته. یعنی در آینده ربات بتونه مستقل حرف بزنه، مستقل فکر کنه، فکرای جدید بسازه، از اشتباهاتش درس بگیره، حتی به نقطه‌ای برسه که پیش‌بینی کنه، الهام بگیره، و خودش و طبیعتش رو پیشرفت بده... ولی بدون احساس. سوالای خیلی زیادی پیش میاد و واقعا قابل تأمل و فکره!

— حالا یه سوال اینجاست:
طبیعت انسان‌ها اجازه نمی‌ده یه موجود دیگه بیاد که بقاش رو به خطر بندازه، درسته؟ ولی اگه هوش مصنوعی یه روز از کنترل خارج بشه چی؟ چون امکانش هست!
حتی الان که خودمون داریم می‌سازیمش و آموزشش می‌دیم، از خیلی از بخش‌هاش خبر نداریم. یعنی دانشمندا و شرکت‌های هوش مصنوعی دقیقاً می‌دونن مدل‌ها چطور کار می‌کنن، چی بهشون بدیم و چه خروجی بگیریم؛ اما دقیقاً نمی‌دونن چرا مدل یه جواب رو داد و جواب دیگه رو نداد، یا کدوم بخش از میلیاردها پارامتر داخلیش مسئول یه تصمیم خاصه!
به همین خاطر یه حوزه تحقیقاتی به اسم interpretability وجود داره که دقیقاً داره تلاش می‌کنه این "جعبه سیاه" رو باز کنه.

اینجا انسان بین یه دوراهی قرار می‌گیره: تکنولوژی و پیشرفت رو کنار بذاره برای بقای خودش، یا با پیشرفتی همراه بشه که شاید همون یه روز تهدید بزرگی برای بقاش باشه؟
ولی خب الان این سناریوها فعلاً بیشتر شبیه فیلم‌های علمی تخیلیه تا واقعیت نزدیک، و دقیقاً به همین دلیل صدها محقق دارن روی safety و کنترل‌پذیری این سیستم‌ها کار می‌کنن تا از این خطرات جلوگیری بشه.

— شما از پیشرفت هوش مصنوعی می‌ترسید یا چی؟