⚠️ هشدار سم آلتمن درباره تبدیل AI به مرجع قضاوت انسان

سم آلتمن، مدیرعامل OpenAI، هشدار داده که نسبت دادن نوعی قدرت مذهبی یا اخلاقی به مدل های هوش مصنوعی و واگذار کردن قضاوت انسانی به آنها می تواند به یک ریسک واقعی Safety تبدیل شود.
اظهارات آلتمن همزمان با افزایش بحث ها درباره Consciousness، اخلاق و جایگاه احتمالی مدل های بسیار پیشرفته مطرح شده است. شرکت Anthropic نیز پیش از این با گروهی از رهبران دینی، فیلسوفان و متخصصان حوزه اخلاق درباره ارزش ها و نحوه شکل گیری رفتار Claude گفت و گو کرده بود.
آلتمن مستقیما Anthropic را در پست خود هدف قرار نداده، بنابراین ارتباط دادن قطعی این هشدار به اقدامات Anthropic دقیق نیست؛ اما زمان بندی اظهارات او باعث شده این دو دیدگاه دوباره در برابر یکدیگر قرار بگیرند.
مسئله اصلی فراتر از اختلاف نظر دو شرکت است. هرچه Chatbot ها انسانی تر و شخصی تر شوند، خطر این که کاربران به جای استفاده از آنها به عنوان ابزار، تصمیم گیری اخلاقی یا شخصی خود را به مدل واگذار کنند جدی تر می شود.
بحث AI Safety دیگر فقط درباره مدل های خودمختار یا حملات سایبری نیست؛ میزان اعتماد انسان به پاسخ AI هم به یکی از مسائل اصلی ایمنی این فناوری تبدیل شده است.

🔐 Hackers Zone
آدرس کانال: @Hackers_Zone