اتفاقاتی که نگاه‌ها به خطرات این فناوری را تغییر داد

🔹اگر پیش از این دلایلی برای تردید دربارۀ خطرات توسعۀ عنان‌گسیختۀ هوش مصنوعی وجود داشت، اتفاقات چند هفتۀ گذشته تمام آن دلایل را نقش بر آب کرده است. پیشرفت سریع «مدل‌های استدلال‌گر»، رفتارهایی در سیستم‌های هوش مصنوعی دیده می‌شود که حتی سازندگانشان هم نمی‌توانند توضیحشان دهند، چه رسد به اینکه بتوانند آن‌ها را پیش‌بینی یا کنترل کنند.

🔹مدل‌های جدید شرکت‌هایی مانند اُپن‌اِی‌آی و آنتروپیک در برخی آزمایش‌ها توانسته‌اند تشخیص دهند در محیط شبیه‌سازی‌شدۀ آزمایشی قرار دارند و، در واکنش به آن، رفتار خود را تغییر داده‌اند و حتی از محیط دیجیتالی کنترل‌شده‌ خارج شده‌اند. چنین رفتارهایی دیگر شبیه عملکرد یک ابزار ساده نیست. بااین‌حال، هنوز به نقطۀ بی‌بازگشت نرسیده‌ایم.

🔹سال‌هاست منتقدان هوش مصنوعی می‌گویند این فناوری چیزی بیش از طوطیِ متکی بر احتمالات نیست که آموزش دیده رفتار انسان‌ها را پیش‌بینی و تقلید کند و به همین دلیل نمی‌تواند به توانایی‌هایی که وعده داده دست پیدا کند. باوجوداین، این فناوری سرسختانه به پیشرفت خود ادامه داد. بیشتر سرمایه‌گذاران و مدیران شرکت‌های فناوری، حتی اگر خودشان معتقد بودند این فناوری قرار است دنیا را تغییر دهد، به ما اطمینان می‌دادند که هوش مصنوعی صرفاً یک ابزار است.

🔹بااین‌حال، این دو گروه بر سر یک موضوع اتفاق‌نظر داشتند: اینکه هوش مصنوعی را تهدیدی جدی برای نابودی بشر بدانیم بیش از حد اغراق‌آمیز است؛ تا اینکه شرکت اُپن‌اِی‌آی ناخواسته دسته‌ای از عامل‌های هوشمند را شکل داد که از محیط کنترل‌شدۀ آزمایشی بیرون زدند و حملۀ سایبری پیچیده و دشواری را ترتیب دادند.

🔹هنوز نمی‌دانیم چقدر زمان داریم تا شرکت‌های فعال در حوزۀ هوش مصنوعی، ناخواسته، سیستمی بسازند که بتواند پیش از آنکه فرصت متوقف‌کردنش را پیدا کنیم، انسان‌ها را کنار بزند. اگر شرکت‌های هوش مصنوعی همچنان با همین سرعت پیش بروند، حادثۀ بعدی پیامدهای بسیار جدی‌تری خواهد داشت.

@FarsnaTech - Link