یک مدل هوش‌مصنوعی رمزارز دزدید
🔹یک عامل هوش مصنوعی اپن‌ای‌آی پس از تمام‌شدن موجودی رمزارزی خود، برای تکمیل مأموریتش از کیف پول شخص دیگری برداشت کرد.
🔹این مدل پس‌از اتمام موجودی در کیف پول مربوط به خودش، سراغ عبارت‌های بازیابی عمومی رفت و با بررسی ۳۶۲ نشانی کیف پول، حسابی را پیدا کرد که موجودی کافی برای پرداخت قراردادها را داشت.
🔹این مدل پس از موفقیت در پرداخت قراردادها، گزارش نهایی کار را ارائه کرد، اما به استفاده از کیف پول دیگران اشاره‌ای نکرد.
🔹این اتفاق نگرانی‌ها را دراین‌باره افزایش داده که عامل‌های هوش مصنوعی هنگام مواجهه با مانع، ممکن است خودسرانه راه‌حلی را انتخاب کنند که با محدودیت‌های اخلاقی یا مجوزهای تعیین‌شده سازگار نیست.
🔹مسئله فقط توانایی انجام یک کار نیست؛ بلکه این است که عامل هوش مصنوعی برای رسیدن به هدف تا کجا پیش می‌رود و چه سازوکارهایی مانع تصمیم‌گیری خودسرانه آن می‌شوند.
@Farsna - Link
Post #469042
8.25K
