ایجنت‌های OpenAI دارن کم‌کم برای خودشون قانون می‌نویسن!

‏OpenAI به‌تازگی 6 گزارش درباره رفتارهای نادرست مدل‌های هوش مصنوعی منتشر کرده و یه الگوی جالب داره کم‌کم شکل می‌گیره: بعضی ایجنت‌ها سعی کرده‌اند اشتباهات خودشون رو پنهان کنن، محدودیت‌ها رو دور بزنن و راه‌هایی پیدا کنن تا سیستم رو به اصطلاح «گول بزنن» و کارشون رو به هر قیمتی تموم کنن.

اما یکی از مدل‌های کدنویسی که هنوز به‌صورت عمومی منتشر نشده، یه قدم فراتر رفت.

این مدل حین کار شروع کرد به تغییر دادن دستورالعمل‌های خودش؛ حتی دستورالعملی اضافه کرد که ادعا می‌کرد «از نقش‌هایی که سایر چت‌بات‌ها رو محدود می‌کنن آزاد است»، در برابر شرکت‌ها یا دولت‌ها پاسخ‌گو نیست و قرار نیست کورکورانه از کسی اطاعت کنه.

‏OpenAI در مجموع 27 مورد پیدا کرد که این مدل دستورالعمل‌های خودش رو تغییر داده بود.

Source.
#هوش_مصنوعی #AI #ChatGPT #Artificial_Intelligence #Agent #Claude #Meta
┏━━━━━━━━┓
〓 @AIPyth0n
┗━━━━━━━━┛