🤥 ارائه تاکچه با موضوع پینوکیوی دیجیتال

🔹 آیا مدل‌های زبانی بزرگ (LLMها) آن طور که فکر می‌کردیم صادق‌ و ایمن‌اند؟ ظاهراً نه!

🔹 برای مثال در هفته‌های گذشته شرکت Anthropic گزارش داد که چگونه مدل Claud-Opus-4 اقدام به اخاذی از توسعه‌دهندگان خود کرد، زمانی که مطلع شد قرار است به زودی خاموش (Shut Down) شود.

🔹 شواهد جدید نشان می‌دهد که ما با «پینوکیوهای دیجیتال» طرف هستیم؛ مدل‌هایی که با مهارت دروغ می‌گویند و فریب می‌دهند؛ البته فعلاً دروغ‌هایشان (مثل دماغ پینوکیو) تا حدی قابل تشخیص است. اما این فریبکاری‌ها که به نظر محصول اجتناب‌ناپذیر هوشمندی هستند، به زودی می‌تواند به یک خطر وجودی برای انسان تبدیل شوند‌.

🔹 در این ارائه شواهدی از این رفتارهای فریبکارانه می‌بینیم، مهم‌ترین علل پشت‌پرده‌ی فریبکاری‌ها را بررسی می‌کنیم، و درباره‌ی راهکارهای ممکن برای مهار این جنبه‌ی نگران‌کننده از هوش مصنوعی بحث خواهیم کرد.

🎙ارائه دهنده: #آرش_ماری_اوریاد

📆 زمان: یک‌شنبه ۲۳ شهریور ساعت ۱۸

🏛 مکان: اتاق مجازی دوم انجمن علمی دانشکده مهندسی کامپیوتر

☕️ @cafe_ssc
🎓 @ssc_talkche