هشدار مدیرعامل Anthropic

مدیرعامل Anthropic، می‌گه توانایی مدل‌های AI داره سریع‌تر از روش‌های کنترل و ایمن‌سازی‌شون رشد می‌کنه؛ مخصوصا حالا که AI می‌تونه به ساخت نسل بعدی مدل‌ها کمک کنه.❗️

✔️برای کنترل این وضعیت، اون سه راه پیشنهاد داده:

• تیم‌های مستقل به فرایندهای داخلی شرکت‌های AI دسترسی داشته باشن
• استانداردهای ایمنی مشترکی برای صنعت تعریف بشه
• کشورها برای کنترل مدل‌های خیلی قدرتمند با هم همکاری کنن

📌 شرکت Anthropic هم گفته تیم‌های مستقل بررسی ایمنی می‌تونن فرایند توسعه مدل‌ها و Incidentهای احتمالی رو از نزدیک بررسی و نتایجش رو منتشر کنن.

این پیشنهاد به‌ معنی توقف توسعه AI نیست؛ هدف اینه که روش‌های کنترل و ایمن‌سازی از سرعت پیشرفت مدل‌ها عقب نمونن.

🤖 GenX؛ برای توسعه‌دهندگانی که آینده رو می‌سازن


✅ Telegram | ✅ twitter | Linkedin |✅ Instagram