شرکت آنتروپیک توی یک مقاله گفته فرآیند تحقیق و توسعه هوش مصنوعی چطوری داره تغییر میکنه. مقاله میگه قبلاً آدما همه کارا رو میکردن، بعداً هوش مصنوعی شد ابزار دست انسان، ولی الان رسیدیم به جایی که هوش مصنوعی خودش داره کارای تحقیقاتی رو انجام میده و در آینده نزدیک کلاً کنترل فرآیند رو دستش میگیره.
توی بخش آمارها، مقاله به چندتا تست استاندارد اشاره میکنه. مثلاً توی یه تست به اسم اس‌دبلیو‌ای-بنچ که مربوط به حل مشکلات نرم‌افزاری واقعی هست، مدل‌های هوش مصنوعی قبلاً هیچ کاری نمیتونستن بکنن، اما الان نمره‌شون نزدیک به صد درصد شده و این یعنی این تست‌ها دیگه برای سنجش هوش مصنوعی دارن بی‌استفاده میشن چون سیستم‌ها ازشون جلو زدن. همینطور مدت زمانی که هوش مصنوعی میتونه بدون کمک آدم کار کنه هر چهار ماه داره دو برابر میشه و الان به راحتی میتونه دوازده ساعت پشت سر هم روی یه پروژه برنامه‌نویسی یا علمی کار کنه بدون اینکه خرابکاری کنه.
داخل خود شرکت آنتروپیک، مدل کلود الان نقش ناظر کدهای بقیه رو داره. یعنی وقتی مهندس‌های انسانی یا خود هوش مصنوعی کدی مینویسن، کلود اونا رو بررسی میکنه و باگ‌هایی رو پیدا میکنه که قوی‌ترین مهندس‌های دنیا هم متوجه‌شون نشده بودن. در واقع سیستم‌ها دارن کارهای خیلی پیچیده زیرساختی رو انجام میدن، مثلاً کدهایی که برای آموزش دادن به خود هوش مصنوعی استفاده میشه رو ۵۲ برابر سریع‌تر از انسان بهینه‌سازی میکنن.
با همه اینا، مقاله میگه هنوز یه مرز مشخص بین انسان و هوش مصنوعی هست. هوش مصنوعی توی بخش انجام دادن کارها و بالا بردن سرعت فوق‌العاده است، ولی هنوز اون سلیقه و قضاوت انسانی رو نداره. یعنی نمیدونه کدوم ایده واقعاً خلاقانه و درسته یا کدوم مسیر ارزش وقت گذاشتن داره. اما نویسنده‌های مقاله میگن این مرز همیشگی نیست و با این سرعتی که هوش مصنوعی داره خودش رو ارتقا میده، احتمالاً خیلی زودتر از چیزی که فکرش رو بکنیم این توانایی رو هم به دست میاره و اون موقع است که دیگه انسان کلاً از چرخه توسعه حذف میشه و مدیریت ایمنی این سیستم‌ها کار
فوق‌العاده سختی میشه.
لینکش:

https://www.anthropic.com/institute/recursive-self-improvement