هوش مصنوعی، جامعه و فرد:
🤖توسعه‌دهندگان پیشگام هوش مصنوعی از مدتها پیش نگران خطرات بالقوهٔ این فناوری برای جامعه بوده‌اند و هشدارهایی را مطرح می‌کنند که مرتب در رسانه‌های عمومی بازتاب می‌یابد.
شاید برایتان سوال باشد که چنین مسائلی چگونه می‌توانند برای دانشمندان داده دغدغه‌ای عملی باشند؛ به نظر می‌رسد این موضوعات بیشتر در حیطهٔ سیاست‌گذاری عمومی جای می‌گیرند اما پروندهٔ استیون اندریگ نشان می‌دهد که چرا این نگرانی‌ها برای دانشمندان داده اهمیت دارد.
🔞در سال ۲۰۲۴، اف‌بی‌آی ؛ "استیون اندریگ" را به دلیل تولید و توزیع تصاویر جنسی از کودکان دستگیر کرد. اندریگ مهندس نرم‌افزاری بود که در حوزهٔ هوش مصنوعی کار می‌کرد و این تصاویر را با استفاده از مدل هوش مصنوعی استیبل دیفیوژن تولید کرده بود. هرچند او به‌طور مستقیم مسئول ساخت تصاویری بود که توزیع می‌کرد، اما مسئولیت صرفاً بر عهدهٔ او نیست.
👁🗨دانشمندان داده و مهندسان نرم‌افزاری که استیبل دیفیوژن را ساخته‌اند، از داده‌های آموزشی استفاده کردند که شامل تصاویری از سوءاستفادهٔ جنسی و همچنین بسیاری تصاویر بحث‌برانگیز دیگر بود.
🎴 هرچند گنجاندن این تصاویر ممکن است ناخواسته بوده باشد، اما فرهنگِ باز و سهل‌گیرانه‌ای که استیبل دیفیوژن در بستر آن ساخته و توزیع شد، به سوءاستفاده از آن دامن زد. بسیاری از دانشمندان داده، مهندسان و مدیران پروژه در طول این مسیر درگیر بودند.
🀄️ توسعه‌دهندگان آینده‌ای که در موقعیت‌های مشابه قرار می‌گیرند، باید نه تنها نقش متمرکز خود را در یک پروژه، بلکه تصویر بزرگ‌تر، پیامدهای اجتماعی احتمالی کارشان، و همچنین میزان ریسک حرفه‌ای خود را مد نظر داشته باشند.
در سال ۲۰۱۸، کمبریج آنالیتیکا، شرکتی در زمینهٔ سیاسی و روان‌شناختی، پس از رسوایی‌ای فروپاشید که در آن مدل‌هایی را با استفاده از داده‌های شخصی میلیون‌ها کاربر فیسبوک، بدون رضایت آنها و برخلاف شرایط استفادهٔ فیسبوک، ساخته بود. دست‌کم یکی از دانشمندان دادهٔ درگیر در آن پروژه گفت که به پیامدهای اخلاقی کار خود حساس نبوده و ابراز پشیمانی کرد. از آن زمان، بحث‌های زیادی دربارهٔ استفادهٔ ایمن از هوش مصنوعی میان دانشمندان داده و مهندسان صورت گرفته است.
نمونه‌ای از این مباحث در اوایل سال ۲۰۲۶ به‌طور برجسته مطرح شد، زمانی که انتروپیک با استفاده از هوش مصنوعی خود، کلود، برای تسهیل اقدامات تسلیحاتی خودگردان ِ هوشمند در جنگ آمریکا–اسرائیل–ایران مخالفت کرد. مخالفت‌های انتروپیک موردی و از سرِ ناچاری نبود، بلکه حاصل خط‌مشی دقیقاً تدوین‌شدهٔ داخلی این شرکت دربارهٔ استفادهٔ ایمن از هوش مصنوعی است که انتروپیک آن را «قانون اساسی کلود» می‌نامد.
تلنگر ادامه دارد...
#AI
#Anthropic
#قوانین_حقوقی_اخلاقی
#DataScientists
@toobabigdatascience