‏🔺 ۳/۴

در سوی دیگر جنگ، ایران نیز از همین فناوری بهره می‌برد. بازیگران ایرانی، بر اساس یادداشت ارزیابی تهدید اخیر آنتروپیک (Anthropic)، سعی کردند با کمک کلود (Claude) پایگاه‌های آمریکایی را هدف بگیرند؛ هرچند آنتروپیک این استفاده را مسدود کرد. تهران تقریباً یقین دارد که دوباره این کار را خواهد کرد.

OpenAI به‌صورت آرام‌گیرانه ممنوعیت «نظامی و جنگی» را از شرایط خود در سال ۲۰۲۴ حذف کرد؛ همان‌طور که سام بیدل از نشریه The Intercept فاش کرد. اخیراً، پنتاگون از OpenAI خواست ربات گفتگویی بسازد که «نرخ رد کمینه» داشته باشد. (هر دو OpenAI و وزارت دفاع این ادعا را رد می‌کنند و می‌گویند متن پیشنویس بوده.)

هزینه سنگین انسانی خطاهای هوش مصنوعی

آیا فناوری کار می‌کند یا نه، یا بیش از حد کار می‌کند؟ هر دو، و هر دو ترسناک‌اند. هر یک از این ربات‌های گفتگویی مصرف‌کننده دوست دارند به ما یادآوری کنند که می‌توانند اشتباه کنند. تا سال ۲۰۲۴، دقت Maven حدود ۶۰ ٪ به‌طور کلی است، طبق گفته افسر ارتش که آن را مدیریت می‌کند — یعنی حدود ۲۴ نقطه درصد کمتر از یک انسان.

اشتباهات هدف‌گیری نظامی، چه توسط انسان و چه توسط ماشین، پیامدهای تراژیک واقعی دارند. در ساعت‌های نخست جنگ ایالات متحده و اسرائیل با ایران، یک حمله موشکی به مدرسه دخترانه‌ای در میناب، ایران، ۱۷۵ نفر را کشت، عمدتاً دانش‌آموزان. این سنگین‌ترین حادثه جنگ تا به امروز بود، اما طبق نظرسنجی IGA تنها حدود نیمی از آمریکایی‌ها از آن مطلع‌اند. در مارس، ۱۲۰ نماینده دموکرات مجلس نمایندگان نامه‌ای به پنتاگون نوشتند و درباره استفاده از هوش مصنوعی، از جمله Maven، در این حمله سؤال کردند.

نقص‌های قابل توجه این فناوری‌ها در طول جنگ اسرائیل با غزه به وضوح دیده شد؛ برخی کارشناسان سازمان ملل و گروه‌های حقوق بشر اسرائیلی آن را نسل‌کشی توصیف کرده‌اند. اسرائیل عملیات غزه در مه ۲۰۲۱ را «اولین جنگ هوش مصنوعی» نامید. امروز، مقیاس هدف‌گیری مبتنی بر هوش مصنوعی بسیار گسترده‌تر شده؛ مجله +972 گزارش داد که سامانه‌های Lavender و Gospel اسرائیل ده‌ها هزار هدف ایجاد کرده‌اند و در نتیجه تحمل کشته شدن غیرنظامیان را کاهش داده‌اند. کارکنان نظامی اسرائیل به پژوهشگر صوفیا گودفرند گفتند که ChatGPT و ابزارهای دیگر در غزه به کار رفته‌اند. با این حال، نزدیک به سه سال پس از ۷ اکتبر، دشوار است بگوییم جنگ هوش مصنوعی برای اسرائیل به‌طور مؤثری عمل کرده؛ این امر منجر به گسترش مأموریت و تخریب بیشتر در غزه شده است.

جنگ‌های پهپادی آمریکا پیش‌نمایان جنگ‌های هوش مصنوعی بودند

پیشینهٔ آمریکایی برای این نیز وجود دارد. «جنگ‌های پهپادی» که نخست تحت جورج دبلیو بوش آغاز شد و تحت باراک اوباما سرعت گرفت، تصویری جذاب از عملیات‌های بدون سرنشین از دور ارائه داد. کنگره هرگز قانونی دربارهٔ حملات پهپادی تصویب نکرد و محدودیت‌های اجرایی که تیم اوباما وضع کرد کافی نبود؛ انگیزهٔ کمی برای تنظیم جنگ‌های بدون سرنشین وجود داشت. همچنین فشار بین‌المللی از طریق کنترل تسلیحات یا سازمان ملل اعمال نشد.

نسل جدید پهپادها، که بسیاری قابلیت خودمختاری دارند، سلاح‌های جنگ‌های ترامپ هستند. این ماه، گزارش شد که ایران یک پهپاد زیرآبی را از توسعه‌دهندهٔ سامانه‌های بدون سرنشین ایالات متحده، اندوریل، به‌دست آورد. یک پهپاد پیشرفته از Shield AI، استارتاپ بزرگ فناوری نظامی ایالات متحده، در چارچوب کمپین حملات قایقی سیا در کارائیب شناسایی شد (منبع Drop Site News).

در طول این دوره، تنها پشتوانه‌ها میلیاردرهایی بودند که شرکت‌ها را تأسیس کردند، غول‌های فناوری در هیئت‌مدیره‌هایشان، و شاید سرمایه‌های خلیج با ارتباطات دولتی که از طریق دورهای سرمایه‌گذاری به آن‌ها کمک مالی می‌کردند. عموم مردم آمریکا هرگز شفافیتی شبیه به این تلاش‌ها دریافت نکردند — چه افشای اجباری به کنگره هنگام حضور هوش مصنوعی در زنجیرهٔ کشنده، چه الزام بازبینی انسانی برای اجرای حملات، یا نتایج کامل تحقیق بمباران مدرسه میناب که به‌عموم منتشر شد. در سال ۲۰۲۶، احتمال بیشتری دارد که در یک تماس مالی فصلی به‌صورت رسمی دربارهٔ کارایی هوش مصنوعی و پهپادها شنیده شود تا در یک کمیتهٔ سنا.

این مشکل فراتر از فناوری‌های آزمایش‌نشده است؛ وقتی نظارت بر توانایی کشندهٔ هوش مصنوعی از طریق شرایط استفادهٔ یک شرکت خصوصی انجام می‌شود، ورود به جنگ بسیار آسان‌تر می‌شود.

دربارهٔ نویسنده: جاناتان گایر (Jonathan Guyer)