🔸هوش مصنوعی چگونه از پاسخ‌های نامطمئن دوری می‌کند؟

🔹پژوهشگران گوگل دیپ‌مایند در یک آزمایش چهارمرحله‌ای نشان دادند مدل‌های زبانی بزرگ می‌توانند میزان اطمینان خود به پاسخ‌ها را ارزیابی کنند و در صورت کافی نبودن اطمینان، از ارائه پاسخ خودداری کنند؛ قابلیتی که به کاهش پاسخ‌های گمراه‌کننده و افزایش اعتمادپذیری هوش مصنوعی کمک می‌کند.

🔹وبگاه تِک‌اکسپلور در گزارشی آورده است:
مدل‌های زبانی بزرگ (اِل‌اِل‌اِم‌ها) همان سامانه‌های هوش مصنوعی هستند که پشت سکوهای گفت‌وگویی مانند چَت‌جی‌پی‌تی و جمینای قرار دارند. از این مدل‌ها انتظار می‌رود بدون نظارت متخصصان انسانی به پرسش‌ها پاسخ دهند، متن تولید کنند و تصمیم بگیرند؛ اما پژوهش‌های گذشته نشان می‌دهد این مدل‌ها گاهی کاربران را گمراه می‌کنند و پاسخ‌هایی نامطمئن ارائه می‌دهند؛ پاسخ‌هایی که در آن‌ها به گزاره‌های نادرست یا نادقیق، اطمینان زیادی ابراز می‌شود.

https://irna.ir/xjYgW7
@IRNA_1313
↪️ @commac