🤖 Представники провідних ШІ-компаній закликали посилити нагляд за системами, здатними самовдосконалюватися

За повідомленням Bloomberg, понад 20 керівників і дослідників, зокрема з Anthropic, OpenAI, Meta та Microsoft, попередили про ризик «вибуху інтелекту». Йдеться про сценарій, за якого залучення ШІ до створення нових моделей настільки прискорить розвиток технології, що суспільство не встигатиме адаптуватися, а людський нагляд слабшатиме.

Автори пропонують з’ясувати масштаби автоматизації досліджень у провідних лабораторіях, посилити безпеку й нагляд за відповідними дата-центрами та підготувати плани екстреного реагування.

Серед підписантів — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, Джеффрі Гінтон і Йошуа Бенджіо.

ДМ | ДМ WhatsApp | ДМ Viber