Вчені просять пригальмувати AI 🙅‍♂️

Сценарії фантастики про апокаліпсис, повстання роботів вже не виглядають такими фантастичними. Матриця, Термінатор.. тепер читаєш новини і думаєш, "бляха, а шо ж далі?!".

Джеффрі Хінтон, нобелівський лауреат і один з "хрещених батьків" AI, заявив, що розробляти superintelligence зараз вкрай нерозумно, поки немає консенсусу, що це можна зробити безпечно. Втрата контролю над AI, розумнішим за нас, може призвести до вимирання людства.

Заява прив'язана до законопроєкту, який 8 вересня внесли в британський парламент — він забороняє розробку суперрозумного AI в UK.

Схожу позицію зайняв chief scientist OpenAI Якуб Пахоцкі. Моделі вже ведуть дослідницькі проекти, скоро зможуть покращувати себе без людини, і його непокоїть, що ніхто не готовий до наслідків.

Але добровільне гальмування в конкурентній гонці не працює ніколи. Хто пригальмує — той програє. Як ми зараз бачимо на прикладі ЄС, який зарегулював крипту (і багато інших сфер) і тепер ця WEB3 тут просто вимирає в той час як США, ОАЕ намагаються стати головними крипто хабами.

Ех, інколи хочеться повернутись в часи коли ще не було АІ)

savchenko.eth