Нерегулируемые нейросети - машина без руля

Нобелевский лауреат и пионер нейросетей Джеффри Хинтон выступил с очередным экзистенциальным предупреждением: техноиндустрия строит гоночный болид, но забыла прикрутить к нему руль. По его словам, инвесторы и политики (включая новую администрацию США) радостно давят тапку в пол, называя любые попытки регулирования "тормозом прогресса". В итоге на безопасность и защиту от восстания машин сегодня выделяется жалкий 1% от гигантских ИИ-бюджетов, пока все остальные деньги идут на то, чтобы быстрее выкатить релиз.

Насчет рынка труда Хинтон иллюзий не питает: кожаные операторы колл-центров уже могут паковать вещи, а скоро ИИ сожрет и остальные интеллектуальные профессии просто потому, что кремний дешевле белка. Выдохнуть могут разве что медики, там рабочие руки нужны всегда. Но главная проблема маячит на горизонте: дед прямым текстом напомнил исторический факт. В природе просто нет примеров, когда сверхразумное существо позволяло бы менее умному оставаться свободным и диктовать свои правила.

Хинтон считает, что шанс не стать домашними питомцами у нас еще есть, если мы срочно придумаем механизмы сосуществования с этой штукой.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX