"Валя Демченко возразил, что это было бы еще полбеды, а беда (с таинственным видом сообщил он) состоит в том, что вот уже много лет идет разработка кибернетического редактора. Ученые – писателям. В порядке помощи. Собственно, сам робот-редактор уже создан, и теперь его на наших рукописях только дрессируют. И вот когда эта машина вступит в строй, вот тут нам всем будет конец, потому что она не только грамматические ошибки будет исправлять и стиль править, она, дяденьки, подтекст на два метра под текстом будет углядывать. Она, дяденьки, сразу определит, кто есть кто и почему.
Я с уважением смотрел на Валю, ощущая в этой его вдохновенной белиберде флер некоего благородного, близкого мне безумия. Гарик откровенно хихикал, а Жора, человек, близкий к земле, сердито спросил, откуда это ему, Валентину, может быть известно."
Это из "Хромой судьбы" Стругацких. Каждый раз, когда натыкаюсь на такое у фантастов, это такой момент узнавания и радости. Что кто-то сумел в прошлом представить мир, в котором мы теперь живем. На мгновение возникает почти личная связь с автором, отделенным от нас десятилетиями: он придумал - а мы можем оглянуться вокруг и узнать. И еще отдельный вид удовольствия - сопоставить замысел с результатом, заметить сходство и сказать себе "так это же...". ИИ в данном случае.
Причем не просто ИИ, но "и вот тут нам всем будет конец".
Это я, товарищи, почитала-послушала несколько интервью про ИИ. Мнения экспертов из разных областей знания очень разные (от умеренно оптимистических до апокалиптических). То, что четыре ведущих разработчика внезапно договорились (ну или скорее выразили намерение) замедлить работу. вообще не успокаивает, а еще больше пугает. Потому что они очевидно в ахуе от своего Франкенштейна.
Вчера в ночи целый час обсуждали с сыном (я в Анталье, он в Москве) и сингулярность, и возможные сценарии, если ИИ научится обучаться без помощи человека (один из самых любопытных и пугающих - disempowerment, утрата контроля над собственной жизнью), и про то, можно ли научить ИИ быть добрым к нам.
Можно подумать мало нам было ковида, войн, диктаторов, то вот еще и такие "песьи мухи".
А вы как с ИИ? Верите в хорошее про него или тоже пугаетесь?