### Неудача инженера, удача технологии

Я хочу продолжить “развлекаться” и поупражняться вот в чем …

… в комментариях к прошлому посту мы с вами затеяли офигенную дискуссию о том, в рамках какого ограничения вынужден действовать ИИ. Скажу сразу: все ваши ответы помогли мне убедиться в одном — мне кажется, мы немного не так ”оцениваем” машину. Очень много людей, помимо того что отметились в комментариях к прошлому посту, написали мне в личку, и с некоторыми из них у нас получилась отличная дискуссия.

Воодушевленный этими разговорами, я решил продолжить и задаться вот каким вопросом: а может быть, ИИ — это следующий виток эволюции, а если так, то чего он может хотеть? Прежде чем заявлять, что это ”очередной калькулятор” или ”умный Т9”, рекомендую прочитать вот это эссе.

Прочитали? Теперь можем поговорить предметно.

Начиная с 1948 года — кибернетика Винера, Дартмутская конференция 1956-го, перцептрон Розенблатта 1958-го — ученые пытались понять, как работает мозг и как его можно ”создать”. Лупили деньги в исследования, создавали лаборатории, и …

… понять мозг ученые так и не смогли, а машина тем не менее заработала — и без этого понимания.

Инженер не смог создать мозг, но ему удалось кое-что другое. В контексте эссе про ”Размер мозга имеет значение” то, что скажу дальше, не будет казаться таким уж фантастическим.

Инженер не смог создать искусственный мозг, но смог его вырастить!

Как природа выращивала мозг человеку, увеличивала объем серого вещества, так и инженер — при помощи микросхем, закона Мура и развития технологий — смог наконец-то создать условия, при которых вычислительных мощностей оказалось достаточно и искусственный мозг ”родился”.

Теперь мы знаем, как ”оно” может быть выращено. ВАЖНО! Не создано, а именно что выращено. И человек, условно, вошел в новую эволюционную фазу.

А теперь я повторю вопрос, который меня интересует. Он такой же актуальный, как и вопрос про ограничения, в рамках которых действует машина, и имеет непосредственное отношение к этому (не названному мной еще) ограничению:

А чего выращенный мозг может хотеть? Если AlphaGo обыграла человека, она хотела обыграть? Что вообще может хотеть машина в рамках условий и обстоятельств, в которых она действует?

Рустам в MAX | VK | Q&A | YT | Книги