Автоматизация ИИ

"Любая система на базе машинного обучения, способная решать задачи" подразумевает, что происходило то самое машинное обучение, и сформировался некий алгоритм. Чем более этот алгоритм может как-либо способствовать собственному улучшению, тем больше мы можем говорить о самообучении. По умолчанию представляется, как моделька такая сама решает написать изменения своего кода — такой сценарий тоже есть, и он ведёт нас к сингулярности. Но для начала достаточно рассмотреть косвенную автоматизацию — когда есть хотя бы два любых слоя автоматизации. Да, это всё звучит запутанно, но поэтому и хочется сосредоточить здесь внимание, ведь если выкупить интуиции относительно автоматизации, дальше можно будет во всём про ИИ видеть суть. Рассмотрим примеры.

На том курсе по АД мы обсуждали AlphaGo — алгоритм для игры в го, и меня наиболее впечатлило, что ему не объяснялись правила игры, но это не помешало ему обыгрывать лучших игроков с естественным интеллектом. Для достижения такого результата алгоритм самообучался на уже сыгранных собою партиях. А что автоматизирует другой продукт того же Google Deepmind, Alphafold? Для самого базового ответа необязательно что-то знать о биологии — достаточно увидеть, как алгоритм позволяет получить желаемый результат, решить желаемую задачу. Ни я, ни 99% читателей даже близко не умеют решать ту задачу, которую автоматизирует Alphafold, но изюминка в том, что алгоритм может решать её так, как не решил бы человек простым перебором. Это очень важно понять, осознать, почувствовать — здесь кроются зёрна сингулярности, хоть она и не вырастет сама на подобной почве. Задачи Alphafold относятся к узкому (хоть и очень редкому среди людей) интеллекту, но он решает их быстро и нетривиально.

***

Однако, хоть решают задачи и люди, и ИИ, ставятся такие задачи исключительно людьми — это наше главное преимущество, которое, верю, существует за счёт сознания. Человечество будет всячески подбираться к имитации сознания — о чём мы поговорим в более психологических постах этого треда.

ИИ не заменит нас, но будет служить инструментов для созидания и разрушения — ускоренного автоматизацией автоматизации. И это в то время, когда мы как вид ещё даже не отрефлексировали предыдущую прорывную технологию — интернет! Об этом мы поговорим в частях, посвящённых экономике, международным отношениям и рискам.

➡️ Это был вводный пост, и к его тезисам я уже получал комментарии толковых людей. Буду рад вопросам, возражениям и приложениям. Дальше поговорим о видах и последствиях автоматизации ИИ и по плану.