Предновогодние мысли про ИИ 🎄

Под конец 2023 года мне бы хотелось поразмыслить над следующим вопросом:

“В чем конечная цель создания ИИ?”

В этом году я очень часто сталкивался с ИИ-энтузиастами, жаждущими появления AGI (сильного ИИ), который сможет решать широкий класс задач на уровне экспертов области. Представьте себе GPT, который делает финансовое моделирование лучше ведущих аналитиков с Wall Street, программирует качественнее сотрудников Google или Яндекс, решает научные задачи быстрее и дешевле, чем каждая отдельная кафедра Гарвадского университета и т.д.

Звучит вдохновляюще, не так ли? Но только вдохновение это длится не больше нескольких минут, а потом приходит осознание, что к качественному изменению истории это не приведет 🤷

Да, скорость решения задач и итоговое качество результата значительно увеличатся, и те, кто бежали быстро (некоторые корпорации и некоторые государства) - станут бежать еще быстрее. Но целеполагание все равно остается за человеком. А как показала практика 2023 года - от базовой конфигурации ИИ сильно зависит уровень позитивных и негативных последствий, которые модель может произвести

Еще раз: человек программирует и ставит задачи ИИ. Этот нарратив очень важен 📌

Индустриальные революции уже не один раз случались в истории человечества. В чем была основная цель этих технологических изменений? Увеличение производительности труда.

Ровно такая же цель движет некоторыми ИИ-энтузиастами. Благодаря AGI работать можно будет меньше, а производить больше. Таким образом, можно сказать, что AGI - это очередной виток индустриальной революции 🔘

Но напомню, что атомная бомба, химическое и бактериологическое оружие также появились в результате технологического развития. Ибо целеполагание за человеком.

Соответственно, восприятие увеличения производительности труда в качестве цели создания ИИ приведет нас как минимум к еще большему социально-экономическому разделению между технологическими и менее технологическими корпорациями / странами / народами, а как максимум к риску возникновения нового оружия массового поражения

Так в чем же тогда должна быть конечная цель создания ИИ?

На мой взгляд в том, чтобы сделать мир более уравновешенным и менее полярным
Побудить народы к содружеству и к дополнению друг друга
Сделать как можно бОльшее количество людей счастливыми

Собственно, звучит как пожелание каждому отдельному участнику этой небольшой группы🙂

Пусть оно так и будет)

С наступающим 2024 годом!🎆