Год назад, когда я только-только устроилась в Лунапарк, я, конечно, слышала о некоторых фриках. Странных людях типа Илона Маска, которые подписали открытое письмо об опасностях ИИ и об ограничениях, которые они рекомендуют в связи с этим предпринимать. Помните же эту историю, да? Мне всё это казалось либо научной фантастикой, либо бизнесовыми махинациями. И уж точно я не хотела в это влезать 👎
И сейчас я прохожу курс по AI Safety и даже чуть-чуть его фасилитирую. Как так вышло? 🤯
В книге Фрикомыслие описан один эксперимент. Выяснилось, что те, кто успешно прошли тесты по математике и другим наукам, с большей вероятностью придерживаются крайних взглядов на изменение климата — либо считают их крайне опасными, либо полагают, что эта проблема раздута из ничего.
Почему? Неясно. Возможно, образованные люди привыкли считать себя правыми и уверены в своих знаниях и мнениях по любым вопросам. Возможно, тут вообще только корреляция, а не причинно-следственная связь. Хз. Но суть не в этом.
Кажется, что примерно то же самое происходит и с AI safety. Умные люди либо считают это важнейшей (я не преувеличиваю) проблемой, которую надо решать как можно быстрее, иначе мы все умрем☠️. Либо считают это какой-то раздутой из ничего темой.
Но какая бы ни была у человека точка зрения на этот вопрос, мне почему-то казалось, что он по крайней мере поисследовал эту тему, прежде чем на неё рассуждать. Трижды ХА. 😆
Видео Майлза — самого (?) известного видео-популяризатора AI safety набирает 200—300 тысяч просмотров. Всего! Я поделилась этим фактом с другом ML-щиком, и он мне сказал: "Ну вообще, о существовании safety как науки я только от тебя и слышу". А мне, в моём Лунапарке, который коллекционирует safety-вакансии, кажется, что об этом знают и говорят вообще все!
Наконец, отвечаю на заданные в тексте вопросы.
Как так вышло, что я поменяла своё мнение?
Видимо, среда и окружение влияют очень сильно. Поэтому место работы надо выбирать тщательно, а то оно случайно может изменить ваши ценности. На самом деле, конечно, не всё так просто и печально.
Фишка в том, что я стала видеть намного больше умных людей, которые придерживались противоположной моей точки зрения И я начала сомневаться в своих убеждениях (очень полезная штука, кстати!). Оказалось, что мои суждения основывались на крохах ненадежной информации.
Придерживаюсь ли я сейчас крайних позиций, только с другой стороны? И да, и нет.
(Что ты несёшь, блин, тыжематематик).
Я вижу, что вероятность очень-очень плохих исходов действительно существует. И, видимо, она достаточно большая, а исход потенциально катастрофический. Поэтому это точно та проблема, над которой надо бы подумать лучшим умам человечества. Ну а мне интересно узнать об это ещё чуть больше. Но, даже несмотря на мою тревожность, я всё ещё не собрала чемоданчик для релокации в другую вселенную 🪐
Так а причём тут частота написания в блог-то?
Я явно осознала, что по safety я нахожусь в определенном баббле. Но то же происходит и по многим другим темам. Даже если я прочитала что-то очень клевое только сегодня, моя интуиция тут же начинает меня обманывать: мне кажется, что об этом знают все, и только я жирафенок.🦒 А зачем писать то, о чём знают все? Даже если я напишу как-то клёво, встрою туда свои мысли и свои примеры... Все всё равно об этом уже знают. Мне ещё предстоит понять ценность, которую я могу давать своими текстами, если могу. И концентрироваться на ней. Но я подумаю об этом завтра.
***
А сегодня я даже не знаю, о чём мне вас спросить. Хочется узнать слишком много всего — и про то, в каких пузырях вы сидите, и про то, что думаете про риски ИИ, и про...
P.S. И тут я отследила за собой мысль, что мне правда интересно, что напишете именно вы. Хотя это тоже скорее не будет суперважнойновой информацией о мире. Но есть какая-то другая ценность в этом, не связанная с информацией, что-то менее уловимое...