в феврале у Илона Маска вышло большое интервью про будущее ии
​
и там Маск вполне серьезно говорит о том, что самый реалистичный сценарий — что, когда ии все-таки сможет нас убить, то он не сделает этого, потому что мы… классные! 😳sic!

его логика примерно такая: если миссия ии — понимать вселенную, расширять интеллект и сохранять разные формы сознания, то человечество лучше оставить в игре. уничтожить нас — плохая затея, потому что тогда ии уже никогда не узнает, как могла бы развиваться человеческая цивилизация. ну это прям сильно bold assumption. лично я бы не ставила так много на классность человечества в “глазах” ии. 🤣
​

на эту тему мне в голову пришло довольно обидное сравнение 🥺

вот люди же любят котиков? 😍
хотя котики, если честно, ведут себя местами довольно странно: в 4 утра орут, скидывают вещи со стола, смотрят в стену так, будто уже видят твой конец, и в целом никак не бустят ввп.

но мы всё равно такие: ааа какая сладкая булочка. какая пушистенькая. люблю её. 🥰🥰🥰

и, по Илону, выходит, что мы для ии будем типа такими вот котиками? 🤣

смешно? очень.
страшно? ещё больше. 😱

потому что, если по прогнозам маска человеческий интеллект реально будет составлять только 1% от совокупного интеллекта системы, люди точно не будут ничем управлять. максимум, что нам останется, — надеяться, что у сверхразума окажутся такие ценности, при которых нас захотят взять “с собой” и, в целом, относиться к нам с лёгким снисхождением и странной нежностью. 🤗