Прослушал последний выпуск подкаста Вани Ямщикова "Проветримся!" @progulka в котором с гостями они дискутировали на тему AI Alignment и безопасности ИИ.

Ваня выдвинул весьма интересную гипотезу о том, что появление техники Alignment до появления сильного ИИ несёт стопроцентную опасность для человечества, так как этой технологией непременно воспользуются всяческие режимы с извращённой моралью. В то же время, появление сильного ИИ который не будет жёстко "настроен" на убеждения его создателя оставляет шанс того, что этот ИИ будет с нами успешно взаимодействать без необходимости навредить человечеству (но не человеку, если что).

Сильно советую к прослушиванию, у Вани там прям очень логичные и понятные рассуждения. Правда, он это называет техно-оптимизмом, а я же увидел тут ещё больше поводов перейти на сторону техно-думерства, ибо какой шанс того, что человечество выберет путь в неизвестность, когда есть простой пусть сделать очередную атомную бомбу?.. 🤷

👉 Ссылка на выпуск: https://pc.st/e/6f_MnoT-S7a