Сотрудники одной из ведущих AI-компаний:
Мы тут создаём штуку, которую сами боимся. Если она рванёт — лучше быть от неё подальше.
Читали роман Стивена Кинга "Туман"?)
The Wall Street Journal рассказывает о сообществе исследователей AI safety, сложившемся вокруг Anthropic и берклийского пространства Constellation.
На регулярных встречах они обсуждают самые страшные сценарии развития ИИ. А в Anthropic для этого есть даже закрытый Slack-канал, где сотрудники обсуждают возможную катастрофу и способы к ней подготовиться.
Варианты подготовки звучат как сценарий фильма:
— купить землю в удалённом месте или даже отдалённый остров;
— запасти таблетки йода;
— перебраться в пустыню;
— построить или найти бункер с электромагнитной защитой.
То есть люди, которые профессионально занимаются созданием искусственного интеллекта, всерьёз обсуждают вопрос:
а где мы будем прятаться, если сами создадим нечто, способное уничтожить человечество?
У сотрудников Anthropic есть даже свой девиз, который они клеят на ноутбуки:
«Things will never be chill again» — «Спокойно уже никогда не будет».
Это не маргинальная группа людей, которые случайно забрели в AI. Идеи о катастрофических рисках ИИ оказались частью культуры, из которой выросли OpenAI и Anthropic.
В сентябре исследователь Anthropic Джейкоб Коксон ушёл из компании именно потому, что счёл гонку за всё более мощными моделями слишком опасной.
Они создают технологию, которой боятся сами.
И, возможно, это один из самых необычных симптомов нынешней AI-гонки: разработчики следующего поколения технологий одновременно являются одними из самых тревожных наблюдателей за тем, куда эта технология может прийти.
Хотя бы потому, что они смотрят на неё изнутри.
По материалам The Wall Street Journal.
Мы в телеге | Наш канал в макс | Наш канал в VK