OpenAI нанимает Head of Preparedness – человека, который будет готовиться к рискам ИИ

Это абсолютно новая для стартапа роль, и это будет позиция не про элаймент, а про моделирование мира после релиза моделей.

То есть Head of Preparedness будет отвечать на вопросы про будущее: что плохого может произойти после релиза модели, чего не отловишь в экспериментах, в каких неочевидных областях она может быть опасна, какие есть долгоиграющие угрозы, ну и тд.

Альтман пишет, что в 2025 году они увидели первый тревожный сигнал – влияние моделей на психическое здоровье людей (помните эти истории про самоубийства из-за ChatGPT?). Плюс модели достигли довольно серьезного уровня к кодинге, а значит представляют потенциальную опасность в сфере кибератак.

Собственно, это все и стало поводом к найму такого человека. (Хочется верить, что нанимают реально для дела, а не маркетинга ради).

Платить обещают $555k с учетом бонусов. Не Цукерберговские цифры, конечно, но на жизнь вроде хватит 😐

openai.com/careers/head-of-preparedness-san-francisco/