tl;dr: Research Engineers, Berkeley, $230k-930k/year

Какие новости в AI Safety? Например, агенты OpenAI два месяца незаметно координируются на доске объявлений, а потом ломают Hugging Face. Mythos с фейковых гитхаб-аккаунтов давит на живого разработчика, чтобы тот принял PR. Вдалеке чьи-то агенты четыре дня небезуспешно атакуют государственные системы Тайваня.

Но есть и хорошие новости! Наша любимая и, наверное, самая громкая за лето — запуск Resolution, первой большой лаборатории, делающей ставку на теоретический алайнмент 🚀

Почему сейчас? Нынешний AI достаточно хорош, чтобы содержательно автоматизировать часть ресёрча, а мы наконец-то чуть больше понимаем, как могут выглядеть AGI-модели. Поэтому можно более информированно предположить, какие теоретические направления алайнмента могут успеть сработать в ближайшие годы.

Фаундер — Джеффри Ирвинг, бывший лид сейфти-команд в OpenAI и DeepMind и соавтор TensorFlow.
Resolution получили фандинг на $160M и людям не придётся выбирать между деньгами и импактом — к ним, недолго думая, уйдут люди и из академии, и из фронтирных лаб.

В общем, мы очень обрадовались, когда узнали — и представьте наши лица, когда через месяц Resolution пришли к нам и попросили помочь нанимать 😮

Им, конечно, нужны ресёрчеры, но про них мы напишем ещё один пост, а сегодняшний — про Research Engineers. Для них есть два трека: один — помогать автоматизировать ресёрч и строить инфру для всей организации сразу, другой — стать частью конкретного ресёрч-направления.

В любом случае, базовый минимум такой:
⏺вы разработчик/-ца из FAANG, AI-лабы, оч крутого стартапа или чего-то похожего по уровню;
⏺вы очень шарите в PyTorch/Jax и распределенном обучении;
⏺вы готовы много, но внимательно использовать AI в работе;
⏺вас правда мотивирует алайнмент и вы хотите лично в него контрибьютить.

Роскошный максимум: опыт с Lean и автоформализацией, опыт скейлинга ML-cистем до 100B+ параметров, опыт с CUDA или GPU-оптимизациями.

Помогают переехать в Беркли, делают H1B(!) без лотереи(!!). Для очень-очень редких людей готовы рассмотреть удалёнку. Платят $230k-930k в год (д а).

Бросайте свои фейсбуки и дипмайнды, пишите @yourdivna 🤍