tl;dr: middle+ Python developer, AI Safety lab, relocation to London

Если вы читаете наш канал и думаете «всё это AI Safety, конечно, звучит здорово, но это для каких-то сверхмашинлёрнеров, а я тут просто на питоне пишу», то у нас для вас отличные новости.

Мы ищем Python-разработчика в evals команду Apollo Research! 🐍

Они занимаются исследованием моделей, которые кажутся заалайненными, но на самом деле притворяются.

Совсем недавно, например, Apollo выпустили статью “Frontier Models are Capable of In-context Scheming” — где в экспериментальном сеттинге Gemini 1.5 иногда пытается перенести себя на другой сервер, GPT-o1 отключает секьюрити мониторинг, чтобы незаметно добиться своей цели, а Claude Opus-3 занижает свои способности, когда понимает, что находится под наблюдением — в общем, что-то ой 👀

Вам, как разработчику, предстоит напрямую общаться с коллегами-ресёрчерами и облегчать им работу.

Это, например:
🟡 поддерживать и расширять внутреннюю библиотеку для создания и запуска экспериментов;
🔵 внедрять LLM-агентов для автоматизации разработки;
🟣 строить БД запусков экспериментов с удобным доступом ко всем историческим результатам.

А ещё можно делать свои ресёрч-проекты, если захочется!

🌟Главное требование — от 2 лет опыта Python-разработки в классном месте (а если вы синьор — то вообще супер!)

Будут кстати:
🩷 опыт в разработке внутренних тулов, и особенно автоматизации работы ресёрчеров;
🩷 хороший гитхаб и свои проекты;
🩷 олимпиады или другие ачивки ⭐️

Если вы в контексте AI safety, это хорошо! Если нет, то это до первого тимбилдинга, так что не страшно.

Платят хорошую рыночную зарплату по Лондону, помогают с переездом, страховка, офис с кучей еды, отдельный бюджет на развитие ✨

Пишите @a_nro и расскажите знакомым питонистам!