LLM Engineer
$80k-130k + equity, relocation to Paris

Мы довольно много пишем про AI Safety (если вы вдруг не заметили, лол).

Иногда люди считают что мы имеем в виду под этим только алайнмент, X-риски и государственные регуляции — и пролистывают посты со словом сейфти.

На самом деле AI Safety — это много разных вещей. В том числе безопасность существующих моделей — мы уже используем кучу AI, и хорошо бы он был устойчив к атакам, галлюцинировал поменьше, и не делал ничего, за что ваши пользователи захотят вас засудить 👾

Этим занимаются White Circle. Их продукт тестирует AI модели на множество разных уязвимостей — jailbreak, нежелательный контент, галлюцинации — и помогает устранять их автоматически.

Маленький (три человека) стартап, ангельские инвесторы из DeepMind и OpenAI, а первым инвестором и вовсе был Thomas Wolf — CSO HuggingFace.

Ищут LLM инженера с опытом в RL и alignment. Большой плюс — публикации уровня NeurIPS 🔬

Что вас ждёт:
🔵 дообучение и оценка SoTA LLM;
🟣 атаки на blackbox модели;
⚪️ много RL;
🟡 бенчмаркинг и оценка качества моделей (ELO-метрики, alignment);
🟢 оптимизация инференса;
🔵 и еще много всего интересного!

$80k-130k/year + доля, редкая для этого канала релокация в Париж 🥐

Откликнуться можно в формочку — в этот раз её читаем не мы, а сразу White Circle, так что мы не можем обещать, что всем-всем напишут 🥲