**Обеспечь безопасность AI‑агентов в Сбере**

Мы строим систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Если тебе тесно в роли просто сильного разработчика, а хочется вести за собой команду единомышленников, реализуя проекты уровня Enterprise — тебе к нам. Мы ищем человека, который сочетает в себе экспертизу в машинном обучении, инженерии и безопасности. Ты будешь не просто строить защитные механизмы, а определять архитектуру безопасного ИИ, влияя на надёжность и устойчивость крупнейшего банка страны.

Обязанности

  • **создавать гардрейлы:** Разрабатывать системы защиты для AI‑агентов на базе GigaPlatform и других open‑source LLM — защита от промпт‑инъекций, фильтрация токсичности, контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors), валидация выходов
  • **тьюнить LLM:** Адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы
  • **лидировать:** Вести команду из 4 сильных DS. Не просто распределять задачи, а участвовать в их росте, делиться опытом и формировать инженерную культуру
  • **внедрять:** участвовать в выводе гардрейлов в продакшн.
  • **работать на мощном железе:** 8–16 A100 80 GB
  • **технологический стек:** vLLM, ollama, llama.cpp, LangChain, Guardrails AI / NeMo Guardrails, Transformers, PyTorch Lightning, MLflow.

Требования

  • **опыт в DS / ML****E** **от 2 лет**, желательно с фокусом на безопасность ИИ или защиту LLM
  • **математическая база:** высшее техническое образование с глубоким пониманием алгоритмов и структур данных
  • **экспертиза в ML/DL**: опыт обучения нейросетей (от классических RNN до трансформеров)
  • **понимание уязвимостей LLM:** промпт‑инъекции, джейлбрейки, data poisoning, галлюцинации — и способов защиты от них
  • опыт построения гардрейлов (rule‑based, ML‑based, гибридных) и/или участия в red teaming LLM
  • **писать хороший код:** соблюдать Clean Architecture, SOLID, поддерживать Git Flow
  • **будет крутым плюсом:** опыт в соревнованиях (Kaggle Expert+), участие в open‑source проектах по AI Safety, наличие публикаций или докладов по теме

**Почему это «та самая» вакансия?**

У нас есть для тебя сложные задачи на стыке безопасности, больших данных и агентного ИИ. Ты получишь свободу в выборе технических решений для защиты AI‑систем, поддержку амбициозных идей и возможность видеть реальный эффект от своей работы в масштабах экосистемы Сбера.

Условия

  • комфортный современный офис рядом с м. Кутузовская
  • гибридный / удаленный формат работы
  • ежегодный пересмотр зарплаты и годовая премия
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
  • вознаграждение за рекомендацию друзей в команду Сбера.