MLSecOps Engineer (AI Safety) — это специалист, который отвечает за безопасность и надежность систем искусственного интеллекта.
Обязанности
Мы предлагаем
Обязанности
- Участие в разработке архитектуры и дизайна стандартизированного размещения ИИ агентов, сегментировании и изолировании контекстов агента (разделение памяти, защита системных промптов);
- Внедрение и настройка инструментов перехвата и валидации промптов (guardrails), написание правил детекции атак (Jailbreaking, Prompt Injection) и фильтрации вывода;
- Построение пайплайна безопасной загрузки данных (RAG), реализация механизмов санитизации данных (очистка PII, секретов) до попадания в векторный индекс, настройка прав доступа (RBAC) на уровне чанков данных в векторной базе данных;
- Разработка и поддержка набора автотестов для ежедневного тестирования безопасности агента;
- Разработка валидаторов для структурированного вывода, проверка планов агента на безопасность перед исполнением (pydantic).
- Свободное владение Python;
- Знание LangChain и/или LlamaIndex, умение писать кастомные callbacks, chains, tools;
- Понимание OWASP Top 10 for LLM, знание механик атак (prompt injection, indirect injection, data poisoning, model denial of service);
- Понимание работы векторных баз данных (Pinecone, Milvus, Qdrant);
- Базовое понимание Docker и CI/CD для интеграции проверок в общий пайплайн.
Мы предлагаем
- Необходимое оборудование и софт для работы;
- Официальное трудоустройство;
- ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;
- Льготные условия ипотеки в рамках зарплатного проекта;
- Бесплатная подписка на сервисы партнеров;
- Корпоративный спорт;
- Насыщенная корпоративная жизнь;
- Электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.