Описание вакансии:
Инженер по безопасности ИИ
Исследование рисков ИИ и мониторинг ландшафта
Отслеживание новых разработок, возможностей и методов атак в сфере ИИ с последующим переводом их в конкретные риски для Fireblocks.
Создание и поддержка актуальной модели угроз для использования ИИ в компании, охватывающей платформу, внутренние инструменты и сторонние сервисы ИИ.
Выявление использования ИИ и оценка рисков
Анализ применения ИИ в Fireblocks — на платформе, разработчиками (например, ассистентами для написания кода), корпоративными и бизнес-пользователями, а также через инструменты ИИ, внедренные через закупки.
Оценка конфигурации и уровня безопасности используемых систем и инструментов ИИ, выявление и приоритизация уязвимостей.
Архитектура безопасности ИИ и инструменты
Проектирование и предложение новых инструментов, конфигураций и проектов для снижения рисков, связанных с ИИ.
Разработка и внедрение решений под ключ, включая сотрудничество с инженерными командами при необходимости.
Создание и управление инфраструктурой безопасности ИИ, обеспечивающей безопасное использование ИИ в Fireblocks по умолчанию.
Открытые модели для операций безопасности
Исследование реализаций открытых моделей для использования в рабочих процессах безопасности.
Развертывание открытых моделей для поддержки групп реагирования на инциденты в режиме реального времени.
Требования к кандидату:
3+ года опыта в области ИИ/МО с практическим опытом работы в обеих сферах.
3+ года опыта на инженерных должностях / в R&D.
Глубокие знания облачной инфраструктуры (особенно AWS) и работы ИИ-нагрузок в продакшене.
Сильное понимание архитектуры систем ИИ/МО — развертывание моделей, инфраструктура вывода, RAG, конвейеры и фреймворки агентов.
Практический опыт настройки и внедрения ведущих инструментов и платформ ИИ для широкого круга внутренних пользователей.
Опыт работы с открытыми моделями в продакшене или исследовательских условиях.
Менталитет строителя — подтвержденный опыт проектирования, внедрения и управления инструментами или инфраструктурой безопасности под ключ, а не только консультирования.
Отличные коммуникативные навыки и способность работать независимо, тесно координируясь с командами безопасности, R&D и другими заинтересованными сторонами.
Будет плюсом
Знание фреймворков безопасности ИИ, таких как OWASP Top 10 для LLM-приложений, NIST AI RMF или MITRE ATLAS.
Опыт работы с инструментами SOC/IR, разведкой угроз или наступательной безопасностью.
Преимущества:
/
