Старший научный сотрудник по безопасности ИИ

Почему Faculty?

Мы основали Faculty в 2014 году, потому что считали, что ИИ станет самой важной технологией нашего времени. С тех пор мы работали с более чем 350 глобальными клиентами, помогая им трансформировать их результаты с помощью человеко-ориентированного ИИ. Вы можете прочитать о нашем реальном влиянии здесь.

Мы не гоняемся за модными трендами. Мы создаём, разрабатываем и внедряем ответственный ИИ, который действительно меняет ситуацию — и мы хорошо знаем, как делать это качественно. Мы приносим нашим клиентам непревзойдённую глубину технической, продуктовой и исполнительной экспертизы, работая с организациями из сферы государственного управления, финансов, розничной торговли, энергетики, наук о жизни и обороны.

Наш бизнес и репутация быстро растут, и мы всегда ищем людей, которые разделяют наше интеллектуальное любопытство и желание создать положительное наследие с помощью технологий.

ИИ — это технология, определяющая эпоху, присоединяйтесь к компании, где вы получите возможность представить её самые мощные применения и воплотить их в жизнь.

О команде

Мы — центральная команда исследований и разработок, которая ведёт более широкую программу Faculty по безопасности ИИ. Мы являемся пионерами фундаментальных и прикладных технических исследований в области безопасности ИИ, создавая строгие научные результаты — включая публикации, инструменты и технические отчёты — которые продвигают теорию и практику безопасности ИИ и напрямую влияют на работу передовых лабораторий ИИ, государственных агентств и институтов национальной безопасности.

Наши исследования охватывают как методы «чёрного ящика», так и «белого ящика» для понимания и управления системами ИИ. Мы глубоко заботимся об интерпретируемости, достоверности и принципиальных стратегиях смягчения рисков, с особым акцентом на механистическое и поведенческое изучение трансформерных больших языковых моделей и долгосрочных агентных систем.

Мы работаем на переднем крае области, текущие направления исследований включают:

• Понимание систем: интерпретируемость, векторы управления и наука об оценках.

• Контроль и согласование: дрейф целей, машинное забывание и калибровка неопределённости.

• Общественные гарантии: смягчение дезинформации и надёжные границы развертывания.

Мы тесно сотрудничаем с более широкой командой Faculty по безопасности ИИ, которая имеет хорошо зарекомендовавший себя опыт в оценке возможностей и проведении red-teaming для оценки рисков злоупотребления в сферах химического, биологического, радиологического и ядерного оружия (CBRN), кибербезопасности и международной безопасности. Эта работа выполнялась для нескольких ведущих разработчиков передовых моделей и национальных институтов безопасности, и была упомянута в системной карте OpenAI o1 и в отчёте Meta Muse Spark по безопасности и подготовке.

О роли

В качестве старшего научного сотрудника в Faculty вы присоединитесь к нашей команде исследований и разработок с высоким воздействием, чтобы возглавить оригинальные технические исследования, которые продвигают наше понимание безопасных систем ИИ. Работая с высокой степенью самостоятельности, вы будете балансировать научную строгость с практической значимостью, формируя будущее безопасного внедрения ИИ. Тесно сотрудничая с нашей более широкой практикой безопасности ИИ, ваши научные результаты — от рецензируемых публикаций до технических инструментов — будут напрямую информировать передовые лаборатории и государственные институты, поддерживая нашу предпринимательскую амбицию построить более безопасное технологическое будущее.

Что вам предстоит делать:

• Возглавлять оригинальные технические исследования в области безопасности ИИ, ведя проекты от первоначального исследовательского вопроса до публикации с высоким воздействием.

• Формировать исследовательскую повестку, выявляя проекты с высоким воздействием, которые сочетают научную строгость с реальной значимостью.

• Вносить вклад в лидерство мнений и глубокую техническую экспертизу для поддержки более широких усилий по оценке и red-teaming.

• Поддерживать наш статус глобального лидера через активное внешнее взаимодействие с передовыми лабораториями и государственными заинтересованными сторонами.

• Разрабатывать надёжный, воспроизводимый исследовательский код и инженерную инфраструктуру для ускорения наших научных открытий.

• Сотрудничать с межфункциональными командами безопасности для трансляции фундаментальных исследований в практические стратегии смягчения рисков.

Кого мы ищем:

• Сильный опыт в исследованиях ИИ, подтверждённый публикациями или эквивалентным опытом, а также способность решать открытые, нерешённые задачи.

• Способность самостоятельно вести исследование от постановки новых проблем до создания высококачественных научных результатов.

• Страсть к технической безопасности ИИ, приобретённая в академической среде, промышленных лабораториях или в ролях по оценке.

• Глубокие знания языковых моделей и архитектур генеративного ИИ, включая методы «белого ящика» за пределами доступа на уровне API.

• Прочная база в основах машинного обучения, особенно в областях устойчивости, объяснимости или оценки неопределённости.

• Уверенное владение фреймворками глубокого обучения, такими как PyTorch, и навыками Python, необходимыми для создания надёжных исследовательских инструментов.

Наш подход к найму

Мы стремимся создать лучшую команду, а не самую однородную. Мы знаем, что разнообразие людей порождает разнообразие мыслей, а это укрепляет наш принцип поиска истины. И мы знаем из опыта, что разнообразные команды создают лучшую работу, релевантную миру, в котором мы живём. Нас объединяет глубокое интеллектуальное любопытство и желание использовать наши способности для измеримого положительного воздействия. Мы настоятельно призываем к подаче заявок людей всех происхождений, этнических групп, полов, религий и сексуальных ориентаций.

Если вы не чувствуете, что соответствуете всем требованиям, но вас вдохновляет эта роль и вы знаете, что обладаете ключевыми сильными сторонами, пожалуйста, не стесняйтесь подавать заявку — возможно, вы подходите для этой или других ролей. Мы открыты к обсуждению частичной занятости.

Примечание об ИИ: мы рады, если вы используете его для исследований и подготовки к интервью, но, пожалуйста, не используйте ИИ для генерации ответов во время живых интервью. Мы также используем ИИ для ведения заметок (Metaview) на интервью, чтобы интервьюеры могли оставаться сосредоточенными (вы можете отказаться — просто сообщите нам), и каждое заявление рассматривается человеком, решение не принимается ИИ.