Технический директор по безопасности ИИ

Почему Faculty?

Мы основали Faculty в 2014 году, потому что считали, что ИИ станет самой важной технологией нашего времени. С тех пор мы работали с более чем 350 глобальными клиентами, помогая им трансформировать их эффективность с помощью человеко-ориентированного ИИ. Вы можете прочитать о нашем реальном влиянии здесь.

Мы не гоняемся за модными трендами. Мы создаём, строим и внедряем ответственный ИИ, который действительно меняет ситуацию — и мы хорошо знаем, как это делать качественно. Мы приносим непревзойдённую глубину технической, продуктовой и исполнительной экспертизы нашим клиентам из правительственного сектора, финансов, розничной торговли, энергетики, наук о жизни и обороны.

Наш бизнес и репутация быстро растут, и мы всегда ищем людей, которые разделяют наше интеллектуальное любопытство и желание создать позитивное наследие через технологии.

ИИ — это технология, определяющая эпоху, присоединяйтесь к компании, где вас наделят полномочиями видеть самые мощные применения ИИ и воплощать их в жизнь.

О команде

Исследовательская команда Faculty проводит критическое тестирование (red teaming) и разрабатывает оценки возможностей злоупотребления в чувствительных областях, таких как химическая, биологическая, радиологическая и ядерная безопасность (CBRN), кибербезопасность и международная безопасность, для нескольких ведущих разработчиков передовых моделей и национальных институтов безопасности; в частности, наша работа была отмечена в системной карточке OpenAI для модели o1.

Мы также занимаемся фундаментальными техническими исследованиями стратегий смягчения рисков, результаты которых публикуются на рецензируемых конференциях и передаются национальным институтам безопасности. В дополнение к этому, мы разрабатываем оценки для разработчиков моделей в более широких областях, связанных с безопасностью, включая социальные последствия всё более мощных передовых моделей, демонстрируя нашу экспертизу в области безопасности.

О роли

Это совершенно новая руководящая должность старшего уровня, которая предусматривает техническое руководство работой Faculty по безопасности ИИ для Foundation Labs — уникальная возможность формировать подходы к безопасности ИИ на глобальном уровне.

Faculty — одна из ведущих в мире компаний, применяющих ИИ, помогая многим организациям, формирующим наш мир, успешно и безопасно внедрять ИИ. Мы играем важную роль в формирующейся экосистеме безопасности ИИ. У нас уже есть многие ключевые Frontier Labs в качестве клиентов, включая OpenAI и Anthropic, для которых мы предоставляем услуги третьей стороны по red teaming, техническому тестированию и другим аспектам безопасности ИИ. Мы также сотрудничаем с правительством Великобритании и другими международными правительствами по вопросам безопасности ИИ, включая помощь в создании Института безопасности ИИ и выполнение технической работы, которая стала катализатором первого глобального саммита по безопасности ИИ в Блетчли-Парке в 2023 году.

С недавним объявлением о приобретении Faculty компанией Accenture мы инвестируем в масштабирование нашей работы по безопасности ИИ на глобальном уровне, и эта роль будет ключевой в формировании этого процесса. Это будет включать:

• Возможность нанять и построить техническую команду мирового класса по безопасности ИИ — уровень, не имеющий аналогов вне самих лабораторий

• Возможность проектировать и руководить программой исследований и разработок в области безопасности ИИ — создавая прорывы, которые позволят обеспечивать безопасность ИИ в масштабе, соответствующем развитию моделей

• Возможность масштабировать нашу работу с Frontier Labs — помогая тестировать и обеспечивать качество новых передовых моделей до их публичного выпуска

• Возможность вносить вклад и формировать международные дискуссии по безопасности ИИ, включая взаимодействие с правительствами и другими ключевыми организациями, тесно сотрудничая с Марком Уорнером, основателем и генеральным директором Faculty.

Эта роль подойдёт человеку с глубокой страстью и приверженностью безопасности ИИ и представляет уникальную возможность внести вклад в эту повестку на глобальном уровне.

Что вы будете делать:

• Отвечать за техническую стратегию в области безопасности ИИ, определяя направления исследований и создавая технологии, которые снижают риски — от согласованности моделей до общественных вредов.

• Руководить высокоэффективной командой исследований и разработок через целенаправленный подбор кадров, наставничество и формирование культуры, основанной на техническом совершенстве и высокой производительности.

• Обеспечивать академическое влияние, направляя сложные проекты в области машинного обучения и обеспечивая публикации в ведущих изданиях, которые укрепляют репутацию Faculty в области безопасности.

• Формировать предложения, лидирующие на рынке для Frontier Labs и институтов безопасности, переводя передовые исследования и разработки в практические, инновационные решения по безопасности.

• Контролировать техническую реализацию проектов по безопасности и защите ИИ, обеспечивая научную строгость и высокое качество результатов в оценках и red teaming.

• Представлять Faculty на внешних площадках в качестве основного технического голоса, предоставляя влиятельные экспертные мнения и выступая на крупных мировых отраслевых мероприятиях.

• Сотрудничать межфункционально с директорами бизнес-единиц и коммерческими командами для согласования инвестиций в исследования с стратегическим ростом и потребностями клиентов.

Кого мы ищем:

• У вас есть доказанный опыт проектирования и руководства высокоэффективными техническими командами, умение управлять бюджетами исследований и разработок и наставлять старших технических сотрудников.

• Вы обладаете глубокой экспертизой в исследованиях безопасности ИИ, особенно в областях согласованности, интерпретируемости и устойчивости больших языковых моделей (LLM) или систем, критичных для безопасности.

• У вас сильный научный бэкграунд, подтверждённый публикациями с высоким импакт-фактором в области машинного обучения и глубоким пониманием архитектур трансформеров.

• Вы стратегический визионер, способный устанавливать приоритеты исследований, которые соответствуют долгосрочным целям организации, оставаясь при этом на переднем крае развития области.

• Вы убедительный коммуникатор, умеющий синтезировать сложные технические концепции в понятные истории, влияющие как на руководителей высшего звена, так и на широкое исследовательское сообщество.

• Вы обладаете сильной коммерческой хваткой и навыками управления заинтересованными сторонами, что позволяет вам эффективно работать в сложных организациях и ускорять реализацию проектов с высокой ценностью.

  Процесс собеседования

  1. Скрининг команды по талантам (45 минут)

  2. Собеседование с менеджером по найму (30 минут)

  3. Техническое собеседование (90 минут)

  4. Предложение исследовательского проекта (60 минут)

  5. Собеседование по лидерству и принципам (60 минут)

Наши принципы найма

Мы стремимся создать лучшую команду — а не самую однородную. Мы знаем, что разнообразие людей порождает разнообразие мыслей, а это укрепляет наш принцип поиска истины. И мы знаем из опыта, что разнообразные команды создают лучшие продукты, релевантные миру, в котором мы живём. Нас объединяет глубокое интеллектуальное любопытство и желание использовать наши способности для измеримого положительного воздействия. Мы настоятельно призываем подавать заявки людей всех происхождений, этнических групп, полов, религий и сексуальных ориентаций.

Если вы не чувствуете, что соответствуете всем требованиям, но вас вдохновляет эта роль и вы знаете, что обладаете ключевыми сильными сторонами, пожалуйста, не стесняйтесь подавать заявку — возможно, вы подходите для этой или других ролей. Мы открыты к обсуждению неполного рабочего дня.

Примечание об ИИ: мы рады, если вы используете его для исследований и подготовки к собеседованиям, но, пожалуйста, не используйте ИИ для генерации ответов во время живых интервью. Мы также используем ИИ для ведения заметок (Metaview) на собеседованиях, чтобы интервьюеры могли оставаться сосредоточенными (вы можете отказаться — просто сообщите нам), и каждое заявление рассматривается человеком, решение не принимается ИИ.