Start in AI Safety

Public

Просмотреть канал

Не можете присоединиться? @ai_safety_digest

1.6k Участники

Обновлено: May 19, 2026 at 12:25 PM

Start in AI Safety

контакты: @newroman1 @veronicago @slavameriton Собираем образовательные и карьерные возможности в AI Safety для студентов и новичков: - онлайн-курсы и онлайн-лекции - магистерские программы - гранты на обучение - образовательные программы - стажировки

Join @ai_safety_digest for exclusive newroman1 and safety content and discussions in 12

Рейтинг

Глобальный рейтинг

#456

Рейтинг по языку

#45

Рейтинг по категории

#23

-1

Рост участников (Последние 6 дней)

Всего: 1.6K

Рост за 24ч: +0 0%

Последние посты

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️ Scaling Rational Cooperative Intelligence for Pluralistic AI Futures
Hosted by Cooperative AI Foundation

📍Где: онлайн
🗓Когда: 22 Января
💰Стоимость: бесплатно
⏰Дедлайн регистрации: 22 января

Лекция Tan Zhi Xuan о недавних исследованиях в области рационального кооперативного ИИ, парадигмы построения когерентных ИИ-агентов, которые кооперируют по умолчанию

О спикере:
Tan Zhi Xuan — Assistant Professor в National University of Singapore (кафедра Computer Science) с совместным назначением в A*STAR Institute of High Performance Computing.

Занимается исследованиями масштабирования кооперативного интеллекта с помощью rational AI engineering. Ее работа охватывает AI alignment, вероятностное программирование и вычислительную когнитивистику. Ранее защитила PhD в MIT.

🔗Регистрация: https://www.cooperativeai.com/seminars/scaling-rational-cooperative-intelligence-for-pluralistic-ai-futures?utm_source=substack&utm_medium=email

833

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️Martian Interpretability Challenge

📍Где: онлайн
🗓Когда: 4-18 месяцев проекта
💰Призы: $1М, $10,000 - $100,000 за проект
⏰Дедлайн подачи: 1 февраля 2026

Международный исследовательский конкурс, направленный на развитие интерпретируемости современных ML-моделей.

Фокусом являются практические и теоретические подходы к анализу внутренних механизмов моделей, особенно в задачах с формальной структурой (например, генерация кода).

Кто может участвовать:
⭕️Нет ограничений по стадии карьеры, институциональной аффилиации или географическому положению (за исключением стран, участие которых запрещено законодательством* США)
⭕️Один и тот же участник может подать неограниченное количество заявок, однако финансирование будет предоставлено не более чем для одного проекта
⭕️Допускаются заявки с несколькими руководителями проекта (Principal Investigators)

🔗Подать заявку: https://withmartian.com/prize
📩По всем вопросам писать: [email protected]

* - Не совсем понятно, на какие именно санкционные списки они ссылаются. Если вы из России - напишите им и спросите попадает ли Россия под это условие.

867

Start in AI Safety

29 апр. 2026 г., 16:09

🔥Summer MATS Cohort: all except Neel Nanda

📍Где: Беркли, США; Лондон, Великобритания
🗓Когда: июнь-август 2026
⭕️возможно продление на 6 или 12 месяцев
💰Стипендия: $15,000
⏰Дедлайн подачи: 18 Января*

Вы, скорее всего, уже знаете что такое MATS. Они настолько известны, что другие исследовательские программы описывают себя “MATS-like”

Но все же, вот некоторые факты
Выпускники MATS востребованы практически в любой AI Safety компании, 80% тех, кто выпустился до 2025 работают над AI Safety/security в таких компаниях как Anthropic, Google Deep Mind, AI Security Institute, RAND, Redwood Research, METR, Apollo Research

И еще 10% основали или со-основали свои лабы
Например Apollo Research, Timaeus, Atla и Leap Labs

🔵В этот раз из известных менторов:
⭕️Yoshua Bengio
⭕️Eli Lifland
⭕️Abram Demski
⭕️Buck Shlegeris
⭕️Marius Hobbhahn
⭕️Richard Ngo
И многие другие

🔵Еще факты:
⭕️Дистанционное или частичное участие возможно в зависимости от ментора
⭕️За выполнение программы https://www.aisafetysupport.org/ https://www.aisafetysupport.org/ $15,000
⭕️Те, кто участвуют и работают над рисерчем <40 часов в неделю и/или <12 недель получат стипендии пропорционально участию
⭕️Перелет оплачивается программой
⭕️Как и проживание, и еще обед и ужин по выходным
⭕️Еще предоставляют место в офисе в Лондоне или Беркли (оба довольно классные)

* Кроме когорты Neel Nanda, его набор закрывается 23 декабря

🔗Подать заявку: https://www.matsprogram.org/apply
🔗Читать подробнее: https://www.matsprogram.org/

1,200

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️ Sci. STEPS 2026
менторское сопровождение в исследовательских и карьерных задачах

📍Где: онлайн
🗓Когда: 2 февраля - 30 апреля 2026
⏰Дедлайн подачи: 28 декабря

Sci. STEPS дают менторскую поддержку под широкий набор задач, связанных с научными и карьерными треками. Обязательных встреч с ментором немного: программа скорее про коммитмент и помощь в приоритизации. Подходит, напрмер, если вам нужно податься в PhD или магистратуру, собрать нормальное резюме или наконец-то сесть за ресёрч, но оно всё откладывается.

В этом сезоне много русскоговорящих менторов и много менторов из разных университетов мира. Если вы собираетесь поступать в один из них, то это хорошая возможность узнать про внутреннюю кухню академии в конкретном месте. Есть менторы по ML и AI Safety (их немного, но они есть, так что лучше заполнять заявки оперативно).

Что предоставляют:
⭕️регулярные встречи с ментором
⭕️доступ к материалам и тематическим мероприятиям
⭕️поддержку сообщества Sci. STEPS

Что можно делать в рамках программы:
⭕️формулировать и уточнять карьерные и исследовательские цели
⭕️работать над заявками в академию или индустрию
⭕️работать с ментором над навыками и проектами
⭕️участвовать в общих встречах и нетворкаться

Кого ждут (требования):
⭕️Студентов, аспирантов и молодых специалистов, заинтересованных в научной или исследовательской карьере
⭕️Вы можете подаваться с safety проектом не только к профильному ментору по safety

📌 Один из авторов канала стал ментором в этом сезоне Sci. STEPS, так что AI Safety там тоже представлено.


🔗Подробности: https://www.scisteps.org/season-2026
🔗Подать заявку: https://forms.clickup.com/20117182/f/k5xny-11815/MT8H6KW54WBRS9ICQ9

2,570

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️AI Manipulation Hackaton
Хакатон от Apart Research

📍Где: онлайн + IASEAI в Париже
🗓Когда: 9-11 января [48 часовой спринт]
💰Призы: $2,000 в призовом пуле
⏰Дедлайн подачи: 9 января

Участники будут строить инструменты для обнаружения манипуляций со стороны ИИ и противодействия им. Победители представят свои работы на воркшопе IASEAI в Париже. Также есть возможность продолжить свой проект в Apart Fellowship.

Наиболее многообещающие проекты будут презентованы на конференции IASEAI в Париже, 26 Февраля 2025 года. Точное количество проектов, которые туда отправятся пока неизвестно и зависит от количества мест на конфе

Треки:
⭕️Measurement & Evaluation
⭕️Real-World Analysis
⭕️Mitigations
⭕️Open Track - Мультиагентные динамики, динамика обучения, dual-use риски

🔗Подать заявку: https://apartresearch.com/sprints/ai-manipulation-hackathon-2026-01-09-to-2026-01-11

1,020

Start in AI Safety

29 апр. 2026 г., 16:09

🐉 Зимнее светское рациональное солнцестояние 2025

📅 Когда: 17:00, 21 декабря (воскресенье)
📍 Где: Москва, https://monoid.ru/
💰 Стоимость: бесплатно

Рациональное солнцестояние — это светский праздник, во время которого люди, объединённые идеями гуманизма, прогресса и рациональности, собираются вместе, чтобы поделиться идеями и познакомится с новыми людьми.

Тема этого года: человеческие ценности. Как формируется то, что вызывает в нас восхищение?

Программа:
🔘Тематическая арка
🔘Доклады от участников
🔘Игра "Медианные миры", настолки, свободное общение

По традиции гости в костюмах приветствуются и получают небольшие сувениры!

Мы ждем вас на Зимнем Светском Рациональном Солнцестоянии 2025, чтобы поговорить о насущном, подумать о вечном, помечтать о стоящем и провести самую долгую ночь в хорошей компании.

📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите https://t.me/MonoidAdmin

Хотите сделать доклад или провести игру? Пишите https://t.me/slavameriton!

776

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️Leaf Winter 2026 Cohort
5-недельные онлайн-курсы для одарённых старшеклассников

📍Где: онлайн
🗓Когда: зима 2026
⏰Дедлайн подачи: 15 декабря

Leaf открывает набор в зимнюю когорту 2026 года для талантливых школьников. Программа состоит из интенсивных пяти недель, где участники знакомятся с ключевыми идеями эффективного альтруизма и высокотмпактными карьерными треками.

О программе:
⭕️Введение в AI safety
⭕️Биобезопасность
⭕️Благополучие животных
⭕️Глобальное здравоохранение
⭕️Профориентирование в релевантных ЭА направлениях

Участники предыдущей когорты находились в 95 процентиле по результатам когнитивных тестов для взрослых.
Выпускники Leaf поступают в сильные университеты, проходят стажировки в AI-лабораториях, создают проекты, ведут EA-клубы и делают много других крутых вещей

🔗Подать заявку: https://leaf-winter-2026.paperform.co/
Отправляйте знакомым олимпиадникам

994

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️Language, Computation and Cognition Lab: PhD, postdoc & internship
PhD, рисерч ассистентство и стажировки по AI Safety/Mechanistic Interpretability

📍Где: Saarland University (Германия)
🗓Когда: 2026 год (дата начала обсуждается индивидуально)
⏰Дедлайн подачи: зависит от должности

Лаборатория https://lacoco-lab.github.io/home/) занимается мехинтерпом и формальным анализом способностей ЛЛМ. Их статьи публиковались на NeurIPS, ICLR, ACL и так далее. Они нанимают на позиции от бакалавров-ассистентов до постдоков. У исследователей (да, у бакалавров тоже) высокая автономия в выборе темы.

Основные направления включают:
⭕️способности и ограничения LLM
⭕️анализ внутреннего устройства моделей
⭕️формальные методы оценки поведения

А теперь подробнее о каждой из возможностей

2️⃣Student / Research Assistant

Студенты включаются в проекты наравне с аспирантами и нередко ведут собственные исследования. Среди ассистентов сейчас есть авторы статей, которые были на https://arxiv.org/abs/2402.09963 https://openreview.net/forum?id=eV5YIrJPdy https://arxiv.org/abs/2504.00132 https://arxiv.org/abs/2505.21785

От кандидата нужны хорошие навыки программирования и средний балл близкий к идеальному. (На сайте указано “grades close to 1,0 in the German academic system”, 1.0 это “отлично” во внутренних документах вуза может быть “пять с плюсом”, например 0.7, но что-то выше единицы в формальных документах получить невозможно)

1️⃣Intern

Стажерам-бакалаврам не из Германии оплачивают только проживание, стажерам-магистрантам еще могут платить зарплату

3️⃣PhD Student

⏰Дедлайн подачи: 20 декабря

Структура схожа с другими европейскими PhD програмами, ожидается, что займет 3-4 года. Финансирование тоже довольно стандартное

Для тех, кто диплом магистратуры показывать не хочет или не может
Подаваться нужно в Saarbrücken Graduate School of Computer Science. Зачисление на программу PhD будет включать подготовительную фазу. Если хотите работать именно с в этой лабе, нужно предварительно написать на имейл, указанный на сайте

4️⃣Postdoc

Примерно также, как PhD Student

📌В заявке необходимо продемонстрировать интерес к конкретным научным статьям лаборатории

🔗Подробности: https://lacoco-lab.github.io/joining/

Start in AI Safety

29 апр. 2026 г., 16:09

🔥Summer 2026 MATS Cohort: Neel Nanda

📍Где: онлайн + Беркли, США
🗓Когда:
2 февраля - 6 марта 2026 (онлайн)
1 июня - 21 августа 2026 (очно)
💰Стоимость: участие бесплатное, есть стипендия, жильё на очной фазе оплачивается
⏰Дедлайн подачи: 23 декабря 2025

Neel Nanda набирает участников в свой летний поток MATS. Тема, конечно же, мехинтерп. Программа включает 5‑недельный онлайн‑этап и 12‑недельную очную фазу с написанием рисерч‑пейпера при поддержке ментора.

🔗 Подробности: https://docs.google.com/document/d/1p-ggQV3vVWIQuCccXEl1fD0thJOgXimlbBpGk6FI32I/edit?tab=t.0#heading=h.y0ohi6l5z9qn
🔗 Подать заявку: https://forms.matsprogram.org/neel10

827

Start in AI Safety

29 апр. 2026 г., 16:09

⭐️ Non-Trivial Fellowship
Онлайн-инкубатор проектов для школьников (14-20 лет)

📍Где: онлайн
🗓Когда: 9 марта - 5 апреля 2026
💰Стипендия: $500 всем финалистам + возможность получить грант до $10,000 (см. ограничения)
⏰Дедлайн подачи: 22 декабря (приоритетный), 12 января (финальный)

Восьминедельная программа для участников от 14 до 20 лет, направленная на решение критических мировых проблем (AI Safety, Biosecurity, Climate Change и др.). Программа проходит под лозунгом "Начните значимые исследования еще до поступления в университет".

Что предоставляют:
⭕️Образовательный курс и вебинары с экспертами (среди прошлых спикеров: исследователи из AI Safety и профессора Оксфорда)
⭕️Менторская поддержка для работы над проектом
⭕️Доступ к сообществу Non-Trivial alumni

Что делать в рамках программы:
⭕️Пройти 4-недельный онлайн-курс (Research Foundations) по анализу глобальных проблем и стратегическому планированию
⭕️В случае прохождения на следующий этап (Fellowship) разработать и запустить собственный исследовательский или предпринимательский проект

Кого ждут (требования):
⭕️Возраст: от 14 до 20 лет.
⭕️Статус: школьники или те, кто взял gap year (участники не должны быть зачислены в университет на момент 9 марта 2026)
⭕️Свободное владение английским языком
⭕️Стипендии доступны большинству участников, за исключением тех, кто сейчас находится в небольшом числе стран (например, Россия, Китай, Иран и несколько других из-за юридических ограничений)

📌Процесс подачи заявки нестандартный: кандидатам предлагается пройти серию когнитивных тестов и решить логические задачи.

🔗Подробности: https://www.non-trivial.org/?utm_source=substack&utm_medium=email
🔗Подать заявку: https://apply.non-trivial.org/application-form

Showing 10 of 10 posts

No more posts

Рейтинг

Требуется вход

Отзывы пользователей (0)

Пока нет отзывов. Будьте первым, кто поделится своим опытом!

Start in AI Safety

Start in AI Safety

Рейтинг

Рост участников (Последние 6 дней)

Последние посты

Рейтинг

Отзывы пользователей (0)

Похожие каналы Telegram

CORE-expert Дмитрия Маликова

Илья Федотов-Федоров Мастерская

Бесплатный аккаунт

МамАрт — искусство жить свободно 🎨

Технозаметки Малышева

Курсы тактической медицины

SlivMarket

Учебный центр S.T.I. DENT

Похожие каналы Telegram

CORE-expert Дмитрия Маликова

Илья Федотов-Федоров Мастерская

Бесплатный аккаунт

МамАрт — искусство жить свободно 🎨

Технозаметки Малышева

Курсы тактической медицины

SlivMarket

Учебный центр S.T.I. DENT

Отзывы пользователей (0)

Последние посты