You know what's crazy? That all of this is real
В подкасте с Суцкевером мне больше всего зарядило подтверждение того, что ключей к суперинтеллекту всё ещё нет ни у кого. Как и Карпатый, он приземлил всех "feel the AGI" на конкретные проблемы трансформеров.
Прошлым летом мне было тревожно, а сейчас наоборот — я чувствую, что шансы есть у всех кто хочет и делает.
Несколько классных панчей от Ильи:
1. LLM как отличник‑зубрила.
История про двух студентов супер-понятна. Один механически зубрит 10 000 задач на LeetCode, второй — 100, но реально понимает, что делает.
LLMs сегодня — это первый: отлично пишут код и фигачат frontier math evals, но в реальной жизни есть КУЧА проблем, и фактический экономический эффект не больше пары % ВВП.
2. "Добавь GPU vs Research".
- 2012–2020 — время, когда рождались сами подходы: новые архитектуры, новые идеи, эксперименты с минимальным GPU.
- 2020–2025 — началась эра GPU: OAI нашли удачный рецепт со скейлингом pre‑training, и compute полетел по экспоненте.
Несмотря на то, что можно и дальше скейлить трансформеры, Илья считает, что без фундаментального прорыва в research мы не построим самообучающийся интеллект, что бьется с показаниями Карпатого, Ле Куна и менее известных рисечеров.
3. SSI as a moonshot.
Он говорит, что они не собираются выпускать продукты и монетизировать их, пока не построят ASI. Звучит достаточно безумно, ведь без продукта нет трекшена и невозможно рейзить сотни миллиардов, как Сэм, чтобы строить чипы и электростанции. Значит, Илья реально верит в то, что ASI возможен за счёт research-прорыва, а не скейлинга. Ну мёд!
Его alignment-формула тоже изменилась. Вместо фрик-контроля он предлагает концепцию: "AI that cares about sentient life".
Логика: в будущем большинство "sentient beings" будут AI (пиздец, да?). Если заложить любовь к "sentient life", то ИИ будет беречь и нас, и своих цифровых собратьев. Не ожидал от железного бати, который устроил Сэму переворот, такого философского рассуждения.
Главный вопрос - как это сделать, но это задача уровня "хочу чтобы все люди были добрые".
Кто смотрел?
