Почему я думаю, что Карпати ошибается на временной шкале AGI
Андрей Карпати недавно зашел на подкаст Dwarkesh, и у меня есть несколько мыслей.
Многие говорят, что Карпати считает, что AGI появится через 10 лет, и поэтому Гэри Маркус прав, а такие люди, как я, Шолто и все остальные, говорящие, что AGI появится через несколько лет, только что проиграли войну.
Убедительно, но все не так просто.
Подобные дебаты обычно основываются на определениях, и определение, которое использует Карпати, пришло к нему, когда он вернулся в OpenAI:
Я не думаю, что это лучшее определение, которое можно использовать в данный момент.
Я думаю, это хорошо чистый определение, или Информатика определение, но я думаю, что нам следует сосредоточить наше определение на том, что наиболее важно для людей (в отличие от людей с искусственным интеллектом).
Я обеспокоен – как и Карпати и Дваркеш – по поводу замены человеческой работы. Конкретно человеческий познавательный труд. И именно поэтому я использую это определение с 2023 года:
Для меня это лучше по двум причинам:
- Основное внимание уделяется тому факту, что это ИИ системаа не один конкретный компонент системы (например, модель)
- Она обеспечивает более прямой ориентир для того, что нас волнует, а именно: действительно ли компании заменяют работников с помощью этой системы? Да или нет?
Системная часть является ключевой.
У меня нет причин – или возможности – не соглашаться с Карпати по поводу ограничений чистой степени магистра права. Недавно он написал еще один в 1000 строк кода. Он здесь настоящий сенсей, и я знаю 0,00017% того, что он знает о магистратуре. Проблема в том, что системы искусственного интеллекта — это не только сами студенты LLM. Это не голые нейронные сети.
Когда вы заходите наchatgpt.com и разговариваете с gpt-5 вы не разговариваете с базовой нейронной сетью; ты говоришь с система искусственного интеллекта.
Вы говорите о результате того, что первоначальный LLM был сформирован и сформирован с использованием колоссального количества дополнительных строительных лесов и инженерных работ, чтобы стать как можно лучше. система это может быть для выполнения своей конкретной задачи. В данном случае быть чат-ботом/помощником.
Это различие имеет решающее значение, поскольку замена человеческих рабочих мест также будет осуществляться с помощью составных, сшитых вместе систем, которые во много раз более мощны, чем их части.
Чтобы заменить менеджера проекта или исполнительного помощника, компании, занимающиеся заменой людей, не собираются сидеть сложа руки и ждать GPT-9 или Gemini 7.5.
Замена рабочих-людей произойдет с помощью продуктов/систем искусственного интеллекта, которые обойти чистые ограничения программ LLM и индивидуального модельного интеллекта.
Клод Код — блестящий тому пример.
Просто цифры футбольных подач, Claude Code, когда он был запущен, был примерно в 5 раз лучше, чем Opus или Sonnet, помогая разработчикам писать код.
Ну, прошло менее 10 месяцев, и оно стало во много раз лучше этого уже.
Как ночь и день.
Да, модели стали лучше, но это не главное. Это были постоянные итеративные улучшения, направленные на улучшение того, как ИИ разговаривает сам с собой. Координация. Контекстное управление/Инжиниринг. И только сейчас добавили навыки, что доводит все это дело до 11-миллионной.
Это именно тот тип механизма повышения эффективности, который будет применяться к замене человеческого труда. Если у нас недостаточно контекстного окна для чтения всех документов компании, компании изобрели системы для этого.
Там, где они недостаточно универсальны, чтобы соответствовать человеческой гибкости, они добавят так много замечательных вариантов использования и возможностей — примерно на основе парадигмы навыков агента — что мы в конечном итоге не заметим, потому что они охватывают большую часть.
Больше всего меня беспокоит скорость прогресса в замене ИИ работников умственного труда не скоростью совершенствования систем ИИ. Дело в том, что планка настолько низка.
Значительная часть комедий нашей культуры основана на полной некомпетентности примерно половины нашей рабочей силы.
- Худшее обслуживание клиентов
- Люди хвастаются тем, как мало они работают
- Сделать спорт из выполнения минимума
- Люди, абсолютно ненавидящие свою работу
- Даже порядочные работники просто бездумно въезжают и выходят
Посредственность – это основа. Почти по определению.
Что Это то, с чем конкурируют многомиллиардные стартапы по замене рабочих рук, а не с 10% лучших исполнителей, которых вы знаете.
Подумайте об этом так: за то время, пока мы прошли путь от отсутствия кода Клода до того, что он стал действительно хорошим, и теперь у него есть общие навыки замены рабочих задач, насколько улучшились нижние 50% работников умственного труда?
Ноль.
Насколько с момента появления ChatGPT нижние 50% работников умственного труда улучшили свои способности?
Опять 0%.
Планка замещения человеческой работы не сдвигается, а возможности систем искусственного интеллекта становятся совершенно сумасшедшими.
Вы можете возразить, сказав, что это только для людей, которые не очень стараются, или которые не настолько умны, или что-то в этом роде.
Во многом я с вами согласен, но это не важно.
У нас с тобой, Дваркешем и Карпати все будет хорошо. Ну и что?
Если ИИ только съест худших 50% работников умственного труда в ближайшие 5-10 лет, мы все еще говорим о сотнях миллионов рабочих мест.
Вот почему я не согласен с Карпатами в этом.
Это не потому, что он не прав. Это не так. Но он сосредоточился не на том.
Если нас волнует краткосрочное и практическое влияние ИИ на человечество, то дело не в том, насколько умны отдельные модели или конкретные технические ограничения RL для достижения непрерывного обучения.
Это триллионы долларов инвестируется в замену статических худших 50% рабочих.
Эти триллионы тратятся на внедрение системы замены рабочих. просто достаточно общий чтобы достичь этой отметки.
Итак, мой вопрос к вам: учитывая то, что мы видим в улучшении моделей и таких системах, как Claude Code, которые экспоненциально увеличивают возможности моделей, вы действительно хотите сделать ставку на то, что это не произойдет?
Я не.
И именно поэтому я думаю, что «AGI» будет здесь до 2028 года. Не потому, что все, о чем говорит Карпати, будет решено, а потому, что не будет иметь значения, будут ли они решены.
