Экономика долгого времени
Экономический канал Сергея Егиева, PhD.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
Рэйтынг TGlist
0
0
ТыпПублічны
Вертыфікацыя
Не вертыфікаваныНадзейнасць
Не надзейныРазмяшчэннеРосія
МоваІншая
Дата стварэння каналаOct 06, 2022
Дадана ў TGlist
May 16, 2024Прыкрепленая група
ЭДВ (комментарии)
1.1K
Пераслаў з:
Экономика долгого времени
16.04.202514:33
Забыл у какого британского историка читал мысль, что в России идея разрыва с традицией существует уже так долго и имеет настолько глубокие интеллектуальные корни, что в случае России можно говорить о традиции разрыва с традицией.
Пераслаў з:
Sinекура
06.04.202516:29
На этой неделе вышел очередной текст с прогнозами развития искусственного интеллекта: "AI 2027" (pdf-версия). Мне он, правда, совсем не кажется "очередным", в основном из-за списка авторов. Так что суммаризировать я его для вас не буду (текст совсем не длинный, рекомендую прочитать целиком), а лучше про этих самых авторов расскажу.
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Пераслаў з:Экономика долгого времени
17.04.202516:14
В последний раз недвижимость в Великобритании была так же недоступна (средняя стоимость высока относительно средних заработков)
…проверяет свои записи…
в 1876-м году.
Пара комментариев:
1. Поразительная черта британской экономики: огромный объем временных рядов можно продлить назад то до 19-го века, то до 15-го. Многое записывалось и фиксировалось (и, главное, не сжигалось) столетиями.
2. Относительная дороговизна недвижимости, как мне кажется, реально дестабилизирует демократический процесс. Люди злятся, считают это несправедливым и голосуют за всякий fringe — то слева, то справа. Трудно продавать “центр” в ситуации, когда средний молодой человек купит себе дом примерно никогда.
3. У такого роста цены есть общий для многих стран корень — т.н. NIMBYism, Not In My Backyard, то есть, в “моем дворе не строить”. Те, кто уже владеет домами, блокирует строительство новых домов по соседству. Это чистая рента: владеешь активом и пользуешься им, чтобы защитить рентный доход. Здесь нет простого решения (NIMBY нельзя просто запретить — демократия), но, как мне кажется, толерантно относится к NIMBY просто аморально. Придется это ограничивать регулированием.
4. Потоки капитала между странами. Понятно, что частично рост недвижимости в Великобритании — это приток денег из развивающихся стран. И здесь тоже есть политическая опасность: свободные потоки капитала — это безусловно хорошо, но если эти свободные потоки капитала будут систематически лишать молодежь возможности приобрести свой дом или квартиру, то она проголосует за capital controls. Это надо осознать, принять как фактор и что-то с этим рынком делать.
@longviewecon
…проверяет свои записи…
в 1876-м году.
Пара комментариев:
1. Поразительная черта британской экономики: огромный объем временных рядов можно продлить назад то до 19-го века, то до 15-го. Многое записывалось и фиксировалось (и, главное, не сжигалось) столетиями.
2. Относительная дороговизна недвижимости, как мне кажется, реально дестабилизирует демократический процесс. Люди злятся, считают это несправедливым и голосуют за всякий fringe — то слева, то справа. Трудно продавать “центр” в ситуации, когда средний молодой человек купит себе дом примерно никогда.
3. У такого роста цены есть общий для многих стран корень — т.н. NIMBYism, Not In My Backyard, то есть, в “моем дворе не строить”. Те, кто уже владеет домами, блокирует строительство новых домов по соседству. Это чистая рента: владеешь активом и пользуешься им, чтобы защитить рентный доход. Здесь нет простого решения (NIMBY нельзя просто запретить — демократия), но, как мне кажется, толерантно относится к NIMBY просто аморально. Придется это ограничивать регулированием.
4. Потоки капитала между странами. Понятно, что частично рост недвижимости в Великобритании — это приток денег из развивающихся стран. И здесь тоже есть политическая опасность: свободные потоки капитала — это безусловно хорошо, но если эти свободные потоки капитала будут систематически лишать молодежь возможности приобрести свой дом или квартиру, то она проголосует за capital controls. Это надо осознать, принять как фактор и что-то с этим рынком делать.
@longviewecon
Пераслаў з:
Если быть точным
28.03.202511:40
Искусственный интеллект частично может заменить программистов и копирайтеров. Но страховщикам, ассистентам и бухгалтерам бояться пока нечего — их работа слишком «хаотична»
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Пераслаў з:
Сиолошная
28.03.202520:14
Попросил Gemini 2.5 прочитать этот документ на 150 страниц (~45'000 токенов) и сделать саммари в виде последовательных шагов, а затем перевести на русский. Вот результат:
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
07.04.202508:10
Прочитать-пересказать?
Увайдзіце, каб разблакаваць больш функцый.
