Экономика долгого времени
Экономический канал Сергея Егиева, PhD.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
Рейтинг TGlist
0
0
ТипПублічний
Верифікація
Не верифікованийДовіреність
Не надійнийРозташуванняРосія
МоваІнша
Дата створення каналуЖовт 06, 2022
Додано до TGlist
Трав 16, 2024Прикріплена група
ЭДВ (комментарии)
1.1K
Рекорди
12.04.202523:59
14.2KПідписників30.09.202423:59
300Індекс цитування13.03.202510:21
6.9KОхоплення 1 допису15.03.202513:27
11.2KОхоп рекл. допису18.01.202523:59
13.73%ER07.09.202423:59
50.49%ERRПереслав з:
Экономика долгого времени
16.04.202514:33
Забыл у какого британского историка читал мысль, что в России идея разрыва с традицией существует уже так долго и имеет настолько глубокие интеллектуальные корни, что в случае России можно говорить о традиции разрыва с традицией.
Переслав з:
Sinекура
06.04.202516:29
На этой неделе вышел очередной текст с прогнозами развития искусственного интеллекта: "AI 2027" (pdf-версия). Мне он, правда, совсем не кажется "очередным", в основном из-за списка авторов. Так что суммаризировать я его для вас не буду (текст совсем не длинный, рекомендую прочитать целиком), а лучше про этих самых авторов расскажу.
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Переслав з:
Экономика на рельсах (РЖД files)
22.03.202507:58
ПАГУБНАЯ САМОНАДЕЯННОСТЬ
Рубрика: чтение выходного дня.
В 2023 году вышел новый перевод последней книги Фридриха фон Хайека «Пагубная самонадеянность» (первый перевод вышел в 1992г.) Это, вероятно, самая противоречивая книга Хайека. Здесь он анализирует то, каким образом, спонтанно формирующиеся институты (например, мораль) определяют экономическое развитие разных обществ. Хайек находит много параллелей между биологией и экономикой, попутно отмечая, что Чарльз Дарвин сформировал свою идею происхождения видов и происхождения человека под влиянием идей «Богатства народов» Адама Смита. Книга Нобелевского лауреата по экономике посвящена не столько экономике, сколько тому- как вообще из сформированной спонтанно морали и этическим правилам (в том числе отношению к частной собственности) вырастает современный рыночный капитализм, для описания которого, впрочем, Хайек использует понятие «расширенный порядок».
Один из важных тезисов Хайека заключается в том, что порядки, сформированные стихийно (спонтанно), как совокупность множества воль, представлений и интересов множества людей, оказываются более разумными, рациональными и полезными для общества, чем порядки, созданные сознательно и централизованно. Помимо прочего, в книге содержатся весьма интересные и нетипичные аргументы против идей его вечного оппонента Дж. М. Кейнса, размышления о той парадоксально-негативной роли, которую сыграли идеи Ж.-Ж. Руссо, о том, какую роль в экономической науке сыграла маржиналистская революция а так же мысли о том, почему иногда следование абстрактным правилам для общества оказывается более полезным, чем прямой утилитаризм. (В этом пункте, кстати, Хайек расходится со своим учителем Мизесом, который, как известно, был сторонником утилитаристской этики, а не деонтологической). Кроме того, на полях основного течения книги разбросано множество интересных мыслей, касающихся, например, разделения труда и специализации. Любопытно, кстати, что идею культурного многообразия, которую обычно отстаивают через «левые» концепты защиты интересов угнетённых групп населения, Хайек выводит с другой- «правой» -стороны политического спектра через концепт специализации («человек в значительной мере ценен для других тем, чем он отличается от них»).
Современная индустриальная экономика, - говорит Хайек,- выросла не там, где были сильные правительства, не там, где была сильна централизованная власть, а - напротив - там, «где порядки в основном устанавливали горожане, а не воины».
Рубрика: чтение выходного дня.
В 2023 году вышел новый перевод последней книги Фридриха фон Хайека «Пагубная самонадеянность» (первый перевод вышел в 1992г.) Это, вероятно, самая противоречивая книга Хайека. Здесь он анализирует то, каким образом, спонтанно формирующиеся институты (например, мораль) определяют экономическое развитие разных обществ. Хайек находит много параллелей между биологией и экономикой, попутно отмечая, что Чарльз Дарвин сформировал свою идею происхождения видов и происхождения человека под влиянием идей «Богатства народов» Адама Смита. Книга Нобелевского лауреата по экономике посвящена не столько экономике, сколько тому- как вообще из сформированной спонтанно морали и этическим правилам (в том числе отношению к частной собственности) вырастает современный рыночный капитализм, для описания которого, впрочем, Хайек использует понятие «расширенный порядок».
Один из важных тезисов Хайека заключается в том, что порядки, сформированные стихийно (спонтанно), как совокупность множества воль, представлений и интересов множества людей, оказываются более разумными, рациональными и полезными для общества, чем порядки, созданные сознательно и централизованно. Помимо прочего, в книге содержатся весьма интересные и нетипичные аргументы против идей его вечного оппонента Дж. М. Кейнса, размышления о той парадоксально-негативной роли, которую сыграли идеи Ж.-Ж. Руссо, о том, какую роль в экономической науке сыграла маржиналистская революция а так же мысли о том, почему иногда следование абстрактным правилам для общества оказывается более полезным, чем прямой утилитаризм. (В этом пункте, кстати, Хайек расходится со своим учителем Мизесом, который, как известно, был сторонником утилитаристской этики, а не деонтологической). Кроме того, на полях основного течения книги разбросано множество интересных мыслей, касающихся, например, разделения труда и специализации. Любопытно, кстати, что идею культурного многообразия, которую обычно отстаивают через «левые» концепты защиты интересов угнетённых групп населения, Хайек выводит с другой- «правой» -стороны политического спектра через концепт специализации («человек в значительной мере ценен для других тем, чем он отличается от них»).
Современная индустриальная экономика, - говорит Хайек,- выросла не там, где были сильные правительства, не там, где была сильна централизованная власть, а - напротив - там, «где порядки в основном устанавливали горожане, а не воины».
Переслав з:
Если быть точным
28.03.202511:40
Искусственный интеллект частично может заменить программистов и копирайтеров. Но страховщикам, ассистентам и бухгалтерам бояться пока нечего — их работа слишком «хаотична»
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Переслав з:
Сиолошная
28.03.202520:14
Попросил Gemini 2.5 прочитать этот документ на 150 страниц (~45'000 токенов) и сделать саммари в виде последовательных шагов, а затем перевести на русский. Вот результат:
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
07.04.202508:10
Прочитать-пересказать?
Увійдіть, щоб розблокувати більше функціональності.
