Экономика долгого времени
Экономический канал Сергея Егиева, PhD.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
Макро
Экономическая история
Рыночная
Зеленая
Industrial policy
"Радикальный центризм"
Научные статьи: https://eg1evs.github.io/
Рассылка: https://shorturl.at/Af1jA
@longvieweconbot или фб. Рекламы нет.
TGlist рейтинг
0
0
ТипАчык
Текшерүү
ТекшерилбегенИшенимдүүлүк
ИшенимсизОрдуРосія
ТилиБашка
Канал түзүлгөн датаOct 06, 2022
TGlistке кошулган дата
May 16, 2024Тиркелген топ
ЭДВ (комментарии)
1.1K
Рекорддор
06.04.202523:59
14.2KКатталгандар30.09.202423:59
300Цитация индекси13.03.202510:21
6.9K1 посттун көрүүлөрү15.03.202513:27
11.2K1 жарнама посттун көрүүлөрү18.01.202523:59
13.73%ER07.09.202423:59
50.49%ERRӨнүгүү
Катталуучулар
Citation индекси
Бир посттун көрүүсү
Жарнамалык посттун көрүүсү
ER
ERR
Кайра бөлүшүлгөн:
nonpartisan
14.03.202519:01
Рынок не противоречит социальной справедливости – объясняю на пирогах
Для большинства людей рынок и социальная справедливость воспринимаются как взаимоисключающие понятия. Я полагаю, что это не так, и далее объясню почему.
Философ Джейсон Бреннан предлагает интересный мысленный эксперимент. Представьте, что вам и ещё нескольким людям необходимо распределить между собой пирог. Ваша первая интуиция будет нарезать его на равные доли. Однако этот пирог не обычный, а магический – его размер меняется в зависимости от того, как его нарезать. Представьте, что он может увеличиться в размере, если его нарезать на неравные доли, но останется таким же, если нарезать поровну.
Здесь возникает конфликт между двумя ценностями:
1. Если вы цените равенство, то нарежете пирог на равные доли, но тогда каждый получит меньше.
2. Если вы цените благополучие, то нарежете пирог неравно, но каждый получит кусок побольше.
Этот эксперимент наглядно демонстрирует моральные дилеммы, связанные с функционированием рынка.
Рыночное неравенство доходов стимулирует людей эффективно использовать свои таланты. В результате выигрывают не только наиболее успешные, но и все общество – благодаря улучшению экономических условий и появлению новых возможностей. Например, высокооплачиваемый IT-специалист создаёт полезные технологии, повышающие качество жизни всех граждан.
Конфликт между левыми и правыми в вопросах экономики – это по сути выбор между равенством и благополучием. Правые выступают за свободный рынок, обеспечивающий каждому больший кусок, несмотря на неравенство. Для левых такой сценарий является неприемлемым. Вмешиваясь в рынок и ломая систему стимулов, они предлагают каждому одинаковые, но меньшие куски.
Здравый смысл подсказывает мне, что благополучие важнее равенства. Не стоит оценивать справедливость, сравнивая людей друг с другом – значение имеют лишь абсолютные величины. Если мы действительно заботимся о социальной справедливости и благополучии наименее преуспевающих, то не можем игнорировать рыночные механизмы.
Для большинства людей рынок и социальная справедливость воспринимаются как взаимоисключающие понятия. Я полагаю, что это не так, и далее объясню почему.
Философ Джейсон Бреннан предлагает интересный мысленный эксперимент. Представьте, что вам и ещё нескольким людям необходимо распределить между собой пирог. Ваша первая интуиция будет нарезать его на равные доли. Однако этот пирог не обычный, а магический – его размер меняется в зависимости от того, как его нарезать. Представьте, что он может увеличиться в размере, если его нарезать на неравные доли, но останется таким же, если нарезать поровну.
Здесь возникает конфликт между двумя ценностями:
1. Если вы цените равенство, то нарежете пирог на равные доли, но тогда каждый получит меньше.
2. Если вы цените благополучие, то нарежете пирог неравно, но каждый получит кусок побольше.
Этот эксперимент наглядно демонстрирует моральные дилеммы, связанные с функционированием рынка.
Рыночное неравенство доходов стимулирует людей эффективно использовать свои таланты. В результате выигрывают не только наиболее успешные, но и все общество – благодаря улучшению экономических условий и появлению новых возможностей. Например, высокооплачиваемый IT-специалист создаёт полезные технологии, повышающие качество жизни всех граждан.
Конфликт между левыми и правыми в вопросах экономики – это по сути выбор между равенством и благополучием. Правые выступают за свободный рынок, обеспечивающий каждому больший кусок, несмотря на неравенство. Для левых такой сценарий является неприемлемым. Вмешиваясь в рынок и ломая систему стимулов, они предлагают каждому одинаковые, но меньшие куски.
Здравый смысл подсказывает мне, что благополучие важнее равенства. Не стоит оценивать справедливость, сравнивая людей друг с другом – значение имеют лишь абсолютные величины. Если мы действительно заботимся о социальной справедливости и благополучии наименее преуспевающих, то не можем игнорировать рыночные механизмы.
14.03.202511:04
Министр финансов Великобритании: наша экономика упала из-за Дональда Трампа.
—
Магистерская диссертация (из будущего):
«Дональд Трамп как объяснение всех неудач всех людей во второй половине 20-х годов XXI века.»
—
Магистерская диссертация (из будущего):
«Дональд Трамп как объяснение всех неудач всех людей во второй половине 20-х годов XXI века.»
Кайра бөлүшүлгөн:
Sinекура
06.04.202516:29
На этой неделе вышел очередной текст с прогнозами развития искусственного интеллекта: "AI 2027" (pdf-версия). Мне он, правда, совсем не кажется "очередным", в основном из-за списка авторов. Так что суммаризировать я его для вас не буду (текст совсем не длинный, рекомендую прочитать целиком), а лучше про этих самых авторов расскажу.
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Первый автор, Даниэль Кокотайло — это бывший сотрудник OpenAI. Два самых для нас важных факта про него связаны как раз с этим трудоустройством:
— OpenAI нанял Даниэля после того, как в 2021 году он написал статью "What 2026 Looks Like", где предсказал, как будут развиваться большие языковые модели; сейчас этот текст читается потрясающе, Даниэль оказался прав очень во многом, хотя в 2021-м его прогноз выглядел маловероятно, а для многих и безумно; так что Даниэль Кокотайло — один из лучших людей мира в плане прогнозов о развитии AI;
— а когда в 2024-м Кокотайло увольнялся из OpenAI, он оказался в центре скандала с non-disparagement clause: OpenAI пригрозил ему тем, что не даст продавать акции OpenAI, если Кокотайло будет что-то разглашать о рисках развития AI, и Даниэль... плюнул на акции, чтобы стать whistleblower'ом от AGI (говорят, в акциях OpenAI было около 85% всех денег его семьи).
Второго автора, надеюсь, моим читателям представлять не надо: это Скотт Александр, автор знаменитых блогов SlateStarCodex и AstralCodexTen. Если вы вдруг их не читали, начинайте прямо сейчас (можно начать отсюда или отсюда), хотя навёрстывать придётся много. В связи с "AI 2027" Даниэль Кокотайло и Скотт Александр уже успели появиться в подкасте Дваркеша Пателя, который я тоже, конечно, целиком рекомендую.
Другие авторы не так известны широкой публике; это:
— Томас Ларсен, сооснователь Center for AI Policy;
— Илай Лифланд, один из лидеров команды прогнозистов Samotsvety, один из тех самых superforecasters, которые умеют прогнозировать будущее лучше кого бы то ни было;
— Йонас Фоллмер, VC в Macroscopic Ventures, которому хватило предсказательной силы сделать одну из ранних инвестиций в Anthropic;
— Ромео Дин, магистрант Гарварда и руководитель тамошнего AI Safety Student Team.
В общем, очень внушительная команда. И сейчас все они считают, что вполне реально ожидать появления AGI к 2027–2028 годам. Если гонка разработок в области AGI в итоге победит заботу о безопасности (вам это кажется правдоподобным? мне — вполне), то примерно в 2030–2035 годах нас ждёт тот самый AI takeover, сценарий захвата мира искусственным интеллектом. Это их "плохая концовка", но в тексте предусмотрена и "хорошая", в которой люди сохраняют контроль над ситуацией. Впрочем, в хорошей концовке AGI тоже появляется и тоже трансформирует мир и общество до неузнаваемости.
Читать очень интересно. В интернете этот текст уже начали называть "Situational Awareness 2.0"; прошлогоднюю "Situational Awareness" Леопольда Ашенбреннера я в каждой обзорной лекции упоминаю, теперь, видимо, надо будет упоминать и "AI 2027".
Кайра бөлүшүлгөн:
Экономика на рельсах (РЖД files)
22.03.202507:58
ПАГУБНАЯ САМОНАДЕЯННОСТЬ
Рубрика: чтение выходного дня.
В 2023 году вышел новый перевод последней книги Фридриха фон Хайека «Пагубная самонадеянность» (первый перевод вышел в 1992г.) Это, вероятно, самая противоречивая книга Хайека. Здесь он анализирует то, каким образом, спонтанно формирующиеся институты (например, мораль) определяют экономическое развитие разных обществ. Хайек находит много параллелей между биологией и экономикой, попутно отмечая, что Чарльз Дарвин сформировал свою идею происхождения видов и происхождения человека под влиянием идей «Богатства народов» Адама Смита. Книга Нобелевского лауреата по экономике посвящена не столько экономике, сколько тому- как вообще из сформированной спонтанно морали и этическим правилам (в том числе отношению к частной собственности) вырастает современный рыночный капитализм, для описания которого, впрочем, Хайек использует понятие «расширенный порядок».
Один из важных тезисов Хайека заключается в том, что порядки, сформированные стихийно (спонтанно), как совокупность множества воль, представлений и интересов множества людей, оказываются более разумными, рациональными и полезными для общества, чем порядки, созданные сознательно и централизованно. Помимо прочего, в книге содержатся весьма интересные и нетипичные аргументы против идей его вечного оппонента Дж. М. Кейнса, размышления о той парадоксально-негативной роли, которую сыграли идеи Ж.-Ж. Руссо, о том, какую роль в экономической науке сыграла маржиналистская революция а так же мысли о том, почему иногда следование абстрактным правилам для общества оказывается более полезным, чем прямой утилитаризм. (В этом пункте, кстати, Хайек расходится со своим учителем Мизесом, который, как известно, был сторонником утилитаристской этики, а не деонтологической). Кроме того, на полях основного течения книги разбросано множество интересных мыслей, касающихся, например, разделения труда и специализации. Любопытно, кстати, что идею культурного многообразия, которую обычно отстаивают через «левые» концепты защиты интересов угнетённых групп населения, Хайек выводит с другой- «правой» -стороны политического спектра через концепт специализации («человек в значительной мере ценен для других тем, чем он отличается от них»).
Современная индустриальная экономика, - говорит Хайек,- выросла не там, где были сильные правительства, не там, где была сильна централизованная власть, а - напротив - там, «где порядки в основном устанавливали горожане, а не воины».
Рубрика: чтение выходного дня.
В 2023 году вышел новый перевод последней книги Фридриха фон Хайека «Пагубная самонадеянность» (первый перевод вышел в 1992г.) Это, вероятно, самая противоречивая книга Хайека. Здесь он анализирует то, каким образом, спонтанно формирующиеся институты (например, мораль) определяют экономическое развитие разных обществ. Хайек находит много параллелей между биологией и экономикой, попутно отмечая, что Чарльз Дарвин сформировал свою идею происхождения видов и происхождения человека под влиянием идей «Богатства народов» Адама Смита. Книга Нобелевского лауреата по экономике посвящена не столько экономике, сколько тому- как вообще из сформированной спонтанно морали и этическим правилам (в том числе отношению к частной собственности) вырастает современный рыночный капитализм, для описания которого, впрочем, Хайек использует понятие «расширенный порядок».
Один из важных тезисов Хайека заключается в том, что порядки, сформированные стихийно (спонтанно), как совокупность множества воль, представлений и интересов множества людей, оказываются более разумными, рациональными и полезными для общества, чем порядки, созданные сознательно и централизованно. Помимо прочего, в книге содержатся весьма интересные и нетипичные аргументы против идей его вечного оппонента Дж. М. Кейнса, размышления о той парадоксально-негативной роли, которую сыграли идеи Ж.-Ж. Руссо, о том, какую роль в экономической науке сыграла маржиналистская революция а так же мысли о том, почему иногда следование абстрактным правилам для общества оказывается более полезным, чем прямой утилитаризм. (В этом пункте, кстати, Хайек расходится со своим учителем Мизесом, который, как известно, был сторонником утилитаристской этики, а не деонтологической). Кроме того, на полях основного течения книги разбросано множество интересных мыслей, касающихся, например, разделения труда и специализации. Любопытно, кстати, что идею культурного многообразия, которую обычно отстаивают через «левые» концепты защиты интересов угнетённых групп населения, Хайек выводит с другой- «правой» -стороны политического спектра через концепт специализации («человек в значительной мере ценен для других тем, чем он отличается от них»).
Современная индустриальная экономика, - говорит Хайек,- выросла не там, где были сильные правительства, не там, где была сильна централизованная власть, а - напротив - там, «где порядки в основном устанавливали горожане, а не воины».
07.04.202508:10
Прочитать-пересказать?
Кайра бөлүшүлгөн:
ХОЛОДНЫЙ РАСЧЕТ ∅
13.03.202510:13
Хронология дня.
1. Уитикофф прилетел в Москву на переговоры.
2. Уиткофф направился в обменник в аэропорту Москвы — мониторинг
3. Уитикофф покупает много рублей.
Смотрим на рубль в моменте.
Спасибо Трансстройбанку за спреды.
P.S. Он еще офигеет от цен в центре Москвы, когда обедать пойдет, спасибо рублю за это.
Месть - это блюдо , которое подают последним…
1. Уитикофф прилетел в Москву на переговоры.
2. Уиткофф направился в обменник в аэропорту Москвы — мониторинг
3. Уитикофф покупает много рублей.
Смотрим на рубль в моменте.
Спасибо Трансстройбанку за спреды.
P.S. Он еще офигеет от цен в центре Москвы, когда обедать пойдет, спасибо рублю за это.
Месть - это блюдо , которое подают последним…
Кайра бөлүшүлгөн:
Если быть точным
28.03.202511:40
Искусственный интеллект частично может заменить программистов и копирайтеров. Но страховщикам, ассистентам и бухгалтерам бояться пока нечего — их работа слишком «хаотична»
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Большие языковые модели вроде ChatGPT успешно сдают сложные экзамены и пишут эссе, которые преподаватели не всегда могут отличить от работ студентов магистратуры. Возможности искусственного интеллекта превосходят человеческие, но получается своего рода парадокс: к масштабным изменениям на рынке труда это пока не приводит.
Простой пример: задачи бухгалтеров или туроператоров почти полностью совпадают с возможностями языковых моделей, считает обозреватель Financial Times Джон Берн-Мердок. Но число работников не сокращается, несмотря на распространение генеративного искусственного интеллекта. Вероятно, офисные профессии включают множество неструктурированных задач, которые модели пока не в состоянии решить.
Однако есть исключения: копирайтеры и разработчики программного обеспечения. Эти профессии имеют четкие и последовательные задачи, которые искусственный интеллект может выполнять гораздо быстрее и точнее.
Например, в США число занятых в этих профессиях резко упало за последние два года. Мердок связывает это с влиянием языковых моделей.
Почему же офисные профессии, такие как помощники руководителей или бухгалтеры, до сих пор не поддаются автоматизации искусственным интеллектом? Причина в том, что они требуют работы с параллельной обработкой нескольких потоков информации, нечетко сформулированными задачами и решением нескольких проблем одновременно. Эти «хаотичные» процессы трудно автоматизировать, в отличие от линейных и структурированных задач программистов или копирайтеров.
Так что у офисных работников есть преимущества, и пока за рабочие места им волноваться не стоит, считает Мердок.
Кайра бөлүшүлгөн:
Сиолошная
28.03.202520:14
Попросил Gemini 2.5 прочитать этот документ на 150 страниц (~45'000 токенов) и сделать саммари в виде последовательных шагов, а затем перевести на русский. Вот результат:
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.
Көбүрөөк функцияларды ачуу үчүн кириңиз.
