EXTENDED (SUR)REALITY
29.03.202507:09
Настоящий <strike>шотландец</strike> ИИ
В истории искусственного интеллекта есть одна любопытная закономерность, которую обнаружил еще Джон Маккарти. В англоязычной литературе она именуется "AI effect" и сводится к следующему: каждый раз, когда ИИ-разработчики добиваются крупного успеха (создают модель, которая обыгрывает человека в шахматы / ведёт осмысленные диалоги / решает сложные задачи нобелевского уровня), коллективное научное сообщество делает дружный шаг назад и говорит «это всё ещё не настоящий интеллект».
Подобную логику “подвижной мишени” американский ученый-компьютерщик Ларри Теслер описал лаконичной фразой:
(на самом деле исходная лаконичная фраза звучала иначе: «Intelligence is whatever machines haven't done yet»).
Такая тенденция «понижать громкость» очередной разработки была особенно заметна в 90е, во время второй «зимы ИИ», когда исследователи обнаружили, что они могут получать больше финансирования, если будут всячески маскировать тот факт, что их работа хоть как-то связана с ИИ.
Но почему нам так нужен этот прокручивающийся порог сегодня? Причин несколько:
· Наивный антропоцентризм: люди подсознательно пытаются сохранить за собой уникальную роль интеллектуальных агентов, поэтому «настоящий ИИ» в этой парадигме просто нереализуем.
· Принцип новизны: пока задача нова и непонятна для машин, она считается «интеллектуальной». Как только найден алгоритм, она становится «просто программированием» (если выразить это простой формулой, то получится «AI! =>AI»). Жёстко формализовать критерии «интеллектуальности» пока не получается, поэтому конца у этого процесса не видно.
· Поддержание дискурса о будущем: пресловутый AGI как система, полностью равная человеку по всем способностям, остаётся вечным отодвигаемым горизонтом, мерилом сингулярности и новой вехой цивилизации.
Миф о будущем “true AI”, безусловно, важен для маркетингового позиционирования и обеспечения инвестиционной привлекательности новых ИИ-продуктов, а также для снятия коллективной тревоги от ускоряющегося развития технологий (бояться/возвеличивать абстрактный будущий «настоящий ИИ» в некотором смысле проще, чем сталкиваться лицом к лицу с сегодняшним днём).
Вывод: «эффект ИИ» – это прекрасно осознаваемая всеми ловушка, по структуре напоминающая знаменитую логическую уловку «no true Scotsman»:
А: «Ни один шотландец не разбавляет виски».
Б: «Но мой дядя Дональд — шотландец, и он разбавляет виски».
А: «Но ни один НАСТОЯЩИЙ шотландец не разбавляет виски».
#technology
#philosophy
В истории искусственного интеллекта есть одна любопытная закономерность, которую обнаружил еще Джон Маккарти. В англоязычной литературе она именуется "AI effect" и сводится к следующему: каждый раз, когда ИИ-разработчики добиваются крупного успеха (создают модель, которая обыгрывает человека в шахматы / ведёт осмысленные диалоги / решает сложные задачи нобелевского уровня), коллективное научное сообщество делает дружный шаг назад и говорит «это всё ещё не настоящий интеллект».
Подобную логику “подвижной мишени” американский ученый-компьютерщик Ларри Теслер описал лаконичной фразой:
«Искусственный интеллект - это все то, что еще не было создано».
(на самом деле исходная лаконичная фраза звучала иначе: «Intelligence is whatever machines haven't done yet»).
Такая тенденция «понижать громкость» очередной разработки была особенно заметна в 90е, во время второй «зимы ИИ», когда исследователи обнаружили, что они могут получать больше финансирования, если будут всячески маскировать тот факт, что их работа хоть как-то связана с ИИ.
Но почему нам так нужен этот прокручивающийся порог сегодня? Причин несколько:
· Наивный антропоцентризм: люди подсознательно пытаются сохранить за собой уникальную роль интеллектуальных агентов, поэтому «настоящий ИИ» в этой парадигме просто нереализуем.
· Принцип новизны: пока задача нова и непонятна для машин, она считается «интеллектуальной». Как только найден алгоритм, она становится «просто программированием» (если выразить это простой формулой, то получится «AI! =>AI»). Жёстко формализовать критерии «интеллектуальности» пока не получается, поэтому конца у этого процесса не видно.
· Поддержание дискурса о будущем: пресловутый AGI как система, полностью равная человеку по всем способностям, остаётся вечным отодвигаемым горизонтом, мерилом сингулярности и новой вехой цивилизации.
Миф о будущем “true AI”, безусловно, важен для маркетингового позиционирования и обеспечения инвестиционной привлекательности новых ИИ-продуктов, а также для снятия коллективной тревоги от ускоряющегося развития технологий (бояться/возвеличивать абстрактный будущий «настоящий ИИ» в некотором смысле проще, чем сталкиваться лицом к лицу с сегодняшним днём).
Вывод: «эффект ИИ» – это прекрасно осознаваемая всеми ловушка, по структуре напоминающая знаменитую логическую уловку «no true Scotsman»:
А: «Ни один шотландец не разбавляет виски».
Б: «Но мой дядя Дональд — шотландец, и он разбавляет виски».
А: «Но ни один НАСТОЯЩИЙ шотландец не разбавляет виски».
#technology
#philosophy
23.01.202507:49
Пост-алгоритмическая «уютопия»,
Или по мотивам новогодних праздников и недавно вышедшего тематического номера “Логоса”
Термин "algorithmic culture", популяризированный Александром Гэллоуэм в 2006 году, описывает ситуацию, при которой алгоритмы в социальных сетях и онлайн-платформах формируют взаимодействия пользователей и потребление информации.
В последнее десятилетие исследователи стали говорить о пост-алгоритмической культуре - этапе, когда алгоритмы становятся повсеместно интегрированными, проникают в материальный мир (умные города, интернет вещей, автономные транспортные системы) и воспринимаются как естественное продолжение человеческой деятельности (биоинженерия, нейроинтерфейсы, ИИ-агенты).
На фоне этой повсеместной интеграции современный человек периодически осознает потребность в поиске состояний, избежавших тотальной алгоритмизации, ведь непоколебимые алгоритмы и бездушная «цифра» нередко представляются рядовому пользователю «неуютными» (как подчеркивает философ Борис Гройс в своей работе «Под подозрением», код и алгоритмы всегда остаются для нас пространством скепсиса, догадок и опасений).
Мы взаимодействуем лишь с интерфейсом, за чьей видимой дружелюбностью скрывается что-то, неподдающееся мгновенному и интуитивному пониманию.
Диджитал-детокс, low-tech и calm technology, эко-повестка, self-care, аналоговая ностальгия — все эти феномены можно рассматривать как стратегии сопротивления и попытки обретения автономии в мире, где алгоритмы и цифровые технологии не просто обслуживают, но активно формируют нашу жизнь. «Уютопия» воплощает в себе желание восстановить баланс между автоматизацией и ручным трудом, цифровым и аналоговым, быстрым и медленным.
Вопрос о том, как будет выглядеть тот самый «пост-алгоритмический уют» в эпоху нахождения «возле сингулярности» (unclear which side, как говорится) - чуть ли не главный культурный вопрос этого года.
Загвоздка в том, что «уют» и «баланс» у каждого свои, но мы периодически забываем, что эти слова - одни из наиболее популярных маркетинговых категорий современности.
#future
#trends
Или по мотивам новогодних праздников и недавно вышедшего тематического номера “Логоса”
Термин "algorithmic culture", популяризированный Александром Гэллоуэм в 2006 году, описывает ситуацию, при которой алгоритмы в социальных сетях и онлайн-платформах формируют взаимодействия пользователей и потребление информации.
В последнее десятилетие исследователи стали говорить о пост-алгоритмической культуре - этапе, когда алгоритмы становятся повсеместно интегрированными, проникают в материальный мир (умные города, интернет вещей, автономные транспортные системы) и воспринимаются как естественное продолжение человеческой деятельности (биоинженерия, нейроинтерфейсы, ИИ-агенты).
На фоне этой повсеместной интеграции современный человек периодически осознает потребность в поиске состояний, избежавших тотальной алгоритмизации, ведь непоколебимые алгоритмы и бездушная «цифра» нередко представляются рядовому пользователю «неуютными» (как подчеркивает философ Борис Гройс в своей работе «Под подозрением», код и алгоритмы всегда остаются для нас пространством скепсиса, догадок и опасений).
Мы взаимодействуем лишь с интерфейсом, за чьей видимой дружелюбностью скрывается что-то, неподдающееся мгновенному и интуитивному пониманию.
«Парадоксальным образом человек, колонизируя интерфейсы, учится жить под вектором «уютопии», то есть искать оптимума существования по ту сторону различения природы и культуры, переизобретая собственную природу средствами культурных техник» -пишут авторы вступительной статьи «Логоса».
Диджитал-детокс, low-tech и calm technology, эко-повестка, self-care, аналоговая ностальгия — все эти феномены можно рассматривать как стратегии сопротивления и попытки обретения автономии в мире, где алгоритмы и цифровые технологии не просто обслуживают, но активно формируют нашу жизнь. «Уютопия» воплощает в себе желание восстановить баланс между автоматизацией и ручным трудом, цифровым и аналоговым, быстрым и медленным.
Вопрос о том, как будет выглядеть тот самый «пост-алгоритмический уют» в эпоху нахождения «возле сингулярности» (unclear which side, как говорится) - чуть ли не главный культурный вопрос этого года.
Загвоздка в том, что «уют» и «баланс» у каждого свои, но мы периодически забываем, что эти слова - одни из наиболее популярных маркетинговых категорий современности.
#future
#trends
13.12.202410:20
Применение цифровых метафор в популярной культуре, науке и маркетинге - одна из наиболее любимых мною тем. Недавно в Forbes вышла колонка Андрея Себранта про метафоры ИИ, и эта тема вновь меня поглотила.
Метафоры традиционно используются для объяснения сложных идей через аналогию с более понятными явлениями, и, согласно теории концептуальной метафоры Лакоффа и Джонсона, призваны формировать новый когнитивный опыт субъекта.
С одной стороны, цифровые метафоры служат фактором спасения технических объектов от полного отчуждения, создавая иллюзию ясности и простоты при восприятии пользователем новых устройств.
С другой стороны, особая проблема возникает тогда, когда эволюция техники заменяется эволюцией абстракций.
С ИИ тут интересная ситуация получается: то метафора компьютера применялась для объяснения особенностей функционирования нашего мышления, то человеческий разум становится ориентиром для разработки ИИ-систем (подробнее про эту инверсию тут).
Но так как наделение искусственных интеллектуальных моделей антропоморфными чертами порой резко критикуется из-за неадекватности подобных аналогий, то периодически возникают новые способы описания ИИ как, к примеру, нечеловеческих существ (вспомним метафору «new digital species», которую использует соучредитель лаборатории DeepMind Мустафа Сулейман).
Закономерным образом по мере расширения функционала ИИ-систем, будут распространяться и новые способы их иносказательного описания, заимствованные, помимо прочего, из научной фантастики (вот хорошая статья про это).
Ну а если ИИ вам уже порядком надоел, то вот пара книг, в которых разбираются другие цифровые и технологические метафоры:
🔹Van den Boomen M. Transcoding the Digital: How Metaphors Matter in New Media (2014)
🔹 Nascimento F., Chown E. Meaningful Technologies: How Digital Metaphors Change the Way We Think and Live (2023)
#books
Метафоры традиционно используются для объяснения сложных идей через аналогию с более понятными явлениями, и, согласно теории концептуальной метафоры Лакоффа и Джонсона, призваны формировать новый когнитивный опыт субъекта.
С одной стороны, цифровые метафоры служат фактором спасения технических объектов от полного отчуждения, создавая иллюзию ясности и простоты при восприятии пользователем новых устройств.
С другой стороны, особая проблема возникает тогда, когда эволюция техники заменяется эволюцией абстракций.
С ИИ тут интересная ситуация получается: то метафора компьютера применялась для объяснения особенностей функционирования нашего мышления, то человеческий разум становится ориентиром для разработки ИИ-систем (подробнее про эту инверсию тут).
Но так как наделение искусственных интеллектуальных моделей антропоморфными чертами порой резко критикуется из-за неадекватности подобных аналогий, то периодически возникают новые способы описания ИИ как, к примеру, нечеловеческих существ (вспомним метафору «new digital species», которую использует соучредитель лаборатории DeepMind Мустафа Сулейман).
Закономерным образом по мере расширения функционала ИИ-систем, будут распространяться и новые способы их иносказательного описания, заимствованные, помимо прочего, из научной фантастики (вот хорошая статья про это).
Ну а если ИИ вам уже порядком надоел, то вот пара книг, в которых разбираются другие цифровые и технологические метафоры:
🔹Van den Boomen M. Transcoding the Digital: How Metaphors Matter in New Media (2014)
🔹 Nascimento F., Chown E. Meaningful Technologies: How Digital Metaphors Change the Way We Think and Live (2023)
#books
05.09.202407:03
Еще одна книжная рекомендация, Или как я перестала бояться и полюбила Чарльза Петцольда
Начался новый учебный год, и я вновь читаю курсы по цифровой философии и цифровым медиа. Как правило, это дисциплины, предназначенные не для только для технарей и айтишников, но преимущественно для философов и других гуманитариев.
А так как введение в любую «цифровую» тематику непременно сопровождается рассказом об истории компьютеров, теории информации и теории вычислимости, я каждый год ловлю себя на моменте, когда начинаю показывать принцип работы перфокарт на пальцах и искать наглядные ютьюб-ролики, призванные ненавязчиво объяснить студентам теорему неполноты🥲
Но тут я вспомнила про эти книги, и жить стало намного легче:
🔵Код. Тайный язык информатики - научно-популярная книга американского программиста Чарльза Петцольда, добрую половину которой занимают всевозможные картинки и схемы, объясняющие принцип работы ПК. Идеально для тех, кто боится страшных слов вроде «транзисторы» и «реле», но очень хочет понять, как работает электронный двоичный код.
🔵Читаем Тьюринга - еще одна волшебная книга Петцольда, где исследуется одна из самых главных работ британского математика, посвященная проблеме разрешимости (именно в этой работе впервые упоминаются знаменитые машины Тьюринга, ставшие на многие годы универсальной теоретической концепцией в рамках компьютерных наук). Если вы вдруг забыли, что такое трансцендентные числа, проблемы Гилберта и ооочень вдумчивое чтение - вам сюда.
🔵Информация. История, теория, поток - научно-популярная книга историка Джеймса Глика, посвященная становлению теории информации и ее влиянию на нашу науку, культуру и мировоззрение. Бэббидж, Морзе, Лавлейс, Тьюринг, Винер, Доккинз, Уилер и другие герои в достаточно простом и понятном изложении. А если вам понравится этот автор, то у него еще есть работа-бестселлер про научное изучение хаоса (ведь нет информации без энтропии).
А в следующем году начну делегировать объяснение этих тем ИИ, обещаю.
#books
#рекомендасьон
Начался новый учебный год, и я вновь читаю курсы по цифровой философии и цифровым медиа. Как правило, это дисциплины, предназначенные не для только для технарей и айтишников, но преимущественно для философов и других гуманитариев.
А так как введение в любую «цифровую» тематику непременно сопровождается рассказом об истории компьютеров, теории информации и теории вычислимости, я каждый год ловлю себя на моменте, когда начинаю показывать принцип работы перфокарт на пальцах и искать наглядные ютьюб-ролики, призванные ненавязчиво объяснить студентам теорему неполноты🥲
Но тут я вспомнила про эти книги, и жить стало намного легче:
🔵Код. Тайный язык информатики - научно-популярная книга американского программиста Чарльза Петцольда, добрую половину которой занимают всевозможные картинки и схемы, объясняющие принцип работы ПК. Идеально для тех, кто боится страшных слов вроде «транзисторы» и «реле», но очень хочет понять, как работает электронный двоичный код.
🔵Читаем Тьюринга - еще одна волшебная книга Петцольда, где исследуется одна из самых главных работ британского математика, посвященная проблеме разрешимости (именно в этой работе впервые упоминаются знаменитые машины Тьюринга, ставшие на многие годы универсальной теоретической концепцией в рамках компьютерных наук). Если вы вдруг забыли, что такое трансцендентные числа, проблемы Гилберта и ооочень вдумчивое чтение - вам сюда.
🔵Информация. История, теория, поток - научно-популярная книга историка Джеймса Глика, посвященная становлению теории информации и ее влиянию на нашу науку, культуру и мировоззрение. Бэббидж, Морзе, Лавлейс, Тьюринг, Винер, Доккинз, Уилер и другие герои в достаточно простом и понятном изложении. А если вам понравится этот автор, то у него еще есть работа-бестселлер про научное изучение хаоса (ведь нет информации без энтропии).
А в следующем году начну делегировать объяснение этих тем ИИ, обещаю.
#books
#рекомендасьон
11.03.202506:46
Философ и когнитивист Йоша Бах основал Институт Машинного Сознания в Калифорнии (CIMC).
Свои планы об открытии подобного исследовательского центра Бах анонсировал еще в декабре, отметив, что изучение сознания у ИИ - важнейшая проблема современности.
CIMC позиционируется как открытая, трансдисциплинарная, некоммерческая исследовательская инициатива, призванная объединить идеи философии, психологии, нейробиологии, искусства, математики и искусственного интеллекта. Бах рассматривает этот институт как центр, где независимые ученые и эксперты в области ИИ будут проводить собственные практические исследования.
Среди целей СIMC:
- Исследование функционализма в философии сознания;
- Вычислительная формализация различных аспектов сознания;
- Изучение явлений эмерджентности и процессов, происходящих в сложноорганизованных самообучающихся системах;
- Анализ когнитивных архитектур самости, эмпатии и т.д.
Ключевой вопрос, которым задается исследовательская команда, звучит так:
На сайте CIMC можно найти записи лекций и подкасты, посвященные проблеме машинного сознания, а также список полезных источников по этой теме.
А вот еще несколько исследовательских инициатив, за которыми можно следить:
🔹 Epoch AI - многопрофильный исследовательский институт, изучающий траекторию развития ИИ. Акцент делается на анализе трендов в сфере машинного обучения и прогнозировании их влияния на экономику и общество.
🔹 The Institute for Human & Machine Cognition (IHMC) - некоммерческая исследовательская организация, аффилированная с несколькими университетами и нацеленная на интердисциплинарное изучение ИИ, робототехники, человеко-машинного взаимодействия и философских оснований компьютеционализма.
🔹ConTraSt database - интерактивный веб-сайт, на котором представлена база данных по изучению теорий сознания. Тут можно посмотреть с высоты птичьего полета на то, как развиваются наиболее популярные сегодня научные теории сознания: теория глобального рабочего пространства (GWT), теория интегрированной информации (IIT), теория высшего порядка (HOT) и теория обработки данных первого порядка и прогнозирования (FOT).
#philosophy
#science
Свои планы об открытии подобного исследовательского центра Бах анонсировал еще в декабре, отметив, что изучение сознания у ИИ - важнейшая проблема современности.
CIMC позиционируется как открытая, трансдисциплинарная, некоммерческая исследовательская инициатива, призванная объединить идеи философии, психологии, нейробиологии, искусства, математики и искусственного интеллекта. Бах рассматривает этот институт как центр, где независимые ученые и эксперты в области ИИ будут проводить собственные практические исследования.
Среди целей СIMC:
- Исследование функционализма в философии сознания;
- Вычислительная формализация различных аспектов сознания;
- Изучение явлений эмерджентности и процессов, происходящих в сложноорганизованных самообучающихся системах;
- Анализ когнитивных архитектур самости, эмпатии и т.д.
Ключевой вопрос, которым задается исследовательская команда, звучит так:
Will we be colonized by digital golems or can we spread live, mind and consciousness onto new substrates?
На сайте CIMC можно найти записи лекций и подкасты, посвященные проблеме машинного сознания, а также список полезных источников по этой теме.
А вот еще несколько исследовательских инициатив, за которыми можно следить:
🔹 Epoch AI - многопрофильный исследовательский институт, изучающий траекторию развития ИИ. Акцент делается на анализе трендов в сфере машинного обучения и прогнозировании их влияния на экономику и общество.
🔹 The Institute for Human & Machine Cognition (IHMC) - некоммерческая исследовательская организация, аффилированная с несколькими университетами и нацеленная на интердисциплинарное изучение ИИ, робототехники, человеко-машинного взаимодействия и философских оснований компьютеционализма.
🔹ConTraSt database - интерактивный веб-сайт, на котором представлена база данных по изучению теорий сознания. Тут можно посмотреть с высоты птичьего полета на то, как развиваются наиболее популярные сегодня научные теории сознания: теория глобального рабочего пространства (GWT), теория интегрированной информации (IIT), теория высшего порядка (HOT) и теория обработки данных первого порядка и прогнозирования (FOT).
#philosophy
#science
21.01.202511:22
Зимняя сессия – время условного спокойствия для многих преподавателей, когда можно заняться своими научными интересами: написать статью, почитать исследования, походить на дискуссии, <strike>посмотреть в стену</strike>. Я, например, наконец дорвалась до книг, которые долго откладывала.
Поэтому делюсь своим небольшим и несколько сумбурным списком прочитанного нон-фикшена:
🔹 «Машина творения: Новые организмы, редактирование генома и лабораторные гамбургеры» (Э. Уэбб, Э. Гессель) – книга футуролога и основоположника синтетической биологии, посвященная описанию возможных перспектив развития генной инженерии. Для всех, кому интересно, какие новые идеи появились после вручения Нобелевской премии за открытие «генетических ножниц». 10/10
🔹 «The Light Eaters: How the Unseen World of Plant Intelligence Offers a New Understanding of Life on Earth» (Z. Schlanger) – книга о жизни и сознании растений. Эта тема уже давно перестала быть маргинальной: за последние годы ученые узнали много нового об их способности общаться, слышать звуки, изменять свое тело и сохранять полезные воспоминания. Ботаника сегодня – «область, находящаяся в смятении», поэтому если вы еще ничего не знаете про внутреннюю жизнь цветов и деревьев - это must. 9/10
🔹 «Грядущая волна. Технологии, власть и величайшая дилемма XXI века» (М. Сулейман) – соучредитель лаборатории DeepMind пишет о новой волне технологических открытий, основа которой - это ИИ и синтетическая биология. Книга начинается с исторического экскурса, посвященного различным научно-технологических волнам (от аграрной революции до наших дней), а заканчивается предложением методов контроля развития новейших технологий. Местами интересно, но в целом я ожидала большего. 7/10.
🔹 «Filterworld: How Algorithms Flattened Culture» (K. Chayka) – нашумевшая в Европе книга про алгократию, цель которой - показать, как нашими вкусами, поведением и эмоциями целиком управляет таргетированная реклама и автоматические подборки. Автор ставит под сомнение само понятие свободы воли в контексте современной онлайн-жизни, а также рассказывает о своём опыте «алгоритмического очищения». Если вы и так «алго-тревожник», то вам читать эту книгу не рекомендую. 7/10.
На меня еще с укором смотрит огромная «Заря всего» Дэвида Гребера, но про нее, видимо, расскажу, как только отдохнут глаза.
#books
Поэтому делюсь своим небольшим и несколько сумбурным списком прочитанного нон-фикшена:
🔹 «Машина творения: Новые организмы, редактирование генома и лабораторные гамбургеры» (Э. Уэбб, Э. Гессель) – книга футуролога и основоположника синтетической биологии, посвященная описанию возможных перспектив развития генной инженерии. Для всех, кому интересно, какие новые идеи появились после вручения Нобелевской премии за открытие «генетических ножниц». 10/10
🔹 «The Light Eaters: How the Unseen World of Plant Intelligence Offers a New Understanding of Life on Earth» (Z. Schlanger) – книга о жизни и сознании растений. Эта тема уже давно перестала быть маргинальной: за последние годы ученые узнали много нового об их способности общаться, слышать звуки, изменять свое тело и сохранять полезные воспоминания. Ботаника сегодня – «область, находящаяся в смятении», поэтому если вы еще ничего не знаете про внутреннюю жизнь цветов и деревьев - это must. 9/10
🔹 «Грядущая волна. Технологии, власть и величайшая дилемма XXI века» (М. Сулейман) – соучредитель лаборатории DeepMind пишет о новой волне технологических открытий, основа которой - это ИИ и синтетическая биология. Книга начинается с исторического экскурса, посвященного различным научно-технологических волнам (от аграрной революции до наших дней), а заканчивается предложением методов контроля развития новейших технологий. Местами интересно, но в целом я ожидала большего. 7/10.
🔹 «Filterworld: How Algorithms Flattened Culture» (K. Chayka) – нашумевшая в Европе книга про алгократию, цель которой - показать, как нашими вкусами, поведением и эмоциями целиком управляет таргетированная реклама и автоматические подборки. Автор ставит под сомнение само понятие свободы воли в контексте современной онлайн-жизни, а также рассказывает о своём опыте «алгоритмического очищения». Если вы и так «алго-тревожник», то вам читать эту книгу не рекомендую. 7/10.
На меня еще с укором смотрит огромная «Заря всего» Дэвида Гребера, но про нее, видимо, расскажу, как только отдохнут глаза.
#books
03.10.202417:10
Что такое интеллект и как его можно моделировать?
В эпоху быстрого развития искусственного интеллекта (ИИ) становится все более актуальной задача понимания фундаментальных принципов и концепций, которые формируют эту область. На семинаре эксперт рассмотрит основные вопросы философии ИИ, которые помогут глубже понять его потенциал и ограничения.
Вы узнаете:
✔️ Проблема сознания и ИИ: может ли машина быть сознательной
✔️ Этические последствия ИИ: ответственность, автономия и безопасность
✔️ Критика и перспективы ИИ: потенциальные риски и преимущества
04 октября в 10:30 вместе с Александрой Танюшиной, кандидатом философских наук, преподавателем МГУ им. М. В. Ломоносова, медиаисследователем, специалистом по цифровой философии, культурным тренд-аналитиком
Ведущий Сергей Журихин, проректор по повышению квалификации Университета Правительства Москвы.
Ждём вас на вебинаре!
➡️Зарегистрироваться
В эпоху быстрого развития искусственного интеллекта (ИИ) становится все более актуальной задача понимания фундаментальных принципов и концепций, которые формируют эту область. На семинаре эксперт рассмотрит основные вопросы философии ИИ, которые помогут глубже понять его потенциал и ограничения.
Вы узнаете:
✔️ Проблема сознания и ИИ: может ли машина быть сознательной
✔️ Этические последствия ИИ: ответственность, автономия и безопасность
✔️ Критика и перспективы ИИ: потенциальные риски и преимущества
04 октября в 10:30 вместе с Александрой Танюшиной, кандидатом философских наук, преподавателем МГУ им. М. В. Ломоносова, медиаисследователем, специалистом по цифровой философии, культурным тренд-аналитиком
Ведущий Сергей Журихин, проректор по повышению квалификации Университета Правительства Москвы.
Ждём вас на вебинаре!
➡️Зарегистрироваться
23.09.202417:33
01.09.202410:10
В честь дня знаний: несколько любопытных материалов про «внутренний мир» LLM:
Во-первых, 3blue1brown продолжают радовать наглядными роликами, объясняющими работу GPT. Теперь можно узнать, как в языковых моделях работает механизм внимания и как они запоминают факты. Видео на этом канале всегда очень понятные и доступные + есть русские субтитры. Так что если вы до этого не смотрели их эксплейнеры, то сейчас самое время это сделать.
И парочка статей:
▪️Machine Psychology - очередная попытка проложить путь к "машинной психологии", нацеленной на понимание процессов поведения и познания у ИИ. Авторы фокусируются на вычислительных инструментах, которые помогают обнаруживать новые эмерджентные способности у LLM и отслеживать поведенческие паттерны моделей. В статье дается обзор существующих практик машинной психологии, а также выделяются лучшие методы и наиболее перспективные направления для будущих исследований.
▪️What is it like to be a bot? The world according to GPT-4 (Dan Lloyd) - статья, опубликованная в Frontiers of Psychology, посвященная, опять же, эмерджетным свойствам языковых моделей. Автор предлагает методы реконструкции субъективного мира модели (s-world) в целях последующего сравнения когнитивных способностей различных LLM. Пользуясь инструментами философской феноменологии и когнитивной этологии, Дэн Ллойд выделяет ряд характерных поведенческих закономерностей и ошибок, обыкновенно допускаемых GPT-4, и предполагает, что их происхождение связано с отсутствием у LLM способности к субъективному восприятию времени. Этот недостаток свидетельствует о том, что GPT-4 в конечном счете не способен создавать стабильную модель окружающего мира (но это не точно).
#papers
Во-первых, 3blue1brown продолжают радовать наглядными роликами, объясняющими работу GPT. Теперь можно узнать, как в языковых моделях работает механизм внимания и как они запоминают факты. Видео на этом канале всегда очень понятные и доступные + есть русские субтитры. Так что если вы до этого не смотрели их эксплейнеры, то сейчас самое время это сделать.
И парочка статей:
▪️Machine Psychology - очередная попытка проложить путь к "машинной психологии", нацеленной на понимание процессов поведения и познания у ИИ. Авторы фокусируются на вычислительных инструментах, которые помогают обнаруживать новые эмерджентные способности у LLM и отслеживать поведенческие паттерны моделей. В статье дается обзор существующих практик машинной психологии, а также выделяются лучшие методы и наиболее перспективные направления для будущих исследований.
▪️What is it like to be a bot? The world according to GPT-4 (Dan Lloyd) - статья, опубликованная в Frontiers of Psychology, посвященная, опять же, эмерджетным свойствам языковых моделей. Автор предлагает методы реконструкции субъективного мира модели (s-world) в целях последующего сравнения когнитивных способностей различных LLM. Пользуясь инструментами философской феноменологии и когнитивной этологии, Дэн Ллойд выделяет ряд характерных поведенческих закономерностей и ошибок, обыкновенно допускаемых GPT-4, и предполагает, что их происхождение связано с отсутствием у LLM способности к субъективному восприятию времени. Этот недостаток свидетельствует о том, что GPT-4 в конечном счете не способен создавать стабильную модель окружающего мира (но это не точно).
#papers
转发自:
Школа Стоицизма
06.02.202507:22
💜💜💜Философия искусственного интеллекта: этические вызовы и границы разумного
14 февраля в 19:00 приглашаем на открытую лекцию в Доме Школы Стоицизма, где мы обсудим:
🫣 Текущее состояние развития искусственного интеллекта: что происходит на самом деле в этой сфере
😰 Этические дилеммы, которые поднимает развитие искусственного интеллекта
😡 Как соотносится современный искусственный интеллект с античными представлениями о разуме и сознании
🤫 Практические аспекты взаимодействия человека с искусственным интеллектом
🫠 Критическое мышление при работе с ИИ-технологиями
Лектор:
Александра Танюшина — кандидат философских наук, медиа-исследовательница и креаторка. Александра занимается консультированием диджитал-агентств и культурной тренд-аналитикой, преподаёт на философском факультете МГУ им. М.В. Ломоносова.
🤬 Ссылка на регистрацию: https://stoicism-school.timepad.ru/event/3218824/
Мест всего 30.
14 февраля в 19:00 приглашаем на открытую лекцию в Доме Школы Стоицизма, где мы обсудим:
🫣 Текущее состояние развития искусственного интеллекта: что происходит на самом деле в этой сфере
😰 Этические дилеммы, которые поднимает развитие искусственного интеллекта
😡 Как соотносится современный искусственный интеллект с античными представлениями о разуме и сознании
🤫 Практические аспекты взаимодействия человека с искусственным интеллектом
🫠 Критическое мышление при работе с ИИ-технологиями
Лектор:
Александра Танюшина — кандидат философских наук, медиа-исследовательница и креаторка. Александра занимается консультированием диджитал-агентств и культурной тренд-аналитикой, преподаёт на философском факультете МГУ им. М.В. Ломоносова.
🤬 Ссылка на регистрацию: https://stoicism-school.timepad.ru/event/3218824/
Мест всего 30.
30.12.202411:39
Если вы, как и я, уже подустали от повсеместных подведений итогов года, прогнозов на будущее и «предсингулярной паники» (хотя термин прелестный), то вот немножко альтернативного контента.
Если бы меня спросили, какая книга заставила меня больше всего думать в этом году, я бы не в последнюю очередь вспомнила о книге канадского программиста Райана Норта «Как изобрести все», которую мы уже несколько месяцев разбираем со школьниками в рамках курса по философии (да-да, вот такая у нас философия).
Чем хороша эта книга:
🔵Она представляет собой научно-популярное руководство по ключевым изобретениям и открытиям человечества (от стекла и пенициллина до летательных аппаратов и компьютеров) и основана на вымышленной предпосылке о машине времени, отбросившей читателя в прошлое, где еще ничего не изобретено.
🔵Ее можно читать в любом порядке, в зависимости от того, какая технология вас больше всего интересует (в приложении есть «древо технологий», демонстрирующее предварительные условия и знания, необходимые для появления того или иного устройства).
🔵Она спорная. В процессе чтения мы выяснили, что в тех или иных ситуациях можно было представить более оптимальные решения проблемы. Очень помогает развивать креативность в рамках жанра альтернативной истории (а ведь нынче это крайне востребованный навык).
Сейчас обещают, что 2025-й год будет во всех смыслах трансформационным, впереди нас ждет AGI и «сжатый 21й век». Но, как говорил Фредерик Джеймисон, нам все время продают будущее, хотя мы еще даже не готовы встретиться с настоящим.
Поэтому всех поздравляю с наступающим и желаю в новом году побольше качественного времени, проведенного без вечных гонок Черной королевы и постоянных ускорений!
Acceleration is important. Time is more important.
#books
Если бы меня спросили, какая книга заставила меня больше всего думать в этом году, я бы не в последнюю очередь вспомнила о книге канадского программиста Райана Норта «Как изобрести все», которую мы уже несколько месяцев разбираем со школьниками в рамках курса по философии (да-да, вот такая у нас философия).
Чем хороша эта книга:
🔵Она представляет собой научно-популярное руководство по ключевым изобретениям и открытиям человечества (от стекла и пенициллина до летательных аппаратов и компьютеров) и основана на вымышленной предпосылке о машине времени, отбросившей читателя в прошлое, где еще ничего не изобретено.
«Поскольку вы сами больше не в состоянии вернуться в будущее, мы приглашаем вас вернуть будущее к себе»
🔵Ее можно читать в любом порядке, в зависимости от того, какая технология вас больше всего интересует (в приложении есть «древо технологий», демонстрирующее предварительные условия и знания, необходимые для появления того или иного устройства).
🔵Она спорная. В процессе чтения мы выяснили, что в тех или иных ситуациях можно было представить более оптимальные решения проблемы. Очень помогает развивать креативность в рамках жанра альтернативной истории (а ведь нынче это крайне востребованный навык).
Сейчас обещают, что 2025-й год будет во всех смыслах трансформационным, впереди нас ждет AGI и «сжатый 21й век». Но, как говорил Фредерик Джеймисон, нам все время продают будущее, хотя мы еще даже не готовы встретиться с настоящим.
Поэтому всех поздравляю с наступающим и желаю в новом году побольше качественного времени, проведенного без вечных гонок Черной королевы и постоянных ускорений!
Acceleration is important. Time is more important.
– У нас, – сказала Алиса, с трудом переводя дух, – когда долго бежишь со всех ног, непременно попадешь в другое место.
– Какая медлительная страна! - сказала Королева.
#books
03.10.202417:10
17.09.202406:24
Пока все тестировали новую «рассуждающую» модель o1 от OpenAI, Scale AI и Center of AI Safety объявили о проведении конкурса под завораживающим названием «Последний экзамен человечества» («Humanity Last Exam»).
Основная задача конкурса - собрать самые сложные вопросы для оценки работы будущих систем ИИ. Раз текущие модели пугают нас своей способностью за час написать код PhD-исследования, необходимо разработать тесты, решить которые им будет уже не под силу.
В рамках конкурса принимаются вопросы, затрагивающие самые разные области знания - от математики и логики до аналитической философии (судя по текущим заявкам, философских вопросов пока не так много).
Требования к вопросам следующие: высокая сложность, оригинальность, безопасность (никаких вопросов про изготовление атомной бомбы), объективность (вопросы про смысл жизни, вселенной и всего такого тоже не принимаются).
После того, как вы записали ваш вопрос, его предварительно проверяют на современных языковых моделях, чтобы определить, не является ли он слишком простым.
За топ-500 лучших вопросов обещают денежные призы, а авторов самых сложных заданий могут также упомянуть в итоговой научной статье.
Я уже задала свой вопрос.
Вам тоже рекомендую подумать над своим в качестве интеллектуальной разминки.
#future
#philosophy
Основная задача конкурса - собрать самые сложные вопросы для оценки работы будущих систем ИИ. Раз текущие модели пугают нас своей способностью за час написать код PhD-исследования, необходимо разработать тесты, решить которые им будет уже не под силу.
В рамках конкурса принимаются вопросы, затрагивающие самые разные области знания - от математики и логики до аналитической философии (судя по текущим заявкам, философских вопросов пока не так много).
Требования к вопросам следующие: высокая сложность, оригинальность, безопасность (никаких вопросов про изготовление атомной бомбы), объективность (вопросы про смысл жизни, вселенной и всего такого тоже не принимаются).
После того, как вы записали ваш вопрос, его предварительно проверяют на современных языковых моделях, чтобы определить, не является ли он слишком простым.
За топ-500 лучших вопросов обещают денежные призы, а авторов самых сложных заданий могут также упомянуть в итоговой научной статье.
Я уже задала свой вопрос.
Вам тоже рекомендую подумать над своим в качестве интеллектуальной разминки.
#future
#philosophy
23.01.202507:49
(поп)-пост-кибер-панк
Обратили ли вы внимание на то, как сегодня популярны культурные продукты с приставкой «кибер-»? Кино, игры, сериалы, российский «березовый панк» вроде «Кибердеревни», «Киберслава» и т.д.
В 1983 году американский писатель Брюс Бетке начал использовать термин «киберпанк» как ярлык для поколения «панк-подростков», вдохновлённых представлениями, характерными для информационной эпохи.
Этот термин быстро стал ярлыком для произведений Гибсона, Стерлинга и других известных сегодня классиков киберпанк-литературы, описывавших нигилистическую и подпольную сторону цифрового общества. Мир киберпанка часто изображали мрачным и развращённым технологиями или корпоративизмом - антиутопия, организованная по классическому принципу high tech, low life.
После того как киберпанк стал заметным явлением в популярной культуре (особенно после того, как его «причесал» Голливуд), многие авторы стали экспериментировать над жанром, делая его менее маргинальным: можно сказать, что «панк» сменился на «поп-панк».
А к концу 90х - началу 00х стали развиваться новые поджанры «технологической фантастики» - биопанк, соларпанк, ретрофутуристические произведения и др. (полный список тут).
В 1998 году писатель Лоуренс Персон опубликовал манифест, в котором рассуждает о появлении направления «посткиберпанк», объединяющего все эти поджанры: часто в таких произведениях сохраняются основные элементы киберпанка, такие как усиление человеческих способностей и повсеместная технологизация, но отсутствует радикально негативное толкование будущего.
Дело в том, что расцвет киберпанка пришёлся на то время, когда слово «кибер» всё ещё считалось новым и сулившим трансформации. Но сегодня любое «кибер» является неотъемлемой частью нашей жизни, а главным героям-панкам, воплощавшим ранее бунт, гнев и противодействие, уже сложнее сохранять свою уникальность.
В результате сегодня от классического киберпанка остается только истощенное «кибер», которое в нынешней культуре маркирует продукцию, предназначенную для коммодификации популярного дискурса о грядущих технологических изменениях.
И в этом нет ничего удивительного: каждой исторической эпохе суждено по-своему мириться с будущем.
#trends
Обратили ли вы внимание на то, как сегодня популярны культурные продукты с приставкой «кибер-»? Кино, игры, сериалы, российский «березовый панк» вроде «Кибердеревни», «Киберслава» и т.д.
В 1983 году американский писатель Брюс Бетке начал использовать термин «киберпанк» как ярлык для поколения «панк-подростков», вдохновлённых представлениями, характерными для информационной эпохи.
Этот термин быстро стал ярлыком для произведений Гибсона, Стерлинга и других известных сегодня классиков киберпанк-литературы, описывавших нигилистическую и подпольную сторону цифрового общества. Мир киберпанка часто изображали мрачным и развращённым технологиями или корпоративизмом - антиутопия, организованная по классическому принципу high tech, low life.
После того как киберпанк стал заметным явлением в популярной культуре (особенно после того, как его «причесал» Голливуд), многие авторы стали экспериментировать над жанром, делая его менее маргинальным: можно сказать, что «панк» сменился на «поп-панк».
А к концу 90х - началу 00х стали развиваться новые поджанры «технологической фантастики» - биопанк, соларпанк, ретрофутуристические произведения и др. (полный список тут).
В 1998 году писатель Лоуренс Персон опубликовал манифест, в котором рассуждает о появлении направления «посткиберпанк», объединяющего все эти поджанры: часто в таких произведениях сохраняются основные элементы киберпанка, такие как усиление человеческих способностей и повсеместная технологизация, но отсутствует радикально негативное толкование будущего.
Дело в том, что расцвет киберпанка пришёлся на то время, когда слово «кибер» всё ещё считалось новым и сулившим трансформации. Но сегодня любое «кибер» является неотъемлемой частью нашей жизни, а главным героям-панкам, воплощавшим ранее бунт, гнев и противодействие, уже сложнее сохранять свою уникальность.
«По мере того, как старая парадигма ослабевает, а новый статус-кво укрепляется, мир может казаться менее мрачным и более нормальным, а романтизированным кибер-хакерам становится всё труднее его изменить» -пишет исследовательница Малка Олдер.
В результате сегодня от классического киберпанка остается только истощенное «кибер», которое в нынешней культуре маркирует продукцию, предназначенную для коммодификации популярного дискурса о грядущих технологических изменениях.
И в этом нет ничего удивительного: каждой исторической эпохе суждено по-своему мириться с будущем.
#trends
无法访问
媒体内容
媒体内容
18.12.202407:02
Уже не раз писала про постфотографические изображения, и вот - дождались! Вышел сборник «Virtual Photography: Artificial Intelligence, In-game, and Extended Reality» под редакцией Али Шобейри и Хелен Вестгест.
Напомню, что «виртуальная фотография» — это форма цифровых изображений, которые создаются путём съемки видеоигр или других виртуальных пространств (подробнее – см. «Манифест виртуальной фотографии» Кристиано Бонора). Естественно, само применение в данном контексте слова «фотография» кажется некоторым теоретикам проблематичным:
По этой причине при анализе современных цифровых изображений исследователи зачастую предпочитают использовать другие выражения: «бедный образ», «алгоритмическое изображение», «софт-картинки», «screen images» - и это далеко не полный список популярных сегодня понятий.
Однако авторы упомянутого сборника предпочитают оставить выражение “виртуальная фотография” в качестве объединяющей теоретической и методологической основы для целостного описания самых разных современных визуальных практик и технологий, в том числе «фотографий», созданных ИИ:
Лично я не особый сторонник называть все существующие сегодня виды фотореалистичных цифровых изображений виртуальными фотографиями (как минимум из-за того, что в контексте истории медиа это понятие уже прочно закрепилось за определёнными фотографическими практиками; как максимум - из-за сложности самого термина «виртуальный»).
Но так как про in-game фотографию написано достаточно много, а вот про генеративные фотореалистичные образы, «нечеловеческое зрение» и XR-фотографию <strike>еще больше</strike> тоже много, но мало путного, то вывод один – читаем!
#books
#aesthetics
Напомню, что «виртуальная фотография» — это форма цифровых изображений, которые создаются путём съемки видеоигр или других виртуальных пространств (подробнее – см. «Манифест виртуальной фотографии» Кристиано Бонора). Естественно, само применение в данном контексте слова «фотография» кажется некоторым теоретикам проблематичным:
«Фотография, сто пятьдесят лет доминировавшая в производстве изображений, затерялась теперь в цифровом вихре, стершем её механический и химический аппарат производства и её материальное и аффективное присутствие как печатного объекта. С этой точки зрения фотография в видеоиграх может означать окончательное исчезновение медиума, поскольку эти изображения исключают его определяющую сущность, сам свет, “фото-” в фотографии. В отличие от производства изображений с помощью цифровых камер и камер на мобильных телефонах, запечатление игровых миров изнутри этих миров происходит без участия ключевых процессов и феноменов, конституирующих специфичность фотографии»
- Сет Гиддингс, «Рисуя без света»
По этой причине при анализе современных цифровых изображений исследователи зачастую предпочитают использовать другие выражения: «бедный образ», «алгоритмическое изображение», «софт-картинки», «screen images» - и это далеко не полный список популярных сегодня понятий.
Однако авторы упомянутого сборника предпочитают оставить выражение “виртуальная фотография” в качестве объединяющей теоретической и методологической основы для целостного описания самых разных современных визуальных практик и технологий, в том числе «фотографий», созданных ИИ:
«Виртуальная фотография - это “реальная”фотография в том случае, если мы признаем, что сегодня наше ощущение реальности постепенно и безвозвратно наполняется виртуальностью. Следовательно, виртуализация фотографии не сводится к дереализации медиума. Наоборот,именно насыщенная данными и алгоритмами виртуальная фотография придает ей ощущение реальности в контексте современности».
Лично я не особый сторонник называть все существующие сегодня виды фотореалистичных цифровых изображений виртуальными фотографиями (как минимум из-за того, что в контексте истории медиа это понятие уже прочно закрепилось за определёнными фотографическими практиками; как максимум - из-за сложности самого термина «виртуальный»).
Но так как про in-game фотографию написано достаточно много, а вот про генеративные фотореалистичные образы, «нечеловеческое зрение» и XR-фотографию <strike>еще больше</strike> тоже много, но мало путного, то вывод один – читаем!
#books
#aesthetics
30.09.202406:51
10.09.202406:52
05.06.202406:10
Начала вчера листать 165-страничный документ от экс-сотрудника OpenAI о будущем AGI: если коротко, то вполне возможно, что «общий ИИ» появится к 2027 году, а там и суперинтеллект не за горами (тут есть интервью с автором статьи, где он пересказывает основные идеи работы на протяжении 4 часов).
В какой-то момент я не выдержала и отвлеклась на новую фишку GPT-4о: теперь нам показали, как модель говорит разными голосами, которые пользователь может настраивать в соответствии со своими пожеланиями.
Актеров озвучки, конечно, немного жалко, но, черт возьми, как же это прикольно.
#trends
#technologies
В какой-то момент я не выдержала и отвлеклась на новую фишку GPT-4о: теперь нам показали, как модель говорит разными голосами, которые пользователь может настраивать в соответствии со своими пожеланиями.
Актеров озвучки, конечно, немного жалко, но, черт возьми, как же это прикольно.
#trends
#technologies
显示 1 - 20 共 20
登录以解锁更多功能。