Институт AIRI
26.04.202509:03
Исследователи AIRI на ICLR 2025 ⚡️
На этой неделе в Сингапуре стартовала конференция ICLR — одно из важнейших мероприятий в мире машинного обучения. В этом году от AIRI туда приехали сразу 32 исследователя. Они подготовили 9 статей на основном треке:
⚫️XLand-100B: A Large-Scale Multi-Task Dataset for In-Context Reinforcement Learning
⚫️POGEMA: A Benchmark Platform for Cooperative Multi-Agent Navigation
⚫️Tight Time Complexities in Parallel Stochastic Optimization with Arbitrary Computation Dynamics
⚫️Robust Barycenter Estimation using Semi-Unbalanced Neural Optimal Transport
⚫️Associative memory and dead neurons
⚫️A3D: Does Diffusion Dream about 3D Alignment?
⚫️Learning Successor Features with Distributed Hebbian Temporal Memory
⚫️Efficient Distribution Matching of Representations via Noise-Injected Deep InfoMax
⚫️On the Fourier analysis in the SO (3) space: EquiLoPO Network
Кроме того, наши исследователи представляют 14 докладов на воркшопах.
Делимся фотографиями с конференции!
На этой неделе в Сингапуре стартовала конференция ICLR — одно из важнейших мероприятий в мире машинного обучения. В этом году от AIRI туда приехали сразу 32 исследователя. Они подготовили 9 статей на основном треке:
⚫️XLand-100B: A Large-Scale Multi-Task Dataset for In-Context Reinforcement Learning
⚫️POGEMA: A Benchmark Platform for Cooperative Multi-Agent Navigation
⚫️Tight Time Complexities in Parallel Stochastic Optimization with Arbitrary Computation Dynamics
⚫️Robust Barycenter Estimation using Semi-Unbalanced Neural Optimal Transport
⚫️Associative memory and dead neurons
⚫️A3D: Does Diffusion Dream about 3D Alignment?
⚫️Learning Successor Features with Distributed Hebbian Temporal Memory
⚫️Efficient Distribution Matching of Representations via Noise-Injected Deep InfoMax
⚫️On the Fourier analysis in the SO (3) space: EquiLoPO Network
Кроме того, наши исследователи представляют 14 докладов на воркшопах.
Делимся фотографиями с конференции!
23.04.202512:40
В AIRI состоялся крупнейший в России семинар по генеративному проектированию ⤵️
Более 70-ти представителей научного сообщества и топ-менеджеров из строительного бизнеса и промышленных компаний приняли участие в первом отраслевом семинаре, посвященном генеративному проектированию.
Мероприятие стало площадкой для профессионального диалога о текущих вызовах, практиках и перспективах внедрения инновационных технологий.
Ключевые темы дискуссии
⚫️Автоматизация процессов в строительстве и архитектуре
⚫️Применение в промышленности: текущий статус и прогнозы
⚫️Реверс-инжиниринг и восстановление CAD-моделей
Представители департаментов проектирования подтверждают потребность в методах автоматизации, необходимость развития AI-ассистентов, а также моделей на базе LLM и VLM, решающих конкретные задачи.
Благодарим всех участников. Мы убедились, что наш совместный со Сбером проект «Генеративное проектирование» движется в правильном направлении и получили очень интересные идеи.
Более 70-ти представителей научного сообщества и топ-менеджеров из строительного бизнеса и промышленных компаний приняли участие в первом отраслевом семинаре, посвященном генеративному проектированию.
Мероприятие стало площадкой для профессионального диалога о текущих вызовах, практиках и перспективах внедрения инновационных технологий.
Ключевые темы дискуссии
⚫️Автоматизация процессов в строительстве и архитектуре
⚫️Применение в промышленности: текущий статус и прогнозы
⚫️Реверс-инжиниринг и восстановление CAD-моделей
Представители департаментов проектирования подтверждают потребность в методах автоматизации, необходимость развития AI-ассистентов, а также моделей на базе LLM и VLM, решающих конкретные задачи.
Благодарим всех участников. Мы убедились, что наш совместный со Сбером проект «Генеративное проектирование» движется в правильном направлении и получили очень интересные идеи.
16.04.202510:56
Три исследователя AIRI — лауреаты премии Data Fusion 2025 в номинации «Научный прорыв года в ИИ» 🏆
Конкурс научных статей выиграли:
◼️Александр Тюрин, кандидат компьютерных наук, руководитель группы «Методы оптимизации в машинном обучении» в AIRI и старший преподаватель в Сколтехе
◼️Юрий Куратов, кандидат физико-математических наук, руководитель группы «Модели с памятью» лаборатории когнитивных систем искусственного интеллекта AIRI, старший исследователь лаборатории нейронных систем и глубокого обучения МФТИ
◼️Айдар Булатов, научный сотрудник группы «Модели с памятью» лаборатории когнитивных систем искусственного интеллекта AIRI, младший научный сотрудник в лаборатории нейронных систем и глубокого обучения МФТИ
Сегодня все лайки — поздравления нашим ученым! #AIRIзация
Конкурс научных статей выиграли:
◼️Александр Тюрин, кандидат компьютерных наук, руководитель группы «Методы оптимизации в машинном обучении» в AIRI и старший преподаватель в Сколтехе
◼️Юрий Куратов, кандидат физико-математических наук, руководитель группы «Модели с памятью» лаборатории когнитивных систем искусственного интеллекта AIRI, старший исследователь лаборатории нейронных систем и глубокого обучения МФТИ
◼️Айдар Булатов, научный сотрудник группы «Модели с памятью» лаборатории когнитивных систем искусственного интеллекта AIRI, младший научный сотрудник в лаборатории нейронных систем и глубокого обучения МФТИ
Сегодня все лайки — поздравления нашим ученым! #AIRIзация
05.04.202510:41
Рассказываем подробности про следующий #AIRI_Seminars 🔔
9 апреля в 17:00 Сергей Загоруйко, PhD, старший преподаватель Сколтеха, выступит с докладом «DETR: end-to-end детекция объектов с трансформерами». Оппонентом будет Дмитрий Юдин, кандидат технических наук, ведущий научный сотрудник лаборатории когнитивных систем искусственного интеллекта AIRI.
Подробное описание и регистрация на офлайн-формат с пиццей и нетворкингом по ссылке.
Трансляции: VK Видео и YouTube📌
9 апреля в 17:00 Сергей Загоруйко, PhD, старший преподаватель Сколтеха, выступит с докладом «DETR: end-to-end детекция объектов с трансформерами». Оппонентом будет Дмитрий Юдин, кандидат технических наук, ведущий научный сотрудник лаборатории когнитивных систем искусственного интеллекта AIRI.
Подробное описание и регистрация на офлайн-формат с пиццей и нетворкингом по ссылке.
Трансляции: VK Видео и YouTube📌
31.03.202515:40
В сегодняшнем дайджесте делимся подборкой материалов с участием исследователей AIRI ⤵
◼️Запись семинара «Математические основы искусственного интеллекта» Математического института им. В.А. Стеклова Российской академии наук с участием доктора физико-математических наук, профессора РАН, генерального директора AIRI Ивана Оселедца.
◼️Колонка кандидата технических наук, директора лаборатории FusionBrain AIRI Андрея Кузнецова в Снобе про технологическую гонку в сфере искусственного интеллекта в мире.
◼️Материал на Хабре от команды NLP‑исследователей из AIRI и Сбера про новый метод под названием AMORE для проверки работы химических языковых моделей.
◼️Обзор понимания агентного ИИ от ICT.Moscow с участием Андрея Кузнецова.
◼️Статья на Хабре про соревнование по обработке биомедицинских текстов BioNNE‑L, которое организуют исследователи из AIRI, МГУ и Sber AI.
◼️Колонка Олега Рогова, кандидата физико-математических наук, руководителя группы «Доверенные и безопасные интеллектуальные системы» AIRI и лаборатории SAIL МТУСИ, о важности международного сотрудничества в обучении LLM для издания «Эксперт».
Всем хорошего начала недели!😁
◼️Запись семинара «Математические основы искусственного интеллекта» Математического института им. В.А. Стеклова Российской академии наук с участием доктора физико-математических наук, профессора РАН, генерального директора AIRI Ивана Оселедца.
◼️Колонка кандидата технических наук, директора лаборатории FusionBrain AIRI Андрея Кузнецова в Снобе про технологическую гонку в сфере искусственного интеллекта в мире.
◼️Материал на Хабре от команды NLP‑исследователей из AIRI и Сбера про новый метод под названием AMORE для проверки работы химических языковых моделей.
◼️Обзор понимания агентного ИИ от ICT.Moscow с участием Андрея Кузнецова.
◼️Статья на Хабре про соревнование по обработке биомедицинских текстов BioNNE‑L, которое организуют исследователи из AIRI, МГУ и Sber AI.
◼️Колонка Олега Рогова, кандидата физико-математических наук, руководителя группы «Доверенные и безопасные интеллектуальные системы» AIRI и лаборатории SAIL МТУСИ, о важности международного сотрудничества в обучении LLM для издания «Эксперт».
Всем хорошего начала недели!😁
25.04.202514:25
До закрытия приёма заявок на школу по искусственному интеллекту «Лето с AIRI» в ТГУ — всего 4 дня!
Все лекции и семинары прошлого года доступны в VK Видео — загляните, чтобы почувствовать атмосферу Школы и вдохновиться на участие.
Подавайте заявки по ссылке до 29 апреля 23:59📌
Все лекции и семинары прошлого года доступны в VK Видео — загляните, чтобы почувствовать атмосферу Школы и вдохновиться на участие.
Подавайте заявки по ссылке до 29 апреля 23:59📌
22.04.202514:41
Чтобы вам было легче собрать всё нужное для заявки на «Лето с AIRI 2025», мы подготовили пошаговую инструкцию ⤵️
◼️Добавьте резюме — прикрепите его к форме заявки по ссылке. В резюме важно указать ваш опыт: где вы учились, какие у вас есть проекты, стажировки, научные публикации или pet-проекты. Можно добавить, какими технологиями владеете, что изучали, если есть — ссылки на GitHub, личный сайт или портфолио.
◼️Загрузите Research Proposal: выберите статью уровня Core A/A* (в рамках направлений Школы, указанных на сайте), проанализируйте метод, выделите сильные и слабые стороны, предложите развитие, проведите минимальные эксперименты. Ориентируйтесь на статьи, принятые на таких конференциях, как: NeurIPS, ICML, ICLR, AAAI, ACL, EMNLP, CVPR, ICCV, ECCV, KDD, IROS, ICRA (полный список).
◼️Запишите мотивационное видео до 2-х минут: расскажите, почему хотите на Школу, и как это поможет вам в карьере. Не обязательно снимать что-то профессиональное, можно записать на телефон или просто как кружочек в Telegram.
Если планируете участвовать — не откладывайте. Прием заявок открыт до 29 апреля 23:59📌
◼️Добавьте резюме — прикрепите его к форме заявки по ссылке. В резюме важно указать ваш опыт: где вы учились, какие у вас есть проекты, стажировки, научные публикации или pet-проекты. Можно добавить, какими технологиями владеете, что изучали, если есть — ссылки на GitHub, личный сайт или портфолио.
◼️Загрузите Research Proposal: выберите статью уровня Core A/A* (в рамках направлений Школы, указанных на сайте), проанализируйте метод, выделите сильные и слабые стороны, предложите развитие, проведите минимальные эксперименты. Ориентируйтесь на статьи, принятые на таких конференциях, как: NeurIPS, ICML, ICLR, AAAI, ACL, EMNLP, CVPR, ICCV, ECCV, KDD, IROS, ICRA (полный список).
◼️Запишите мотивационное видео до 2-х минут: расскажите, почему хотите на Школу, и как это поможет вам в карьере. Не обязательно снимать что-то профессиональное, можно записать на телефон или просто как кружочек в Telegram.
Если планируете участвовать — не откладывайте. Прием заявок открыт до 29 апреля 23:59📌
16.04.202509:21
Сегодня рассказываем о новом исследовании про предсказание свойств материалов с помощью нейросетей ⤵️
Ученые из группы «Дизайн новых материалов» AIRI сравнили работу графовой нейронной сети, предсказывающей энергию образования, на двух наборах данных по замещённым перовскитам на основе свинца. Оба набора состояли из наиболее репрезентативных кристаллических структур, для которых авторы провели ресурсоемкие квантово-химические расчеты, но отличались степенью их симметрии. Оказалось, что модели, обученные на низкосимметричных структурах, давали почти в два раза более точные прогнозы.
При этом исследование выявило и интересные особенности высокосимметричных реализаций химического беспорядка. Хотя такие структуры составляют менее 1% в общем пространстве поиска, для них характерен широкий разброс свойств, что может быть полезно при более сложных задачах, где идеальные условия численного эксперимента не соблюдаются.
📎Подробнее об исследовании — в научной статье в журнале Scientific Reports и в материале ТАСС.
Ученые из группы «Дизайн новых материалов» AIRI сравнили работу графовой нейронной сети, предсказывающей энергию образования, на двух наборах данных по замещённым перовскитам на основе свинца. Оба набора состояли из наиболее репрезентативных кристаллических структур, для которых авторы провели ресурсоемкие квантово-химические расчеты, но отличались степенью их симметрии. Оказалось, что модели, обученные на низкосимметричных структурах, давали почти в два раза более точные прогнозы.
При этом исследование выявило и интересные особенности высокосимметричных реализаций химического беспорядка. Хотя такие структуры составляют менее 1% в общем пространстве поиска, для них характерен широкий разброс свойств, что может быть полезно при более сложных задачах, где идеальные условия численного эксперимента не соблюдаются.
📎Подробнее об исследовании — в научной статье в журнале Scientific Reports и в материале ТАСС.
04.04.202509:05
4 года назад появился Институт AIRI ❤️
За это время мы объединили сильнейших исследователей в области искусственного интеллекта, опубликовали сотни научных статей и провели десятки семинаров. По традиции делимся карточками с итогами работы Института за 4 года.
В честь праздника делимся папкой с каналами наших исследователей — подписывайтесь, сохраняйте и изучайте науку так, как её видят сами учёные.
Спасибо, что читаете, смотрите и поддерживаете нас 😁
За это время мы объединили сильнейших исследователей в области искусственного интеллекта, опубликовали сотни научных статей и провели десятки семинаров. По традиции делимся карточками с итогами работы Института за 4 года.
В честь праздника делимся папкой с каналами наших исследователей — подписывайтесь, сохраняйте и изучайте науку так, как её видят сами учёные.
Спасибо, что читаете, смотрите и поддерживаете нас 😁
24.04.202514:25
Что такое цвет? Отвечаем на этот вопрос в новой статье на Хабре ⤵️
Вычислительная фотография — это пересечение физики, физиологии и компьютерных наук. Именно на стыке этих дисциплин рождаются новые подходы к регистрации и обработке изображений.
Кандидат физико-математических наук, руководитель группы «Цветовая вычислительная фотография» AIRI Егор Ершов читает курс по этой теме в МФТИ. Теперь же он решил адаптировать его в текстовый формат на нашем Хабре.
📎В первой статье курса — введение в теорию цвета и обзор ключевых задач, связанных с регистрацией изображений.
Вычислительная фотография — это пересечение физики, физиологии и компьютерных наук. Именно на стыке этих дисциплин рождаются новые подходы к регистрации и обработке изображений.
Кандидат физико-математических наук, руководитель группы «Цветовая вычислительная фотография» AIRI Егор Ершов читает курс по этой теме в МФТИ. Теперь же он решил адаптировать его в текстовый формат на нашем Хабре.
📎В первой статье курса — введение в теорию цвета и обзор ключевых задач, связанных с регистрацией изображений.
18.04.202519:15
Отметили четырёхлетие Института!
Все сердца AIRI сегодня — для вас ❤️
Все сердца AIRI сегодня — для вас ❤️
15.04.202516:12
AIRI на Data Fusion 2025: все выступления исследователей Института — в одном посте ⤵️
16 апреля
◼️13:00 — Иван Оселедец и Артур Кадурин в сессии «ML + наука: фарма» (зал Фотон)
◼️13:00 — Олег Рогов в дискуссии «Безопасность данных и моделей: как найти общий язык дата-сайентистам и специалистам кибербезопасности?» (лекторий 2)
◼️13:00 — Евгений Бурнаев с докладом «Инженерный искусственный интеллект: научные основы для индустриальных приложений» (зал Атом)
◼️14:10 — Иван Оселедец в дебатах «О науке и жизни: неформальный разговор с известными»(зал Атом)
◼️14:10 — Константин Яковлевев и Александр Панов в кейс-сессии «Мультиагентные системы» (лекторий 1)
◼️14:10 — Евгений Бурнаев в сессии «ML + наука: естественные науки» (зал Фотон)
◼️14:55 — Иван Оселедец с докладом о пути в науку, современной аспирантуре и Data Science (онлайн)
◼️15:20 — Виктор Гомболевский в сессии «ИИ агенты для медицины: новый взгляд на данные» (зал Фотон)
◼️17:00 — Иван Оселедец в сессии «Ключевая сессия. Обзор актуальных исследований в области ИИ» (зал Молекула)
◼️18:10 — Иван Оселедец, Евгений Бурнаев в дискуссии «Эксперты о трендах: наука» (зал Молекула)
◼️18:10 — Айдар Булатов, Максим Колодяжный, Александр Коротин, Юрий Куратов, Вадим Титов, Александр Тюрин, Кузьма Храбров на постерной сессии «Научный прорыв года в ИИ» (лекторий 1)
17 апреля
◼️12:30 — Александр Панов и Андрей Спиридонов в кейс-сессии «Embodied AI» (зал Фотон)
◼️14:00 — Владислав Куренков и Александр Панов в кейс-сессии «Reinforcement learning» (зал Фотон)
◼️16:30 — Иван Оселедец в дискуссии «Наука — драйвер прогресса на волнах ИИ» (зал Молекула)
Подробная программа и трансляция по ссылке. До встречи на конференции!
16 апреля
◼️13:00 — Иван Оселедец и Артур Кадурин в сессии «ML + наука: фарма» (зал Фотон)
◼️13:00 — Олег Рогов в дискуссии «Безопасность данных и моделей: как найти общий язык дата-сайентистам и специалистам кибербезопасности?» (лекторий 2)
◼️13:00 — Евгений Бурнаев с докладом «Инженерный искусственный интеллект: научные основы для индустриальных приложений» (зал Атом)
◼️14:10 — Иван Оселедец в дебатах «О науке и жизни: неформальный разговор с известными»(зал Атом)
◼️14:10 — Константин Яковлевев и Александр Панов в кейс-сессии «Мультиагентные системы» (лекторий 1)
◼️14:10 — Евгений Бурнаев в сессии «ML + наука: естественные науки» (зал Фотон)
◼️14:55 — Иван Оселедец с докладом о пути в науку, современной аспирантуре и Data Science (онлайн)
◼️15:20 — Виктор Гомболевский в сессии «ИИ агенты для медицины: новый взгляд на данные» (зал Фотон)
◼️17:00 — Иван Оселедец в сессии «Ключевая сессия. Обзор актуальных исследований в области ИИ» (зал Молекула)
◼️18:10 — Иван Оселедец, Евгений Бурнаев в дискуссии «Эксперты о трендах: наука» (зал Молекула)
◼️18:10 — Айдар Булатов, Максим Колодяжный, Александр Коротин, Юрий Куратов, Вадим Титов, Александр Тюрин, Кузьма Храбров на постерной сессии «Научный прорыв года в ИИ» (лекторий 1)
17 апреля
◼️12:30 — Александр Панов и Андрей Спиридонов в кейс-сессии «Embodied AI» (зал Фотон)
◼️14:00 — Владислав Куренков и Александр Панов в кейс-сессии «Reinforcement learning» (зал Фотон)
◼️16:30 — Иван Оселедец в дискуссии «Наука — драйвер прогресса на волнах ИИ» (зал Молекула)
Подробная программа и трансляция по ссылке. До встречи на конференции!
08.04.202516:51
Сегодня рассказываем подробнее про доклады, которые будут на ИИшнице 10 апреля 🍳
◼️В 15:30 кандидат физико-математических наук, Chief Data Scientist B2C Сбер Дмитрий Бугайченко выступит с докладом про краткую историю мультиагентных систем.
◼️В 15:50 руководитель группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» AIRI Ярослав Беспалов расскажет про создание мультиагентной системы на примере медицинского цифрового ассистента.
◼️В 16:10 пройдет доклад Никиты Любайкина, инженера–исследователя группы «Адаптивные агенты», про модель Vintix: Action Model via In-Context Reinforcement Learning.
◼️В 16:30 Technical Product Owner команды по разработке ИИ агентов в Альфа-Банке Артём Павленко расскажет про новый стандарт взаимодействия ИИ-агентов — Model Context Protocol.
◼️В 16:50 пройдет доклад техлида команды GigaChain SDK и развития агентов Константина Крестникова «Query construction in RAG: как мы решали задачу поиска на сложной базе данных заказчика с помощью langchain и chroma».
◼️В 17:10 завершающий доклад «Ассистент-исследователь: на пути к автоматизации научных исследований» прочитает доктор физико-математических наук, директор лаборатории когнитивных систем искусственного интеллекта AIRI, директор ЦКМ Института ИИ МФТИ Александр Панов.
Ведущим мероприятия будет руководитель группы «Глубокое обучение в науках о жизни» AIRI Артур Кадурин.
Подключайтесь к трансляции в VK Видео или на YouTube 🍿
◼️В 15:30 кандидат физико-математических наук, Chief Data Scientist B2C Сбер Дмитрий Бугайченко выступит с докладом про краткую историю мультиагентных систем.
◼️В 15:50 руководитель группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» AIRI Ярослав Беспалов расскажет про создание мультиагентной системы на примере медицинского цифрового ассистента.
◼️В 16:10 пройдет доклад Никиты Любайкина, инженера–исследователя группы «Адаптивные агенты», про модель Vintix: Action Model via In-Context Reinforcement Learning.
◼️В 16:30 Technical Product Owner команды по разработке ИИ агентов в Альфа-Банке Артём Павленко расскажет про новый стандарт взаимодействия ИИ-агентов — Model Context Protocol.
◼️В 16:50 пройдет доклад техлида команды GigaChain SDK и развития агентов Константина Крестникова «Query construction in RAG: как мы решали задачу поиска на сложной базе данных заказчика с помощью langchain и chroma».
◼️В 17:10 завершающий доклад «Ассистент-исследователь: на пути к автоматизации научных исследований» прочитает доктор физико-математических наук, директор лаборатории когнитивных систем искусственного интеллекта AIRI, директор ЦКМ Института ИИ МФТИ Александр Панов.
Ведущим мероприятия будет руководитель группы «Глубокое обучение в науках о жизни» AIRI Артур Кадурин.
Подключайтесь к трансляции в VK Видео или на YouTube 🍿
02.04.202513:51
Save the date: следующая ИИшница пройдет 10 апреля в 15:30 🍳
Исследователи расскажут об ИИ-агентах и мультиагентных системах, их применении в медицине, автоматизации научных исследований и поиске в сложных базах данных. Скоро поделимся подробным расписанием онлайн-митапа.
Сохраняйте ссылки на трансляции, чтобы не пропустить: VK Видео, YouTube 🍿
Исследователи расскажут об ИИ-агентах и мультиагентных системах, их применении в медицине, автоматизации научных исследований и поиске в сложных базах данных. Скоро поделимся подробным расписанием онлайн-митапа.
Сохраняйте ссылки на трансляции, чтобы не пропустить: VK Видео, YouTube 🍿
25.03.202513:15
Сегодня рассказываем про новый метод оценки уязвимости персональных данных в нейросетевых моделях, который представили исследователи AIRI, Сбера, МТУСИ, Сколтеха, ИСП РАН ⤵️
GLiRA основан на дистилляции знаний и применяется в условиях «черного ящика», когда атакующий не имеет доступа к архитектуре модели, но может взаимодействовать с ее интерфейсом. Метод позволяет изучить поведение целевой модели и воссоздать его при разработке теневых моделей — систем, применяемых для извлечения конфиденциальной информации и понимания того, как оригинальная модель принимает решения. Изучение методов атак дает детальное понимание того, как происходит утечка приватных данных, какие уязвимости наиболее подвержены атакам и в каких условиях они возникают.
Исследование проводилось в два этапа: сначала ученые изучили существующие подходы к дистилляции знаний из одной модели в другую, затем адаптировали их для обучения теневых моделей. В ходе экспериментов GLiRA показал на 7% более высокую точность имитируемых атак по сравнению с ранее существующими методами.
Научная статья | Материал в Хайтек
GLiRA основан на дистилляции знаний и применяется в условиях «черного ящика», когда атакующий не имеет доступа к архитектуре модели, но может взаимодействовать с ее интерфейсом. Метод позволяет изучить поведение целевой модели и воссоздать его при разработке теневых моделей — систем, применяемых для извлечения конфиденциальной информации и понимания того, как оригинальная модель принимает решения. Изучение методов атак дает детальное понимание того, как происходит утечка приватных данных, какие уязвимости наиболее подвержены атакам и в каких условиях они возникают.
Исследование проводилось в два этапа: сначала ученые изучили существующие подходы к дистилляции знаний из одной модели в другую, затем адаптировали их для обучения теневых моделей. В ходе экспериментов GLiRA показал на 7% более высокую точность имитируемых атак по сравнению с ранее существующими методами.
Научная статья | Материал в Хайтек
17.04.202512:22
Приглашаем на следующий #AIRI_Seminars, который пройдет в среду 23 апреля в 17:00 ⤵️
Глеб Кузьмин, младший научный сотрудник лаборатории обучения на слабо размеченных данных AIRI, представит доклад «Fairness и оценки неопределенности в NLP: методы выявления и устранения предвзятости в моделях обработки естественного языка».
Оппонентом выступит Денис Кузнецов, заместитель заведующего лаборатории лаборатории нейронных систем и глубокого обучения МФТИ, CTO открытого AI-фреймворка для диалоговых систем Chatsky, преподаватель МФТИ, AI Talent Hub ИТМО.
📌Подробное описание семинара и регистрация на офлайн-формат по ссылке.
VK Видео | YouTube
Глеб Кузьмин, младший научный сотрудник лаборатории обучения на слабо размеченных данных AIRI, представит доклад «Fairness и оценки неопределенности в NLP: методы выявления и устранения предвзятости в моделях обработки естественного языка».
Оппонентом выступит Денис Кузнецов, заместитель заведующего лаборатории лаборатории нейронных систем и глубокого обучения МФТИ, CTO открытого AI-фреймворка для диалоговых систем Chatsky, преподаватель МФТИ, AI Talent Hub ИТМО.
📌Подробное описание семинара и регистрация на офлайн-формат по ссылке.
VK Видео | YouTube
14.04.202511:19
На прошлой неделе в итальянском городе Лукка прошла конференция по информационному поиску ECIR 2025 ⤵️
В этом году на площадке конференции руководитель группы «Прикладное NLP» Елена Тутубалина, руководитель группы «Вычислительная семантика» Александр Панченко и старший научный сотрудник Василий Коновалов.
⚫️BioASQ at CLEF2025: The thirteenth edition of the large-scale biomedical semantic indexing and question answering challenge
В статье, подготовленной Еленой Тутубалиной с коллегами, рассказывается про соревнование BioNNE-L, которое является частью воркшопа BioASQ. Дедлайн принятия решений — 6 мая 2025. По результатам можно написать статью на конференцию CLEF 2025.
⚫️Overview of PAN 2025: Generative AI Detection, Multilingual Text Detoxification, Multi-Author Writing Style Analysis, and Generative Plagiarism Detection
В статье Александра Панченко, Артёма Шелманова и их коллег дается краткий обзор четырех задач, которые будут представлены на треке PAN конференции CLEF 2025.
⚫️RURAGE: Robust Universal RAG Evaluator for Fast and Affordable QA Performance Testing (Industry Track)
Команда исследователей при участии Александра Панченко и Василия Коновалова представили открытый фреймворк RURAGE, разработанный для оценки качества вопросно-ответных систем посредством комбинации простого лексического анализа, оценок на основе моделей и метрик неопределенности.
Делимся фотографиями с конференции!📌
В этом году на площадке конференции руководитель группы «Прикладное NLP» Елена Тутубалина, руководитель группы «Вычислительная семантика» Александр Панченко и старший научный сотрудник Василий Коновалов.
⚫️BioASQ at CLEF2025: The thirteenth edition of the large-scale biomedical semantic indexing and question answering challenge
В статье, подготовленной Еленой Тутубалиной с коллегами, рассказывается про соревнование BioNNE-L, которое является частью воркшопа BioASQ. Дедлайн принятия решений — 6 мая 2025. По результатам можно написать статью на конференцию CLEF 2025.
⚫️Overview of PAN 2025: Generative AI Detection, Multilingual Text Detoxification, Multi-Author Writing Style Analysis, and Generative Plagiarism Detection
В статье Александра Панченко, Артёма Шелманова и их коллег дается краткий обзор четырех задач, которые будут представлены на треке PAN конференции CLEF 2025.
⚫️RURAGE: Robust Universal RAG Evaluator for Fast and Affordable QA Performance Testing (Industry Track)
Команда исследователей при участии Александра Панченко и Василия Коновалова представили открытый фреймворк RURAGE, разработанный для оценки качества вопросно-ответных систем посредством комбинации простого лексического анализа, оценок на основе моделей и метрик неопределенности.
Делимся фотографиями с конференции!📌
07.04.202516:48
⚡️Открываем прием заявок на Лето с AIRI 2025!
В этом году мы запускаем Школу совместно с ТГУ. Программа пройдет в Томске с 30 июня по 10 июля. Это отличная возможность поработать с экспертами в области ИИ, прокачать навыки и погрузиться в исследовательскую атмосферу. В расписании — лекции, семинары, практическая работа, постерная сессия и внеучебные активности.
📎 Подать заявку на участие можно по ссылке до 23:59 29 апреля 2025 года.
Организаторы обеспечивают обучение, проживание и питание, вам нужно будет только добраться до Томска.
Подавайте заявки и делитесь постом с друзьями и коллегами!
В этом году мы запускаем Школу совместно с ТГУ. Программа пройдет в Томске с 30 июня по 10 июля. Это отличная возможность поработать с экспертами в области ИИ, прокачать навыки и погрузиться в исследовательскую атмосферу. В расписании — лекции, семинары, практическая работа, постерная сессия и внеучебные активности.
📎 Подать заявку на участие можно по ссылке до 23:59 29 апреля 2025 года.
Организаторы обеспечивают обучение, проживание и питание, вам нужно будет только добраться до Томска.
Подавайте заявки и делитесь постом с друзьями и коллегами!
01.04.202507:16
Как удаление знаков препинания и артиклей в запросе снижает точность языковых моделей до 20%⤵️
Исследователи AIRI обнаружили, что знаки препинания и артикли играют более важную роль в обработке информации языковыми моделями, чем кажется на первый взгляд. Это удалось узнать с помощью метода, который позволяет определить, какие именно данные сохраняются в связке с конкретными токенами.
В серии экспериментов исследователи использовали тексты, из которых заранее убрали элементы, кажущиеся незначительными для логики повествования: знаки препинания, артикли и стоп-слова. Для этого систему обучили анализировать последовательность токенов и восстанавливать текст. Оказалось, что больше всего информации о контексте содержится именно в стоп-словах. Затем поставили перед несколькими популярными языковыми моделями задачу — решить, какие элементы текста, с точки зрения человека, можно удалить. Проверка подтвердила, что, если убрать из формулировки технического задания такие «незначительные» символы, качество работы модели падает.
📎Код для анализа работы языковых моделей доступен по ссылке.
Исследователи AIRI обнаружили, что знаки препинания и артикли играют более важную роль в обработке информации языковыми моделями, чем кажется на первый взгляд. Это удалось узнать с помощью метода, который позволяет определить, какие именно данные сохраняются в связке с конкретными токенами.
В серии экспериментов исследователи использовали тексты, из которых заранее убрали элементы, кажущиеся незначительными для логики повествования: знаки препинания, артикли и стоп-слова. Для этого систему обучили анализировать последовательность токенов и восстанавливать текст. Оказалось, что больше всего информации о контексте содержится именно в стоп-словах. Затем поставили перед несколькими популярными языковыми моделями задачу — решить, какие элементы текста, с точки зрения человека, можно удалить. Проверка подтвердила, что, если убрать из формулировки технического задания такие «незначительные» символы, качество работы модели падает.
📎Код для анализа работы языковых моделей доступен по ссылке.
21.03.202510:47
Поздравляем исследователей AIRI и ФКН ВШЭ с победой в международном соревновании League of Robot Runners 🏆
Команда в составе студентов факультета компьютерных наук НИУ ВШЭ Егора Юхневича и Артема Брежнева под руководством кандидата физико-математических наук, научного сотрудника лаборатории «Когнитивные системы ИИ» AIRI Антона Андрейчука заняла первые места во всех 3-х номинациях и стала абсолютным победителем международного соревнования по планированию передвижений мобильных роботов.
Цель соревнования — нахождение успешных идей в области многоагентного поиска пути и создания ИИ-систем для распределения задач между роботами на крупных складах. Особенностью этого соревнования стала максимальная приближенность симуляции к реальным ситуациям, когда принять решение необходимо в очень короткие сроки.
Соревнование длилось четыре месяца. Согласно предоставленной организаторами статистике, в тестирующую систему было отправлено 1513 попыток решить поставленные перед участниками задачи от 50 команд из разных стран. Команда под названием «No Man's Sky» заняла первое место во всех номинациях, став абсолютным победителем League of Robot Runners 2024.
📎Подробнее про победу — в материале ТАСС.
Команда в составе студентов факультета компьютерных наук НИУ ВШЭ Егора Юхневича и Артема Брежнева под руководством кандидата физико-математических наук, научного сотрудника лаборатории «Когнитивные системы ИИ» AIRI Антона Андрейчука заняла первые места во всех 3-х номинациях и стала абсолютным победителем международного соревнования по планированию передвижений мобильных роботов.
Цель соревнования — нахождение успешных идей в области многоагентного поиска пути и создания ИИ-систем для распределения задач между роботами на крупных складах. Особенностью этого соревнования стала максимальная приближенность симуляции к реальным ситуациям, когда принять решение необходимо в очень короткие сроки.
Соревнование длилось четыре месяца. Согласно предоставленной организаторами статистике, в тестирующую систему было отправлено 1513 попыток решить поставленные перед участниками задачи от 50 команд из разных стран. Команда под названием «No Man's Sky» заняла первое место во всех номинациях, став абсолютным победителем League of Robot Runners 2024.
📎Подробнее про победу — в материале ТАСС.
Shown 1 - 24 of 68
Log in to unlock more functionality.