Pavel Zloi

Канал простого программиста, рассказываю про ИТ, Linux, AI, ChatGPT, Docker и тд.
Отправить донат:
https://pay.cloudtips.ru/p/937f48ac
Исходники моих проектов:
https://github.com/EvilFreelancer
Где меня искать:
https://dzen.ru/a/ZGI0ytgNQUkpkIME

TGlist 评分

类型公开

验证

未验证

可信度

不可靠

位置

语言其他

频道创建日期Apr 14, 2022

添加到 TGlist 的日期

Mar 02, 2025

我是频道所有者

变更历史

关联群组

Pavel Zloi's Chat

207

Telegram频道 Pavel Zloi 统计数据

详细信息

订阅者

1 184

24 小时

50.4%一周

888%一个月

888%

引用指数

100

提及1频道上的转发0频道上的提及1

每帖平均覆盖率

375

12 小时1 7430%24 小时3750%48 小时4170%

参与率 (ER)

9.07%

转发15评论7反应12

覆盖率参与率 (ERR)

31.81%

24 小时0%一周0%一个月0%

每则广告帖子的平均覆盖率

2 093

1 小时00%1 – 4 小时00%4 - 24 小时00%

详细信息

将我们的机器人连接到频道以了解该频道的受众性别。

过去 24 小时内的帖子数

1

动态

"Pavel Zloi" 群组最新帖子

所有帖子

08.03.202511:55

Кстати, чуть не забыл, поздравляю ~~немногочисленных~~ подписчиц канала с 8 марта!

05.03.202513:28

И так, продолжаем разговор, ссылок набралось порядочно, так вот вторая пачка публикаций, их краткое саммари и мой небольшой комментарий.

Curated collection of papers and resources on how to unlock the reasoning ability of LLMs and MLLMs (ссылка)

Кратенько: По ссылке коллекция из 130+ ссылок на статьи про датасеты и техники обучения ризонингу вышедшие начиная с 2022 года, так что всё достаточно свежее, есть обзорные статьи, есть разные околотехнические статьи с анализом работы тех или иных моделей, есть статьи про техники обучения и тестирования ризонинга и так далее.

От себя: В проекте собрана великолепная подборка различных публикаций и проектов, однако, отдельно хочу отметить заинтересовавший меня проект google-research/cascades, который позволяет формировать "каскадные" CoT цепочки вызывая внешние тулы и используя механизмы обратной связи.

Training Language Models to Self-Correct via Reinforcement Learning (arXiv:2409.12917)

Кратенько: Эта публикация про метод Self-Correct via Reinforcement Learning (SCoRe), использующий RL для улучшения способности языковых моделей к самокоррекции через генерацию собственных данных, что по тестам позволило достичь хороших результатов на бенчмарках MATH и HumanEval.

От себя: Очень любопытная статья,. по тексту сложилось мнение что SCoRe это что-то среднее между RL и RLHF (только вместо хумана обучаемая модель). Как я понял модель в процессе обучения делает две генерации, после первой проверяет себя и генерируют инструкцию самокоррекции, после второй рассчитывается то насколько ответы похожи на правильный из датасета (при этом не показывая модели какой правильный) и из этого формируется RL-награда, финальная цель которой обучить модель либо с первого раза отвечать "как надо" либо с одной подсказкой.

Marco-o1: Towards Open Reasoning Models for Open-Ended Solutions (arXiv:2411.14405)

Кратенько: Эта публикация представляет модель Marco-o1 и методы её RL обучения используя Chain-of-Thought, MCTS и механизмы рефлексии.

От себя: В данной публикации очень подробно описан весь процесс, который сводится к SFT обучению на CoT инструкциях, после чего RL обучению который предполагает, что модель сама будет генерировать возможные варианты ответа (дерево решений), после через MCTS (Monte Carlo Tree Search) выбирать наиболее эффективный (через оценку top-k и softmax). Процесс "рассуждения" продолжается до тех пока не будет достигнут приемлемый результат.

Puzzle Solving using Reasoning of Large Language Models: A Survey (arXiv:2402.11291)

Кратенько: Любопытный обзор исследований, оценивающих способности LLM в решении головоломок.

От себя: Из интересного классификация видов загадок и обзор датасетов под каждый из примеров, но отдельно хочу отметить упоминаемую работу "Graph of Thoughts: Solving Elaborate Problems with Large Language Models" (arxiv:2308.09687) о фреймворке, который позволяет построить не просто цепочку, а граф размышлений.

Продолжение продолжит продолжаться...

02.03.202512:46

YandexGPT R1 на Huging Face

Выпустил адаптер на Hugging Face который я дообучил при помощи impruver поверх YandexGPT-5-Lite-8B-pretrain вышедшей на днях, используя датасеты оптимизированные под reasoning.

Ссылки:
- https://huggingface.co/evilfreelancer/r1_yandexgpt5-lite_lora
- https://huggingface.co/evilfreelancer/r1_yandexgpt5-lite_gguf
- https://ollama.com/evilfreelancer/r1_yandexgpt5-lite

Конфигурация: YandexGPT/8B_lora_r1
Отчёт W&B: https://api.wandb.ai/links/evilfreelancer/zj6s02v4

Запустить через Ollama:

ollama run evilfreelancer/r1_yandexgpt5-lite

所有帖子

已广告16 小时

05.03.202507:26Dealer.AI

8.2K

已广告0 秒

02.03.202518:14Dealer.AI

8.2K

详细信息

记录

08.03.202523:59

1.2K订阅者

05.03.202523:59

100引用指数

03.03.202523:59

2.1K每帖平均覆盖率

04.02.202523:13

2.1K广告帖子的平均覆盖率

06.03.202523:59

9.07%ER

25.02.202505:56

190.97%ERR

发展

详细信息

订阅者

引用指数

每篇帖子的浏览量

每个广告帖子的浏览量

ERR

详细信息

Pavel Zloi 热门帖子

所有帖子

05.03.202513:28

02.03.202512:46

ollama run evilfreelancer/r1_yandexgpt5-lite

08.03.202511:55

Кстати, чуть не забыл, поздравляю ~~немногочисленных~~ подписчиц канала с 8 марта!

登录以解锁更多功能。