Notcoin Community

Whale Chanel

Паглядзець

Proxy MTProto | پروکسی

Паглядзець

Pavel Zloi

Канал простого программиста, рассказываю про ИТ, Linux, AI, ChatGPT, Docker и тд.
Отправить донат:
https://pay.cloudtips.ru/p/937f48ac
Исходники моих проектов:
https://github.com/EvilFreelancer
Где меня искать:
https://dzen.ru/a/ZGI0ytgNQUkpkIME

Рэйтынг TGlist

ТыпПублічны

Вертыфікацыя

Не вертыфікаваны

Надзейнасць

Не надзейны

Размяшчэнне

МоваІншая

Дата стварэння каналаApr 14, 2022

Дадана ў TGlist

Mar 02, 2025

Я ўладальнік канала

Гісторыя змяненняў

Прыкрепленая група

Pavel Zloi's Chat

207

Статыстыка Тэлеграм-канала Pavel Zloi

Падрабязней

Падпісчыкаў

1 184

24 гадз.

50.4%Тыдзень

888%Месяц

888%

Індэкс цытавання

100

Згадкі1Рэпостаў на каналах0Згадкі на каналах1

Сярэдняе ахоп 1 паста

375

12 гадз.1 7430%24 гадз.3750%48 гадз.4170%

Узаемадзеянне (ER)

9.07%

Рэпостаў15Каментары7Рэакцыі12

Узаемадзеянне па ахопу (ERR)

31.81%

24 гадз.0%Тыдзень0%Месяц0%

Ахоп 1 рэкламнага паста

2 093

1 гадз.00%1 – 4 гадз.00%4 - 24 гадз.00%

Падрабязней

Падключыце нашага бота да канала і даведайцеся пол аўдыторыі гэтага канала.

Усяго пастоў за 24 гадзіны

1

Дынаміка

Апошнія публікацыі ў групе "Pavel Zloi"

Усе пасты

08.03.202511:55

Кстати, чуть не забыл, поздравляю ~~немногочисленных~~ подписчиц канала с 8 марта!

05.03.202513:28

И так, продолжаем разговор, ссылок набралось порядочно, так вот вторая пачка публикаций, их краткое саммари и мой небольшой комментарий.

Curated collection of papers and resources on how to unlock the reasoning ability of LLMs and MLLMs (ссылка)

Кратенько: По ссылке коллекция из 130+ ссылок на статьи про датасеты и техники обучения ризонингу вышедшие начиная с 2022 года, так что всё достаточно свежее, есть обзорные статьи, есть разные околотехнические статьи с анализом работы тех или иных моделей, есть статьи про техники обучения и тестирования ризонинга и так далее.

От себя: В проекте собрана великолепная подборка различных публикаций и проектов, однако, отдельно хочу отметить заинтересовавший меня проект google-research/cascades, который позволяет формировать "каскадные" CoT цепочки вызывая внешние тулы и используя механизмы обратной связи.

Training Language Models to Self-Correct via Reinforcement Learning (arXiv:2409.12917)

Кратенько: Эта публикация про метод Self-Correct via Reinforcement Learning (SCoRe), использующий RL для улучшения способности языковых моделей к самокоррекции через генерацию собственных данных, что по тестам позволило достичь хороших результатов на бенчмарках MATH и HumanEval.

От себя: Очень любопытная статья,. по тексту сложилось мнение что SCoRe это что-то среднее между RL и RLHF (только вместо хумана обучаемая модель). Как я понял модель в процессе обучения делает две генерации, после первой проверяет себя и генерируют инструкцию самокоррекции, после второй рассчитывается то насколько ответы похожи на правильный из датасета (при этом не показывая модели какой правильный) и из этого формируется RL-награда, финальная цель которой обучить модель либо с первого раза отвечать "как надо" либо с одной подсказкой.

Marco-o1: Towards Open Reasoning Models for Open-Ended Solutions (arXiv:2411.14405)

Кратенько: Эта публикация представляет модель Marco-o1 и методы её RL обучения используя Chain-of-Thought, MCTS и механизмы рефлексии.

От себя: В данной публикации очень подробно описан весь процесс, который сводится к SFT обучению на CoT инструкциях, после чего RL обучению который предполагает, что модель сама будет генерировать возможные варианты ответа (дерево решений), после через MCTS (Monte Carlo Tree Search) выбирать наиболее эффективный (через оценку top-k и softmax). Процесс "рассуждения" продолжается до тех пока не будет достигнут приемлемый результат.

Puzzle Solving using Reasoning of Large Language Models: A Survey (arXiv:2402.11291)

Кратенько: Любопытный обзор исследований, оценивающих способности LLM в решении головоломок.

От себя: Из интересного классификация видов загадок и обзор датасетов под каждый из примеров, но отдельно хочу отметить упоминаемую работу "Graph of Thoughts: Solving Elaborate Problems with Large Language Models" (arxiv:2308.09687) о фреймворке, который позволяет построить не просто цепочку, а граф размышлений.

Продолжение продолжит продолжаться...

02.03.202512:46

YandexGPT R1 на Huging Face

Выпустил адаптер на Hugging Face который я дообучил при помощи impruver поверх YandexGPT-5-Lite-8B-pretrain вышедшей на днях, используя датасеты оптимизированные под reasoning.

Ссылки:
- https://huggingface.co/evilfreelancer/r1_yandexgpt5-lite_lora
- https://huggingface.co/evilfreelancer/r1_yandexgpt5-lite_gguf
- https://ollama.com/evilfreelancer/r1_yandexgpt5-lite

Конфигурация: YandexGPT/8B_lora_r1
Отчёт W&B: https://api.wandb.ai/links/evilfreelancer/zj6s02v4

Запустить через Ollama:

ollama run evilfreelancer/r1_yandexgpt5-lite

Усе пасты

Рэкламаваўся16 гадзіна

05.03.202507:26Dealer.AI

8.2K

Рэкламаваўся0 секунда

02.03.202518:14Dealer.AI

8.2K

Падрабязней

Рэкорды

08.03.202523:59

1.2KПадпісчыкаў

05.03.202523:59

100Індэкс цытавання

03.03.202523:59

2.1KАхоп 1 паста

04.02.202523:13

2.1KАхоп рэкламнага паста

06.03.202523:59

9.07%ER

25.02.202505:56

190.97%ERR

Развіццё

Падрабязней

Падпісчыкаў

Індэкс цытавання

Ахоп 1 паста

Ахоп рэкламнага паста

ERR

Падрабязней

Папулярныя публікацыі Pavel Zloi

Усе пасты

05.03.202513:28

02.03.202512:46

ollama run evilfreelancer/r1_yandexgpt5-lite

08.03.202511:55

Кстати, чуть не забыл, поздравляю ~~немногочисленных~~ подписчиц канала с 8 марта!

Увайдзіце, каб разблакаваць больш функцый.