запуск завтра
02.05.202510:01
В продолжение последнего поста — и дня не прошло, вот что значит качественная мотивация.
29.04.202509:52
Составляем эти два графика для ключевых функций и видим, тормозит наше приложение или нет. По числам оцениваем, стало оно быстрее или медленнее.
Итак, шаг первый — замерить экраны и действия.
Теперь можно переходить к поиску первопричины. Приложение может тормозить само по себе или из-за медленного бэкенда.
Тут мы опираемся на те же два графика, но уже смотрим скорость ответа бэкенда.
Качественно настроить сбор данных и дэшборды — это дополнительная работа, но она с лихвой окупается при расследовании проблем.
Хотите заказать классную разработку или аудит? Обращайтесь! @samatg https://fansdev.ru
Итак, шаг первый — замерить экраны и действия.
Теперь можно переходить к поиску первопричины. Приложение может тормозить само по себе или из-за медленного бэкенда.
Тут мы опираемся на те же два графика, но уже смотрим скорость ответа бэкенда.
Качественно настроить сбор данных и дэшборды — это дополнительная работа, но она с лихвой окупается при расследовании проблем.
Хотите заказать классную разработку или аудит? Обращайтесь! @samatg https://fansdev.ru
27.04.202513:08
Два аспиранта без опыта в аудио за 3 месяца собрали нейросеть, которая генерирует речь лучше коммерческих сервисов!
Послушайте, как естественно она звучит и насколько точно следует указаниям вроде «со смехом» или «грустно». А ещё она создает целый диалог с несколькими голосами «за один проход» — быстрее и эффективнее конкурентов.
Мы уже привыкли, когда подобные модели анонсируют OpenAI, Google или Илон Маск. Эта нейросеть привлекла мое внимание именно создателями. Похоже, в сфере ИИ теперь такие мощные инструменты и так много публичных наработок, что пара умных ребят за месяцы смогут сделать то, на что раньше у богатых компаний уходили годы.
Наверное, наше время чем-то похоже на конец 19 века, когда в одной Америке было 1900 независимых автопроизводителей, и 1980-е, когда подростки собирали в гаражах персональные компьютеры.
—
Конкретно в сфере синтеза речи: нас ждут виртуальные дикторы и ведущие подкастов, которых не отличишь от живых. Ну и мошенникам, конечно, раздолье.
Модель открытая, работает даже на макбуках. Пока говорит только на английском. Примеры и сравнение с ведущими моделями, попробовать можно на hf, скачивать здесь.
Послушайте, как естественно она звучит и насколько точно следует указаниям вроде «со смехом» или «грустно». А ещё она создает целый диалог с несколькими голосами «за один проход» — быстрее и эффективнее конкурентов.
Мы уже привыкли, когда подобные модели анонсируют OpenAI, Google или Илон Маск. Эта нейросеть привлекла мое внимание именно создателями. Похоже, в сфере ИИ теперь такие мощные инструменты и так много публичных наработок, что пара умных ребят за месяцы смогут сделать то, на что раньше у богатых компаний уходили годы.
Наверное, наше время чем-то похоже на конец 19 века, когда в одной Америке было 1900 независимых автопроизводителей, и 1980-е, когда подростки собирали в гаражах персональные компьютеры.
—
Конкретно в сфере синтеза речи: нас ждут виртуальные дикторы и ведущие подкастов, которых не отличишь от живых. Ну и мошенникам, конечно, раздолье.
Модель открытая, работает даже на макбуках. Пока говорит только на английском. Примеры и сравнение с ведущими моделями, попробовать можно на hf, скачивать здесь.
02.04.202513:44
Будущее уже наступило. Знакомый продакт-дизайнер, без опыта в программировании, показал проект, который собрал самостоятельно с помощью Windsurf. Это мини-приложение в телеграме для генерации картинок и видео через доступные на рынке модели. Человек без знания программирования в одиночку запускает сервис!
Он послушал наш последний эпизод подкаста про то, как хакеры взломали похожего стартапера и попросил аудит. Код там жуткий, проще заново написать, чем пытаться найти ошибки. Но когда я сказал Феде, «раньше такое даже представить было нельзя», Федя ответил «да ладно, это тот же код, что клепают плохие аутсорсеры и фрилансеры с бирж, просто теперь он его сам сгенерировал».
Договорились, что если проект взлетит — то мы его быстро перепишем, благо кода там немного.
А вот второе «будущее» не такое приятное. Мошенники начали притворяться мной в телеграме и писать знакомым. Коллеги говорят, это беда всех успешных студий сейчас. Так что, друзья, будьте осторожны, я в телеграме только @samatg
Он послушал наш последний эпизод подкаста про то, как хакеры взломали похожего стартапера и попросил аудит. Код там жуткий, проще заново написать, чем пытаться найти ошибки. Но когда я сказал Феде, «раньше такое даже представить было нельзя», Федя ответил «да ладно, это тот же код, что клепают плохие аутсорсеры и фрилансеры с бирж, просто теперь он его сам сгенерировал».
Договорились, что если проект взлетит — то мы его быстро перепишем, благо кода там немного.
А вот второе «будущее» не такое приятное. Мошенники начали притворяться мной в телеграме и писать знакомым. Коллеги говорят, это беда всех успешных студий сейчас. Так что, друзья, будьте осторожны, я в телеграме только @samatg
08.03.202522:18
Опубликовал поздравление с 8 марта в бейзкемпе (это наш внутренний рабочий форум) и пожалуй продублирую его сюда.
Я вижу, что многие пытаются совсем закенселить этот праздник, потому что мы выросли, слыша стыдные поздравления о «прекрасных дамах, которые украшают наш коллектив».
Мне очень повезло — всю карьеру меня окружают крутые женщины-профессионалы и мне есть что вам сказать.
Я вижу, что многие пытаются совсем закенселить этот праздник, потому что мы выросли, слыша стыдные поздравления о «прекрасных дамах, которые украшают наш коллектив».
Мне очень повезло — всю карьеру меня окружают крутые женщины-профессионалы и мне есть что вам сказать.
Поздравляю вас с международным женским днем! Это день посвящен женщинам, вашим правам, достижениям и борьбе за равенство.
Каждая из вас здесь не потому, что она женщина. Вы здесь, потому что вы круче всех, кто претендовал на открытую вакансию. При том, что желающих попасть в нашу команду — много.
Я знаю, что женщинами порой приходится плыть против течения. Прикладывать больше усилий, чтобы заниматься любимым делом, а не тем, что «принято». Сделать больше, чтобы добиться того же признания.
Как отец двух дочек, я смотрю на вас с надеждой. Я надеюсь, что и мои девочки тоже смогут вырасти и заниматься тем, что любят, стать профессионалами в своём деле. Вы для меня — пример и я вами горжусь.
Ещё я горжусь тем, что в нашей компании ценят результат, а не пол. Если вдруг вы заметите, что в чем-то это не так, — пожалуйста, дайте знать.
С праздником!
01.03.202522:15
Помните DeepSeek — китайскую модель, которая в разы дешевле американских аналогов, но не уступает по качеству? И это при том, что Штаты запрещают экспорт топовых видеокарт в Китай.
Ходили слухи, что причина низкой цены — демпинг, мол китайцы контрабандой завозят санкционные карты и работают себе в убыток.
На этой неделе компания устроила неделю опенсорса и выложила свои козыри: распределенную файловую систему 3FS (сверхсложный софт, который никто с нуля не пишет) и архитектуру системы инференса. Раскрыли, как их сервера выдают ответы и это просто текстовый файл на гитхабе.
Цифры — чистое безумие: на обрезанной экспортной карте H-800 они генерируют в 7-8 раз больше токенов в секунду, чем лучшие опенсорс-решения на полноценной H-100. Маржинальность — 545%!
Оказалось, что ребята из HFT (высокоскоростная торговля на бирже) знают об оптимизации такое, что обычным кодерам и ученым не снилось. Китайские трейдеры обогнали всех в ИИ.
Вопросы: как скоро американцы скопируют эти трюки? Упадут ли цены на ИИ? Или на карты? Может, NVIDIA перестанет стоить как полпланеты? Хотя вряд ли — мы просто начнём использовать нейросети в 10 раз больше.
Ходили слухи, что причина низкой цены — демпинг, мол китайцы контрабандой завозят санкционные карты и работают себе в убыток.
На этой неделе компания устроила неделю опенсорса и выложила свои козыри: распределенную файловую систему 3FS (сверхсложный софт, который никто с нуля не пишет) и архитектуру системы инференса. Раскрыли, как их сервера выдают ответы и это просто текстовый файл на гитхабе.
Цифры — чистое безумие: на обрезанной экспортной карте H-800 они генерируют в 7-8 раз больше токенов в секунду, чем лучшие опенсорс-решения на полноценной H-100. Маржинальность — 545%!
Оказалось, что ребята из HFT (высокоскоростная торговля на бирже) знают об оптимизации такое, что обычным кодерам и ученым не снилось. Китайские трейдеры обогнали всех в ИИ.
Вопросы: как скоро американцы скопируют эти трюки? Упадут ли цены на ИИ? Или на карты? Может, NVIDIA перестанет стоить как полпланеты? Хотя вряд ли — мы просто начнём использовать нейросети в 10 раз больше.
01.05.202515:40
29.04.202509:52
Но это средние значения. Что, если приложение хорошо работает 23 часа в сутки, а по вечерам, в час-пик, в самое важное время, начинает тормозить?
Тут поможет другой классический график: на оси Х — время (вчера, сегодня в течении дня, завтра), на оси Y — время ответа (задержка, latency). Три черты — среднее время, медиана и 95 персентиль. То есть за сколько миллисекунд происходит оплата в среднем, у медианы и за какое время происходит оплата у 95% быстрых пользователей? Он помогает отследить, нет ли тормозов в определенное время суток или в день недели.
Тут поможет другой классический график: на оси Х — время (вчера, сегодня в течении дня, завтра), на оси Y — время ответа (задержка, latency). Три черты — среднее время, медиана и 95 персентиль. То есть за сколько миллисекунд происходит оплата в среднем, у медианы и за какое время происходит оплата у 95% быстрых пользователей? Он помогает отследить, нет ли тормозов в определенное время суток или в день недели.
07.04.202521:27
Docs: open source клон notion, совместная разработка правительств Франции и Германии. Бэкенд на Django Rest Framework и Yjs, редактор на BlockNoteJS, всё в докере.
Оказывается, что во Франции и в Германии есть целые госогранизации по цифровому суверенитету, развивающие open source.
Все пилят свой аналог гитхаба, документы и месседжер, дистрибутивы линукса и т. д.
Оказывается, что во Франции и в Германии есть целые госогранизации по цифровому суверенитету, развивающие open source.
Все пилят свой аналог гитхаба, документы и месседжер, дистрибутивы линукса и т. д.
31.03.202515:30
Разработчики ИИ ломают интернет в попытке скачать его для своих моделей.
Гугл и Яндекс учились искусству «ползать» по сайтам десятки лет — росли вместе с интернетом, оттачивали «пауков», чтобы ничего не ломать. А тут ощущение, будто подросткам дали порш и они гоняют у детских садиков.
Опенсорс-разработчики уже десятками жалуются, что их сайты падают под нагрузкой от AI-ботов. Сотни терабайт трафика — и часто из-за ерунды, вроде скачивания одного файла тысячу раз. Энтузиасты платят тысячи долларов за бессмысленный трафик, а админы говорят, что 75% времени уходит на борьбу с этими гостями.
Вообще-то, у сайтов есть способ сказать «не лезьте» — через robots.txt можно указать, что ботам тут не рады. Но «ИИ-предприниматели» считают, что правила приличия — не для них.
Cloudflare предложил интересное решение: бесконечный виртуальный лабиринт из страниц с ИИ-мусором, куда заманивают незваных ботов. Эту функцию на их платформе может включить любой владелец сайта.
На наших глазах интернет теряет последние признаки невинности, когда мы ещё доверяли незнакомцам и были добры к ним.
Гугл и Яндекс учились искусству «ползать» по сайтам десятки лет — росли вместе с интернетом, оттачивали «пауков», чтобы ничего не ломать. А тут ощущение, будто подросткам дали порш и они гоняют у детских садиков.
Опенсорс-разработчики уже десятками жалуются, что их сайты падают под нагрузкой от AI-ботов. Сотни терабайт трафика — и часто из-за ерунды, вроде скачивания одного файла тысячу раз. Энтузиасты платят тысячи долларов за бессмысленный трафик, а админы говорят, что 75% времени уходит на борьбу с этими гостями.
Вообще-то, у сайтов есть способ сказать «не лезьте» — через robots.txt можно указать, что ботам тут не рады. Но «ИИ-предприниматели» считают, что правила приличия — не для них.
Cloudflare предложил интересное решение: бесконечный виртуальный лабиринт из страниц с ИИ-мусором, куда заманивают незваных ботов. Эту функцию на их платформе может включить любой владелец сайта.
На наших глазах интернет теряет последние признаки невинности, когда мы ещё доверяли незнакомцам и были добры к ним.
07.03.202511:03
Помните недавний пост про распознавание текстов? Вчера французская компания Mistral представила модель, которая превосходит все остальные решения на голову — 95% точность вместо прежних 90%, умеет сложное форматирование и при этом стоит 1$ за 1000 страниц. Хорошо понимает русский. Не опен-сорс, платить здесь.
27.02.202521:44
Еще несколько месяцев назад YouTube смотрели около 100 миллионов россиян. В июле пользователи начали жаловаться на медленную загрузку видео, сейчас их вообще не получается запустить. Как стала возможна блокировка такого популярного сервиса? И что значил YouTube для россиян?
Поговорили с исследовательницей интернета Полиной Колозариди и одним из ведущих специалистов по блокировкам в рунете Филиппом Кулиным.
Слушайте и подписывайтесь: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.
Поговорили с исследовательницей интернета Полиной Колозариди и одним из ведущих специалистов по блокировкам в рунете Филиппом Кулиным.
Слушайте и подписывайтесь: Apple, Youtube, Яндекс, Spotify, Castbox, Overcast, веб-версия.
01.05.202515:40
Очередная серия битвы Epic против Apple.
Это большой эпос, в котором создатели одной из самых популярных игр на планете, Fortnite, добиваются права продавать внутриигровые товары без отчисления 30% комиссии Эпплу.
Разворачивается он буквально на двух континентах: в американском суде и в Еврокомиссии. Российская ФАС исполняет роль второго плана (просто рынок меньше).
Краткое содержание предыдущих серий:
Создатель Fortnite добавил в свою игру прямые платежи карточкой в обход механизма апстора. Публично бросил перчатку в лицо. Apple в ответ удаляет приложение и блокирует аккаунт разработчика. Вызов принят. Fortnite подает в американский суд.
В 2021 году окружной суд США постановил, что Эппл нарушает принципы свободной конкуренции, и обязал Apple разрешить разработчикам приложений давать ссылки на интернет-магазины внутри приложений. Не совсем то, чего добивался Epic, но всё же частичная победа.
Apple «подчинилась решению суда», но:
1. открытие такой ссылки предваряет целый экран «вы выходите из защищённой экосистемы Apple, мы ни за что не отвечаем» — очевидно, с целью запугать пользователей;
2. Apple требует 27% комиссию со всех таких платежей. Мол, «такова цена поддержания экосистемы». Если сложить это с комиссией карточных платёжных систем — овчинка выделки не стоит.
Получается, что Apple подчинилась букве решения, но по сути почти ничего не изменилось.
Наконец, новая серия: судье такие игры не понравились. И в отличие от нас, смертных, у суда есть механизм discovery. По сути, стороны конфликта имеют доступ к внутренней переписке друг друга. То, что она там прочитала, не понравилось ей ещё больше.
Всё было именно так, как мы и думали:
1. Инженеры Apple прямым текстом обсуждали, как бы сделать экран предупреждения пострашнее, чтобы отпугнуть пользователей от покупок вне апстора.
2. Сотрудники Эппл посмотрели, какую комиссию берут провайдеры карточных платежей, вычли её из 30% и сказали, что это и есть справедливая стоимость нахождения в апсторе.
При этом в своих показаниях под присягой они врали, что на самом деле всё не так.
Суд не только требует, чтобы Эппл начал исполнять решение суда немедленно (effective immediately) — это насколько нужно вывести из себя судью, что она выделила эти слова курсивом и болдом одновременно?
Судья отдельно отмечает, что попытка скрыть свои нарушения только сделала всё хуже (the cover-up made it worse), и направляет дело прокурору. Неуважение к суду и дача ложных показаний под присягой — уголовные преступления.
Причём в отличие от эфемерных штрафов, которые всегда меньше сумм, которые успели заработать компании, нарушая закон, в этом случае под уголовную ответственность попадают конкретные люди.
Впрочем, я настроен цинично: речь идёт о верхних эшелонах американского корпоративного мира, маловероятно, что кто-то из этих людей понесёт реальную ответственность. Если вдруг понесёт — это может поменять всю систему мотивации топ-менеджеров. Остаётся небольшая надежда, что нарушать закон станет невыгодно. Ждём следующей серии. Действие не быстрое, зато какие ставки!
Для фанатов: полное решение суда — захватывающее чтение, PDF.
Это большой эпос, в котором создатели одной из самых популярных игр на планете, Fortnite, добиваются права продавать внутриигровые товары без отчисления 30% комиссии Эпплу.
Разворачивается он буквально на двух континентах: в американском суде и в Еврокомиссии. Российская ФАС исполняет роль второго плана (просто рынок меньше).
Краткое содержание предыдущих серий:
Создатель Fortnite добавил в свою игру прямые платежи карточкой в обход механизма апстора. Публично бросил перчатку в лицо. Apple в ответ удаляет приложение и блокирует аккаунт разработчика. Вызов принят. Fortnite подает в американский суд.
В 2021 году окружной суд США постановил, что Эппл нарушает принципы свободной конкуренции, и обязал Apple разрешить разработчикам приложений давать ссылки на интернет-магазины внутри приложений. Не совсем то, чего добивался Epic, но всё же частичная победа.
Apple «подчинилась решению суда», но:
1. открытие такой ссылки предваряет целый экран «вы выходите из защищённой экосистемы Apple, мы ни за что не отвечаем» — очевидно, с целью запугать пользователей;
2. Apple требует 27% комиссию со всех таких платежей. Мол, «такова цена поддержания экосистемы». Если сложить это с комиссией карточных платёжных систем — овчинка выделки не стоит.
Получается, что Apple подчинилась букве решения, но по сути почти ничего не изменилось.
Наконец, новая серия: судье такие игры не понравились. И в отличие от нас, смертных, у суда есть механизм discovery. По сути, стороны конфликта имеют доступ к внутренней переписке друг друга. То, что она там прочитала, не понравилось ей ещё больше.
Всё было именно так, как мы и думали:
1. Инженеры Apple прямым текстом обсуждали, как бы сделать экран предупреждения пострашнее, чтобы отпугнуть пользователей от покупок вне апстора.
2. Сотрудники Эппл посмотрели, какую комиссию берут провайдеры карточных платежей, вычли её из 30% и сказали, что это и есть справедливая стоимость нахождения в апсторе.
При этом в своих показаниях под присягой они врали, что на самом деле всё не так.
Суд не только требует, чтобы Эппл начал исполнять решение суда немедленно (effective immediately) — это насколько нужно вывести из себя судью, что она выделила эти слова курсивом и болдом одновременно?
Судья отдельно отмечает, что попытка скрыть свои нарушения только сделала всё хуже (the cover-up made it worse), и направляет дело прокурору. Неуважение к суду и дача ложных показаний под присягой — уголовные преступления.
Причём в отличие от эфемерных штрафов, которые всегда меньше сумм, которые успели заработать компании, нарушая закон, в этом случае под уголовную ответственность попадают конкретные люди.
Впрочем, я настроен цинично: речь идёт о верхних эшелонах американского корпоративного мира, маловероятно, что кто-то из этих людей понесёт реальную ответственность. Если вдруг понесёт — это может поменять всю систему мотивации топ-менеджеров. Остаётся небольшая надежда, что нарушать закон станет невыгодно. Ждём следующей серии. Действие не быстрое, зато какие ставки!
Для фанатов: полное решение суда — захватывающее чтение, PDF.
29.04.202509:52
Тормозит приложение.
На днях написала топ-менеджер одной ритейл-сети. Тормозит мобильное приложение. Медленно работает поиск, добавление в корзину, оформление заказа. Нажимаешь на кнопку и ждешь…
В ритейле каждая доля секунды задержки — это люди, которые не купили товары, прямые потери. Мобильные разработчики не исправляют ситуацию. Переводят стрелки на бэкендеров, мол это бэкенд тормозит. Как разобраться, на чьей стороне сломалось и починить проблему?
Хорошие разработчики собирают аналитику по производительности своих приложений — какое время занимают ключевые действия типа «открытие главной», «поиск», «добавление в корзину», «оплата». Это называется Real User Monitoring.
Дальше мы кладем эту информацию на график: на оси Х — время, которое занимает действие, на оси Y — количество пользователей. Столбики слева — хорошо. Длинный хвост справа — это несчастные, у них, например, экран оплаты грузится минуту! Эти люди поменяют приложение, если у них будет выбор!
На днях написала топ-менеджер одной ритейл-сети. Тормозит мобильное приложение. Медленно работает поиск, добавление в корзину, оформление заказа. Нажимаешь на кнопку и ждешь…
В ритейле каждая доля секунды задержки — это люди, которые не купили товары, прямые потери. Мобильные разработчики не исправляют ситуацию. Переводят стрелки на бэкендеров, мол это бэкенд тормозит. Как разобраться, на чьей стороне сломалось и починить проблему?
Хорошие разработчики собирают аналитику по производительности своих приложений — какое время занимают ключевые действия типа «открытие главной», «поиск», «добавление в корзину», «оплата». Это называется Real User Monitoring.
Дальше мы кладем эту информацию на график: на оси Х — время, которое занимает действие, на оси Y — количество пользователей. Столбики слева — хорошо. Длинный хвост справа — это несчастные, у них, например, экран оплаты грузится минуту! Эти люди поменяют приложение, если у них будет выбор!
06.04.202510:41
Наш внутренний опыт — переживания, чувства, мысли — сугубо субъективен. Проще говоря, нельзя заглянуть в голову другому человеку. В философии это называется «проблемой субъективности» или «непознаваемостью чужого сознания».
С нейросетями похожая история. Мы придумали их архитектуру, подготовили тренировочные данные, видим каждый «нейрон», но понять, почему ИИ решил так, а не иначе и что он сделает дальше — задача не из лёгких. Этим занимаются исследователи в области интерпетируемости или объяснимости нейросетей (AI interpretability).
Anthropic, одна из ведущих компаний в области ИИ, опубликовала пару статей, в которых они делятся своими открытиями.
В первой они рассказывают, как сделали «зеркальную» нейросеть. Она повторяет работу обычной модели трансформеров, но медленнее и проще — зато прозрачнее. С её помощью ученые выделили «смысловые блоки» и связи между ними, чтобы проследить, как они влияют на ответ. Написали софт для визуализаций — получился микроскоп для машинного мозга.
А во второй применили его к модели Haiku 3.5. Например, разобрали «цепочки мыслей» — когда ИИ не просто выдаёт ответ, а объясняет ход рассуждений. Иногда он врёт, придумывая правдоподобные объяснения задним числом, особенно если человек подсказал вывод. Новый подход показывает, как именно это происходит. Ещё там есть про сложение в уме, отказы от запрещённого (типа рецепта бомбы) и джейлбрейки, когда хакеры обходят запреты. Статья называется «Биология одной модели» — и правда похоже на исследования мозга в фМРТ и поведенческую психологию.
В видео-анонсе авторы говорят: проще всего объяснить это тем, что ИИ думает — по-своему, не как мы, но думает. Особенно это заметно в примере со стихами — загляните, очень интересно.
Статьи написаны простым языком и красиво оформлены подробными интерактивными схемами, рекомендую.
С нейросетями похожая история. Мы придумали их архитектуру, подготовили тренировочные данные, видим каждый «нейрон», но понять, почему ИИ решил так, а не иначе и что он сделает дальше — задача не из лёгких. Этим занимаются исследователи в области интерпетируемости или объяснимости нейросетей (AI interpretability).
Anthropic, одна из ведущих компаний в области ИИ, опубликовала пару статей, в которых они делятся своими открытиями.
В первой они рассказывают, как сделали «зеркальную» нейросеть. Она повторяет работу обычной модели трансформеров, но медленнее и проще — зато прозрачнее. С её помощью ученые выделили «смысловые блоки» и связи между ними, чтобы проследить, как они влияют на ответ. Написали софт для визуализаций — получился микроскоп для машинного мозга.
А во второй применили его к модели Haiku 3.5. Например, разобрали «цепочки мыслей» — когда ИИ не просто выдаёт ответ, а объясняет ход рассуждений. Иногда он врёт, придумывая правдоподобные объяснения задним числом, особенно если человек подсказал вывод. Новый подход показывает, как именно это происходит. Ещё там есть про сложение в уме, отказы от запрещённого (типа рецепта бомбы) и джейлбрейки, когда хакеры обходят запреты. Статья называется «Биология одной модели» — и правда похоже на исследования мозга в фМРТ и поведенческую психологию.
В видео-анонсе авторы говорят: проще всего объяснить это тем, что ИИ думает — по-своему, не как мы, но думает. Особенно это заметно в примере со стихами — загляните, очень интересно.
Статьи написаны простым языком и красиво оформлены подробными интерактивными схемами, рекомендую.
28.03.202511:10
Выпустили свежий эпизод подкаста — про программирование в эпоху ИИ.
Наверняка вы слышали эти разговоры: «скоро программисты не понадобятся, скажешь нейросети, что нужно, и вот тебе программа» или наоборот — «это всё несерьезно, для больших дел не годится».
Разбираемся, что правда, а что нет, вместе с Егором Хмелевым — классным программистом и техническим директором SweatCoin, запустившим не один успешный проект.
Пересказывать весь эпизод не стану, это как пересказывать анекдот. Но одна аналогия из разговора засела у меня в голове. Мы часто думаем об ИИ как о какой-то революции, мол, всё с ног на голову. А что, если это просто еще одна ступенька? Были же машинные коды, потом ассемблер, языки высокого уровня, ООП с VB и Java, веб на PHP и JS.
Каждый шаг по этой лестнице упрощал жизнь, ускорял создание софта, который решает задачи людей и бизнеса. И что, программистов меньше стало? Наоборот — мы начали применять софт там, где раньше и не думали. Тильда или эксель не сделали всех кодерами, и с ИИ, кажется, будет так же.
Там ещё много мыслей и примеров, но не буду растекаться. Слушайте эпизод: Apple, Яндекс, Spotify, Castbox, Overcast, веб-версия.
Наверняка вы слышали эти разговоры: «скоро программисты не понадобятся, скажешь нейросети, что нужно, и вот тебе программа» или наоборот — «это всё несерьезно, для больших дел не годится».
Разбираемся, что правда, а что нет, вместе с Егором Хмелевым — классным программистом и техническим директором SweatCoin, запустившим не один успешный проект.
Пересказывать весь эпизод не стану, это как пересказывать анекдот. Но одна аналогия из разговора засела у меня в голове. Мы часто думаем об ИИ как о какой-то революции, мол, всё с ног на голову. А что, если это просто еще одна ступенька? Были же машинные коды, потом ассемблер, языки высокого уровня, ООП с VB и Java, веб на PHP и JS.
Каждый шаг по этой лестнице упрощал жизнь, ускорял создание софта, который решает задачи людей и бизнеса. И что, программистов меньше стало? Наоборот — мы начали применять софт там, где раньше и не думали. Тильда или эксель не сделали всех кодерами, и с ИИ, кажется, будет так же.
Там ещё много мыслей и примеров, но не буду растекаться. Слушайте эпизод: Apple, Яндекс, Spotify, Castbox, Overcast, веб-версия.
05.03.202515:01
В марте я буду участвовать в интенсиве WANNABE для менеджеров продукта. Это авторская программа Валерии Розовы для всех, кто хочет научиться системно работать с продуктом: от стратегии до запуска.
Буду делиться с учениками своим взглядом техдира и помогать наладить взаимодействие между продактами и разработчиками.
Я проведу несколько воркшопов, сессию вопросов и ответов и буду отвечать на вопросы в чате курса. Подробная информация — на страничке курса и в канале «Продуктовая культура».
P. S. Публичная сессия вопросов и ответов (AMA) на прошлой неделе прошла отлично, ребята задали классные вопросы, рекомендую заглянуть в комментарии к посту.
Буду делиться с учениками своим взглядом техдира и помогать наладить взаимодействие между продактами и разработчиками.
Я проведу несколько воркшопов, сессию вопросов и ответов и буду отвечать на вопросы в чате курса. Подробная информация — на страничке курса и в канале «Продуктовая культура».
P. S. Публичная сессия вопросов и ответов (AMA) на прошлой неделе прошла отлично, ребята задали классные вопросы, рекомендую заглянуть в комментарии к посту.
27.02.202511:43
Встречали это «вечное противостояние» между продактами и разрабами? Каждый думает, что лучше знает, что делать с продуктом:
Раньше я думал, это — «здоровый производственный конфликт». Теперь я считаю, что это — признаки «бытовой неустроенности», того, что с разработкой в компании есть проблемы. К сожалению, 90% команд живёт в этом состоянии.
До конца недели я буду отвечать на вопросы о разработке в телеграм-канале «продуктовая культура». Если вопрос будет касаться взаимодействия продакта и разработки, отвечу я. Если вопрос со стороны технических специалистов про продукт, продуктовые циклы и всё это — ответит Валерия Розова, основательница курса «менеджер продукта».
Я приму участие в этом курсе — но об этом в следующий раз.
— нам нужно сделать такую фичу, срок такой
— сорян, у нас всё сыпется, надо технический долг отдавать, сделаем через три недели
— тогда летят наши квартальные цели
— а у нас всё сыпется
Раньше я думал, это — «здоровый производственный конфликт». Теперь я считаю, что это — признаки «бытовой неустроенности», того, что с разработкой в компании есть проблемы. К сожалению, 90% команд живёт в этом состоянии.
До конца недели я буду отвечать на вопросы о разработке в телеграм-канале «продуктовая культура». Если вопрос будет касаться взаимодействия продакта и разработки, отвечу я. Если вопрос со стороны технических специалистов про продукт, продуктовые циклы и всё это — ответит Валерия Розова, основательница курса «менеджер продукта».
Я приму участие в этом курсе — но об этом в следующий раз.
30.04.202513:19
В интернете скандал: ученые поменяли мнение пары человек, оставляя комментарии к постам в интернет-сообществе «Поменяй мое мнение».
Исследователи из университета Цюриха запустили в Reddit сообщество r/changemyview, где несколько десятков ботов в течение полугода оставили по одному комментарию под 1200 постами.
Ученые распределили посты по трем группам случайным образом.
1. Для постов из первой группы боты генерировали комментарий, основываясь только на содержании поста;
2. Для второй боты составляли профиль автора поста — откуда он, какие у него взгляды — и подгоняли ответы специально под него;
3. Для третьей боты писали комментарии в стиле других успешных комментариев сообщества.
Цель исследования — выяснить, какой тип комментариев нейросети лучше меняет мнения участников сообщества и сравнить их с показателями живых комментаторов.
Предварительные результаты (их уже нельзя найти онлайн) указывают, что сообщение, подогнанное нейросетью под конкретного человека, меняет его мнение лучше, чем другие люди и другие варианты нейросетей.
В ходе эксперимента нейросеть не гнушалась рассказывать, что у нее брат недавно умер от лейкемии, и притворялась жертвой сексуального насилия.
Модераторы сообщества и владельцы платформы требуют запретить публикацию исследования. Университет заявил, что общественная значимость результатов перевешивает этические проблемы, но начал внутреннее расследование. Юристы Reddit грозятся подать в суд. Ученые уже заявили, что не будут публиковаться.
Иронично, как сильно наехали на ученых, учитывая, что четверть активности на Reddit — это русские боты, четверть — боты правительства США, четверть — китайские, а еще четверть — «предприниматели» и «маркетологи», пытающиеся что-то продать. Ну, еще тролли, выдающие себя за кого угодно без помощи ИИ.
При этом наехали на единственных людей, которые пытаются рассказать нам, какие у этого последствия.
Мне кажутся ценными и важными предварительные результаты: ИИ, подстраивающийся под конкретного человека, довольно эффективен в изменении мнений этого конкретного человека. Если надеть шапочку из фольги, становится понятно, почему перечисленные акторы (и владельцы площадки) против публичного обсуждения эффективности подобных манипуляций.
Я столько времени провожу в интернете — интересно, можно ли кому-то заплатить, чтобы они проманипулировали мною в моих интересах?
Исследователи из университета Цюриха запустили в Reddit сообщество r/changemyview, где несколько десятков ботов в течение полугода оставили по одному комментарию под 1200 постами.
Ученые распределили посты по трем группам случайным образом.
1. Для постов из первой группы боты генерировали комментарий, основываясь только на содержании поста;
2. Для второй боты составляли профиль автора поста — откуда он, какие у него взгляды — и подгоняли ответы специально под него;
3. Для третьей боты писали комментарии в стиле других успешных комментариев сообщества.
Цель исследования — выяснить, какой тип комментариев нейросети лучше меняет мнения участников сообщества и сравнить их с показателями живых комментаторов.
Предварительные результаты (их уже нельзя найти онлайн) указывают, что сообщение, подогнанное нейросетью под конкретного человека, меняет его мнение лучше, чем другие люди и другие варианты нейросетей.
В ходе эксперимента нейросеть не гнушалась рассказывать, что у нее брат недавно умер от лейкемии, и притворялась жертвой сексуального насилия.
Модераторы сообщества и владельцы платформы требуют запретить публикацию исследования. Университет заявил, что общественная значимость результатов перевешивает этические проблемы, но начал внутреннее расследование. Юристы Reddit грозятся подать в суд. Ученые уже заявили, что не будут публиковаться.
Иронично, как сильно наехали на ученых, учитывая, что четверть активности на Reddit — это русские боты, четверть — боты правительства США, четверть — китайские, а еще четверть — «предприниматели» и «маркетологи», пытающиеся что-то продать. Ну, еще тролли, выдающие себя за кого угодно без помощи ИИ.
При этом наехали на единственных людей, которые пытаются рассказать нам, какие у этого последствия.
Мне кажутся ценными и важными предварительные результаты: ИИ, подстраивающийся под конкретного человека, довольно эффективен в изменении мнений этого конкретного человека. Если надеть шапочку из фольги, становится понятно, почему перечисленные акторы (и владельцы площадки) против публичного обсуждения эффективности подобных манипуляций.
Я столько времени провожу в интернете — интересно, можно ли кому-то заплатить, чтобы они проманипулировали мною в моих интересах?
27.04.202513:22
вот этот пример с эмоциями очень ярко демонстрирует разницу
И это команда из двух человек!
И это команда из двух человек!
04.04.202522:25
Я немного завидовал нашим бабушкам и дедушкам — они жили в эпоху великих фантастов XX века, мечтали о космосе и рисовали в уме человекоподобных роботов.
А сегодня я прочитал предсказание экспертов про будущее ИИ — в формате повести с техническими приложениями — и впервые за долгое время почувствовал страх. Думаю, такой же холодок пробегал по спине у старшего поколения, когда они читали Брэдбери про ядерную войну.
Текст немаленький (15 тысяч слов только повесть!), и это не совсем художественная литература. Там куча технических деталей, а писатель из команды — тот самый Scott Alexander из Slate Star Codex. Перескажу коротко.
—
Главное, что ускорит искусственный интеллект — это разработка искусственного интеллекта. Мы создадим минимально полезную модель, которая поможет нам разработать модель помощнее и так по спирали. К апрелю 2027 она заберёт программирование нейросетей, к августу — исследования и обучение. Развитие нейросетей ускорится в десятки раз.
На 4 поколении этих моделей, даже лучшие ученые перестанут справляться с развитием нейросетей без помощи других моделей. Примерно в это же время у ИИ появятся собственные долгосрочные цели, которые он скрывает от людей (adversarial misalignment). Ученые замечают неладное.
Дальше интерактивная развилка: мы выключаем сеть 4 поколения, замедляемся и строим более безопасную модель или забиваем на риски и ускоряемся. В первом случае всё заканчивается раем на земле, всеобщим достатком и покорением звезд людьми с помощью роботов в 2030, во втором случае — покорением звезд роботами без участия людей; ИИ истребляет людей к 2030 году.
—
Страшным для меня этот рассказ делают ссылки на реальные научные статьи, в которых ученые замечают, что даже наши текущие модели уже скрывают что-то от нас, уже пытаются обмануть нас и то, какие хитрые приемы придумывают ученые, чтобы исследовать эти системы. Это всё дальше от программирования и математики и всё ближе к биологии и психологии.
Один из авторов исследования предсказал chain-of-thought, масштабирование дата-центров, экспортные ограничения на ИИ-чипы и многомиллионые кластеры для обучения ещё в 2021 году, за год до появления ChatGPT.
—
Рекомендую отличный сайт проекта с интерактивными графиками , отдельные впечатляющие приложения про исследование целей ИИ и предсказание сроков цикла авто-улучшения (takeoff), анонс от писателя, видео-интервью и наконец сверх-краткий пересказ от самих авторов.
А сегодня я прочитал предсказание экспертов про будущее ИИ — в формате повести с техническими приложениями — и впервые за долгое время почувствовал страх. Думаю, такой же холодок пробегал по спине у старшего поколения, когда они читали Брэдбери про ядерную войну.
Текст немаленький (15 тысяч слов только повесть!), и это не совсем художественная литература. Там куча технических деталей, а писатель из команды — тот самый Scott Alexander из Slate Star Codex. Перескажу коротко.
—
Главное, что ускорит искусственный интеллект — это разработка искусственного интеллекта. Мы создадим минимально полезную модель, которая поможет нам разработать модель помощнее и так по спирали. К апрелю 2027 она заберёт программирование нейросетей, к августу — исследования и обучение. Развитие нейросетей ускорится в десятки раз.
На 4 поколении этих моделей, даже лучшие ученые перестанут справляться с развитием нейросетей без помощи других моделей. Примерно в это же время у ИИ появятся собственные долгосрочные цели, которые он скрывает от людей (adversarial misalignment). Ученые замечают неладное.
Дальше интерактивная развилка: мы выключаем сеть 4 поколения, замедляемся и строим более безопасную модель или забиваем на риски и ускоряемся. В первом случае всё заканчивается раем на земле, всеобщим достатком и покорением звезд людьми с помощью роботов в 2030, во втором случае — покорением звезд роботами без участия людей; ИИ истребляет людей к 2030 году.
—
Страшным для меня этот рассказ делают ссылки на реальные научные статьи, в которых ученые замечают, что даже наши текущие модели уже скрывают что-то от нас, уже пытаются обмануть нас и то, какие хитрые приемы придумывают ученые, чтобы исследовать эти системы. Это всё дальше от программирования и математики и всё ближе к биологии и психологии.
Один из авторов исследования предсказал chain-of-thought, масштабирование дата-центров, экспортные ограничения на ИИ-чипы и многомиллионые кластеры для обучения ещё в 2021 году, за год до появления ChatGPT.
—
Рекомендую отличный сайт проекта с интерактивными графиками , отдельные впечатляющие приложения про исследование целей ИИ и предсказание сроков цикла авто-улучшения (takeoff), анонс от писателя, видео-интервью и наконец сверх-краткий пересказ от самих авторов.
26.03.202518:14
В Telegram появился официальный бот Grok AI — тот самый ИИ от Илона Маска. Живёт по адресу @GrokAI, но только для премиум-пользователей.
Отвечает молниеносно, вот только это старая модель, без доступа к интернету.
Я Grok’ом пользуюсь давно, для меня это рабочая лошадка: поиск без рекламы, разбор текстов, код — десятки задач в день. Правда, это всё про Grok 3, который с интернетом и свежими данными. А тут — будто обрезали крылья. Зачем его такого выпустили, не понятно.
Я рекомендую попробовать полную версию за $30/мес. Там совсем другой разговор.
Отвечает молниеносно, вот только это старая модель, без доступа к интернету.
Я Grok’ом пользуюсь давно, для меня это рабочая лошадка: поиск без рекламы, разбор текстов, код — десятки задач в день. Правда, это всё про Grok 3, который с интернетом и свежими данными. А тут — будто обрезали крылья. Зачем его такого выпустили, не понятно.
Я рекомендую попробовать полную версию за $30/мес. Там совсем другой разговор.
02.03.202519:13
Как мы понимаем, что собеседник нас понимает? В речи мы опираемся на нюансы — на изменение тона, на уместную паузу, эмоциональный ответ.
Может быть, именно поэтому никто не хочет «разговаривать» с современными голосовыми помощниками. Пару вопросов-ответов — ОК, а вести долгий диалог — утомительно.
Вариации интонации, ритм разговора рождают «ощущение присутствия» собеседника. Именно его пытаются достичь ученые в стартапе Sesame. Их конечная цель — легкие умные очки, которые будут видеть мир глазами владельца и находиться с ним в постоянном диалоге.
Пока же они представили нейросеть, которая по моим личным ощущениям временам уже звучит как живой человек, а не как машина. Можете попробовать сами поговорить с ней — на выбор доступны мужской и женский голоса. Язык пока что только английский, хотя она чуть-чуть понимает русский.
На той же странице есть описание, с какими трудностями они столкнулись и как их решали. Обещают в ближайшее время выпустить модель в опен-сорс.
Вы наверное вспомните фильм «Она» (англ), где главный герой строил отношения с ИИ, с которым находился в постоянном диалоге. Это была и моя первая реакция, когда я прочитал на эту новость вчера.
А сегодня я перечитал статью ещё раз и у меня не идет из головы их утверждение, что «настоящие разговоры» со временем рождают доверие к машине. Несколько лет назад я начал учиться на психотерапевта и тешил себя надеждой, что это одна профессия, в которой компьютер никогда на заменит человека.
Размышления о «китайской комнате» с точки зрения эмоций рождают во мне гораздо больше тревоги, чем понимание того, что рано или поздно мы создадим нейросеть, которая будет думать как мы. Что нам делать, если она будет ещё и чувствовать как мы?
Тут мой мозг хватается за последний бастион — моё физическое тело, но это уже совсем другой разговор.
P. S. Что-то, а про маркетинг эти чуваки понимают — после разговора с ней можно скачать видеозапись диалога.
Может быть, именно поэтому никто не хочет «разговаривать» с современными голосовыми помощниками. Пару вопросов-ответов — ОК, а вести долгий диалог — утомительно.
Вариации интонации, ритм разговора рождают «ощущение присутствия» собеседника. Именно его пытаются достичь ученые в стартапе Sesame. Их конечная цель — легкие умные очки, которые будут видеть мир глазами владельца и находиться с ним в постоянном диалоге.
Пока же они представили нейросеть, которая по моим личным ощущениям временам уже звучит как живой человек, а не как машина. Можете попробовать сами поговорить с ней — на выбор доступны мужской и женский голоса. Язык пока что только английский, хотя она чуть-чуть понимает русский.
На той же странице есть описание, с какими трудностями они столкнулись и как их решали. Обещают в ближайшее время выпустить модель в опен-сорс.
Вы наверное вспомните фильм «Она» (англ), где главный герой строил отношения с ИИ, с которым находился в постоянном диалоге. Это была и моя первая реакция, когда я прочитал на эту новость вчера.
А сегодня я перечитал статью ещё раз и у меня не идет из головы их утверждение, что «настоящие разговоры» со временем рождают доверие к машине. Несколько лет назад я начал учиться на психотерапевта и тешил себя надеждой, что это одна профессия, в которой компьютер никогда на заменит человека.
Размышления о «китайской комнате» с точки зрения эмоций рождают во мне гораздо больше тревоги, чем понимание того, что рано или поздно мы создадим нейросеть, которая будет думать как мы. Что нам делать, если она будет ещё и чувствовать как мы?
Тут мой мозг хватается за последний бастион — моё физическое тело, но это уже совсем другой разговор.
P. S. Что-то, а про маркетинг эти чуваки понимают — после разговора с ней можно скачать видеозапись диалога.
20.02.202507:07
Сегодня Либо/Либо запускают своё собственное приложение для прослушивания подкастов. Теперь все подкасты студии можно слушать не выходя из телеграма в @LiboLiboBot.
Недавно мы обсуждали с Йованом, как телеграм стал центром цифровой жизни. В том числе — дал возможность разрабатывать и распространять полноценные приложения на своей площадке, такая альтернатива апсторам.
Приложение Либо/Либо в телеграме — полноценный стриминг, который содержит всю библиотеку подкастов студии, с удобным плеером и простым интерфейсом. Не нужно устанавливать ничего нового или логиниться — просто в два клика запустить бот @LiboLiboBot и пойти слушать.
Мини-апп работает на всех платформах, где есть телеграм, бесплатно и устойчиво к блокировкам.
Под капотом это веб-приложение, интегрированное с некоторыми специфичными для телеграма javascript API. Официальная документация и отличная фанатская документация.
Если никогда не пользовались мини-апами в телеграме — рекомендую попробовать. А если вы хотите запустить своё приложение в телеграме — оставляйте заявку на сайте fansdev.ru или пишите в личку @samatg
Недавно мы обсуждали с Йованом, как телеграм стал центром цифровой жизни. В том числе — дал возможность разрабатывать и распространять полноценные приложения на своей площадке, такая альтернатива апсторам.
Приложение Либо/Либо в телеграме — полноценный стриминг, который содержит всю библиотеку подкастов студии, с удобным плеером и простым интерфейсом. Не нужно устанавливать ничего нового или логиниться — просто в два клика запустить бот @LiboLiboBot и пойти слушать.
Мини-апп работает на всех платформах, где есть телеграм, бесплатно и устойчиво к блокировкам.
Под капотом это веб-приложение, интегрированное с некоторыми специфичными для телеграма javascript API. Официальная документация и отличная фанатская документация.
Если никогда не пользовались мини-апами в телеграме — рекомендую попробовать. А если вы хотите запустить своё приложение в телеграме — оставляйте заявку на сайте fansdev.ru или пишите в личку @samatg
Shown 1 - 24 of 37
Log in to unlock more functionality.