IT 🐈 Digital
Чат https://t.me/itoxicity
Автор: Ментор и ИТ консультант. #ИБ #Crypto
Автор: Ментор и ИТ консультант. #ИБ #Crypto
Рэйтынг TGlist
0
0
ТыпПублічны
Вертыфікацыя
Не вертыфікаваныНадзейнасць
Не надзейныРазмяшчэнне
МоваІншая
Дата стварэння каналаOct 09, 2023
Дадана ў TGlist
Apr 20, 2025Прыкрепленая група
iToxicity
61
Рэкорды
20.04.202523:59
98Падпісчыкаў14.04.202523:59
0Індэкс цытавання30.04.202523:59
95Ахоп 1 паста26.04.202523:59
95Ахоп рэкламнага паста21.04.202508:03
0.00%ER21.04.202508:03
0.00%ERRПераслаў з:
Denis Sexy IT 🤖
16.04.202513:00
У OpenAI вышел классный гайд для бизнеса, на тему того как внедрять GenAI в бизнесс процессы:
https://openai.com/business/guides-and-resources/
Внутри 3 части:
– АИ на предприятии: Опыт семи передовых компаний
– Практическое руководство по созданию агентов ИИ: Что агенты АИ могут сделать для ваших сотрудников?
– Определение и масштабирование сценариев применения АИ: На чём концентрируются компании, первыми внедрившие АИ
Я полистал и там внутри много вещей на которых лично я набивал шишки в практике с GenAI, очень рекомендую корпоративным менеджерам
https://openai.com/business/guides-and-resources/
Внутри 3 части:
– АИ на предприятии: Опыт семи передовых компаний
– Практическое руководство по созданию агентов ИИ: Что агенты АИ могут сделать для ваших сотрудников?
– Определение и масштабирование сценариев применения АИ: На чём концентрируются компании, первыми внедрившие АИ
Я полистал и там внутри много вещей на которых лично я набивал шишки в практике с GenAI, очень рекомендую корпоративным менеджерам
19.04.202514:40
Как просмотреть историю браузера в ТГ(она отдельная от твоего браузера):
Открыть браузер(перейдя например по ссылке внутри самого ТГ) -- нажать кнопку бургер(справа вверху) -- "история" и узнать много нового о себе😁
Можно нажать "настройки" и очистить всю историю или выключить вовсе встроенный браузер.
Открыть браузер(перейдя например по ссылке внутри самого ТГ) -- нажать кнопку бургер(справа вверху) -- "история" и узнать много нового о себе😁
Можно нажать "настройки" и очистить всю историю или выключить вовсе встроенный браузер.
16.04.202510:00
🥇золото уже 3300 долларов за унцию
14.04.202522:14
Аналогия: Как .zip или .rar являются форматами для сжатых архивов, так GGUF – это формат для сжатых LLM, оптимизированный для запуска на вашем ПК.
Пример: Вы скачиваете файл llama-3-70b-instruct.Q4_K_M.gguf – это квантизованная модель Llama 3 70B в формате GGUF.
Inference (Вывод / Генерация):
Простыми словами: Это процесс использования уже обученной LLM для получения ответа на ваш запрос (промпт). Когда вы задаете вопрос ChatGPT или локальной модели, происходит инференс.
Аналогия: Использование калькулятора для получения результата (2+2=4). Вы не создаете калькулятор, вы им пользуетесь.
Отличие от обучения: Обучение (Training) – это процесс создания модели с нуля или ее дообучение (Fine-tuning). Это требует огромных ресурсов и данных. Инференс требует гораздо меньше ресурсов (но все равно много VRAM для больших моделей).
Токены (Tokens):
Простыми словами: LLM обрабатывают текст не по буквам или целым словам, а по "кусочкам", которые называются токенами. Токен может быть словом, частью слова, символом.
Аналогия: Как слова состоят из букв, так текст для LLM состоит из токенов.
Пример: Фраза "Привет, мир!" может быть разбита примерно на токены: ["При", "вет", ",", " мир", "!"]. В среднем, 1 токен ~ 3/4 слова в английском, в русском может быть чуть меньше.
Важно: Размер контекстного окна и скорость генерации часто измеряются в токенах (например, "скорость 30 токенов/сек").
Контекстное окно (Context Window):
Простыми словами: Это максимальное количество токенов (из вашего запроса + истории диалога + ответа модели), которое модель может одновременно "держать в уме" при генерации ответа. Что то вроде контекста, но не совсем он.
Аналогия: Краткосрочная память человека во время разговора. Если разговор слишком длинный, начало забывается.
Пример: Модель с контекстным окном 4096 токенов может учитывать примерно 3000 слов из предыдущего диалога и вашего запроса. Если диалог превышает этот лимит, модель начнет "забывать" начало. Современные модели имеют окна 8K, 32K, 128K и даже миллион за бесплатно.
Пример: Вы скачиваете файл llama-3-70b-instruct.Q4_K_M.gguf – это квантизованная модель Llama 3 70B в формате GGUF.
Inference (Вывод / Генерация):
Простыми словами: Это процесс использования уже обученной LLM для получения ответа на ваш запрос (промпт). Когда вы задаете вопрос ChatGPT или локальной модели, происходит инференс.
Аналогия: Использование калькулятора для получения результата (2+2=4). Вы не создаете калькулятор, вы им пользуетесь.
Отличие от обучения: Обучение (Training) – это процесс создания модели с нуля или ее дообучение (Fine-tuning). Это требует огромных ресурсов и данных. Инференс требует гораздо меньше ресурсов (но все равно много VRAM для больших моделей).
Токены (Tokens):
Простыми словами: LLM обрабатывают текст не по буквам или целым словам, а по "кусочкам", которые называются токенами. Токен может быть словом, частью слова, символом.
Аналогия: Как слова состоят из букв, так текст для LLM состоит из токенов.
Пример: Фраза "Привет, мир!" может быть разбита примерно на токены: ["При", "вет", ",", " мир", "!"]. В среднем, 1 токен ~ 3/4 слова в английском, в русском может быть чуть меньше.
Важно: Размер контекстного окна и скорость генерации часто измеряются в токенах (например, "скорость 30 токенов/сек").
Контекстное окно (Context Window):
Простыми словами: Это максимальное количество токенов (из вашего запроса + истории диалога + ответа модели), которое модель может одновременно "держать в уме" при генерации ответа. Что то вроде контекста, но не совсем он.
Аналогия: Краткосрочная память человека во время разговора. Если разговор слишком длинный, начало забывается.
Пример: Модель с контекстным окном 4096 токенов может учитывать примерно 3000 слов из предыдущего диалога и вашего запроса. Если диалог превышает этот лимит, модель начнет "забывать" начало. Современные модели имеют окна 8K, 32K, 128K и даже миллион за бесплатно.
14.04.202511:49
Или лучше так?:
Python теперь нативно в CUDA — и это меняет правила игры
На GTC 2025 NVIDIA представила то, чего ждали многие: полноценную поддержку Python в CUDA. Теперь можно писать высокопроизводительный GPU-код на чистом Python — без погружения в C++.
> «Это не просто обёртка над C. Всё должно ощущаться как нативный Python», — говорит Стивен Джонс, архитектор CUDA.
Что это даёт:
cuPyNumeric — альтернатива NumPy, которая работает на GPU.
JIT-компиляция и минимальные зависимости в новом CUDA Core.
Инструменты анализа и ускоренные библиотеки C++ — прямо из Python.
CuTile — новый подход к параллелизму: управляешь массивами, а не потоками.
Для ML и DS-разработчиков это буквально открывает дверь к «железу» — легко, быстро и без лишнего порога входа. В 2023 году с CUDA работали 4 млн человек. Теперь их может стать в разы больше.
Пока CuTile только для Python, но Rust, Julia и C++ — на подходе.
Если вы пишете на Python — теперь можно в полную силу использовать GPU. Уже пробовали? Поделитесь впечатлениями!
#Python #CUDA #NVIDIA #AI #ML #DataScience
---
[English]
Python Goes Native in CUDA — and That Changes Everything
At GTC 2025, NVIDIA announced what many developers have long hoped for: native Python support in CUDA. Now, you can write GPU-accelerated code directly in Python — no C++ required.
> “This isn’t a syntax wrapper. It’s designed to feel like real Python,” — said CUDA architect Stephen Jones.
What’s in the package:
cuPyNumeric — a NumPy-like library that runs on GPU.
JIT compilation and minimal dependencies in the redesigned CUDA Core.
Profiling tools and access to optimized C++ libraries — straight from Python.
CuTile — a fresh parallelism model that works with arrays, not threads.
For ML and DS engineers, this is a game-changer. In 2023, 4 million people used CUDA. That number could soon skyrocket.
CuTile is Python-first, but support for Rust, Julia, and even C++ is in the works.
If you’re a Python dev — you can now unlock the full power of GPUs. Have you tried it yet? Drop your thoughts below!
#Python #CUDA #NVIDIA #AI #MachineLearning #DeepLearning
Python теперь нативно в CUDA — и это меняет правила игры
На GTC 2025 NVIDIA представила то, чего ждали многие: полноценную поддержку Python в CUDA. Теперь можно писать высокопроизводительный GPU-код на чистом Python — без погружения в C++.
> «Это не просто обёртка над C. Всё должно ощущаться как нативный Python», — говорит Стивен Джонс, архитектор CUDA.
Что это даёт:
cuPyNumeric — альтернатива NumPy, которая работает на GPU.
JIT-компиляция и минимальные зависимости в новом CUDA Core.
Инструменты анализа и ускоренные библиотеки C++ — прямо из Python.
CuTile — новый подход к параллелизму: управляешь массивами, а не потоками.
Для ML и DS-разработчиков это буквально открывает дверь к «железу» — легко, быстро и без лишнего порога входа. В 2023 году с CUDA работали 4 млн человек. Теперь их может стать в разы больше.
Пока CuTile только для Python, но Rust, Julia и C++ — на подходе.
Если вы пишете на Python — теперь можно в полную силу использовать GPU. Уже пробовали? Поделитесь впечатлениями!
#Python #CUDA #NVIDIA #AI #ML #DataScience
---
[English]
Python Goes Native in CUDA — and That Changes Everything
At GTC 2025, NVIDIA announced what many developers have long hoped for: native Python support in CUDA. Now, you can write GPU-accelerated code directly in Python — no C++ required.
> “This isn’t a syntax wrapper. It’s designed to feel like real Python,” — said CUDA architect Stephen Jones.
What’s in the package:
cuPyNumeric — a NumPy-like library that runs on GPU.
JIT compilation and minimal dependencies in the redesigned CUDA Core.
Profiling tools and access to optimized C++ libraries — straight from Python.
CuTile — a fresh parallelism model that works with arrays, not threads.
For ML and DS engineers, this is a game-changer. In 2023, 4 million people used CUDA. That number could soon skyrocket.
CuTile is Python-first, but support for Rust, Julia, and even C++ is in the works.
If you’re a Python dev — you can now unlock the full power of GPUs. Have you tried it yet? Drop your thoughts below!
#Python #CUDA #NVIDIA #AI #MachineLearning #DeepLearning
Увайдзіце, каб разблакаваць больш функцый.