админ - @workakkk
@ai_machinelearning_big_data - Machine learning
@itchannels_telegram - 🔥лучшие ит-каналы
@pythonl - Python
@pythonlbooks- python книги📚
@datascienceiot - ml книги📚
№ 5037635661
Post #927
2.82K
Channel Public Channel
МА Машиннное обучение | Наука о данных Библиотека
@machinelearning_books
- Subscribers
- 16.8K
- Photos
- 1K
- Videos
- 23
- Links
- 851
Showing posts older than #929 · Back to latest
Older Posts 14 shown
Post #921
2.73K
Forwarded from Machinelearning
✔️ Бесплатные полезные руководства по дистилляции моделей:
1. Руководство по дистилляции от OpenAI 🖥
Руководство содержит подробное описание процесса передачи знаний от более крупной модели к компактной, c сохранением высокой производительности модели.
Основные аспекты, рассмотренные в руководстве:
- Сохранение выходных данных крупной модели: Создание набора данных, содержащего предсказания большой модели, которые будут использоваться для обучения меньшей модели.
- Оценка производительности моделей: Сравнительный анализ точности и эффективности как крупной, так и компактной моделей на основе различных метрик.
- Создание обучающих данных для компактной модели: Использование предсказаний крупной модели для генерации обучающего набора данных, способствующего эффективному обучению меньшей модели.
- Оценка дообученной компактной модели: Проверка производительности и точности компактной модели после процесса дистилляции для подтверждения соответствия требованиям.
🔗Ссылка
2. Учебник по дистилляции знаний от PyTorch 🔥
Руководство от PyTorch, которое содержит практическое введение в технику передачи знаний для развёртывания моделей на устройствах с ограниченными вычислительными ресурсами.
Основные аспекты руководства:
- Извлечение скрытых представлений: В гайде показано, как получить промежуточные представления из обученной модели для дальнейшего использования.
- Модификация циклов обучения в PyTorch: Здесь рассматривается интеграция дополнительных функций в стандартные циклы обучения для эффективной передачи знаний.
- На примере показан процесс обучения компактной модели, с ипользованием предсказания более сложной модели в качестве ориентира.
Руководство содержит пошаговые инструкции и примеры кода, что делает его ценным ресурсом, если вы хотите научиться оптимизировать свои модели для использования в средах с ограниченными ресурсами.
▪Ссылка
3. Jetson Introduction to Knowledge Distillation от Nvidia 🖥
В данном руководстве рассматривается процесс передачи знаний от модели OpenCLIP (vision-language model) к модели ResNet18 для классификации на наборе данных STL10.
Особое внимание уделяется тому, как выбор данных, методы дистилляции и архитектура модели, влияют на итоговую точность.
Кроме того, обсуждаются методы профилирования и оптимизации моделей для их развёртывания на устройствах NVIDIA Jetson Orin Nano.
🔗 Ссылка
4. Учебник по дистилляции знаний от Keras ⭐️
Подробно описывается концепция дистилляции знаний и ее применение в обработке медицинских изображений.
🔗Github
🔗Учебник Keras
5. Руководство по дистилляции от
huggingface 🤗
Здесь показано, как выполнять дистилляцию знаний шаг за шагом на конкретном примере.
🔗 Ссылка
6. Дистилляция знаний для задач компьютерного зрения от huggingface 👁
Здесь рассматривается, как сделать файнтюн ViT-модели в MobileNet с помощью API Trainer из Transformers.
🔗Ссылка
#KnowledgeDistillation #Distillation #openai #keras #tutorial #course #freecourses #huggingface #Nvidia #pytorch
1. Руководство по дистилляции от OpenAI 🖥
Руководство содержит подробное описание процесса передачи знаний от более крупной модели к компактной, c сохранением высокой производительности модели.
Основные аспекты, рассмотренные в руководстве:
- Сохранение выходных данных крупной модели: Создание набора данных, содержащего предсказания большой модели, которые будут использоваться для обучения меньшей модели.
- Оценка производительности моделей: Сравнительный анализ точности и эффективности как крупной, так и компактной моделей на основе различных метрик.
- Создание обучающих данных для компактной модели: Использование предсказаний крупной модели для генерации обучающего набора данных, способствующего эффективному обучению меньшей модели.
- Оценка дообученной компактной модели: Проверка производительности и точности компактной модели после процесса дистилляции для подтверждения соответствия требованиям.
🔗Ссылка
2. Учебник по дистилляции знаний от PyTorch 🔥
Руководство от PyTorch, которое содержит практическое введение в технику передачи знаний для развёртывания моделей на устройствах с ограниченными вычислительными ресурсами.
Основные аспекты руководства:
- Извлечение скрытых представлений: В гайде показано, как получить промежуточные представления из обученной модели для дальнейшего использования.
- Модификация циклов обучения в PyTorch: Здесь рассматривается интеграция дополнительных функций в стандартные циклы обучения для эффективной передачи знаний.
- На примере показан процесс обучения компактной модели, с ипользованием предсказания более сложной модели в качестве ориентира.
Руководство содержит пошаговые инструкции и примеры кода, что делает его ценным ресурсом, если вы хотите научиться оптимизировать свои модели для использования в средах с ограниченными ресурсами.
▪Ссылка
3. Jetson Introduction to Knowledge Distillation от Nvidia 🖥
В данном руководстве рассматривается процесс передачи знаний от модели OpenCLIP (vision-language model) к модели ResNet18 для классификации на наборе данных STL10.
Особое внимание уделяется тому, как выбор данных, методы дистилляции и архитектура модели, влияют на итоговую точность.
Кроме того, обсуждаются методы профилирования и оптимизации моделей для их развёртывания на устройствах NVIDIA Jetson Orin Nano.
🔗 Ссылка
4. Учебник по дистилляции знаний от Keras ⭐️
Подробно описывается концепция дистилляции знаний и ее применение в обработке медицинских изображений.
🔗Github
🔗Учебник Keras
5. Руководство по дистилляции от
huggingface 🤗
Здесь показано, как выполнять дистилляцию знаний шаг за шагом на конкретном примере.
🔗 Ссылка
6. Дистилляция знаний для задач компьютерного зрения от huggingface 👁
Здесь рассматривается, как сделать файнтюн ViT-модели в MobileNet с помощью API Trainer из Transformers.
🔗Ссылка
#KnowledgeDistillation #Distillation #openai #keras #tutorial #course #freecourses #huggingface #Nvidia #pytorch
- ❤ 1
- 👍 1
Post #920
3K
Post #918
3.51K
Post #916
3.08K
Forwarded from Анализ данных (Data analysis)
💥OpenAI только выпустили статью Competitive Programming with Large Reasoning Models
Примечательно, что o3 получил золотую медаль на IOI 2024 и рейтинг на Codeforces на уровне элитных программистов мира.
В целом, эти результаты указывают на то, что масштабирование обучения с подкреплением общего назначения, а не упор на специфичные для домена методы, предлагает надежный путь к современному ИИ в областях рассуждений, таких как олимпиадное программирование.
https://arxiv.org/abs/2502.06807
@data_analysis_ml
Примечательно, что o3 получил золотую медаль на IOI 2024 и рейтинг на Codeforces на уровне элитных программистов мира.
В целом, эти результаты указывают на то, что масштабирование обучения с подкреплением общего назначения, а не упор на специфичные для домена методы, предлагает надежный путь к современному ИИ в областях рассуждений, таких как олимпиадное программирование.
https://arxiv.org/abs/2502.06807
@data_analysis_ml
- 🔥 9
- ❤ 2
- 🤡 2
- 🥰 1
Post #915
4.17K
🔥 Бесплатная книга: "Финансовое Машинное Обучение"!
🔗 Ссылка: *клик*
#machinelearning
@machinelearning_books
🔗 Ссылка: *клик*
#machinelearning
@machinelearning_books
- 👍 10
- 🔥 3
- ❤ 2
Post #914
11.9K
Post #912
4.4K
- ❤ 13
- 👍 2
Post #908
2.63K
Forwarded from Machinelearning
📕 Think Stats: Бесплатная книга по статистике.
Think Stats - это введение в теорию вероятностей и статистику для Python программистов и датасаентистов.
Каждая глава доступна в виде блокнота Jupyter ноутбука, в котором можно запускать код и решать упражнения ✔
⭐️ Книга доступна по лицензии Creative Commons, что означает, что вы можете свободно читать, копировать и распространять при условии указания ссылки на источник и не использования в коммерческих целях.
▪ Книга
▪Github
@ai_machinelearning_big_data
#freebook #ml #probability #book #opensource #practice #книганедели
Think Stats - это введение в теорию вероятностей и статистику для Python программистов и датасаентистов.
Каждая глава доступна в виде блокнота Jupyter ноутбука, в котором можно запускать код и решать упражнения ✔
⭐️ Книга доступна по лицензии Creative Commons, что означает, что вы можете свободно читать, копировать и распространять при условии указания ссылки на источник и не использования в коммерческих целях.
▪ Книга
▪Github
@ai_machinelearning_big_data
#freebook #ml #probability #book #opensource #practice #книганедели
- 👍 6
- ❤ 3
Post #907
2.98K
📖 Эта статья исследует задачу упрощения текста на уровне документов с использованием LLM!
💡 Авторы отмечают, что большая часть существующих исследований фокусируется на лексических или предложенческих упрощениях, тогда как долгосрочное упрощение документа (Document Simplification, DS) остаётся недостаточно изученным. Проблема усложняется тем, что модели часто путают упрощение с резюмированием, теряя детали и контекст.
🌟 В работе предложен метод ProgDS (Progressive Document Simplification), который разделяет процесс упрощения на три уровня: дискурсный, тематический и лексический. Метод включает пошаговую обработку текста, симулируя человеческий подход к упрощению. Результаты экспериментов показывают, что ProgDS превосходит существующие модели и подходы, обеспечивая как согласованность, так и умеренное упрощение текста. Этот метод открывает новые возможности для работы с длинными документами в задачах генерации текста.
🔗 Читать: *клик*
💡 Авторы отмечают, что большая часть существующих исследований фокусируется на лексических или предложенческих упрощениях, тогда как долгосрочное упрощение документа (Document Simplification, DS) остаётся недостаточно изученным. Проблема усложняется тем, что модели часто путают упрощение с резюмированием, теряя детали и контекст.
🌟 В работе предложен метод ProgDS (Progressive Document Simplification), который разделяет процесс упрощения на три уровня: дискурсный, тематический и лексический. Метод включает пошаговую обработку текста, симулируя человеческий подход к упрощению. Результаты экспериментов показывают, что ProgDS превосходит существующие модели и подходы, обеспечивая как согласованность, так и умеренное упрощение текста. Этот метод открывает новые возможности для работы с длинными документами в задачах генерации текста.
🔗 Читать: *клик*
- 👍 4
- ❤ 3
- 🔥 1
Post #906
3.55K
Post #905
3.93K
🔥 Anthropic Cookbook — это репозиторий с практическими примерами и рекомендациями по использованию моделей искусственного интеллекта от компании Anthropic!
🌟 В нем содержатся инструкции по взаимодействию с API, настройке моделей и оптимизации запросов для различных задач, включая генерацию текста, анализ данных и обработку естественного языка.
🔐 Лицензия: MIT
🖥 Github
🌟 В нем содержатся инструкции по взаимодействию с API, настройке моделей и оптимизации запросов для различных задач, включая генерацию текста, анализ данных и обработку естественного языка.
🔐 Лицензия: MIT
🖥 Github
- 👍 8
- ❤ 3
- 🔥 1
Post #904
4.5K
📝 AI reads books: Page-by-Page PDF Knowledge Extractor & Summarizer — скрипт, предназначенный для интеллектуального постраничного анализа PDF-книг!
🌟 Скрипт извлекает ключевые знания с каждой страницы и генерирует прогрессивные резюме через определенные интервалы, что позволяет глубже понять содержание книги, сохраняя при этом ее контекстуальную целостность.
🌟 Основные функции скрипта включают автоматический анализ и извлечение информации из PDF, генерацию резюме с использованием искусственного интеллекта, сохранение знаний в базе данных и форматирование итоговых резюме в Markdown. Кроме того, скрипт обеспечивает цветовую индикацию в терминале для улучшения восприятия и может возобновлять работу с места последней обработки, что делает его удобным инструментом для детального изучения и конспектирования PDF-книг.
🖥 Github
🌟 Скрипт извлекает ключевые знания с каждой страницы и генерирует прогрессивные резюме через определенные интервалы, что позволяет глубже понять содержание книги, сохраняя при этом ее контекстуальную целостность.
🌟 Основные функции скрипта включают автоматический анализ и извлечение информации из PDF, генерацию резюме с использованием искусственного интеллекта, сохранение знаний в базе данных и форматирование итоговых резюме в Markdown. Кроме того, скрипт обеспечивает цветовую индикацию в терминале для улучшения восприятия и может возобновлять работу с места последней обработки, что делает его удобным инструментом для детального изучения и конспектирования PDF-книг.
🖥 Github
- 👍 9
- ❤ 3
- 🔥 3
Post #903
3.26K
🖥 Эта книга представляет собой введение в операционную систему Linux, ориентированное на начинающих специалистов по кибербезопасности и этическому хакингу!
🌟 Она охватывает базовые концепции работы с Linux и инструменты, которые полезны для тестирования безопасности и проведения хакерских экспериментов.
🔗 Ссылка: *клик*
🌟 Она охватывает базовые концепции работы с Linux и инструменты, которые полезны для тестирования безопасности и проведения хакерских экспериментов.
🔗 Ссылка: *клик*
- ❤ 3
- 👍 1