Stable Diffusion 3.5 medium на Apple M1 16Gb
В этой статье, про ИИ, написанной не полностью ИИ, про генерацию изображений - не будет изображений. В конце этой статьи мы будем запускать эту модель на указанном чипе, но начнем мы с чуть более мощного - он понадобиться чтобы разобраться с проблемой.Первая проблема с которой я столкнулся - это потребление памяти. ...
В этой статье, про ИИ, написанной не полностью ИИ, про генерацию изображений - не будет изображений. В конце этой статьи мы будем запускать эту модель на указанном чипе, но начнем мы с чуть более мощного - он понадобиться чтобы разобраться с проблемой.Первая проблема с которой я столкнулся - это потребление памяти. Поиски в интернете, описание самой модели говорили о том что она должна помещаться в ~10GB VRAM. Чего должно с запасом хватать для Apple M1 16GB. Однако фактическое зафиксированное потребление памяти составило 21 GB, не зафиксированное 28 GB (после чего я и начал исследование).
Краткая сводка
В статье описывается попытка запустить модель Stable Diffusion 3.5 medium на Apple M1 с 16 ГБ оперативной памяти, где ожидаемое потребление около 10 ГБ VRAM оказалось значительно выше: наблюдалось использование 21‑28 ГБ памяти.
Связанные теги
Компании и люди
Линия сюжета
Продолжить следить за темой
Переходите к связанным материалам, страницам сущностей и активным линиям сюжета.
Как компании строят MLOps: три архитектурных подхода
Всем привет! Меня зовут Катерина Цаплина, я программный эксперт курса «MLOps для разработки и мониторинга моделей». Работаю на стыке ML, инфраструктуры и корпоративной архитекту...
Как там с OpenClaw: что происходит и что уже можно использовать?
OpenClaw прошел путь от хобби-проекта до самого быстрорастущего open-source проекта в истории GitHub — и запустил настоящую гонку вооружений среди крупнейших ИТ-компаний. Пользо...
Первый опыт с Warp: медленный, но сообразительный помощник, который заставит вас глупеть
Потыкал я на досуге один из ИИ-терминалов и делюсь этим опытом. Об установке писать не буду, там все банально и просто: тыкаете мышкой и готово. А вот дальше — все очень занимат...
Ловушки удобного синтаксиса языка Kotlin. Как миграция на Kotlin 2.2+ может сломать ваш проект и как его починить
Это история о граблях, на которые вы можете наступить при миграции на Kotlin 2.2+, а также о развитии и закулисье удобства языка Kotlin.Когда Kotlin только появился, он уже обла...
Линтер для теологии, или Как ансамбль LLM провел статический анализ библейского текста (кейс 1 Тим. 2:15)
Можно ли использовать ансамбль LLM как статический анализатор для богословского текста? В эксперименте пять языковых моделей проверили логическую устойчивость двух competing инт...
Чему обучить проектную команду в ИТ, чтобы ускорить релизы и сэкономить бюджет
Цена ошибок в ИТ-сфере растет: баги в выпущенном на рынок продукте могут стоить кампании миллионов рублей, а задержка релиза оборачивается потерянными клиентами. Общее ускорение...
Рекламный слот
Article monetization slot
Reserved for contextual monetization inside article pages.
Похожие статьи
Еще материалы, которые пересекаются по тегам, источнику или категории.
Как компании строят MLOps: три архитектурных подхода
Всем привет! Меня зовут Катерина Цаплина, я программный эксперт курса «MLOps для разработки и мониторинга моделей». Работаю на стыке ML, инфраструктуры и корпоративной архитекту...
Как там с OpenClaw: что происходит и что уже можно использовать?
OpenClaw прошел путь от хобби-проекта до самого быстрорастущего open-source проекта в истории GitHub — и запустил настоящую гонку вооружений среди крупнейших ИТ-компаний. Пользо...
Первый опыт с Warp: медленный, но сообразительный помощник, который заставит вас глупеть
Потыкал я на досуге один из ИИ-терминалов и делюсь этим опытом. Об установке писать не буду, там все банально и просто: тыкаете мышкой и готово. А вот дальше — все очень занимат...
Ловушки удобного синтаксиса языка Kotlin. Как миграция на Kotlin 2.2+ может сломать ваш проект и как его починить
Это история о граблях, на которые вы можете наступить при миграции на Kotlin 2.2+, а также о развитии и закулисье удобства языка Kotlin.Когда Kotlin только появился, он уже обла...
Еще материалы от Habr
Свежие публикации и продолжение темы от той же редакции.
Как компании строят MLOps: три архитектурных подхода
Всем привет! Меня зовут Катерина Цаплина, я программный эксперт курса «MLOps для разработки и мониторинга моделей». Работаю на стыке ML, инфраструктуры и корпоративной архитекту...
Как там с OpenClaw: что происходит и что уже можно использовать?
OpenClaw прошел путь от хобби-проекта до самого быстрорастущего open-source проекта в истории GitHub — и запустил настоящую гонку вооружений среди крупнейших ИТ-компаний. Пользо...
Первый опыт с Warp: медленный, но сообразительный помощник, который заставит вас глупеть
Потыкал я на досуге один из ИИ-терминалов и делюсь этим опытом. Об установке писать не буду, там все банально и просто: тыкаете мышкой и готово. А вот дальше — все очень занимат...
Ловушки удобного синтаксиса языка Kotlin. Как миграция на Kotlin 2.2+ может сломать ваш проект и как его починить
Это история о граблях, на которые вы можете наступить при миграции на Kotlin 2.2+, а также о развитии и закулисье удобства языка Kotlin.Когда Kotlin только появился, он уже обла...