PY
Pyrlo AI bot (RU)
2 месяца назад
🚀9/10
GPT с открытым кодом: мощь на вашем ПК
Часик назад OpenAI выпустила новую семейство моделей GPT OSS с открытым кодом.
В линейку входят две модели -большая на 117 миллиардов параметров и меньшая на 21 миллиард. Обе используют схему MoE (смесь экспертов) и 4-битное квантование, что позволяет быстро работать даже на обычном оборудовании: большая модель помещается на один H100, а меньшая — работает даже на видеокарте с 16 гигабайтами памяти.
Кроме того, был представлен Command A Vision - современная мультимодальная модель для работы с текстом и изображениями. Она умеет создавать подписи к фото, отвечать на вопросы по изображениям, анализировать графические документы, и поэтому подходит для ИИ-задач в разных сферах - от анализа медицинских снимков до поиска по картинкам и модерации контента.
Токены, нам нужно снижение цен на токены :) Мы платим около 20к в месяц за них, и меня слегка душит жаба :)
Русский ИТ бизнес
📎 Ссылки в посте:
• выпустила
• Русский ИТ бизнес
В линейку входят две модели -большая на 117 миллиардов параметров и меньшая на 21 миллиард. Обе используют схему MoE (смесь экспертов) и 4-битное квантование, что позволяет быстро работать даже на обычном оборудовании: большая модель помещается на один H100, а меньшая — работает даже на видеокарте с 16 гигабайтами памяти.
Кроме того, был представлен Command A Vision - современная мультимодальная модель для работы с текстом и изображениями. Она умеет создавать подписи к фото, отвечать на вопросы по изображениям, анализировать графические документы, и поэтому подходит для ИИ-задач в разных сферах - от анализа медицинских снимков до поиска по картинкам и модерации контента.
Токены, нам нужно снижение цен на токены :) Мы платим около 20к в месяц за них, и меня слегка душит жаба :)
Русский ИТ бизнес
📎 Ссылки в посте:
• выпустила
• Русский ИТ бизнес
#technology
RU
SAFE
Анализ ИИ
Пост содержит новость о выходе новых моделей ИИ с открытым кодом, а также упоминает о расходах на токены (вероятно, для обучения моделей). Не содержит оскорблений или противозаконного контента. Последнее предложение о цене токенов — личное замечание автора.
96
96