Культ квантования: почему 3 битные LLM это диагноз, а не оптимизация
Переход от FP16 к 8 битному квантованию был триумфом инженерии, позволившим запускать LLM на потребительском железе почти без потерь. Но сегодня индус…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- Искусственный интеллект, машинное обучение, нейросети
- Новости сети
- автомобили, мотоциклы, транспортные средства
- вирусы, трояны, уязвимости в ПО, вопросы безопасности
- игры
- космос
- мобильные телефоны, смартфоны, сотовая связь, коммуникаторы, КПК
- процессоры
- финансовые новости и аналитика
AI
LLM
ai
ai-агенты
frontpage
llm
postgresql
python
selectel
Новости
Статьи
автоматизация
ии
ии-агенты
информационная безопасность
искусственный интеллект
нейросети
программирование
разработка
управление командой
управление проектами
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Когда я начал ковыряться с локальными LLM, главная боль была не в установке моделей, а в понимании, что вообще влезет в моё железо. Документация Huggi…