Запуск и оптимизация локальной LLM с llama.cpp
В статье разберём фреймворк llama.cpp для запуска локальной LLM на выделенном облачном GPU, а также практический подход к оптимизации производительнос…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- Искусственный интеллект, машинное обучение, нейросети
- Новости сети
- автомобили, мотоциклы, транспортные средства
- вирусы, трояны, уязвимости в ПО, вопросы безопасности
- игры
- космос
- мобильные телефоны, смартфоны, сотовая связь, коммуникаторы, КПК
- модули ОЗУ, карты памяти, флеш-накопители, кардридеры
- процессоры
LLM
ai
ai-агенты
claude
llm
open source
postgresql
python
ruvds_статьи
Статьи
автоматизация
ии
ии-агенты
информационная безопасность
искусственный интеллект
машинное обучение
нейросети
программирование
разработка
тестирование
управление проектами
Кремниевый король: Как NVIDIA заложила фундамент нейросетевой революции
Как компания, чьи чипы изначально предназначались для отрисовки полигонов в видеоиграх, стала главным бенефициаром ИИ-революции и пробила потолок капи…
GDDRHammer и GeForge— анатомия атак, превративших видеопамять в оружие
Существует множество программных угроз для систем ИИ. Но я расскажу о GDDRHammer — атаке на аппаратную часть. Разберу эту атаку до винтика, то есть по…