RU

Разбор AMD EPYC Venice: 256 ядер, 2-нм TSMC, два сокета и СЖО как неизбежность

Всем привет, с вами Сергей Ковалёв, менеджер выделенных серверов в Selectel . Как инфраструктурный провайдер, мы ежедневно предоставляем клиентам се…

selectelit-инфраструктураcpuamdveniceamd epycintelnvidiaaiсерверы
Habr
RU

Как я обучил русский RAG‑сплиттер, который режет документы по индексам, а не по тексту

TL;DR.  Из интереса обучил собственный русский RAG‑сплиттер — захотелось проверить, можно ли сделать context‑aware‑нарезку русск…

ragчанкингдистилляцияloraunslothтокенизацияllama.cppggufvulkanamd
Habr
RU

Экономия GPU-часов в 2,5 раза, уход ИИ в бэкенд и новые стандарты агентских систем: ML-дайджест

Пока инфо-бизнесмены продают очередные курсы по промпт-инжинирингу, в индустрии пересобирают саму архитектуру ИИ-систем. Главные вызовы сегодня…

selectelLLMaimlискусственный интеллектдайджестжелезо и софтnvidiaamdsambanova
Habr
RU

Локальный ИИ на «древнем» железе: выжимаем максимум из AMD RX 580 через Vulkan в Fedora (Llama 3.1, DeepSeek, Qwen 3.5)

Я решил проверить, на что способен мой старый компьютер с Radeon RX 580 под управлением Fe dora. В этой статье я пошагово разберу, как завести совре…

ollamaamdvulkanfedoradeepseek-r1llama 3.1qwen 3.5n8npodman
Habr