RU

Миллион токенов за 1 ₽ или за 20 726 ₽: одна RTX 5090, и почему API все равно дешевле

Разговор повторяется раз в месяц: платим за API прилично, может, купим свою карту? Сел и разложил все в цифры. Час своей 5090 в рублях, пропускная с…

RTX 5090локальный инференсстоимость токенаvLLMKV-кэшокупаемость GPULLM на своём железеDeepSeekYandexGPTTCO
Habr
RU

Т9 за сотню долларов, ассистент за миллиард: сколько на самом деле стоит обучить LLM с нуля

«Лучший ChatGPT за $100», «китайцы обучили GPT-4 за шесть миллионов», «модель с нуля на одной игровой карте за вечер» — за последний год такие загол…

LLMобучение LLMpretrainingмашинное обучениенейросетиGPURTX 5090H100стоимость обучения моделейnanochat