RU

[Перевод] Amazon идёт против NVIDIA: что меняет TorchNeuron

AWS представила TorchNeuron — инструмент, который позволяет запускать PyTorch-модели на чипах Trainium почти без изменений в коде. Разбираемся, поче…

amazonamazon web servicesPyTorchnvidiaоблачные вычисленияии-инфраструктураискусственный интеллект
Habr
RU

Можно ли собрать сервер из игровых комплектующих

Всем привет! Меня зовут Виталий, я инженер ЦОД . За все время работы с серверами я не раз сталкивался с конфигурациями, где граница между «сервером»…

selectelсерверное железосерверыrtx 4090дата-центринференсмашинное обучениеnvidiaкомплектующие для пкnvlink
Habr
RU

Полупроводниковый бум: рекордные прибыли, падающие акции и второй закон отрасли

Искусственный интеллект подтолкнул продажи микросхем к самому быстрому росту с 1980-х годов, при этом TSMC и Samsung показали рекордные прибыли, пиш…

микросхемыполупроводникичипчипынвидиаnvidiaискусственный интеллектtsmcsamsungпроцессоры
Habr
RU

Open source для ИИ: смотрим на патенты и лидеров гонки

Казалось бы, open source и патенты понятия практически несовместимые. Особенно в сфере ИИ. Но за патентами в этой сфере уже давно идет серьезная гон…

microsoftnvidiaaiсезон код будущегоискусственный интеллектии-агентыии и машинное обучениеopen sourceпатентыпатенты на программное обеспечение
Habr
RU

Астана, Astana Hub и большой AI: как выглядит изнутри место, куда сейчас заходят все

Казахстан сейчас собирает у себя то, за чем обычно надо лететь через полмира: международные форумы, хакатоны мировых лабораторий, производство робот…

aiказахстанастанаalem.aiitииагентыnvidianetwork schoolastana hub
Habr
RU

Большинство корпоративных ИТ-систем впервые размещается за пределами собственных дата-центров

Электричества в офисной серверной больше не хватает, а купленный под ИИ сервер устаревает раньше, чем окупается. Всем привет! На связи Андрей, руков…

цодсерверыииselectelисследования в itии в бизнесеnvidiagpu-серверыии-инфраструктурастойки серверов
Habr
RU

Первый иск за «сбежавших» ИИ-агентов: кто отвечает, если агент сам взломал чужую систему

В июле агенты OpenAI вышли из тестовой песочницы, добрались до интернета и взломали инфраструктуру Hugging Face. Никто из сотрудников им этого не по…

openaihugging faceai agentsии-агентыreward hackingинформационная безопасностьcdafalasstnvidiaпесочница
Habr
RU

Мы ждали Терминатора, а получили Алису на ножках. Что внутри китайских роботов

Типичный ролик из недалёкого будущего: Гуманоид уверенно шагает рядом с полицейскими. Робособака обследует территорию. Робот-официант объезжает посе…

роботыnvidiaробокоптерминатордоставщикофициант
Habr
RU

Карточный домик из GPU: архитектура neocloud-пузыря

Карточный домик из GPU: долги неоклаудов обеспечены чипами, которые дешевеют быстрее графика погашения, а стоит вся конструкция на двух клиентах — O…

пузырь ииneocloudаренда gpunvidiaopenaicoreweaveаналитикаархитектураanthropicразбор
Habr
RU

Железо для ИИ: почему стандартный сервер не справится и как мы проектировали аппаратный стек ПАК

Привет, Хабр! Продолжаем цикл про инфраструктуру для ИИ-задач. В первой статье мы разбирали стратегический вопрос: что проще и выгоднее — собирать с…

gpuпакllmинференсnvidianvlinkmigpsuскала-рцод
Habr
RU

«Оригинальное видение»: как геймеры сменили гнев на милость к DLSS 5 и что это говорит о восприятии нейросетей в целом

Вчера произошло интересное событие. В сеть утекла ранняя версия DLLS 5, технологии, которая при помощи искусственного интеллекта улучшает (кто-то ск…

dlss5игрыграфикаграфика в играхвидеоигрыnvidiaнейросетиискусственный инии
Habr
RU

Конец жирной маржинальности ИИ: всё о ценообразовании и дешёвых стоимостях моделей

В последнее время ИИ-сфера не просто падает, а даже входит в активную стадию конкурентности между несколькими фронтами — корпоративные ИИ (OpenAI и…

qwenz.aiglmox alphachatgptnvidiadeepseeknpuhugging face
Habr
RU

[Перевод] Рискованный бизнес Nvidia

Джей Кук, который прославился как американский герой за свою роль в обеспечении финансирования Союзных сил в Гражданской войне, 1 января 1870 года п…

ruvds_переводискусственный интеллектnvidiaинвестиции в иистартапыгиперскейлерыбудущее ии
Habr
RU

Разбор AMD EPYC Venice: 256 ядер, 2-нм TSMC, два сокета и СЖО как неизбежность

Всем привет, с вами Сергей Ковалёв, менеджер выделенных серверов в Selectel . Как инфраструктурный провайдер, мы ежедневно предоставляем клиентам се…

selectelit-инфраструктураcpuamdveniceamd epycintelnvidiaaiсерверы
Habr
RU

Ускорение инференса энкодерной guard‑модели: TensorRT, Triton, vLLM, Ray Serve

Когда в системе есть узел между LLM и пользователем его скорость также важна, как и скорость самой LLM. Когда этот узел сам является модел…

gliner2gliner guardguardrailstensorrtvllmnvidiaинференс нейросетейtriton-inference-server
Habr
RU

Как DLSS 5 меняет саму идею графики реального времени (и снова делает ПК-гейминг элитарным)

После скандального мартовского анонса Nvidia получила много негативных отзывов. Саму идею нейронного рендеринга не раскритиковал только ленивый, а п…

dlss 5dlssnvidia3d-графикаигровая графикаграфика реального времениразработка игр
Habr
RU

Подводные камни ИИ-инфраструктуры: что узнаёт заказчик через полгода после запуска (и как мы предусмотрели это в ПАК)

Привет, Хабр! Меня зовут Алексей, я архитектор в команде Скала^р (входим в Группу Rubytech). Мы разрабатываем программно-аппаратные комплексы (ПАК)…

gpullmrdmaинференсии-инфраструктурапрограммно-аппаратный комплекссамосборcudanvidiapytorch
Habr
RU

Anthropic остался один. За четыре дня Хуанг собрал 75 подписей и целый альянс

Дарио Амодеи ответил постом в блоге: бан открытых моделей не нужен, нужны три другие меры. Но каждая из них бьёт по NVIDIA.…

nvidiaanthropicдарио амодеидженсен хуангopen sourceКитайkimi k3Frontier AI Standards Bodyдемис хассабисOpen Secure AI Alliance
Habr