[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 5. Инференс
Предыдущая глава Ну а теперь рассмотрим, как нам применить обученный трансформер. И применение уже обученной модели сильно отличается от тренировки,…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- Искусственный интеллект, машинное обучение, нейросети
- Новости сети
- автомобили, мотоциклы, транспортные средства
- вирусы, трояны, уязвимости в ПО, вопросы безопасности
- игры
- космос
- мобильные телефоны, смартфоны, сотовая связь, коммуникаторы, КПК
- модули ОЗУ, карты памяти, флеш-накопители, кардридеры
- на острие науки
- процессоры
LLM
ai
ai-агенты
claude
devops
llm
open source
python
ruvds_статьи
Статьи
автоматизация
ии
ии-агенты
информационная безопасность
искусственный интеллект
машинное обучение
нейросети
программирование
разработка
тестирование
[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 4. Тренировка трансформера
Наконец-то мы добрались непосредственно до того, как тренировать трансформер, не просто тренировать, а делать это эффективно и масштабируемо. Как мы…
Как не захлебнуться в User Stories и не утопить в них команду
Привет, Хабр! На связи Даша Некрасова, я UX-writer/researcher в Garage Eight. Сегодня поговорим о классическом инструменте коммуникации на проектах&…
Виртуальная примерка одежды для интернет-магазина: почему self-host CatVTON/IDM-VTON это плохая идея для бизнеса
Разобрались, что лучше подходит для виртуальной примерки одежды на сайте интернет-магазина. Протестировали CatVTON, IDM-VTON и Fashion AI на одних и…
[Перевод] Барбара Лисков «Абстракция данных и иерархия»
Наверное, каждый программист, работавший с объектно-ориентированными языками, хотя бы раз слышал о принципе подстановки Лисков. Однако мало кто знае…
Дыши ровнее, домна. Как мы сделали алгоритм и модернизировали систему вдувания пылеугольного топлива
Представьте себе махину высотой 80 метров, где выплавляется чугун: основной процесс проходит непрерывно (вообще без перерыва, даже на обед). Это дом…
[Перевод] Понятие о конечных автоматах: руководство разработчика по предсказуемой логике приложений
Привет, Хаброжители! Вы когда-нибудь отлаживали такой компонент пользовательского интерфейса, где достаточно нажать в неверном порядке несколько кно…
[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Траснформеры
Это продолжение цикла статей о масштабировании тренировки и инференса LLM. Предыдущая статья А теперь перейдем к чему-то более практическому, а имен…
Проектирование архитектуры в нотации ArchiMate с использованием ИИ. Часть 2
Всем привет! Меня зовут Владимир Зуев, я руководитель разработки JAVA-практики в компании Axenix. Сегодня я хочу представить новую часть из цикла ст…
[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг
Это продолжение цикла статей о масштабировании тренировки и инференса LLM. Предыдущая глава находится по этой ссылке . Итак, с основами разобрались,…
INFOSTART TECH EVENT или INFOSTART A&PM EVENT — как понять, куда вам нужнее?
Осенью Инфостарт снова проводит две большие конференции. И судя по разговорам в чатах и кулуарах, у многих один и тот же вопрос: куда ехать? Потому…
Версионирование таблиц репозитория метаданных Sigla Vision
Продолжаем серию публикаций «Адаптивное администрирование Sigla Vision» . В предыдущей статье мы изложили основную концепцию построения…
ИИ разработке нужны не спецификации, а полноценная трассировка требований
Разработка - это инженерная задача! Где-то полгода назад я понял, что меня так смущает в инфополе касательно ИИ-разработки. Все меряются количеством…
[Перевод] Идемпотентность в System Design: полный пример
Идемпотентность в System Design: полный пример Идемпотентность часто упоминается при проектировании систем (system design). Ниже будет простыми слов…
Почему бенчмарки в AI сломались — и что с этим делать в понедельник
Числовая оценка идеальна для закрытых задач. Аморфная нужна для открытых. AI за пятнадцать лет переехал из первого класса во второй — а инструмент о…
Проектирование архитектуры в нотации ArchiMate с использованием ИИ. Часть 1
Всем привет! Меня зовут Владимир Зуев, я руководитель разработки JAVA-практики в компании Axenix. Сегодня я хочу рассказать о нотации ArchiMate, исп…