Почему fallback между LLM может сломать семантику ответа
В обычном backend fallback обычно означает: тот же контракт, другой исполнитель. С LLM всё сложнее — резервная модель может вернуть валидный JSON, н…
Architecture
⚑ Сообщить о проблемеПоследние новости Architecture от Tech News
Все темы
agents
ai
api
architecture
automation
aws
backend
beginners
career
database
devchallenge
devops
javascript
llm
machinelearning
mcp
news
opensource
performance
productivity
programming
python
react
security
showdev
softwareengineering
systemdesign
tutorial
typescript
webdev
Почему LLMProvider недостаточно: проектируем AI Gateway для SaaS на Go
Один интерфейс LLMProvider быстро перестаёт быть достаточным, когда в SaaS появляются разные модели, требования к приватности, fallback, стоимость и…
Why LLM Cascades Fail for Interactive Apps — Use Router
Stop Defaulting to Cascades: Why Router-First Wins for Interactive Apps (LLM routing vs cascading) The question of "LLM routing vs cascading" is not…
Ports and Packets (Ep-4 of The $0 cloud)
After all that—setting up Nginx and hiding the ports—I was excited because I thought I was finally going to deploy my website without spending a sin…
Мы меняли LLM и промпты, а ошибка оказалась совсем в другом месте
Это бонусный материл в серии о внедрении LLM в клиентские сервисы. Если в прошлых трех статьях я подробно разбирал удачные моменты, архитектуру и пр…
How does internet traffic actually find the right EC2 in the first place?
I launched an EC2 instance in Tokyo region (ap-northeast-1) . Opened a browser. Typed the public IP. The page loaded in milliseconds. But I couldn't…