Gemma 4 in Pure JAX: What Ports from TPU to GPU, and What Doesn't
This article is about running a hand-written Gemma 4 port in pure JAX on three different accelerators, and about the two places the abstraction leak…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Go Completely Offline: Build a Privacy-First Personal Finance Assistant with LiteRT and Gemma 4
Imagine having a personal financial planner that analyzes your sensitive transaction history, flags spending anomalies, and suggests budget optimiza…
Building a self-healing scraper agent that won't ship a fix it can't prove
I built patchwright for Google's All Things Agentic Hackathon, and this post is my write-up of it, written for the purpose of entering. The short ve…
Qwen3.5/3.6 на 16Гб VRAM: кванты, fine-tune, сравнение и немного про Gemma-4
Всем привет. В свободное время и под настроение я ваяю маленькие, незамысловатые игры на основе d10-кубов механик, похожие на PvP или PvE настолки,…
Тест Qwen3.5 9b, Gemma 4 12b и Bonsai 27b на легенде пенсионного возраста GTX 1080 ti
Все началось вообще не с идеи написать очередной бенчмарк. Мне нужно было собрать локальный пайплайн для длинных подкастов: полу…
Serving Gemma 4 2B on a Single TPU v5e Chip with MCP and Antigravity CLI
This article is the v5e follow-on to the v6e-1 debugging guide . Same MCP tooling, same Antigravity CLI driver, smaller and cheaper silicon — and a…
Теги реакций и собираемый промпт: как удержать характер ИИ-персонажа по ходу диалога
Вектор диалога с LLM плывёт каждый ход, и к концу разговора персонаж уже не тот. Рассказываю, как я это чиню в своём движке: классификатор выбирает…
Первый опыт малоресурсного перевода: Data dojo 2026
Месяц назад закончилась тренировка DATA DOJO от Яндекса . Здесь я бы хотел рассказать про ключевые аспекты соревнования, моё решение на топ-6%, авто…
Smash Stories: The Bug That Whispered for Two Weeks Before I Heard It
This is a submission for DEV's Summer Bug Smash: Smash Stories powered by Sentry . My AI agent was misreading financial data 1 in 5 times. No crashe…
Benchmarking Gemini 2.5 Flash vs 3.1 Flash-Lite vs Gemma 4 with LLM judge (Claude Fable 5)
Cross-posted from the IO reader blog , where the full version includes all 36 unedited transcripts side by side. With gemini-2.5-flash scheduled to…
Five Gemma-4 models, one accelerator: what porting E2B 31B to AWS Inferentia2 taught me
I ported the whole Gemma-4 family — E2B, E4B, 12B, 31B, and the 26B-A4B MoE — to run on AWS Inferentia2. Each has its own write-up in this series; t…
Running Gemma 4 26B on a 13-Year-Old Xeon: Practical AI Performance Without GPUs
Originally published on tamiz.pro . Introduction Large language models like Gemma 4 26B typically require powerful GPUs with high VRAM. This tutoria…
DiffusionGemma: 4x faster text generation
Our newest open experimental model delivers up to 4x faster inference on dedicated GPUs and opens the door to exploring speed-critical, interactive…
Save yourself from drowning
Dev.to is an absolute goldmine. On any given day, thousands of builders are sharing brilliant engineering lessons, launching side projects, breaking…
Master Local Fine-Tuning with "gemma-trainer"
Remember back in May when I introduced the gemma-skills repository? It's been rewarding to see how many of you have used my previous post to streaml…
Запускаем LLM локально на майнинг ферме из 4 GPU
В последнее время становится все более популярным локальный запуск LLM. У каждогг свои причины, но основные это: проблемы с западными сервисами, нес…
Gemma, the Epstein Files, and sandboxing cause a stir at the World's Fair
As the AI Engineer World’s Fair kicked off officially on Monday, the halls were filled for the traditional workshop day, where coders from across th…
How I Built a Premium Developer Tools Website Using Only a Local LLM (Gemma 4:12B + Ollama + VS Code)
Over the past few weeks, I’ve been experimenting with local language models. Like a lot of developers, I’ve used cloud AI assistants quite a bit, bu…
MLOps for LLM: A Case Study on Dresscode
I've recently participated in the Gemma 4 challenge here on DEV.to, but fell short compared to many amazing projects. I really liked LIKAS . I encou…
Развернул Gemma 4 31B на одной 4090 48GB — и проверил, нужен ли Q8
Развернул Gemma 4 31B на одной 4090 (48 ГБ) — и проверил нужен ли «честный» Q8, и переживает ли tool-calling 4-бита. Q8 не дал ничего (+0.007 — шум)…
Собрал ИИ-бенчмарк под себя из 2 месяцев своих сессий — и дорогие модели проиграли дешёвым
Два месяца своих сессий с ИИ скормил скрипту и собрал бенчмарк под СВОЮ работу — не под чужой лидерборд. Результат: тройка «лучших открытых моделей»…
Solstice Eternal – AI Powered Adventure Game with Gemma 4
This is a submission for the Gemma 4 Challenge: Build with Gemma 4 What I Built Solstice Eternal – AI Adventure Game Solstice Eternal is an interact…
MTP Isn't Always a Win: 1.95x on My 3090, but Speculative Decoding Is Hardware-Dependent
In my MTP post , speculative decoding roughly doubled Qwen3.6-27B generation on a 3090. It's tempting to read that as "turn on MTP, go faster." So I…
No Cloud, No Cost: Build an Offline Visual AI Agent with Gemma 4
With Google’s Gemma 4 12B , you can host a highly intelligent assistant that natively understands text and images right on your everyday laptop. Bec…
Доверенный ИИ на практике: RAG, который ссылается на источник — или честно отказывается
Поднял за выходные продукт, который давно хотел проверить руками: RAG, который отвечает строго по корпусу и к каждому утверждению ставит ссылку на п…
Project Log #1: I'm Building an AI Agent That Controls a Phone
I'm starting a new project. It's the most ambitious thing I've attempted from a phone. The goal: an AI agent that controls a smartphone. It opens ap…
Идеальный склероз в сером ящике — мой опыт в ИИ-программировании
ИИ все прочнее входит в работу программиста. Кто-то все еще отрицает его роль, кто-то с энтузиазмом пробует все новые возможности, но квалифицирован…
Connecting RooCode to Gemma4-26B-MoE via OpenAI Bridge
This configuration bypasses extension UI limitations by routing direct Google AI Studio requests through Google’s native OpenAI-compliant endpoint.…
Breathing Life into the Pi: Deploying Gemma 4 2B on a Raspberry Pi 5
Hi Everyone, I’m back with a brand new project, and this one has been a long time coming. For a while now, I’ve had this persistent urge to build my…
Structure: A Local-First Interview IDE Powered by Gemma 4
This is a submission for the Gemma 4 Challenge: Build with Gemma 4 What I Built Structure is a local-first macOS desktop IDE for technical interview…