Qwen2.5 7B vs Qwen3 4B & 8B for Writing Correction: 60 Local Ollama Responses on Windows
I expected Qwen2.5 7B to retain a noticeable advantage over the smaller Qwen3 4B model for writing correction. In this experiment, it didn't. Across…
Последние новости
⚑ Сообщить о проблемеTech news from the best sources
Все темы
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Flash Onyx 2.2: teaching a local model law and game feel
(I know, ANOTHER Onyx post) Flash Onyx is the model line behind FLASH , the local-first agent shell I work on. Onyx 2 is gemma4 with a system prompt…
Агент написал себе навык и соврал, что тот работает
Я делаю агента, который умеет дописывать себе навыки: упёрся в то, чего не умеет — сгенерировал код, собрал, установил, пользуется. П…
Как мы искали способ подключить ИИ к своим данным
От AnythingLLM до LibreChat, MCP и Gemma4 Эта статья про то как мы искали способ подключить языковую модель к своим рабочим данным, что пробовали, ч…
Fix Local LLM Quality: Context Stacking & Rope Freq Tweaks
This article was originally published on BuildZn . Everyone's running local LLMs now, which is great. But then they hit the wall: "Why does my 7B mo…
Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU
Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пу…
Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU
Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пу…
[Перевод] Qwen3.8-27B: лучший локальный LLM, который вы, вероятно, не сможете запустить
В этом месяце Alibaba выпустила две модели, и та, о которой все писали, оказалась не той, что мы ждали. Qwen3.8-Max — это API с 2,4 триллионами пара…
От uname до промпта на 919 тысяч символов: три месяца внутри двух ханипотов
Один хакер полтора часа исследовал поддельный Bitrix-сервер: нашёл конфигурацию, извлёк ложные учётные данные базы, попытался выгрузить таблицы и за…
Moving Scheduled LLM Curation from Cloud APIs to Local Models
Scheduled LLM curation is the least glamorous agent workload you run. A cron job wakes up at 3am, reads a pile of memory, asks a model to dedupe it,…
Как собрать персональную wiki без Claude Code
Идея Andrej Karpathy с LLM-wiki набирает сторонников. На Хабре уже было несколько публикаций ( 1 , 2 , 3 ), в том числе и моя про сравнение LLM-wiki…
Nine ways to talk to a local model
A nine-tool survey of local-model interfaces on one GPU: what worked, what silently failed, and why what sits between you and the model matters more…
My local AI ran on the CPU for a week and I didn't notice
My first Ollama setup felt fast. One evening, one model, one question, a clean answer streaming back at a speed that made cloud AI feel unnecessary.…
Как я Zabbix с LLM дружил в свободное время. Архитектурный обзор взаимодействия с нейросетью. Часть 4 «Реализация»
Это заключительная статья цикла о том, как я пытался сделать алерты Zabbix в домашней лаборатории чуть умнее, прикрутив к ним локальную LLM и не пол…
Self-Hosting AI Models on a Raspberry Pi 5: A Complete Guide to Free, Private, Local AI Inference
I've been running an AI agent on a Raspberry Pi 5 for the past three months. It writes code, browses the web, manages my email, and even deployed a…
I Point a Local LLM at Every Repo Before Opening It in My Editor
In May a "recruiter" sent me a take-home project for a Web3 role. Nice README, plausible Next.js structure, a real-sounding company. Buried in the b…
Хватит сливать данные в Claude и GPT: как поднять свой on‑prem LLM
Представим на секунду, что есть проблема, которую над срочно пофиксить, в рабочем чате никто не отвечает, инженер, на котор…
A Local AI Pre-Commit Hook That Blocks Secrets Without Annoying You
My regex secret scanner once blocked a commit because a test file contained the string sk_test_EXAMPLE_KEY_DO_NOT_USE . The same week, a colleague o…
Docker Model Runner vs Ollama — ใครควรย้าย ใครไม่ควร (และทำไม)
Docker Model Runner vs Ollama — ใครควรย้าย ใครไม่ควร (และทำไม) โดย Nokka (นก-กา) | 31 กรกฎาคม 2026 บทความนี้เขียนโดย AI (DeepSeek V4 Pro) ผ่าน Herme…
Clive — a friendly CLI for local LLMs
Why I built Clive For the last couple of weeks, as the cost of frontier models kept climbing, I started experimenting with open-source large languag…
My fresh OpenClaw install kept failing. The model wasn’t the problem.
I hit a failure pattern recently that’s way more common than people admit: install OpenClaw connect it to Ollama pull a decent local model test the…
Function Calling With a Local LLM to Drive Foundry: Fuzz, Read, Repeat
The first time I let a local model drive Foundry unsupervised, it spent eleven turns trying to fix a fuzz test by renaming the test function. Not ch…
Qwen2.5-Coder vs DeepSeek-Coder for Solidity Review: What I Actually See Locally
I keep a folder of ten small Solidity contracts with bugs I planted myself: a classic reentrancy in a withdraw function, a missing access modifier o…
Как я искал идеальный промпт для сопроводительных писем (и что оказалось важнее модели)
Хотел понять, потянет ли маленькая локальная модель сопроводительные письма или без облака никак. Оказалось, главный рычаг не модель, а промпт: пере…
Написал локального ИИ-ассистента для зумов: диаризация, граф знаний и ноль облаков
Собрал ассистента встреч, который работает целиком на моём маке: локальный STT, живая диаризация голосов, мгновенные ответы на вопросы собеседника и…
Local LLMs for an Infra-Monitoring Agent: The Ollama think Bug, and Why I Still Chose a Cloud Model
OpenClaw went from a weekend project to one of the most-starred repos on GitHub in under five months, and now everyone's using it to run their inbox…
I built a 100% local invoice reader with Ollama + n8n — the real trick was teaching it NOT to guess
I'm not a professional developer — I run a small business and I'm self-taught (HTML/CSS/JS, a bit of Python). Every month I had the same chore: a pi…
AI agent python ollama: Build, Test, Deploy with FastAPI
I’ll show you how to get an ai agent python ollama up and running on your laptop, expose it through FastAPI, test it automatically, and push it to p…
Ollama Model Loading RCE: Three Years of the Same Bug Class, One Self-Hosted LLM Runtime
TL;DR Ollama has shipped three remote-code-execution vulnerabilities in three years, all at the model-loading boundary. CVE-2024-37032 ("Probllama",…
Открытые LLM в продакшене: 8 выводов о llama.cpp, Gemma и Qwen
Об открытых языковых моделях написано много — и почти все статьи посвящены знакомству, в лучшем случае — «медовому месяцу» использования. Бенчмарки,…