Энтропия в классической термодинамике
Термодинамическая энтропия появилась в классической термодинамике. Однако далее по ряду причин термин энтропия был использован в теории информации,…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Рыбно‑пузырьковая энтропия в KMS
Смоделируем ситуацию: внезапно бот проходит вашу капчу, потому что заранее знает, какие случайные числа будут сгенерированы. Если рандом предск…
Рыбно‑пузырьковая энтропия в KMS
Смоделируем ситуацию: внезапно бот проходит вашу капчу, потому что заранее знает, какие случайные числа будут сгенерированы. Если рандом предск…
Замерзание переохлажденной воды в изолированной системе
При охлаждении воды в сосуде без центров кристаллизации можно переохладить воду ниже температуры замерзания. Переохлажденная вода находится в метаст…
[Перевод] Энтропия замкнутой системы возрастает не всегда
Итан Сигел (американский астрофизик-теоретик и научный журналист, автор рубрики "Спросите Итана", один из пропагандистов современных научных знаний)…
Несколько взглядов на кросс-энтропию
В данной статье разбирается несколько способов вывода формулы кросс-энтропии, а также попытки сформировать интуиции относительно ее сути. Читать дал…
Клод Шеннон. Информатика на максималках
Вопрос на засыпку: кто придумал бит? Если вы ответите «Клод Шеннон», то будете неправы, бит он не придумывал. Но без Шеннона сухая концепция его кол…
Когда ИИ не знает – но делает вид, что знает: ударим энтропией по LLM
Представьте: вы спрашиваете умного коллегу о дедлайне проекта, а он отвечает уверенно и детально – но на самом деле придумывает всё на ходу. Именно…
Принцип Ландауэра — сколько весит один бит информации и почему стирание памяти греет Вселенную
Компьютеры греются. Это знает каждый, кто хоть раз держал ноутбук на коленях час-другой. Виноваты несовершенство кремния, сопротивление проводников,…
Энтропия, которая измеряет порядок: IH-анализ находит закономерности в разнотипных данных
Обычно энтропия — мера хаоса. Но наш сегодняшний герой — IH-анализ (Information-Entropy analysis) — вычисляет информационную энтропию, чтобы измерит…
Гравитация не существует. Вы задали 454 вопроса о времени. Вот ответы с уравнениями Эйнштейна
Моя статься Почему время замедляется при ускорении? Объяснение, которое вы нигде не найдёте собрала 454 комментария. Большинство из них сводились к…
Вариационное исчисление как метафора свободы выбора: от градиентного спуска к онтологии пути
В современной науке о данных и машинном обучении мы постоянно решаем задачу оптимизации: найти в многомерном пространстве параметров точку, минимизи…