Тема дня — правильный инструмент вместо модного. Вместо большой генеративной модели — маленькая, возвращающая вероятности; вместо поиска магии в тормозах — честная квадратичная сложность; вместо видеокарты — квантование. Четыре материала.
Amazon: минус 98% расходов заменой Sonnet на модель решений
Инженеры Amazon перевели классификацию внутреннего тикетинга — эскалации, запросы мощностей, алармы, двадцать категорий — с Sonnet 4.6 на Strands Decider: маленькая модель, которая не генерирует текст, а возвращает вероятность и уверенность для каждого варианта. Итог в цифрах: 22 200 долларов против пятисот за миллион тикетов, латентность ниже на 78%, токенов меньше на 70%. Переключали безопасно — трёхпозиционный AppConfig гонял обе модели по живому трафику, откат занимал 45 секунд. Вишенка для внимательных: порядок ключей в JSON сдвигал вероятности на 0,19 — теперь ключи сортируются. Не везде нужен текст; там, где выбор из каталога, вероятность дешевле.
Zig-libc замедлила SQLite в 12 тысяч раз
Детектив о вставке сорока тысяч JSON-записей, занявшей минуты вместо миллисекунд: причина не в дисках и не в fsync, а в том, что Linux-сборки собирались через zig cc с переписанной на Zig libc. Её strspn начинал с полного пересчёта длины строки, токенизатор SQLite многократно пропускал пробелы в мегабайтном JSON — и каждый шаг заново сканировал остаток. Классический маляр Шлемиля, квадратичная сложность из самой невинной функции. Починили переносом сборок в честные Linux-контейнеры. Прекрасный разбор о том, куда смотреть, когда процессор занят на сто процентов, а все ждут ввод-вывод.
SSHole вышел в дикую природу
Продолжение истории об обходе аутентификации OpenSSH на musl: через четыре часа после публикации PoC начались попытки, к восьмому ноября — двадцать с двадцати IP из девяти стран, шестнадцать успешных взломов по данным GreyNoise. Постэксплуатация — сбор метаданных облака, хешей и ключей, в одном случае Python-бэкдор с C2-доменом. Практика из свежего разбора: обновиться до OpenSSH 10.6p2, затем проверить логи на успешные входы в аккаунты с отключённым парольным входом — именно они и были целью. Если в пятницу это казалось теоретической экзотикой — теперь статистика.
284 миллиарда параметров без видеокарты
Энтузиаст запустил DeepSeek-V4-Flash — 284 миллиарда параметров, из которых активны 13 — на шестнадцатиядерном Ryzen с 64 гигабайтами памяти, без GPU: пик 58 гигабайт при контексте в 256 тысяч токенов, генерация 9–15 токенов в секунду. Секрет — MoE-архитектура плюс агрессивное квантование экспертов до 1,56 бита на вес в проекте llama-modchip; оговорки честные — независимых подтверждений пока нет, а «без потерь» означает совпадение логитов с непатченной сборкой, не с полной точностью. Про запуск моделей локально у меня отдельная статья — планка бюджетного входа снова упала.