{ "index": 224, "slug": "editorial-2021-10-mechanism-d-runtime-service", "title": "Пауза в D-сервисе: как отделить GC от FFI и I/O", "excerpt": "Один медленный request не доказывает, что виноват DRuntime. Разбираем путь decode → validation → compute → encode, отделяем allocation pressure от GC, FFI и I/O и проверяем гипотезу до изменения глобальной настройки.", "contentHtml": "

Сервис отвечает дольше обычного. В trace виден всплеск временных объектов, а рядом работает вызов внешней библиотеки. Команда говорит: «это GC в D». После этого легко отключить сборщик, переписать handler или увеличить таймаут. Ни одно действие не следует из одного симптома. Цена ошибки — потерянный запрос, рост памяти, зависший поток или часы оптимизации участка, который вообще не выполнялся.

\n

Надёжный разбор начинается с одного request path. Нужно разделить четыре шага: decode, validation, compute и encode. Рядом надо явно отметить границы GC, FFI и I/O. Тогда вопрос меняется с «почему D медленный?» на «какой участок создал данные, какой запросил память, а какой вышел за пределы процесса?». Такой вопрос можно проверить.

\n

Что именно делает DRuntime

\n

В обычном D-коде динамические массивы, строки и объекты, созданные через new, могут использовать память, которой управляет сборщик. Официальное описание D говорит о сборке как о механизме с неопределённым моментом запуска: запрос дополнительной памяти может запустить цикл, а время цикла не имеет гарантированной верхней границы. При обычной реализации во время сканирования останавливаются потоки, известные сборщику. Поэтому allocation и pause — разные наблюдения, а название DRuntime ещё не является причиной задержки.

\n

Allocation pressure означает, что путь часто просит новую память или создаёт много временных значений. Это гипотеза о причине. GC pause — наблюдение о работе сборщика и времени остановки. Чтобы связать одно с другим, нужны одинаковый вход, профиль процесса и повторяемый способ измерения. Число созданных объектов в учебной модели не является байтами, latency или временем CPU.

\n

Атрибут @nogc полезен как проверяемое ограничение для отдельной функции: компилятор отклоняет известные GC-аллокации и вызовы функций без @nogc. У объявления внешней функции нет тела, которое можно проверить, поэтому пометка @nogc на FFI — договорённость между D и библиотекой, а не аудит её реализации. Она также не отменяет блокировку сокета, ожидание сети или правила владения буфером. Это контракт участка D-кода, а не сертификат всего request path.

\n

Модель одного запроса

\n

Рассмотрим учебный endpoint, который принимает два целых числа и возвращает их сумму. Вход — sum(19, 23). Успешный ответ — {"requestId":"runtime-training-42","total":42}. Ошибочный вход должен остановиться после validation и вернуть код ошибки. В модель добавим два fixture-варианта: allocation-heavy создаёт больше временных значений, а reuse переиспользует промежуточный буфер. Оба обязаны выполнить одинаковые этапы и вернуть одинаковый результат.

\n
Симптом, причина, проверка и действие
СимптомПричина-гипотезаПроверкаДействие
Растёт число временных объектовПовторное создание строк или массивовСравнить allocation profile на одинаковом входеУменьшить временное состояние локально и повторить тест
Есть пауза около allocationGC начал цикл после запроса памятиСопоставить профиль GC, thread stop и request traceПроверить размер и частоту allocation; не отключать GC глобально
Долгий участок после перехода в CFFI-вызов блокирует или копирует данныеЗамерить границу до и после foreign callПроверить ABI, ownership, timeout и error route
Путь ждёт внешнюю системуСеть, файл или database I/OРазделить время ожидания и вычисленияПроверить timeout, retry и отмену отдельно от GC
Валидный и невалидный входы имеют один traceОшибка проходит в computeЗапустить error input и проверить отсутствие computeЗакрыть error route тестом до оптимизации
\n
\"Сравнение
Схема сравнивает учебные allocation units по этапам request path. Числа и границы относятся к fixture: это не production-телеметрия, не байты и не benchmark.
\n

В модели есть два разных порога. Первый — выбранный командой budget в шесть allocation units: он отвечает на вопрос «проходит ли fixture нашу проверку». Второй — условная model boundary в восемь units, которую trace помечает как повод проверить GC-гипотезу. Heavy-вариант получает двенадцать units и пересекает оба порога, reuse — три и не пересекает ни один. Ни один из порогов не является лимитом DRuntime. Оба варианта должны иметь одинаковые work units, status и body. Если reuse «выигрывает» за счёт пропущенного validation или укороченного ответа, сравнение недействительно.

\n

Конкретный код: граница, а не волшебная кнопка

\n

Ниже — маленький самодостаточный пример на D. Он показывает три разных утверждения: @nogc ограничивает проверяемую функцию, nothrow относится к исключениям, а extern(C) задаёт соглашение вызова. Ни одно из них само по себе не описывает задержку и владение памятью во внешней библиотеке.

\n
struct Request\n{\n    int left;\n    int right;\n}\n\n@nogc nothrow\nint addChecked(int left, int right)\n{\n    // Здесь нет dynamic array, new или вызова неизвестной функции.\n    return left + right;\n}\n\nextern(C) @nogc nothrow\nint foreign_sum(const(int)* value);\n\n@nogc nothrow\nint callForeign(const(int)* value)\n{\n    // Компилятор проверяет только контракт объявления.\n    return foreign_sum(value);\n}\n\n@nogc nothrow\nint handle(Request request)\n{\n    return addChecked(request.left, request.right);\n}
\n

Теперь пример самодостаточен на уровне типов: Request объявлен, а вызов FFI вынесен в отдельную функцию. Компилятор видит только объявление foreign_sum; реализация C может иметь свои аллокации и ожидание, если контракт библиотеки это допускает. extern(C) задаёт соглашение вызова, но не описывает ownership, срок жизни указателя, блокировку или timeout. Реальная C-функция должна подтвердить эти свойства отдельным контрактным тестом.

\n

Если API принимает указатель на память GC, надо согласовать срок жизни и корень, который сборщик видит. Документация D отдельно предупреждает: если единственный указатель на объект хранится вне областей, которые сканирует GC, объект может быть освобождён. Для буфера, которым владеет C-библиотека, безопаснее использовать её аллокатор и её освобождение по явному контракту. D-код не должен освобождать такой буфер своим аллокатором. Нарушение ownership — самостоятельная ошибка, даже когда GC не запускался.

\n

Не стоит начинать с глобального GC.disable(). Такой вызов меняет условия всего процесса: он отключает обычные циклы, но не запрещает GC-аллокации, а при невозможности получить память у ОС сборщик всё равно может запуститься как последний шанс. Короткий тест поэтому может скрыть паузу и одновременно увеличить heap. Локальную гипотезу проверяйте локальным изменением: уберите временную конкатенацию, переиспользуйте буфер, ограничьте размер входа или вынесите внешний вызов за измеренную границу. Настройка runtime допустима только после профиля, с лимитом памяти и планом возврата.

\n

Как читать trace

\n

Сначала зафиксируйте вход, результат и ошибочный результат. Затем запишите этапы в порядке выполнения. У валидного запроса должны быть decode → validation → compute → encode. У невалидного — decode → validation → encode-error; compute, FFI и I/O не должны появляться без отдельной причины.

\n

После этого добавьте allocation units и рабочие units. В учебном примере heavy даёт 12 allocation units и пересекает model boundary 8, reuse даёт 3 и остаётся ниже. У обоих девять work units. Запись gc-boundary означает, что fixture пересекла выбранный порог. Она не означает паузу, остановку потока или реальный запуск сборщика. Для вывода о production нужны данные настоящего DRuntime и настоящего процесса.

\n

Удобный формат записи trace можно сделать обычным JSON, чтобы его можно было сохранить рядом с запуском и сравнить без интерпретации D-кода:

\n
[\n  {"stage":"decode"},\n  {"stage":"validation","result":"ok"},\n  {"stage":"compute","workUnits":9},\n  {"stage":"allocation","units":12},\n  {"stage":"gc-boundary","status":"observed-in-model"},\n  {"stage":"ffi","status":"not-performed"},\n  {"stage":"io","status":"not-performed"},\n  {"stage":"encode","status":"success","total":42}\n]
\n

Это fixture, а не исполняемый D-код. Минимальная проверка его воспроизводимости — убедиться, что последний этап успешного прогона содержит total:42, FFI и I/O имеют статус not-performed, а значение gc-boundary нигде не выдаётся за измеренную паузу.

\n

Порядок действий

\n
  1. Назовите один endpoint, один вход, success body и error body. Не используйте «медленный runtime» как единственный симптом.
  2. Разметьте путь как decode, validation, compute и encode. Отдельно отметьте GC, FFI и I/O.
  3. Запустите валидный и невалидный входы. Проверьте status, body и порядок этапов.
  4. Сравните варианты только при равных work units. Зафиксируйте allocation profile, budget 6 и model boundary 8.
  5. Если меняется только локальное временное состояние, внесите обратимую правку и повторите тот же набор входов.
  6. Если след указывает на FFI или I/O, измерьте границу отдельно и проверьте ownership, ABI, timeout и retry.
  7. Только после этого собирайте реальный профиль с версиями compiler и DRuntime, платформой, размером входа и методом измерения.
\n

Ограничения и отрицательный путь

\n

Модель не запускает D compiler, GC, HTTP, сеть, файл, database, foreign code или profiler. Она не измеряет throughput, latency, RSS, pause time, thread scheduling или размер heap. Учебные allocation units нельзя переносить в настройки процесса. Схема также не доказывает, что переиспользование буфера полезно для любого размера входа: оно может увеличить сложность, удерживать память дольше и создать ошибку среза.

\n

Отрицательный путь должен остаться видимым. Если validation не проходит, handler не должен вызывать compute. Если allocation budget превышен, это повод остановить конкретную гипотезу и собрать профиль, а не повод отключить GC. Если FFI не имеет ясного ownership или timeout, безопасное действие — не расширять его использование. Если I/O не разделено на connect, wait и decode, сначала уточните измерение. Неопределённость — результат проверки, а не разрешение угадывать.

\n

Готовность можно проверить тремя условиями. Один и тот же валидный вход даёт один и тот же status и body до и после изменения. Невалидный вход останавливается до compute и не создаёт скрытый внешний вызов. Для заявленной границы сохранён trace с версиями compiler и DRuntime, окружением и фактическим измерением; учебная модель явно помечена как fixture. Если хотя бы одно условие не выполнено, оптимизация не закрыта.

\n

Проверяемые источники

\n" }