Производительность .NET: приемы настоящего джедая

    Нужно ли вам представлять настоящего джедая .NET, performance-гуру, многократного Microsoft MVP, постоянного спикера конференции DotNext Сашу Гольдштейна? Наверно, не стоит. А если вдруг стоит, смотрите здесь.



    В нашей беседе Саша делится профессиональными советами для разработчиков .NET и .NET Core. Рассказывает о том, на что обращать внимание при профилировании и отладке приложений и какими инструментами пользоваться.

    — Саша, про производительность в .NET есть много статей и советов. Начиная с того, что нежелательно увлекаться повсеместным выбрасыванием исключений и использованием StringBuilder вместо конкатенации, заканчивая низкоуровневыми оптимизациями. Но .NET постоянно развивается, появляются новые возможности и новые проблемы. Для современного .NET 4.7 можешь дать какие-либо советы прикладного характера по оптимизации производительности кода?

    Саша Гольдштейн: Многие уже знакомы с «очевидными» советами о конкатенации строк, исключениях или boxing/unboxing, но все же существуют некоторые заблуждения относительно производительности при появлении новых или более высокоуровневых API. Меня беспокоит чрезмерное использование LINQ во многих кодовых базах. Несмотря на то, что с момента появления LINQ прошло много лет и есть много данных, показывающих, что большинство запросов LINQ можно сделать в 10 раз быстрее, используя обычные циклы, люди до сих пор частенько прибегают к использованию LINQ в коде, чувствительном к производительности. Уточню: я не имею ничего против LINQ в целом, но такое решение не будет работать хорошо, если ваш цикл работает 1 миллион раз.

    Еще одна вещь, которую нам не удалось вложить в головы всем, — опасность чрезмерного выделения памяти. Сборщик мусора в .NET привнес некоторые улучшения, но он по-прежнему не помогает, если вы выделяете слишком много, особенно — на объекты, которые в конечном итоге умирают в старых поколениях. Трудно научить всех внимательнее относиться к проблеме выделения памяти, хотя с некоторыми инструментами это становится легче. Например, Heap Allocation Analyzer на Roslyn или профилировщики, такие как dotMemory.

    Последнее замечание, которое я хотел бы сделать, заключается в том, что мы возвращаемся к временам, когда минимальные объемы памяти и время запуска становятся критическими для серверных приложений (а не только для рабочих станций) из-за контейнерных технологий. Если мы планируем упаковать 300 экземпляров микросервиса, работающего в Docker на одном физическом хосте, то нам нужно быть очень осторожными с управлением памятью, избегать ненужных зависимостей и избавляться от ненужной работы. Когда вы привыкли к 16-ядерным 32-гигабайтным серверам в качестве стандартной среды выполнения, вас отрезвит попытка сжать ваш сервис в «--memory 256m --cpus 0.25». Кстати, мы сталкиваемся с теми же проблемами в отношении «бессерверных» технологий, но блок развертывания настолько мал, что обычно легче жить с ограничениями ресурсов.

    — Сегодня .NET не только для Windows. Появились Mono и .NET Core. Скажи, насколько хороши эти инструменты с точки зрения производительности, особенно в сравнении с нативными приложениями под Linux?

    Саша Гольдштейн: Mono существует достаточно долго, но, честно говоря, я не использовал его в боевых проектах. Я знаю, что у него зрелый и достойный runtime, но Mono не получил того признания, на которое я рассчитывал. В любом случае, я не могу давать рекомендации относительно его эффективности.

    На сегодняшний день я могу рассказать подробнее о .NET Core. В Linux .NET Core использует более или менее похожий стек и кодовую базу, что и в Windows. Компилятор выполняет те же оптимизации, что и в Windows, есть способ избежать JIT-компиляцию, выполнив компиляцию AOT (которая называется Crossgen в .NET Core), есть сборщик мусора с некоторыми особенностями и так далее. Я бы сказал, что единственная часть .NET Core, которая может вызывать вопросы, — PAL (Platform Adaptation Layer), потому что это действительно единственное место, которое имеет совершенно отличную кодовую базу от Windows-версии. На самом деле в PAL существовали проблемы производительности, в основном вокруг неправильного использования API-интерфейса Linux или использования Linux API с непредвиденным поведением по производительности, в сравнении с аналогичным API в Windows. Эти морщины, естественно, будут сглажены с течением времени, поскольку все больше разработчиков используют .NET Core в продакшне и сталкиваются с этими проблемами.

    Интересна разработка, которая потребует времени для созревания, — CoreRT (.NET Native для Windows), которая в конечном итоге стремится создать управляемое приложение, не имеет внешних зависимостей и вообще не генерирует JIT. В дополнение к упрощению изоляции (без совместного использования, без установки, без управления зависимостями) CoreRT сократит время запуска и уменьшит объем памяти, «стряхнув» ненужный код. Это может подвинуть .NET еще ближе к native-приложениям в Linux.

    — Один из главных советов, который указывают практически во всех статьях о повышении производительности .NET, — это использование профилировщика. На DotNext 2017 Moscow ты будешь рассказывать про отладку и профилирование .NET Core приложений под Linux. Как обстоят дела у Visual Studio с отладкой и профилированием приложений под .NET Core?

    Саша Гольдштейн: Visual Studio в настоящее время не предлагает ничего для профилирования приложений .NET Core в Linux. Вы не можете использовать инструментарий Windows для профилирования приложений .NET Core — вам необходимо выполнить профилирование в Linux, и единственный способ фактического анализа результатов в Windows (если вы склонны к этому) — использовать PerfView, чуть более сложный инструмент по сравнению Visual Studio Profiler.

    Аналогично, Visual Studio не может открывать дампы ядра приложений .NET Core в Linux. Богатые данные отладчика, которыми вы пользуетесь при открытии файла дампа Windows в Visual Studio, не существуют для дампов ядра; функции анализа памяти, представленные в Visual Studio 2013, не работают для дампов ядра. На самом деле, нет инструмента под Windows, который может открыть дампы приложений из Linux. Для этого вам нужно использовать инструменты Linux, которые в настоящее время предлагают гораздо более широкие возможности.

    Как вы уже заметили, мне это не совсем нравится. Не могу сказать, что я очень удивлен. Несмотря на все те усилия, которые MS вкладывает в развитие платформы, и тот факт, что мы уже находимся на версии 2.0, у нас все еще нет хороших инструментов для профилирования и дебаггинга. И спустя три года после его анонса под Linux тут нет достойного профилировщика и отладчика, которым мог бы пользоваться средний разработчик. Это серьезное ограничение, лично меня это иногда выводит из себя. Я, честно, не рекомендую своим клиентам переключаться на .NET Core на Linux, так как знаю, что они будут биться об стену, когда попытаются отладить или профилировать свои production-приложения.

    — В мире Linux-разработки пользуются популярностью perf и ftrace, которые предоставляют неплохие возможности для анализа производительности приложений. Помогут ли они при отладке под .NET Core? Есть какие-либо отличия при использовании perf или ftrace для нативных приложений Linux и для приложений под .NET Core?

    Саша Гольдштейн: Да. Официально рабочий процесс для профилирования приложений .NET Core в Linux основан на perf. Microsoft предоставляет Bash-скрипт под названием «perfcollect», который запускает perf, собирает данные о производительности, объединяет их в один файл и предлагает вам открыть его в Windows с помощью PerfView. Давайте на мгновение проигнорируем смехотворность этой истории и поговорим о том, как работает этот процесс.

    Perf — многоцелевой инструмент со множеством различных режимов работы. В частности, он может использоваться как профилировщик. Подключаться к различным системным событиям, собирать трассировки стека при возникновении этих событий, а затем меппить адреса из этого трассировочного стека на имена методов. Он также обладает некоторыми возможностями визуализации, но их часто заменяют, например при помощи Flame Graphs. Теперь perf является не просто профилировщиком CPU: вы можете присоединить его к процессам, к событиям промахов кэш-памяти, к событиям записи или чтения диска, вы можете присоединить его к переключениям контекста планировщиком и другим тысячам дополнительных статических и динамических событий. Ближайшее, что у нас есть в Windows, — это инструмент ETW (например, PerfView, Windows Performance Recorder и т. д.), но perf может предложить динамическое инструментальное средство (присоединение к произвольной функции в ядре или в библиотеке пользовательского пространства), чего ETW сделать не сможет.

    При использовании perf для приложений .NET Core есть одна проблема, которую вам нужно преодолеть. Она связана с преобразованием адресов. Когда perf захватывает трассировку стека, ему необходимо иметь возможность маппить возвращаемые адреса в стеке на имена методов.

    Поскольку .NET Core использует JIT-компиляцию, нет статического местоположения, по которому можно сделать этот маппинг (debuginfo, symbols, неважно, как это называть). Способ, с помощью которого работает perf в этом случае, заключается в том, что он ожидает, что целевое приложение будет писать простой текстовый файл с именем /tmp/perf-$PID.map, который содержит сопоставления адресов методов с их именами.

    Действительно, .NET Core поддерживает это соглашение — если вы установите переменную среды «COMPlus_PerfMapEnabled» равной 1, JIT будет писать в этот текстовый файл каждый раз, когда метод скомпилируется, и perf сможет использовать эту информацию для успешного меппинга адресов. Немного жаль, что вам нужно сделать это заранее — если вы не задали переменную окружения и хотите профилировать уже запущенный процесс, вам не повезло — но также работает и Node.js, к примеру, поэтому я считаю, что это более или менее приемлемо.

    История имеет еще один поворот, на этот раз с AOT-скомпилированными сборками. Если вы используете Crossgen для AOT-компиляции (.NET Core использует его в некоторых своих сборках в пакете .NET Core, который вы получаете из диспетчера пакетов вашего дистрибутива), вам нужен еще один способ получить отладочную информацию для этих сборок.

    Инструмент Crossgen сам может генерировать эту информацию, если вы укажете это в Crossgen-скомпилированной сборке. Пока все хорошо, правда? Не совсем. Во-первых, Crossgen не ставится с .NET Core, поэтому вам нужно либо собрать CoreCLR из исходников, чтобы получить его, либо использовать дурацкий трюк NuGet-восстановления. Во-вторых, Crossgen выдает отладочную информацию в формате, который несовместим с тем, что ожидает perf, поэтому вам нужно форматировать и объединять свой вывод с основным map-файлом peft. И в-третьих, perf в настоящее время не поддерживает просмотр perf-maps-файлов для разделов памяти, которые записываются на диске, как это делает Crossgen. Поэтому даже если бы вы смогли получить хорошую perf-map для этих сборок, perf проигнорирует их. К счастью, есть и другие инструменты, которые все же будут работать в этом случае.

    Кстати, есть много других инструментов, которые «зажигаются» и работают с процессами .NET Core. В моем докладе на DotNext я буду использовать perf вместе с инструментами, основанными на BPF, от BCC. Мы обсуждали BPF и BCC несколько месяцев назад на конференции JPoint о профилировании JVM с BPF.

    — Хотелось бы задать несколько вопросов о LTTng. В официальной документации говорится, что в LTTng производительность поставлена во главу угла. Сохраняется ли это правило при трассировке .NET Core приложений? Есть ли какие-либо ограничения LTTng при использовании tracepoint или kprobes?

    Саша Гольдштейн: Давайте расставим точки над «и». LTTng — это мощный фреймворк для трассировки на Linux, который имеет два режима работы. У него есть модуль ядра, который может подключаться к tracepoint, являющимся статически определенными местоположениями трассировки, разбросанными по ядру: события планировщика, обращения к диску, выполнение процессов и т.д. Кроме того, LTTng имеет userspace-library, которая может использоваться для отслеживания событий в пользовательском приложении, и именно это использует .NET Core на Linux. В обоих случаях LTTng оптимизирован для высокой частоты срабатывания событий за счет буферов с общей памятью, компактного двоичного формата и быстрой записи на диск.

    Как вы, возможно, знаете, .NET на Windows имеет множество ETW-событий, которые могут использоваться для профилирования производительности и понимания поведения системы. К ним относятся события GC, сборка, компиляция JIT, создание объектов и многие другие. В Linux ETW (Event Tracing for Windows), конечно, недоступна, поэтому Microsoft предпочли использовать LTTng. Вы получаете те же самые события, но они создаются через LTTng, а не через ETW — и с несколькими оговорками.

    Во-первых, вы должны установить переменную окружения (COMPlus_EnableEventLog = 1). Если этого не сделать, никаких событий LTTng вообще не создаст. Во-вторых, LTTng не поддерживает трассировки стека для событий в пользовательском пространстве. Это означает, что вы можете перехватывать GC-события, но у вас нет стека вызовов, в котором они вызывались; вы можете перехватить события загрузки сборки, но вы не знаете, какой код загрузил эту сборку. Это очень болезненные моменты, которые ограничивают возможности использования этих событий в реальных сценариях устранения неполадок.

    — Отладчик LLDB под Linux очень похож на WinDbg под Windows. Для него даже доступно расширение SOS, которое позволяет отлаживать управляемый код. Насколько он применим уже сейчас для отладки .NET Code приложений?

    Саша Гольдштейн: LLDB — очень мощный отладчик, и Microsoft предоставляет библиотеку libsosplugin.so, которая является версией SOS.dll для Linux. Он предоставляет почти тот же набор команд с той же семантикой, что хорошо, если вы знакомы с SOS (хотя вам все равно придется изучать собственные команды LLDB, которые существенно отличаются от WinDbg). Но это не тема данного разговора, не так ли? Для LLDB с libsosplugin вам придется столкнуться со следующими препятствиями:

    • Плагины LLDB тесно связаны с конкретной версией LLDB. Поскольку libsosplugin.so поставляется с CLR, он построен для версии LLDB, используемой Microsoft в процессе их сборки, которая — на момент написания — была LLDB 3.6. Это довольно старая сборка LLDB, в которой есть множество известных ошибок, и на самом деле ее практически невозможно установить на множество современных дистрибутивов, не собирая из исходного кода.
    • LLDB до 4.0 не понимает дампы ядра, генерируемые по требованию, поэтому вы можете либо открывать дампы ядра, созданные в результате сбоя, либо присоединяться к запущенному процессу.
    • Когда вы открываете дамп ядра или присоединяетесь к работающему процессу, вы должны научить плагин SOS сопоставлять идентификаторы потоков ОС с идентификаторами управляемых потоков .NET. Если у вас 400 потоков, это действительно раздражает (у меня есть скрипт для этого).

    — Разработка качественного многопоточного приложения — сложное занятие. Но еще более сложное — поиск узких мест и ошибок в таком приложении. Чем могут пользоваться разработчики для дебага и профилирования мультипоточных приложений под .NET?

    Саша Гольдштейн: Об этом можно говорить сколь угодно долго, поэтому я буду краток. Существует несколько важных методов, которые можно автоматизировать с использованием современных инструментов:

    • Понимание того, какой код вызывает частые проблемы (блокировки, но не только). Это можно сделать, анализируя события переключения контекста.
    • Понимание распределения рабочей нагрузки между различными потоками. Это часто делается визуально, с использованием таких инструментов, как Visual Studio Concurrency Visualizer или функция временной шкалы в dotTrace.
    • Понимание различных видов oversubscription — удушение процессора (например, из-за контейнеров), проблемы приоритетов или просто отсутствие достаточного количества ядер для всех ваших потоков. Это можно сделать, анализируя автоматические события переключения задач и создавая гистограммы времен, в которые поток обрабатывается на CPU или ожидает своей очереди на обслуживание при условии отсутствия внутренних причин, препятствующих этому.

    — Какие доклады ты подготовил для DotNext 2017?

    Саша Гольдштейн: В Москве я расскажу о профилировании и отладке приложений .NET Core в Linux. Это результат многих месяцев исследований. Расскажу о некоторых инструментах и методах, которые упоминал выше, наряду с живыми демонстрациями общих проблем производительности в приложениях .NET Core. В качестве специального бонуса я покажу, как использовать некоторые из этих инструментов для профилирования приложения .NET Core, работающего в Docker-контейнере. Все мои демо доступны на GitHub, поэтому вы сможете экспериментировать с ними после конференции.

    А для тех, кто хочет полного погружения, 11 ноября в Москве состоится 8-часовой практический тренинг «Production Performance and Troubleshooting of .NET Applications», посвященный инструментам и подходам мониторинга и решения проблем с производительностью на проде.



    Если вы так же любите нутрянку .NET, как и мы, то вас могут заинтересовать выступления других экспертов на грядущей конференции DotNext 2017 Moscow, где выступят более 30 спикеров с докладами о настоящем и будущем платформы .NET, об оптимизации производительности и многопоточности, о внутреннем устройстве платформы .NET и CLR, о профилировании и отладке .NET-кода.
    JUG.ru Group 693,49
    Конференции для взрослых. Java, .NET, JS и др. 18+
    Поделиться публикацией
    Комментарии 14
    • +8
      Феноменальный человек, после короткого общения с которым, начинает казаться, что он знает все, абсолютно все, о мире windows, а .NET фреймворк он написал лично. Если вы хотите узнать что то новенькое про internals .net и как там шестеренки крутятся, то вы узнаете.
      • +3
        Согласен! Каждый раз, общаясь с Сашей, удивляюсь, насколько он глубоко погружается в тему и насколько хорошо у него получается все обьяснять.
      • +2
        Такие люди вызывают уважение. Спасибо за статью, было очень интересно почитать.
        • 0
          Может кто знает — JB собираются в скором времени запилять dotMemory и dotTrace под линукс?
          • 0
            Может DreamWalker расскажет?
            • +3

              Работаем в этом направлении, но сомневаюсь, что мы сможем что-то показать раньше середины 2018-го (там очень много сложных технических задач).

        • 0
          Очень полезно использовать (там где это возможно) сервисы типа New Relic или AppDynamics.

          Помогают видеть проблемы на реальном production environment
          • –2
            у нас все еще нет хороших инструментов для профилирования и дебаггинга

            эээ… ну и смысл тогда тут развозить кашу из компромиссов? Написать фигню, которая псевдокод превращает в «подставить ОСь»-программу — много ума не надо, тут и vi с gcc справятся! Весь смысл вообще касания Линукса в том и состоит, что нужны инструменты как минимум сопоставимые с виндусовыми — и тогда МОЖЕТ БЫТЬ этот сегмент станет кому-то интересен. Как минимум, смешно смотреть на потуги MS «быть везде», имея на руках нечто, называемое «платформой» и прибитой гвоздями к венде. При том, что уже есть Джаба с её противоречивым опытом — она вроде бы и «везде», а глянешь на виндософт — её как и не было никогда!
            По-моему, MS сейчас катится в тарары, но инвесторы пока хавают лапшу Наделлы про «мы вот-вот и уже покроем все платформы!». Качество продуктов упало и смена режима разработки на «вечную бетту» никак не прибавляет оптимизма.
            • +1
              Интересно, кто по-Вашему, может заменить МС после их падения, например, в сфере офисного документооборота
              • 0
                А чем вас google docs не устраивает?
                • 0
                  Например, как он с АД связывается? Никак, а значит, разрешения АДшные на работу со списками и документами ему не назначишь.
                  • 0
                    Так вы сами себе противоречите
                    может заменить МС после их падения
                    или вы рассматриваете вариант, что МС падет, а АД будет жить? :)

                    А если говорить в целом, то в google docs есть система прав на базе учеток из google apps. Так что никаких проблем не вижу. Мы кстати в свое время использовали Google Cloud Directory Sync, который синхронизировался с нашим OpenLDAP сервером и подтягивал всех пользователей и группы.
              • 0
                вечную бетту

                В точку. Работаю с Xamarin, и тех надежд на улучшение, что возникли во время присоединения Xamarin к MS, уже не осталось. По моему мнению, качество только упало (куда уж хуже!), а МС не то что не дали дополнительных ресурсов, а скорее пересадили часть разработчиков на .NET Core.

                мы вот-вот и уже покроем все платформы!

                Не сомневаюсь, что многие вещи в MS изначально планируются Windows-only, для Linux толком-то IDE нет. Для macOS хотя бы провели ребрендинг MonoDevelop -> VS for Mac.

              Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

              Самое читаемое