Хпа: Хлебопекарня автомобильная ХПА-0,4

Горизонтальное масштабирование означает, что в ответ на увеличение нагрузки развертывается больше стручки. Это отличается от вертикального масштабирования , которое для Kubernetes означало бы выделение дополнительных ресурсов (например, памяти или ЦП) модулям, которые уже работает для нагрузки.

Если нагрузка снижается, а количество Pod превышает настроенный минимум, HorizontalPodAutoscaler инструктирует ресурс рабочей нагрузки (Deployment, StatefulSet, или другой подобный ресурс), чтобы уменьшить масштаб.

Горизонтальное автомасштабирование модуля не применяется к объектам, которые нельзя масштабировать (например: a DaemonSet.)

HorizontalPodAutoscaler реализован как ресурс API Kubernetes и контроллер. Ресурс определяет поведение контроллера. Горизонтальный контроллер автоматического масштабирования модуля, работающий в Kubernetes. плоскость управления, периодически корректирует желаемый масштаб своей цели (например, развертывание) для соответствия наблюдаемым показателям, таким как средний Загрузка ЦП, среднее использование памяти или любая другая пользовательская метрика, которую вы укажете.

Пошаговый пример использования горизонтальное автомасштабирование pod.

Как работает HorizontalPodAutoscaler?

граф БТ hpa[Horizontal Pod Autoscaler] —> масштаб[Масштаб] подграф rc[RC / Развертывание] шкала конец масштаб —> pod1[Pod 1] шкала —> pod2[Pod 2] масштаб —> pod3[Pod N] classDef hpa fill: # D5A6BD, штрих: # 1E1E1D, ширина штриха: 1 пиксель, цвет: # 1E1E1D; classDef rc fill: # F9CB9C, штрих: # 1E1E1D, ширина штриха: 1 пиксель, цвет: # 1E1E1D; Заливка шкалы classDef: #B6D7A8, обводка: # 1E1E1D, ширина обводки: 1px, цвет: # 1E1E1D; Заполнение модуля classDef:#9FC5E8, обводка: # 1E1E1D, ширина обводки: 1 пиксель, цвет: # 1E1E1D; класс хпа хпа; класс RC RC; шкала шкалы классов; class pod1,pod2,pod3 pod

JavaScript должен быть включен для просмотра этого содержимого

(это не непрерывный процесс). Интервал устанавливается --horizontal-pod-autoscaler-sync-period параметр к куб-контроллер-менеджер (и интервал по умолчанию составляет 15 секунд).

Один раз в течение каждого периода диспетчер контроллера запрашивает использование ресурсов по сравнению с метрики, указанные в каждом определении HorizontalPodAutoscaler. Менеджер контроллера находит целевой ресурс, определенный scaleTargetRef , затем выбирает модули на основе меток .spec.selector целевого ресурса и получает метрики либо из API метрик ресурсов (для метрик ресурсов для каждого модуля), или API пользовательских метрик (для всех остальных метрик).

• Для показателей ресурсов каждого модуля (например, ЦП) контроллер извлекает показатели из API метрик ресурсов для каждого модуля, на который нацелен HorizontalPodAutoscaler. Затем, если задано целевое значение использования, контроллер рассчитывает коэффициент использования стоимость в процентах от эквивалента запрос ресурсов на контейнерах в каждом Pod. Если задано целевое необработанное значение, необработанные значения метрик используются напрямую. Затем контроллер берет среднее значение использования или необработанное значение (в зависимости от типа указанной цели) по всем целевым модулям и дает соотношение, используемое для масштабирования количество желаемых реплик.

  Обратите внимание, что если для некоторых контейнеров пода не установлен соответствующий запрос ресурсов, Использование ЦП для модуля не будет определено, и автомасштабирование будет не предпринимать никаких действий для этой метрики. См. раздел деталей алгоритма ниже. для получения дополнительной информации о том, как работает алгоритм автомасштабирования.

• Для пользовательских метрик для каждого модуля контроллер работает аналогично метрикам ресурсов для каждого модуля. за исключением того, что он работает с необработанными значениями, а не со значениями использования.

• Для метрик объекта и внешних метрик выбирается одна метрика, которая описывает рассматриваемый объект. Этот показатель сравнивается с целевым значение, чтобы получить соотношение, как указано выше. В API автомасштабирования /v2 версии, это значение можно по желанию разделить на количество подов перед производится сравнение.

Как правило, HorizontalPodAutoscaler используется для получения метрик из агрегированные API ( metrics.k8s.io , custom.metrics.k8s.io или external.metrics.k8s.io ). API metrics.k8s.io обычно предоставляется надстройкой под названием Metrics Server, которую необходимо запускать отдельно. Дополнительные сведения о показателях ресурсов см. Сервер метрик.

Поддержка API метрик объясняет гарантии стабильности и статус поддержки для них разные API.

Контроллер HorizontalPodAutoscaler обращается к соответствующим ресурсам рабочей нагрузки, поддерживающим масштабирование (например, к ресурсам Deployments). и StatefulSet). Каждый из этих ресурсов имеет подресурс с именем 9. 0406 шкала , интерфейс, позволяющий динамически устанавливать количество реплик и проверить каждое из их текущих состояний. Общие сведения о подресурсах в Kubernetes API см. Концепции API Kubernetes.

Сведения об алгоритме

С самой общей точки зрения контроллер HorizontalPodAutoscaler работает на соотношении между желаемым значением метрики и текущей метрикой значение:

 требуемые реплики = ceil [текущие реплики * ( текущее значение метрики / значение желаемой метрики )]
 

Например, если текущее значение метрики 200 м , а желаемое значение равно 100m , количество реплик будет удвоено, поскольку 200,0 / 100,0 == 2,0 реплики, начиная с 50,0/100,0 == 0,5 . Плоскость управления пропускает любое масштабирование действие, если соотношение достаточно близко к 1,0 (в пределах глобально настраиваемого допуск, по умолчанию 0,1).

Когда targetAverageValue или указано targetAverageUtilization , currentMetricValue вычисляется путем взятия среднего значения заданного метрика для всех модулей в целевом масштабе HorizontalPodAutoscaler.

Перед проверкой допуска и принятием окончательного решения контроль plane также учитывает, отсутствуют ли какие-либо показатели и сколько модулей Готов . Все поды с установленной отметкой времени удаления (объекты с отметкой времени удаления в процессе закрытия/удаления) игнорируются, а все неисправные поды отбрасываются.

Если в конкретном поде отсутствуют метрики, он откладывается на потом; стручки с отсутствующими метриками будет использоваться для корректировки окончательной величины масштабирования.

При масштабировании на ЦП, если какой-либо модуль еще не готов (он все еще инициализируется или, возможно, неисправен) или самая последняя точка метрики для стручок был до того, как он стал готовым, этот стручок также отложен.

Из-за технических ограничений контроллер HorizontalPodAutoscaler не может точно определить, когда модуль становится готовым в первый раз, когда определение того, следует ли откладывать определенные показатели ЦП. Вместо этого это считает под «еще не готовым», если он не готов и перешел на готов в течение короткого, настраиваемого окна времени с момента его запуска. Это значение настраивается с помощью --horizontal-pod-autoscaler-initial-readiness-delay флаг, по умолчанию 30 секунды. Как только модуль готов, он рассматривает любой переход к готов быть первым, если это произойдет в течение более длительного, настраиваемого времени с тех пор, как это началось. Это значение настроено с флагом --horizontal-pod-autoscaler-cpu-initialization-period , и его по умолчанию 5 минут.

Базовое соотношение масштаба currentMetricValue / requiredMetricValue рассчитывается с использованием оставшихся стручков, не отложенных или отброшенных сверху.

Если отсутствуют какие-либо показатели, плоскость управления повторно вычисляет среднее значение. консервативно, предполагая, что эти стручки потребляли 100% желаемого значение в случае уменьшения масштаба и 0% в случае увеличения масштаба. Это ослабляет величина любого потенциального масштаба.

Кроме того, если бы присутствовали какие-либо еще не готовые модули, а рабочая нагрузка масштабируется без учета недостающих метрик или еще не готовых модулей, контроллер консервативно предполагает, что еще не готовые поды потребляют 0% желаемой метрики, что еще больше снижает масштаб увеличения.

После учета еще не готовых модулей и отсутствующих метрик контроллер пересчитывает коэффициент использования. Если новое соотношение меняет масштаб направлении или находится в пределах допуска, контроллер не выполняет никакого масштабирования действие. В других случаях новое соотношение используется для принятия решения о любых изменениях в количество стручков.

Обратите внимание, что указывается исходное значение для среднего использования обратно через статус HorizontalPodAutoscaler, без учета еще не готовые модули или отсутствующие показатели, даже если новый коэффициент использования использовал.

Если в HorizontalPodAutoscaler указано несколько метрик, это расчет делается для каждой метрики, а затем наибольшая из искомых количество реплик выбрано. Если какой-либо из этих показателей не может быть преобразован в желаемое количество реплик (например, из-за ошибки при получении метрик из API метрик), а уменьшение масштаба предлагается метриками, которые могут быть извлечены, масштабирование пропускается. Это означает, что HPA по-прежнему способен масштабирования, если одна или несколько метрик дают 90 406 желательных реплик больше, чем текущее значение.

Наконец, непосредственно перед тем, как HPA масштабирует цель, записывается рекомендация по масштабированию. контроллер рассматривает все рекомендации в настраиваемом окне, выбирая самая высокая рекомендация из этого окна. Это значение можно настроить с помощью флага —horizontal-pod-autoscaler-downscale-стабилизации , который по умолчанию равен 5 минутам. Это означает, что масштабирование будет происходить постепенно, сглаживая влияние быстрых изменений. колеблющиеся значения показателей.

API Object

Horizontal Pod Autoscaler — это ресурс API в Kubernetes. автомасштабирование группа API. Текущую стабильную версию можно найти в версия autoscaling/v2 API, которая включает поддержку масштабирования на память и пользовательские метрики. Новые поля, введенные в autoscaling/v2 сохраняются в виде аннотаций при работе с автомасштабирование/v1 .

При создании объекта API HorizontalPodAutoscaler убедитесь, что указанное имя является допустимым. DNS-имя поддомена. Более подробную информацию об объекте API можно найти по адресу Объект HorizontalPodAutoscaler.

Стабильность масштаба рабочей нагрузки

При управлении масштабом группы реплик с помощью HorizontalPodAutoscaler возможно, что количество реплик часто колеблется из-за динамический характер оцениваемых показателей. Иногда это называют , взбивающим , или взмах . Это похоже на концепцию гистерезиса в кибернетике.

Автомасштабирование во время последовательного обновления

Kubernetes позволяет выполнять последовательное обновление развертывания. В этом В этом случае развертывание управляет базовыми наборами реплик для вас. Когда вы настраиваете автомасштабирование для развертывания, вы привязываете HorizontalPodAutoscaler для одного развертывания. HorizontalPodAutoscaler управляет реплик поле Deployment. Контроллер развертывания отвечает для установки реплик базовых наборов реплик так, чтобы они складывались в подходящий номер во время развертывания, а также после него.

Если вы выполняете последовательное обновление StatefulSet с автоматически масштабируемым числом реплик, StatefulSet напрямую управляет своим набором подов (нет промежуточных ресурсов). аналогично ReplicaSet).

Поддержка показателей ресурсов

Любую цель HPA можно масштабировать на основе использования ресурсов модулями в цели масштабирования. При определении спецификации модуля ресурс запрашивает, например, процессор и память должны быть указано. Это используется для определения использования ресурсов и используется контроллером HPA. масштабировать цель вверх или вниз. Чтобы использовать масштабирование на основе использования ресурсов, укажите источник метрик. вот так:

 тип: Ресурс
ресурс:
  имя: процессор
  цель:
    Тип: Использование
    среднийИспользование: 60
 

С помощью этой метрики контроллер HPA будет поддерживать среднее использование модулей при масштабировании. цель 60%. Использование — это отношение текущего использования ресурса к запрошенному. ресурсы пода. См. Алгоритм для получения более подробной информации о том, как использование рассчитывается и усредняется.

Примечание: Поскольку использование ресурсов всех контейнеров суммируется, общее использование pod не может точно представлять использование ресурсов отдельного контейнера. Это может привести к ситуациям, когда один контейнер может работать с высокой нагрузкой, и HPA не будет масштабироваться, потому что общий использование pod по-прежнему находится в допустимых пределах.

Показатели ресурсов контейнера

СОСТОЯНИЕ ФУНКЦИИ: Kubernetes v1. 20 [alpha]

API HorizontalPodAutoscaler также поддерживает источник метрик контейнера, в котором HPA может отслеживать использование ресурсов отдельных контейнеров в наборе модулей для масштабирования целевого ресурса. Это позволяет настроить пороговые значения масштабирования для наиболее важных контейнеров в конкретном поде. Например, если у вас есть веб-приложение и вспомогательная функция ведения журнала, вы можете масштабировать его в зависимости от ресурса. использование веб-приложения, игнорируя контейнер sidecar и использование его ресурсов.

Если вы измените целевой ресурс, чтобы получить новую спецификацию Pod с другим набором контейнеров, вам следует пересмотреть спецификацию HPA, если этот недавно добавленный контейнер также должен использоваться для масштабирование. Если указанный контейнер в источнике метрик отсутствует или присутствует только в подмножестве модулей, то эти модули игнорируются, а рекомендация пересчитывается. См. Алгоритм подробнее о расчете. Чтобы использовать ресурсы контейнера для автомасштабирования, определите метрику источник следующим образом:

 тип: ContainerResource
контейнерРесурс:
  имя: процессор
  контейнер: приложение
  цель:
    Тип: Использование
    среднийИспользование: 60
 

В приведенном выше примере контроллер HPA масштабирует цель таким образом, чтобы среднее использование процессора в приложении контейнер всех подов составляет 60%.

Масштабирование по пользовательским метрикам

СОСТОЯНИЕ ФУНКЦИИ: Kubernetes v1.23 [стабильная]

(автоматическое масштабирование /v2beta2 9Версия API 0407 ранее предоставляла эту возможность в качестве бета-функции)

При условии, что вы используете версию API autoscaling/v2 , вы можете настроить HorizontalPodAutoscaler для масштабирования на основе пользовательской метрики (которая не встроена в Kubernetes или какой-либо компонент Kubernetes). Затем контроллер HorizontalPodAutoscaler запрашивает эти настраиваемые метрики из Kubernetes. API.

Требования см. в разделе Поддержка API метрик.

Масштабирование по нескольким показателям

СОСТОЯНИЕ ФУНКЦИИ: Kubernetes v1.23 [стабильная]

(версия API autoscaling/v2beta2 ранее предоставляла эту возможность в качестве бета-функции)

При условии, что вы используете API autoscalingv2 , вы можете указать несколько показателей для HorizontalPodAutoscaler для масштабирования. Затем контроллер HorizontalPodAutoscaler оценивает каждую метрику, и предлагает новую шкалу на основе этой метрики. HorizontalPodAutoscaler принимает максимальный масштаб рекомендуется для каждой метрики, и устанавливает рабочую нагрузку на этот размер (при условии, что он не превышает общий максимум, который вы настроили).

Поддержка API метрик

По умолчанию контроллер HorizontalPodAutoscaler извлекает метрики из ряда API. Для того, чтобы получить доступ к этим API, администраторы кластера должны убедиться, что:

• Уровень агрегации API включен.

• Зарегистрированы соответствующие API:

  • Для метрик ресурсов это metrics.k8s.io API, обычно предоставляемый metrics-server. Его можно запустить как надстройку кластера.

  • Для пользовательских метрик это API custom.metrics.k8s.io . Он предоставляется серверами API «адаптера», предоставляемыми поставщиками решений для метрик. Проверьте свой конвейер метрик, чтобы узнать, доступен ли адаптер метрик Kubernetes.

  • Для внешних метрик это API external.metrics.k8s.io . Это может быть предоставлено пользовательскими адаптерами метрик, указанными выше.

Для получения дополнительной информации об этих различных путях метрик и их различиях см. соответствующие предложения по дизайну для HPA V2, custom.metrics.k8s.io и external. metrics.k8s.io.

Примеры их использования см. в пошаговом руководстве по использованию пользовательских метрик. и пошаговое руководство по использованию внешних метрик.

Настраиваемое поведение масштабирования

Состояние функции: Kubernetes v1.23 [Стабильная]

( Autoscaling/V2beta2 API -версия предварительно предоставил эту способность AS ATATA)

. HorizontalPodAutoscaler API, вы можете использовать поле поведения (см. справочник по API) для настройки отдельных режимов увеличения и уменьшения масштаба. Вы указываете эти поведения, устанавливая масштабирование вверх и/или масштабирование вниз в поле поведения .

Вы можете указать окно стабилизации , которое предотвращает взмахи количество реплик для цели масштабирования. Политики масштабирования также позволяют контролировать скорость смены реплик при масштабировании.

Политики масштабирования

Одну или несколько политик масштабирования можно указать в разделе поведения спецификации. Если указано несколько политик, та политика, которая разрешает наибольшее количество change — это политика, выбранная по умолчанию. В следующем примере показано такое поведение при уменьшении:

 поведение:
  уменьшать:
    политики:
    - тип: стручки
      значение: 4
      периодСекунды: 60
    - тип: Процент
      значение: 10
      периодСекунды: 60
 

periodSeconds указывает период времени в прошлом, в течение которого политика должна быть верна. Первая политика (Pods) позволяет масштабировать не более 4 реплик за одну минуту. Вторая политика (Процент) позволяет уменьшить не более 10 % текущих реплик за одну минуту.

Поскольку по умолчанию выбрана политика, допускающая максимальное количество изменений, будет выбрана вторая политика. использоваться только в том случае, если количество реплик модуля превышает 40. При наличии 40 или менее реплик будет применяться первая политика. Например, если имеется 80 реплик, и цель должна быть уменьшена до 10 реплик. то на первом шаге будет уменьшено 8 реплик. На следующей итерации, когда число реплик — 72, 10% подов — 7,2, но число округляется до 8. На каждом цикле контроллер автомасштабирования количество изменяемых модулей пересчитывается на основе количества текущих реплик. Когда количество реплик падает ниже 40, первая политика (Pods) применяется и 4 реплики будут уменьшены за раз.

Выбор политики можно изменить, указав поле selectPolicy для масштабирования направление. Установив значение Min , которое выберет политику, которая разрешает наименьшее изменение количества реплик. Установка значения Disabled полностью отключает масштабирование в этом направлении.

Окно стабилизации

Окно стабилизации используется для ограничения взмахов число реплик, когда метрики, используемые для масштабирования, продолжают колебаться. Алгоритм автомасштабирования использует это окно, чтобы определить предыдущее желаемое состояние и избежать нежелательных изменений рабочей нагрузки. шкала.

Например, в следующем фрагменте примера окно стабилизации указано для scaleDown .

 поведение:
  уменьшать:
    стабилизацияWindowSeconds: 300
 

Когда метрики указывают, что цель должна быть уменьшена, алгоритм выглядит в ранее вычисленные желаемые состояния и использует наибольшее значение из указанного интервал. В приведенном выше примере будут учитываться все желаемые состояния за последние 5 минут.

Приближается к скользящему максимуму и позволяет избежать частого применения алгоритма масштабирования. удаляйте поды только для того, чтобы вызвать повторное создание эквивалентного пода через несколько мгновений.

Поведение по умолчанию

Для использования пользовательского масштабирования не обязательно указывать все поля. Только те значения, которые должны быть можно указать индивидуальные. Эти пользовательские значения объединяются со значениями по умолчанию. Значения по умолчанию соответствовать существующему поведению в алгоритме HPA.

 поведение:
  уменьшать:
    стабилизацияWindowSeconds: 300
    политики:
    - тип: Процент
      значение: 100
      периодСекунды: 15
  увеличить масштаб:
    стабилизацияWindowSeconds: 0
    политики:
    - тип: Процент
      значение: 100
      периодСекунды: 15
    - тип: стручки
      значение: 4
      периодСекунды: 15
    selectPolicy: макс.
 

Для уменьшения окна стабилизации 300 секунд (или значение --horizontal-pod-autoscaler-downscale-stabilization флаг , если он предоставлен). Есть только одна политика для уменьшения масштаба, что позволяет удалить 100% запущенных в данный момент реплик, что означает, что цель масштабирования может быть уменьшена до минимально допустимого количества реплик. Для масштабирования нет окна стабилизации. Когда показатели указывают на то, что цель должна быть масштабируется, цель увеличивается немедленно. Есть 2 политики, в которых 4 модуля или 100 % текущего работающие реплики будут добавляться каждые 15 секунд, пока HPA не достигнет своего устойчивого состояния.

Пример: изменение окна стабилизации понижения масштаба

поведение будет добавлено в HPA:

 поведение:
  уменьшать:
    стабилизацияWindowSeconds: 60
 

Пример: ограничение скорости уменьшения масштаба

Чтобы ограничить скорость удаления стручков HPA до 10 % в минуту, следующее поведение будет добавлено в HPA:

 поведение:
  уменьшать:
    политики:
    - тип: Процент
      значение: 10
      периодСекунды: 60
 

Чтобы обеспечить удаление не более 5 модулей в минуту, вы можете добавить второй политики с фиксированным размером 5 и установите selectPolicy на минимум. Параметр selectPolicy от до Min означает что средство автомасштабирования выбирает политику, которая влияет на наименьшее количество модулей Pod:

 поведение:
  уменьшать:
    политики:
    - тип: Процент
      значение: 10
      периодСекунды: 60
    - тип: стручки
      значение: 5
      периодСекунды: 60
    selectPolicy: Мин. 
 

Пример: отключить уменьшение масштаба

Значение selectPolicy , равное Disabled , отключает масштабирование в заданном направлении. Таким образом, для предотвращения уменьшения масштаба будет использоваться следующая политика:

 поведение:
  уменьшать:
    selectPolicy: отключено
 

Поддержка HorizontalPodAutoscaler в kubectl

HorizontalPodAutoscaler, как и любой ресурс API, стандартно поддерживается kubectl . Вы можете создать новый автомасштабатор, используя kubectl создать команду . Вы можете перечислить автоскейлеры по kubectl get hpa или получить подробное описание по kubectl описать hpa . Наконец, вы можете удалить автоскейлер, используя kubectl delete hpa .

Кроме того, существует специальная команда kubectl autoscale для создания объекта HorizontalPodAutoscaler. Например, выполнение kubectl autoscale rs foo --min=2 --max=5 --cpu-percent=80 создаст автомасштабатор для ReplicaSet foo , с целевым использованием ЦП, установленным на 80% и количество реплик от 2 до 5.

Неявная деактивация режима обслуживания

Вы можете неявно деактивировать HPA для цели без необходимо изменить саму конфигурацию HPA. Если желаемое количество реплик цели установлено значение 0, а минимальное количество реплик HPA больше 0, HPA прекращает настройку цели (и устанавливает условие ScalingActive на себя к ложь ) до тех пор, пока вы не активируете его, вручную отрегулировав желаемое значение цели. количество реплик или минимальное количество реплик HPA.

Миграция развертываний и StatefulSet на горизонтальное автомасштабирование

Когда HPA включен, рекомендуется, чтобы значение spec.replicas Deployment и/или StatefulSet должны быть удалены из их манифест(ы). Если этого не сделать, в любое время изменение этого объекта применяется, например, через kubectl apply -f deployment.yaml , это даст указание Kubernetes масштабировать текущее количество подов. к стоимости спец.реплики ключ. Это не может быть желательно и может быть проблематичным, когда HPA активен.

Имейте в виду, что удаление спец. реплик может повлечь за собой единовременное снижение количества подов, так как значение этого ключа по умолчанию равно 1 (ссылка реплики развертывания). После обновления все модули, кроме 1, начнут процедуры закрытия. Любой после этого приложение развертывания будет вести себя как обычно и соблюдать скользящий обновить конфигурацию по желанию. Вы можете избежать этого ухудшения, выбрав один из следующих двух методы, основанные на том, как вы изменяете свои развертывания:

• Применение на стороне клиента (значение по умолчанию)
• Применение на стороне сервера

1. kubectl apply edit-last-applied deployment/
2. В редакторе удалите spec.04replicas 904.0 При сохранении и выходе из редактора kubectl применяет обновление. На этом этапе никаких изменений в количестве подов не происходит.

   No related posts.