Kubernetes

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску
Kubernetes
Логотип программы Kubernetes
Скриншот программы Kubernetes
Тип свободное и открытое программное обеспечение, сертификация и container orchestrator[d]
Разработчики Google[2] и Cloud Native Computing Foundation[d]
Написана на Go[3][4]
Операционные системы Linux, Windows и macOS
Первый выпуск 7 июня 2014
Последняя версия
Репозиторий github.com/kubernetes/ku…
Лицензия Apache License 2.0[5]
Сайт kubernetes.io (англ.)
Логотип Викисклада Медиафайлы на Викискладе

Kubernetes (K8s[6]) — открытое программное обеспечение для оркестровки контейнеризированных приложений — автоматизации их развёртывания, масштабирования и координации в условиях кластера. Поддерживает основные технологии контейнеризации, включая Docker, rkt, также возможна поддержка технологий аппаратной виртуализации[7].

Оригинальная версия была разработана компанией Google для внутренних нужд, впоследствии система передана под управление Cloud Native Computing Foundation. Используются рядом крупных организаций и интернет-проектов, в частности, инфраструктура фонда Wikimedia Foundation перенесена с самостоятельно разработанного программного обеспечения для организации кластеров на Kubernetes.

Слово «Kubernetes» происходит от др.-греч. κυβερνήτης — кормчий, рулевой[6]. Часто также используется нумероним[en] «k8s»: в слове «kubernetes» восемь букв между «k» и «s», по аналогии с нумеронимом «i18n» — сокращённой версией от «internationalization».

История[править | править код]

Доклад «Google Container Engine» на Google Cloud Summit

Основные разработчики первых версий внутренней системы Google — программисты Джо Беда (Joe Beda), Брендан Бёрнс (Brendan Burns) и Крэйг Маклаки (Craig McLuckie[8]), в дальнейшем к проекту присоединились их коллеги Брайан Грант (Brian Grant) и Тим Хокин (Tim Hockin). Основной язык программирования системы — Go. На разработку и внутреннюю идеологию Kubernetes серьёзно повлиял другой продукт Google, оставшийся внутренней разработкой — система управления кластерами Google Borg[9][10], над которым ранее работал ряд ключевых разработчиков Kubernetes.

Оригинальное наименование проекта — Project Seven (отсылка к героине сериала Star Trek, возвращённой в индивидуальное и дружественное к людям состояние из статуса члена нечеловеческого роевого кибернетического разума Коллектива Боргов)[11]; семь ручек на штурвале логотипа проекта — аллюзия на этот художественный образ.

В середине 2014 года опубликованы исходные коды проекта[12]. 21 июля 2015 года выпущена версия 1.0[13]; после чего Google в партнёрстве с Linux Foundation организовал специальный фонд Cloud Native Computing Foundation (CNCF), которому корпорация передала Kubernetes в качестве начального технологического вклада.

19 декабря 2016 года был представлен Container Runtime Interface (CRI), который заменил Docker в качестве движка для управления[14] контейнерами, обеспечивая тем самым поддержку не только Docker, но и других совместимых средств контейнеризации.

Концепции[править | править код]

Как и многие другие сложные продукты, Kubernetes в рамках своей экосистемы вводит ряд специфических понятий и концепций.

Узел (node) — это отдельная физическая или виртуальная машина, на которой развёрнуты и выполняются контейнеры приложений. Каждый узел в кластере содержит сервисы для запуска приложений в контейнерах (например Docker), а также компоненты, предназначенные для централизованного управления узлом.

Под (pod, с англ. — «стручок, кокон», также модуль) — базовая единица для запуска и управления приложениями: один или несколько контейнеров, которым гарантирован запуск на одном узле, обеспечивается разделение ресурсов[15] и межпроцессное взаимодействие и предоставляется уникальный в пределах кластера IP-адрес[16]. Последнее позволяет приложениям, развёрнутым на поде, использовать фиксированные и предопределённые номера портов без риска конфликта. Поды могут напрямую управляться с использованием API Kubernetes или управление ими может быть передано контроллеру[15].

Том (volume) — общий ресурс хранения для совместного использования из контейнеров, развёрнутых в пределах одного пода.

Все объекты управления (узлы, поды, контейнеры) в Kubernetes помечаются метками (label), селекторы меток (label selector) — это запросы, которые позволяют получить ссылку на объекты, соответствующие какой-то из меток[15]. Метки и селекторы — это главный механизм Kubernetes, который позволяет выбрать, какой из объектов следует использовать для запрашиваемой операции.

Сервисом в Kubernetes называют совокупность логически связанных наборов подов и политик доступа к ним. Например, сервис может соответствовать одному из уровней программного обеспечения, разработанного в соответствии с принципами многоуровневой архитектуры программного обеспечения. Набор подов, соответствующий сервису, получается в результате выполнения селектора соответствующей метки[15].

Kubernetes обеспечивает функции обнаружения сервисов и маршрутизации по запросу. В частности, система умеет переназначать необходимые для обращения к сервису IP-адрес и доменное имя сервиса различным подам, входящим в его состав. При этом обеспечивается балансировка нагрузки в стиле Round robin DNS между подами, чьи метки соответствуют сервису, а также корректная работа в том случае, если один из узлов кластера вышел из строя и размещённые на нём поды автоматически были перемещены на другие узлы[16]. По умолчанию сервис доступен внутри управляемого Kubernetes кластера — например, поды бэкенда группируются для обеспечения балансировки нагрузки и в таком виде предоставляются фронтенду. Также кластер может быть настроен и для предоставления доступа к входящим в его состав подам извне как к единому фронтенду[17].

Контроллер (controller) — это процесс, который управляет состоянием кластера, пытаясь привести его от фактического состояния к желаемому[18]; он делает это, оперируя набором подов, определяемых с помощью селекторов меток и являющихся частью определения контроллера[19]. Выполнение контроллеров обеспечивается компонентом Kubernetes Controller Manager. Один из типов контроллеров, самый известный — это контроллер репликации (Replication Controller), который обеспечивает масштабирование, запуская указанное количество копий пода в кластере. Он также обеспечивает запуск новых экземпляров пода в том случае, если узел, на котором работает управляемый этим контроллером под, выходит из строя[18]. Другие контроллеры, входящие в основную систему Kubernetes, включают в себя «DaemonSet Controller», который обеспечивает запуск пода на каждой машине (или подмножеством машин), и «Job Controller» для запуска подов, которые выполняются до завершения, например, как часть пакетного задания.

Операторы (operators) — специализированный вид программного обеспечения Kubernetes, предназначенный для включения в кластер сервисов, сохраняющих своё состояние между выполнениями (stateful), таких как СУБД, системы мониторинга или кэширования[20]. Назначение операторов — предоставить возможность управления stateful-приложениями в кластере Kubernetes прозрачным способом и скрыть подробности их настроек от основного процесса управления кластером Kubernetes.

Архитектура и компоненты[править | править код]

Архитектура Kubernetes

Система реализует архитектуру «ведущий — ведомый»: выделяется подсистема управления кластером, а часть компонентов управляют индивидуальными, ведомыми узлами (называемых собственно узлами Kubernetes)[15][21].

Подсистема управления[править | править код]

Подсистема управления обеспечивает коммуникацию и распределение нагрузки внутри кластера; компоненты подсистемы могут выполняться на одном или на нескольких параллельно работающих ведущих узлах, совместно обеспечивающих режим высокой доступности[21].

Etcd[en] — компонент подсистемы управления, отвечающий за согласованное хранение конфигурационных данных кластера, в некотором смысле — распределённый эквивалент каталога /etc Unix-систем. Реализован как легковесная распределённая NoSQL-СУБД класса «ключ — значение»; создан в рамках проекта CoreOS.

Сервер API — ключевой компонент подсистемы управления, предоставляющий API в стиле REST (с использованием коммуникации в формате JSON поверх HTTP-транспорта), и используемый для организации внешнего и внутреннего доступа к функциям Kubernetes[15]. Сервер API обновляет состояние объектов, хранящееся в etcd, позволяя своим клиентам управлять распределением контейнеров и нагрузки между узлами управляемой системы.

Планировщик (scheduler) — компонент подсистемы управления, который выбирает, на каком узле должен выполняться конкретный под, опираясь на критерии доступности ресурсов. Планировщик отслеживает использование ресурсов на каждом из узлов, обеспечивая распределение нагрузки так, чтобы она не превышала доступный объём ресурсов. Для этой цели планировщик должен обладать информацией о доступных на каждом из узлов ресурсах, требованиях к ним со стороны управляемых подов, а также различных дополнительных пользовательских ограничениях и политиках, таких как QoS, требования аффинитета и антиаффинитета (affinity — anti-affinity — связки или развязки объектов управления друг с другом), локализации данных[en]. Иными словами, роль планировщика — находить и предоставлять ресурсы в зависимости от запросов, возникающих в связи с загрузкой[22].

Менеджер контроллеров (controller manager) — процесс, выполняющий основные контроллеры Kubernetes, такие как DaemonSet Controller и Replication Controller. Контроллеры взаимодействуют с сервером API Kubernetes, создавая, обновляя и удаляя управляемые ими ресурсы (поды, точки входа в сервисы и другие).

Kubectl — интерфейс командной строки, наряду с API обеспечивающий управление ресурсами, подконтрольными Kubernetes.

Компоненты узлов[править | править код]

Процедура работы Kubernetes состоит в том, что ресурсы узлов динамически распределяются между выполняемыми на них подами. Каждый узел в кластере содержит ряд типовых компонентов.

Сервис для запуска контейнеров обеспечивает функции выполнения контейнеров соответствующего вида (в зависимости от типа используемого контейнерного движка). С точки зрения программной среды Kubernetes, контейнеры инкапсулируются в подах, при этом сами контейнеры являются наиболее низкоуровневыми программными компонентами, с которыми взаимодействует программное обеспечение Kubernetes. Они, в свою очередь, содержат выполняемые приложения, библиотеки и иные необходимые для работы этих приложений ресурсы. Для внешнего мира контейнеры доступны через назначаемый каждому из подов IP-адрес.

Kubelet отвечает за статус выполнения подов на узле — отслеживает, корректно ли выполняется каждый из контейнеров, находясь в рабочем состоянии. Kubelet обеспечивает запуск, остановку и управление контейнерами приложений, организованными в поды. Функционально Kubelet можно рассматривать как аналог supervisord[15][23]. Если обнаруживается, что какой-то из подов находится в неверном состоянии, компонент пытается осуществить его повторное развёртывание и перезапуск на узле. Статус самого узла отправляется на подсистему управления каждые несколько секунд в форме диагностических сообщений (heartbeat message). Если мастер-узел, исходя из содержания этих сообщений или их отсутствия, обнаруживает, что конкретный узел не работает должным образом, процесс подсистемы управления Replication Controller пытается перезапустить необходимые поды на другом узле, находящемся в рабочем состоянии.

Kube-proxy — компонент, являющийся комбинацией сетевого прокси-сервера и балансировщика нагрузки. Реализованные в нём операции сетевого уровня используют абстракцию сервиса[15]. Он отвечает за маршрутизацию входящего трафика на конкретные контейнеры, работающие в пределах пода, расположенного на узле. Маршрутизация обеспечивается на основе IP-адреса и порта входящего запроса.

cAdvisor — агент системы внутреннего мониторинга Kubernetes, собирающий метрики производительности и информацию об использовании контейнерами, работающими в пределах узла, таких ресурсов как время работы центрального процессора, оперативной памяти, нагрузку на файловую и сетевую системы.

Разработка и развёртывание[править | править код]

Kubernetes предоставляет ряд средств для интеграции процессов разработки и развёртывания программного обеспечения, работающего под управлением этой системы. Среди наиболее часто используемых в этих целях инструментов:

  • Helm — официальный менеджер пакетов Kubernetes, функциональный эквивалент apt-get и yum[24];
  • Minikube — специализированная конфигурация Kubernetes, предназначенная для развёртывания на локальной машине, например, компьютере разработчика, применяется для изучения и локальных экспериментов над Kubernetes;
  • Skaffold — утилита от Google для локальной разработки в Kubernetes;
  • ArgoCD — утилита для декларативного CI/CD, основанного на GitOps-подходе;
  • Kustomize — утилита для настройки yaml-манифестов, свободных от шаблонов.

Для многих из подобных инструментов существуют альтернативы, например, вместо ArgoCD иногда используется Flux и werf.

Распространение и конкуренция[править | править код]

Многие из поставщиков систем управления контейнерами реализовали поддержку Kubernetes в своих продуктах, ряд из них приняли участие в деятельности CNCF. В частности, Rancher Labs[en] включила Kubernetes в дистрибутив своей системы управления контейнерами Rancher container management platform[25], Pivotal Software[en] использовала Kubernetes в продукте Pivotal Container Service (PKS)[26], Red Hat — в составе PaaS-системы OpenShift[27][28] (являющейся, по сути, расширенной версией Kubernetes, часто даже называемой «дистрибутивом Kubernetes»), CoreOS включила систему в состав коммерческой версии дистрибутива Container Linux Tectonic, а IBM использовала его в IBM Cloud Container Service[29][30] и в продукте IBM Cloud Private[31][32][33]. Корпорация Oracle присоединилась к Cloud Native Computing Foundation в сентябре 2017 и включила Kubernetes в состав Oracle Cloud и Oracle Linux[34].

Считается, что к концу 2010-х годов Kubernetes стал стандартом де-факто для использования в облачных системах и сервисах по модели PaaS, предусматривающих контейнеризацию приложений, в частности, является основой контейнеризационных сервисов ряда крупнейших публично-облачных провайдеров — Amazon (AWS Elastic Container Service), Microsoft (Microsoft Azure Containers), Google (Google Cloud Platform Kubernetes Engine). С 2019 года компанией Rancher Labs[en] развивается дистрибутив k3s — облегчённый вариант Kubernetes, нацеленный на развёртывание в средах с ограниченными вычислительными ресурсами.

При этом развиваются и альтернативные продукты для оркестровки контейнеризированных приложений — Docker Swarm[en] от фирмы-разработчика Docker и Nomad от компании HashiCorp[en]. По сравнению с Docker Swarm, Kubernetes функционально богаче, но обладает более высоким порогом вхождения в технологию. При переходе от Docker Swarm к Kubernetes необходимо использовать приложение Kompose для конвертации созданных в Docker Compose файлов описаний оркестровки в формат, поддерживаемый Kubernetes.

Примечания[править | править код]

  1. Release 1.29.3 — 2024.
  2. http://kubernetes.io/
  3. https://github.com/kubernetes/kubernetes/search?l=go
  4. The kubernetes Open Source Project on Open Hub: Languages Page — 2006.
  5. https://github.com/kubernetes/kubernetes/blob/master/LICENSE
  6. 1 2 What is Kubernetes (K8s)? Dialogic Glossary of Telecom Terms. Дата обращения: 10 октября 2017. Архивировано 11 октября 2017 года.
  7. Расширение Kubevirt обеспечивает возможность запуска подов не на основе Container Runtime Interface, а на основе любых виртуальных машин, поддерживаемых libvirt.
  8. Google Made Its Secret Blueprint Public to Boost Its Cloud (англ.). Дата обращения: 27 июня 2016. Архивировано 1 июля 2016 года.
  9. Abhishek Verma; Luis Pedrosa; Madhukar R. Korupolu; David Oppenheimer; Eric Tune; John Wilkes. Large-scale cluster management at Google with Borg (неопр.) // Proceedings of the European Conference on Computer Systems (EuroSys). — 2015. — 21 April. Архивировано 27 июля 2017 года.
  10. Borg, Omega, and Kubernetes - ACM Queue. queue.acm.org. Дата обращения: 27 июня 2016. Архивировано 9 июля 2016 года.
  11. "Early Stage Startup Heptio Aims to Make Kubernetes Friendly". Дата обращения: 6 декабря 2016.{{cite news}}: Википедия:Обслуживание CS1 (url-status) (ссылка)
  12. Google Open Sources Its Secret Weapon in Cloud Computing. Wired. Дата обращения: 24 сентября 2015. Архивировано 10 сентября 2015 года.
  13. As Kubernetes Hits 1.0, Google Donates Technology To Newly Formed Cloud Native Computing Foundation. TechCrunch. Дата обращения: 24 сентября 2015. Архивировано 23 сентября 2015 года.
  14. Container Runtime Interface (CRI) | Kubernetes. Дата обращения: 19 сентября 2022. Архивировано 20 сентября 2022 года.
  15. 1 2 3 4 5 6 7 8 An Introduction to Kubernetes. DigitalOcean. Дата обращения: 24 сентября 2015. Архивировано 1 октября 2015 года.
  16. 1 2 Langemak, Jon Kubernetes 101 – Networking. Das Blinken Lichten (11 февраля 2015). Дата обращения: 2 ноября 2015. Архивировано 25 октября 2015 года.
  17. Langemak, Jon Kubernetes 101 – External Access Into The Cluster. Das Blinken Lichten (15 февраля 2015). Дата обращения: 2 ноября 2015. Архивировано 26 октября 2015 года.
  18. 1 2 Overview of a Replication Controller. Documentation. CoreOS. Дата обращения: 2 ноября 2015. Архивировано 22 сентября 2015 года.
  19. Intro: Docker and Kubernetes training - Day 2. Red Hat (20 октября 2015). Дата обращения: 2 ноября 2015. Архивировано 29 октября 2015 года.
  20. Introducing Operators: Putting Operational Knowledge into Software Архивная копия от 25 ноября 2019 на Wayback Machine // CoreOS
  21. 1 2 Kubernetes Infrastructure. OpenShift Community Documentation. OpenShift. Дата обращения: 24 сентября 2015. Архивировано 6 июля 2015 года.
  22. The Three Pillars of Kubernetes Container Orchestration - Rancher Labs. rancher.com (18 мая 2017). Дата обращения: 22 мая 2017. Архивировано 24 июня 2017 года.
  23. Marhubi, Kamal What [..] is a Kubelet? kamalmarhubi.com (27 августа 2015). Дата обращения: 2 ноября 2015. Архивировано 13 ноября 2015 года.
  24. Using Helm to deploy to Kubernetes (англ.). daemonza.github.io. Дата обращения: 23 февраля 2018. Архивировано из оригинала 23 мая 2019 года.
  25. "Deploy and Manage Kubernetes Clusters | Rancher Labs". Rancher Labs (англ.). Архивировано из оригинала 16 апреля 2017. Дата обращения: 15 апреля 2017.
  26. Software, Pivotal Pivotal Container Service (PKS) (англ.). pivotal.io (17 января 2017). Дата обращения: 14 февраля 2018. Архивировано 15 февраля 2018 года.
  27. OpenShift v3 Platform Combines Docker, Kubernetes. blog.openshift.com. Дата обращения: 14 августа 2014. Архивировано 6 июля 2015 года.
  28. Why Red Hat Chose Kubernetes for OpenShift. blog.openshift.com. Дата обращения: 7 ноября 2016. Архивировано 21 февраля 2017 года.
  29. IBM Launches Bluemix Container Service with Kubernetes to Fuel Highly Secure and Rapid Development of Cognitive Apps (англ.). ibm.com. Дата обращения: 21 ноября 2017. Архивировано 24 августа 2017 года.
  30. IBM chases Google, Microsoft with Kubernetes in the cloud (англ.). infoworld.com. Дата обращения: 21 ноября 2017. Архивировано 1 декабря 2017 года.
  31. IBM Announces IBM Cloud Private (англ.). ibm.com. Дата обращения: 1 ноября 2017. Архивировано 1 ноября 2017 года.
  32. IBM Cloud Private brings cloud native computing to your data center (англ.). techcrunch.com. Дата обращения: 2 ноября 2017. Архивировано 3 ноября 2017 года.
  33. IBM Cloud Private launches with bet open architecture wins hybrid cloud scrum (англ.). zdnet.com. Дата обращения: 2 ноября 2017. Архивировано 3 ноября 2017 года.
  34. "Oracle Joins Cloud Native Computing Foundation as Platinum Member - Cloud Native Computing Foundation". Cloud Native Computing Foundation (англ.). 2017-09-13. Архивировано из оригинала 1 декабря 2017. Дата обращения: 29 ноября 2017. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)

Литература[править | править код]

Ссылки[править | править код]

  • Проект Kubernetes на сайте GitHub
  • Kubernetes By Example руководство по Kubernetes, разработанное командой OpenShift.
  • Хаб Kubeapps — каталог файлов конфигурации приложений, подготовленных для их запуска в Kubernetes.