Что понимают под форматом хранения динамических данных
23. Динамический режим хранения информации
Том — это единица хранения, состоящая из свободного пространства на одном или нескольких дисках. Он может быть отформатирован средствами файловой системы с присвоением ему имени. Тома на динамических дисках могут иметь одну из нескольких структур: простой, составной, зеркальный, чередующийся том и том RAID-5.
Простой том использует пространство одного диска. Это может быть один участок на диске или несколько участков, соединенных друг с другом. Простой том может быть расширен в пределах одного диска или на дополнительный диск. Если простой том распространен на несколько дисков, он становится составным томом. Простой том не обеспечивает отказоустойчивости.
Составной том состоит из связанного вместе пространства нескольких дисков (до 32 дисков). Он может быть распространен на дополнительные диски и не может принимать участие в зеркальных системах. Составные тома создаются, когда ни на одном жестком диске нет достаточного свободного пространства. Кроме того, создавая составные тома, можно распределять нагрузку на дисковые системы. Составные тома не обеспечивают отказоустойчивости. Поскольку тома такого типа расположены на нескольких жестких дисках, возрастает вероятность их отказа, связанного с выходом из строя одного из дисков.
Зеркальный том — это средство обеспечения отказоустойчивости, где данные дублируются на двух физических дисках. Все данные одного диска копируются на дополнительный диск, что обеспечивает возможность получения избыточности данных. Если один из дисков отказывает, данные могут быть доступны на уцелевшем диске зеркала. Зеркальный том не может быть расширен. Зеркало также известно как RAID-1.
Данные на чередующемся томе разбиваются при записи и помещаются на несколько физических дисков, причем информация равномерно распределяется среди всех дисков, входящих в состав такого тома. Такой подход удобен при необходимости быстрой записи или считывании с физических дисков большого объема информации. Скорость работы с дисковой системой увеличивается за счет распараллеливания потоков данных и одновременной записи или считывания информации с дисков тома. «Расщепление» информации также полезно при балансировке нагрузки ввода/вывода в многопользовательских приложениях. Тома с чередованием записываемой информации не обеспечивают отказоустойчивость. Том такого типа не может входить в зеркальный набор и его нельзя расширить. Чередование данных известно как RAID-0.
Том RAID-5 является средством обеспечения отказоустойчивости дисковой системы, поскольку данные тома расщепляются при записи на три или большее количество дисков. Том RAID-5 обеспечивает избыточность информации, подсчитывая контрольную сумму информации, расположенной на каждом диске. Контрольная сумма (вычисляемая величина, которая может быть использована для восстановления данных в случае их разрушения) также расщепляется и записывается на все диски массива. Если отказывает один из дисков массива, то информация, которая на нем находилась, может быть восстановлена с использованием данных работоспособных дисков и контрольной суммы. Том RAID-5 не может входить в зеркальный набор и его нельзя расширить.
Свободное пространство — это неиспользованная и неформатированная часть жесткого диска, которая может быть использована при создании томов.
Системный том содержит файлы, жестко привязанные к оборудованию (Ntldr, Osloadenexe, Boot.hii, Ntdetect.com), необходимые для загрузки Windows 2000.
Загрузочный том содержит файлы операционной системы Windows 2000, расположенные в папках %SystemRoot% и %SystemRoot% \System32.
Динамическое хранилище данных
Компания IBM представила свою стратегию создания динамических информационных хранилищ Dynamic Warehousing, основанную на усовершенствованной версии DB2 Warehouse, вокруг которой с помощью других продуктов и сервисов будет создана система интегрированных функций, заставляющих пересмотреть современные взгляды на традиционные хранилища данных.
Компания IBM представила свою стратегию создания динамических информационных хранилищ Dynamic Warehousing, основанную на усовершенствованной версии DB2 Warehouse, вокруг которой с помощью других продуктов и сервисов будет создана система интегрированных функций, заставляющих пересмотреть современные взгляды на традиционные хранилища данных.

Как видно из этого перечня, динамическое информационное хранилище вряд ли можно построить на базе одного программного продукта — речь идет о новой концепции хранилища, которая базируется на традиционных средствах, но дополняется рядом новых возможностей и поддерживается различными сервисными предложениями от IBM. В качестве примера преимуществ динамического хранилища можно взять, скажем, страховую компанию. Традиционное хранилище позволяет анализировать различные обращения, согласно которым осуществляются выплаты в определенный период времени, и сообщать о возможных случаях мошенничества. С помощью динамического хранилища можно агрегировать соответствующую данной задаче информацию из всех источников и встраивать аналитические средства непосредственно в приложение, поддерживающее бизнес-процесс рассмотрения обращений по страховому случаю. Это дает возможность выявлять потенциальные случаи мошенничества данного клиента еще до того, как обращения утверждены и оплачены. В задачах обслуживания клиентов в компаниях разного профиля динамическое хранилище позволит собирать всю информацию по клиенту, определять связанные с ним проблемы и выявлять подходящие для него предложения дополнительных товаров или услуг, причем все это — в ходе текущего сеанса работы с клиентом.
Почему текущие реализации хранилищ данных ограничивают компании в их возможностях анализа информации? Во-первых, это распределенность информации по множеству различных репозитариев, включая транзакционные базы данных, хранилища, библиотеки документов, папки электронной почты и т.д., в которых данные хранятся в разных форматах и привязаны к определенным приложениям или бизнес-процессам. Во-вторых, рост объемов и разнообразия информации. Сегодня, помимо структурированных данных, компании постоянно работают с различными типами неструктированной информации: текстовыми документами, электронными письмами, аудиофайлами, Web-страницами, потоками данных радиочастотной идентификации (RFID) и т.д. В-третьих, сейчас, как никогда, возрастает значение своевременности предоставления информации. Временной лаг в несколько часов или дней для помещения оперативных данных в хранилище с целью их последующего анализа в определенных ситуациях уже считается недопустимым — полная и точная информационная картина сегодня нужна в реальном времени непосредственно в ходе выполнения бизнес-процесса.
Сохраняя традиционные функции агрегирования и очистки операционных данных для глубокого исторического анализа и выявления проблем, возможностей и тенденций, современные хранилища данных должны в реальном масштабе времени обеспечивать бизнес-приложения актуальной аналитической информацией и уметь работать с разными типами информации, в том числе неструктурированной. Фактически от современного хранилища требуется поддержка одновременно совершенно разных типов рабочих нагрузок, включая выполнение запросов критичных приложений, требующих немедленного отклика, формирование традиционных отчетов для решения тактических и стратегических задач, обработку эпизодически возникающих непредсказуемых запросов от приложений, поддерживающих различные этапы бизнес-процессов, а также сопровождение новых аналитических потребностей традиционных транзакционных систем. Это и означает, что хранилище данных должно стать по-настоящему динамичным, способным обеспечивать выполнение задач разных типов и различных требований к уровню обслуживания. При этом не снимаются с повестки дня и такие характеристики хранилища, как производительность, масштабируемость и доступность, поскольку объемы данных и количество пользователей информационных систем продолжают расти, равно как и их важность для бизнеса.
По мнению аналитиков Gartner (Gartner Quadrant for Data Warehouse Database Management Systems, 2006), в условиях смешанной рабочей нагрузки и постоянной потребности в функциональной аналитике со стороны транзакционных приложений хранилища данных, в основе которых лежат транзакционные базы данных, имеют определенные преимущества перед специализированными решениями, как, например, у компании Teradata.
Ядро динамического хранилища
Динамическое хранилище данных от IBM представляет собой интегрированную среду с ядром DB2 версии 9, вокруг которого создается инфраструктура дополнительных возможностей средствами других решений компании (рис. 1). Как полагают в IBM, преимуществом DB2 Warehouse является объединение в данном решении функциональности сервера баз данных, оптимизированного для оперативной обработки транзакций, и одновременно специализированных возможностей современного хранилища данных, в частности архитектуры Shared Nothing («без разделения»), в которой для выполнения запроса назначается выделенный пул виртуальных ресурсов, средств поддержки масштабируемости и высокой производительности, а также встроенной аналитики.
Следующий уровень архитектуры DB2 Warehouse образуют средства оптимизации производительности хранилища: разбиение данных на разделы (data partitioning) в рамках одного сервера или кластера, обеспечивающее линейную масштабируемость хранилища; управление рабочей нагрузкой, гарантирующее высокий приоритет запросам наиболее критичных приложений; сжатие данных, позволяющее снизить затраты на хранение, оптимизировать использование дискового пространства и повысить скорость обработки запросов.
На верхнем уровне хранилища находится встроенный аналитический инструментарий, в том числе бизнес-аналитика, которая может использоваться как в составе приложений (in-line analytics), так и в качестве отдельного сервиса, и средства добычи данных и визуализации. Это означает не только то, что все операции бизнес-аналитики, добычи данных и визуализации выполняются непосредственно в хранилище, исключая необходимость в экспорте данных для анализа, но и то, что эти операции интегрированы в потоки процессов и данных хранилища, а потому могут выполняться как часть операций по перемещению и трансформации данных. Благодаря этому предоставляется возможность, например, отфильтровать данные, которые нужно проанализировать, непосредственно в хранилище (скажем, выделить подмножество продуктов, рассматриваемое при анализе рыночной корзины), а затем операциями буксировки включить процедуры добычи данных наподобие кластеризации, скоринга и т.д. в потоки данных в хранилище, при необходимости меняя атрибуты этих операций (например, уровень конфиденциальности).
Встроенные средства визуализации DB2 Warehouse позволяют выводить результаты добычи данных и аналитики непосредственно в бизнес-приложения или на Web-страницы. Это могут быть простые таблицы или графики или интерактивные средства, позволяющие переходить от полученных результатов к более глубокому анализу информации. Как подчеркивают в IBM, встроенные аналитические средства DB2 Warehouse не заменяют высокоуровневый BI-инструментарий, который может использоваться в компании, но дополняет его, предоставляя возможность выполнять операции по добыче и анализу данных непосредственно в контексте текущих бизнес-операций и приложений.
DB2 Warehouse также включает в себя общий инструментарий моделирования и проектирования на базе среды Eclipse и средства администрирования и контроля. Общий интерфейс интегрирует все операции встроенной аналитики, проектирования и администрирования хранилища данных.
Для упрощения развертывания хранилища данных и получения решения с оптимальными для определенных категорий заказчиков функциональностью и производительностью некоторые игроки рынка начали выпускать специализированные устройства, объединяющие предустановленное программное обеспечение хранилищ данных и бизнес-аналитики, высокопроизводительную серверную платформу и систему хранения нужного объема (HP NeoView, предложения компаний Teradata и Netazza). Корпорация IBM также представила систему такого класса — Balanced Configuration Unit (BCU) с программным обеспечением DB2 Warehouse, которая поддерживает работу от 500 до 1 тыс. пользователей, предоставляя им доступ к 2 Тбайт данных. Компании могли устанавливать такое количество модулей BCU, которое отвечало их требованиям к объемам и производительности хранилища данных. Весной этого года IBM сделала следующий шаг в развитии этой идеи, выпустив семейство решений Balanced Warehouse, в которое входят аппаратно-программные устройства хранилищ данных для разных категорий клиентов. Семейство включает в себя системы C-Class для поддержки аналитических потребностей приложений малых и средних компаний, D-Class для витрин данных уровня департаментов и растущих потребностей в хранилищах данных компаний SMB-рынка и E-Class для хранилищ данных в крупных корпорациях. В решениях C-Class помимо редакции DB2 Warehouse Starter Edition установлено программное обеспечение генерации аналитических отчетов Crystal Reports Server компании Business Objects. Все представители семейства Balanced Warehouse используют серверные платформы и системы хранения IBM разного уровня, например системы D-Class обеспечивают емкость памяти для хранилища от 1 Тбайт до 5 Тбайт, а E-Class — от 4 Тбайт и выше.
Инфраструктура динамического хранилища
Помимо расширенных возможностей непосредственно хранилища данных, инициатива динамического хранилища от IBM подразумевает создание вокруг DB2 Warehouse инфраструктуры интегрированных информационных сервисов, реализованных с помощью определенных продуктов и услуг IBM. В инфраструктуру входят:
Стоит остановить внимание на анонсированной одновременно со стратегией Dynamic Warehousing системе OmniFind Analytics Edition — платформе интеллектуальной обработки контента, позволяющей извлекать и анализировать неструктурированную информацию (электронная почта, комментарии и иллюстративный материал, голосовые и текстовые сообщения коммуникационных систем), предоставляя средства анализа тенденций и отклонений, автоматического уведомления о событиях, навигации по источникам данных для поиска детализированной информации, семантического поиска и поиска по ключевым словам. Эти возможности могут быть использованы для контроля за ситуацией в бизнесе, управления событиями и отслеживания изменений, которые имеют тенденцию к развитию во времени, как, например, неудовлетворенность клиентов качеством обслуживания.
OmniFind Analytics Edition предоставляет полнофункциональный интерфейс, который сочетает в себе средства поиска, текстового анализа и визуализации и позволяет выявлять значимые для бизнеса данные из взаимосвязанной структурированной и неструктурированной информации. Например, для определенных целей необходимо проанализировать запросы, поступавшие в центр обработки вызовов пользователей. Такой запрос включает в себя структурированные данные о клиенте (имя, дата обращения, длительность обращения, идентификационный номер клиента), а также неструктурированную информацию — текст запроса (рис. 2). Система интерпретирует текст с помощью лингвистического анализа и определяет нужные для дальнейшего анализа метаданные (в конкретном примере это тип запроса, тип необходимого сервиса и компоненты оборудования, для которых требуется обслуживание). Эта информация передается в DB2 Warehouse для проведения добычи данных и генерации отчетов, по результатам которых аналитические средства системы OmniFind Analytics Edition смогут выполнить необходимые операции поиска, интерактивной добычи данных и визуализации.
Программное обеспечение OmniFind Analytics Edition разрабатывается на базе активно продвигаемой корпорацией IBM архитектуры управления неструктурированной информацией (Unstructured Information Management Architecture, UIMA), которая предоставляет рамочную инфраструктуру для интеграции интеллектуальных систем поиска информации и анализа текстов.
Остальные программные решения, входящие в инфраструктуру динамического хранилища, также тесно интегрированы с ядром DB2 Warehouse. Например, пользователи хранилища могут не только импортировать модели данных, созданные с помощью инструментария Rational Data Architect, но и применять этот продукт для создания моделей корпоративных данных непосредственно в среде проектирования DB2 Warehouse. Аналогично процессы агрегации, обеспечения качества и трансформации данных, предоставляемые системой Information Server, встраиваются в потоки процессов хранилища данных, управляемые средствами администрирования DB2 Warehouse. Information Server решает ключевую для концепции динамических хранилищ задачу интеграции информации из всевозможных корпоративных источников.
В инфраструктуру динамического хранилища также входят готовые отраслевые модели данных: финансы, страховая деятельность, розничная торговля, телекоммуникации и медицина. Эти модели включают в себя глоссарии бизнес-концепций и терминов, специфичных для конкретной отрасли, общее представление проектов для решения определенных проблем бизнеса, например управления рисками, шаблоны с ключевыми показателями производительности (Key Performance Indicator, KPI), которые могут использоваться в различных «приборных панелях», оценочных листах и других средствах отчетности.
Преимущества — в динамике
Традиционное и динамическое хранилища данных отличаются следующими характеристиками.
Традиционное хранилище данных:
Хранение данных. Или что такое NAS, SAN и прочие умные сокращения простыми словами
TL;DR: Вводная статья с описанием разных вариантов хранения данных. Будут рассмотрены принципы, описаны преимущества и недостатки, а также предпочтительные варианты использования.
Зачем это все?
Хранение данных — одно из важнейших направлений развития компьютеров, возникшее после появления энергонезависимых запоминающих устройств. Системы хранения данных разных масштабов применяются повсеместно: в банках, магазинах, предприятиях. По мере роста требований к хранимым данным растет сложность хранилищ данных.
Надежно хранить данные в больших объемах, а также выдерживать отказы физических носителей — весьма интересная и сложная инженерная задача.
Хранение данных
Под хранением обычно понимают запись данных на некоторые накопители данных, с целью их (данных) дальнейшего использования. Опустим исторические варианты организации хранения, рассмотрим подробнее классификацию систем хранения по разным критериям. Я выбрал следующие критерии для классификации: по способу подключения, по типу используемых носителей, по форме хранения данных, по реализации.
По способу подключения есть следующие варианты:
подключение дисков в сервере

дисковая полка, подключаемая по FC
По типу используемых накопителей возможно выделить:
Если рассматривать форму хранения данных, то явно выделяются следующие:
По реализации достаточно сложно провести четкие границы, однако можно отметить:

RAID контроллер от компании Fujitsu
пример организации LVM с шифрованием и избыточностью в виртуальной машине Linux в облаке Azure
Давайте рассмотрим более детально некоторые технологии, их достоинства и недостатки.
Direct Attached Storage — это исторически первый вариант подключения носителей, применяемый до сих пор. Накопитель, с точки зрения компьютера, в котором он установлен, используется монопольно, обращение с накопителем происходит поблочно, обеспечивая максимальную скорость обмена данными с накопителем с минимальными задержками. Также это наиболее дешевый вариант организации системы хранения данных, однако не лишенный своих недостатков. К примеру если нужно организовать хранение данных предприятия на нескольких серверах, то такой способ организации не позволяет совместное использование дисков разных серверов между собой, так что система хранения данных будет не оптимальной: некоторые сервера будут испытывать недостаток дискового пространства, другие же — не будут полностью его утилизировать:
Конфигурации систем с единственным накопителем применяются чаще всего для нетребовательных нагрузок, обычно для домашнего применения. Для профессиональных целей, а также промышленного применения чаще всего используется несколько накопителей, объединенных в RAID-массив программно, либо с помощью аппаратной карты RAID для достижения отказоустойчивости и\или более высокой скорости работы, чем единичный накопитель. Также есть возможность организации кэширования наиболее часто используемых данных на более быстром, но менее емком твердотельном накопителе для достижения и большой емкости и большой скорости работы дисковой подсистемы компьютера.
Storage area network, она же сеть хранения данных, является технологией организации системы хранения данных с использованием выделенной сети, позволяя таким образом подключать диски к серверам с использованием специализированного оборудования. Так решается вопрос с утилизацией дискового пространства серверами, а также устраняются точки отказа, неизбежно присутствующие в системах хранения данных на основе DAS. Сеть хранения данных чаще всего использует технологию Fibre Channel, однако явной привязки к технологии передачи данных — нет. Накопители используются в блочном режиме, для общения с накопителями используются протоколы SCSI и NVMe, инкапсулируемые в кадры FC, либо в стандартные пакеты TCP, например в случае использования SAN на основе iSCSI.
Давайте разберем более детально устройство SAN, для этого логически разделим ее на две важных части, сервера с HBA и дисковые полки, как оконечные устройства, а также коммутаторы (в больших системах — маршрутизаторы) и кабели, как средства построения сети. HBA — специализированный контроллер, размещаемый в сервере, подключаемом к SAN. Через этот контроллер сервер будет «видеть» диски, размещаемые в дисковых полках. Сервера и дисковые полки не обязательно должны размещаться рядом, хотя для достижения высокой производительности и малых задержек это рекомендуется. Сервера и полки подключаются к коммутатору, который организует общую среду передачи данных. Коммутаторы могут также соединяться с собой с помощью межкоммутаторных соединений, совокупность всех коммутаторов и их соединений называется фабрикой. Есть разные варианты реализации фабрики, я не буду тут останавливаться подробно. Для отказоустойчивости рекомендуется подключать минимум две фабрики к каждому HBA в сервере (иногда ставят несколько HBA) и к каждой дисковой полке, чтобы коммутаторы не стали точкой отказа SAN.
Недостатками такой системы являются большая стоимость и сложность, поскольку для обеспечения отказоустойчивости требуется обеспечить несколько путей доступа (multipath) серверов к дисковым полкам, а значит, как минимум, задублировать фабрики. Также в силу физических ограничений (скорость света в общем и емкость передачи данных в информационной матрице коммутаторов в частности) хоть и существует возможность неограниченного подключения устройств между собой, на практике чаще всего есть ограничения по числу соединений (в том числе и между коммутаторами), числу дисковых полок и тому подобное.
Network attached storage, или сетевое файловое хранилище, представляет дисковые ресурсы в виде файлов (или объектов) с использованием сетевых протоколов, например NFS, SMB и прочих. Принципиально базируется на DAS, но ключевым отличием является предоставление общего файлового доступа. Так как работа ведется по сети — сама система хранения может быть сколько угодно далеко от потребителей (в разумных пределах разумеется), но это же является и недостатком в случае организации на предприятиях или в датацентрах, поскольку для работы утилизируется полоса пропускания основной сети — что, однако, может быть нивелировано с использованием выделенных сетевых карт для доступа к NAS. Также по сравнению с SAN упрощается работа клиентов, поскольку сервер NAS берет на себя все вопросы по общему доступу и т.п.
Unified storage
Универсальные системы, позволяющие совмещать в себе как функции NAS так и SAN. Чаще всего по реализации это SAN, в которой есть возможность активировать файловый доступ к дисковому пространству. Для этого устанавливаются дополнительные сетевые карты (или используются уже существующие, если SAN построена на их основе), после чего создается файловая система на некотором блочном устройстве — и уже она раздается по сети клиентам через некоторый файловый протокол, например NFS.
Software-defined storage — программно определяемое хранилище данных, основанное на DAS, при котором дисковые подсистемы нескольких серверов логически объединяются между собой в кластер, который дает своим клиентам доступ к общему дисковому пространству.
Наиболее яркими представителями являются GlusterFS и Ceph, но также подобные вещи можно сделать и традиционными средствами (например на основе LVM2, программной реализации iSCSI и NFS).
N.B. редактора: У вас есть возможность изучить технологию сетевого хранилища Ceph, чтобы использовать в своих проектах для повышения отказоустойчивости, на нашем практическим курсе по Ceph. В начале курса вы получите системные знания по базовым понятиям и терминам, а по окончании научитесь полноценно устанавливать, настраивать и управлять Ceph. Детали и полная программа курса здесь.

Пример SDS на основе GlusterFS
Из преимуществ SDS — можно построить отказоустойчивую производительную реплицируемую систему хранения данных с использованием обычного, возможно даже устаревшего оборудования. Если убрать зависимость от основной сети, то есть добавить выделенные сетевые карты для работы SDS, то получается решение с преимуществами больших SAN\NAS, но без присущих им недостатков. Я считаю, что за подобными системами — будущее, особенно с учетом того, что быстрая сетевая инфраструктура более универсальная (ее можно использовать и для других целей), а также дешевеет гораздо быстрее, чем специализированное оборудование для построения SAN. Недостатком можно назвать увеличение сложности по сравнению с обычным NAS, а также излишней перегруженностью (нужно больше оборудования) в условиях малых систем хранения данных.
Гиперконвергентные системы
Подавляющее большинство систем хранения данных используется для организации дисков виртуальных машин, при использовании SAN неизбежно происходит удорожание инфраструктуры. Но если объединить дисковые системы серверов с помощью SDS, а процессорные ресурсы и оперативную память с помощью гипервизоров отдавать виртуальным машинам, использующим дисковые ресурсы этой SDS — получится неплохо сэкономить. Такой подход с тесной интеграцией хранилища совместно с другими ресурсами называется гиперконвергентностью. Ключевой особенностью тут является способность почти бесконечного роста при нехватке ресурсов, поскольку если не хватает ресурсов, достаточно добавить еще один сервер с дисками к общей системе, чтобы нарастить ее. На практике обычно есть ограничения, но в целом наращивать получается гораздо проще, чем чистую SAN. Недостатком является обычно достаточно высокая стоимость подобных решений, но в целом совокупная стоимость владения обычно снижается.
Облака и эфемерные хранилища
Логическим продолжением перехода на виртуализацию является запуск сервисов в облаках. В предельном случае сервисы разбиваются на функции, запускаемые по требованию (бессерверные вычисления, serverless). Важной особенностью тут является отсутствие состояния, то есть сервисы запускаются по требованию и потенциально могут быть запущены столько экземпляров приложения, сколько требуется для текущей нагрузки. Большинство поставщиков (GCP, Azure, Amazon и прочие) облачных решений предлагают также и доступ к хранилищам, включая файловые и блочные, а также объектные. Некоторые предлагают дополнительно облачные базы, так что приложение, рассчитанное на запуск в таком облаке, легко может работать с подобными системами хранения данных. Для того, чтобы все работало, достаточно оплатить вовремя эти услуги, для небольших приложений поставщики вообще предлагают бесплатное использование ресурсов в течение некоторого срока, либо вообще навсегда.
Из недостатков: могут заблокировать аккаунт, на котором все работает, что может привести к простоям в работе. Также могут быть проблемы со связностью и\или доступностью таких сервисов по сети, поскольку такие хранилища полностью зависят от корректной и правильной работы глобальной сети.
Заключение
Надеюсь, статья была полезной не только новичкам. Предлагаю обсудить в комментариях дополнительные возможности систем хранения данных, написать о своем опыте построения систем хранения данных.







