Контакты
Подписка
МЕНЮ
Контакты
Подписка

Архивы видеоконтента. Спасательный круг из цифры и стандартов

В рубрику "Оборудование и технологии" | К списку рубрик  |  К списку авторов  |  К списку публикаций

Архивы видеоконтента. Спасательный круг из цифры и стандартов

Развитие технической стороны телевидения направлено на расширение использования цифровых технологий. Уже сегодня вещание всех крупных телевизионных компаний осуществляется посредством видеосерверов под управлением компьютерных систем. Подготовка и монтаж материалов, составление расписаний также выполняются при помощи компьютерных технологий. Закономерным этапом развития этого процесса становится переход на цифровую форму контента, что включает в себя производство, сохранение и управление цифровым контентом строго в цифровой, автоматизированной среде. Практически это означает переход на "безленточное" вещание, основанное на файловых или потоковых операциях, в зависимости от типа источника сигнала. Примером здесь может служить сочетание сегментов прямого эфира, представляющих собой цифровой поток с элементами готовых программ, сохраненных в виде файлов.

Скорость получения, качество обработки материалов, выдаваемых в эфир, остается одним из ключевых условий успешной деятельности телевизионной компании

Оборудование и не только

В условиях перехода на цифру существенно изменяются и требования к элементам и инфраструктуре компьютерных систем управления и хранения данных. В отличие от стандартных "офисных" решений, работа с цифровым контентом предполагает несоизмеримо большие объемы для его хранения, наличие высокой полосы пропускания для записи и чтения данных - вне зависимости от изменений количества пользователей и типов операций. Для обеспечения качества передачи цифрового контента важно гарантировать постоянный поток данных на уровне до 30 кадров в секунду.

С целью технической реализации подобных систем хранения рекомендуется применять решения. В ней которых лежит сеть хранения данных - Storage Area Network (SAN). В ней используются дисковые массивы с оптическим интерфейсом - Fiber Channel (FC).

SAN-системы обладают необходимой пропускной способностью, широкими возможностями масштабирования. Наличие развитой системы управления и внутренних высокопроизводительных процессоров позволяет передать выполнение многих функций работы с данными самой системе, разгрузив тем самым серверное оборудование. По сравнению с "консервативными" файл-серверными хранилищами, SAN-системы обладают многими преимуществами которые чрезвычайно важны для осуществления вещания. Среди них:

  • специальные файловые системы с технологией доступа к данным на уровне блоков, а не файла целиком, обеспечивающие одновременные операции записи и чтения;
  • возможность высокопроизводительной работы в гетерогенных сетях;
  • управление производительностью и пропускной способностью на уровне потоков данных;
  • высокая надежность за счет простоты кластеризации и резервирования компонентов;
  • возможность консолидации разнородных хранилищ (FC и SATA) в рамках одной системы управления.

Все необходимые параметры

Функционирующие сегодня SAN-системы имеют все параметры, необходимые для успешного использования в телевещании: это в том числе и пропускная способность до 10 Гбит/с канала обмена данными с возможностью увеличения путем агрегатирования каналов, и предоставляемые объемы хранения, измеряемые терабайтами.

Практически все известные компании - производители оборудования для вещания имеют решения по использованию FC SAN-комплексов.

Технология телевещания включает в себя звено, связанное с архивированием эфира и материалов в справочных целях. Для данных операций нет необходимости обеспечения вещательного качества контента; достаточным является уровень, близкий к бытовому видео (параметры формата MPEG-1). Для реализации длительного хранения больших объемов справочных материалов вполне уместно использовать экономичные решения на базе SATA-дисков высокой емкости. Возможность включения SATA-хранилищ в единую SAN-систему компании считается чрезвычайно важной с точки зрения управляемости хранилищем и снижения стоимости владения.

Что касается хранения справочных материалов, хотелось бы отдельно отметить технологическое решение, реализованное в компании СТС. Оно отличается от типового файл-серверного варианта.

Основные элементы системы справочного архивирования изображены на рис. 1.

Источники сигнала или контента соединены с входным процессором, где осуществляется выбор формата кодирования (при необходимости производится коррекция сигнала) и определяется путь передачи.

Источником контента может служить как видеосигнал реальной трансляции, так и файл, полученный в результате оцифровки архивируемой программы.

Для каждого источника сигнала можно определить путь передачи, то есть направление на хранение и/или ретрансляцию в IP-сети.

Сигналы, направленные по адресу хранения, принимаются системой архивирования, которая определяет местоположение материала, осуществляет индексацию и запись в хранилище. В функции системы архивирования входит также воспроизведение материала по запросу и управление временем хранения контента.

Реализованное решение имеет высокую гибкость настройки для любой архитектуры информационной системы вещательной компании и позволяет производить как централизованное, так и распределенное масштабирование с сохранением работоспособности системы.

Однако следует отметить, что применение ставших вполне доступными дисковых хранилищ не исключает варианта использования кассетного хранения в составе автоматизированных библиотек или в виде стандартного "полочного" архива. При длительном хранении больших объемов материалов кассетное хранение имеет более низкую удельную стоимость. Это вопрос, который должна решать система управления хранением контента. Основными параметрами для определения алгоритмов функционирования такой системы являются удельная стоимость хранения, время доступа и частота обращения к контенту. Оптимизация стоимости хранения и определение времени "жизни" контента - довольно непростые задачи, решение которых неоднозначно. В качестве универсального подхода к данной проблеме логично использовать автоматизированную миграцию контента в зависимости от времени хранения и частоты работы с ним.

Система должна учитывать возможное обращение к контенту в ближайшей перспективе, отслеживать частоту обращения и в соответствии с этим перемещать контент на различные хранилища.

Функционирование подобной системы предъявляет особые требования к служебной информации, сопровождающей контент. Для осуществления прогнозов необходимы перспективные и текущие расписания вещания, для определения частоты обращения к контенту - запись истории его использования.

Таким образом, особо важным остается вопрос логического соединения цифрового контента с дополнительными данными, описывающими как сам контент, так и операции, производимые с ним.

Стандарты - ограничения и свободы

Широкие возможности здесь предоставляет использование MXF (Material Exchange Format) - формата обмена материалами. Как известно, разработка спецификации MXF-формата велась в тесном сотрудничестве со многими специалистами, представляющими телевизионные компании, а также с создателями программ и компаний - производителей оборудования для телевидения. В результате формат MXF считается одним из решений, наиболее полно удовлетворяющих требованиям по стандартизации производства и хранения видеоматериалов.

Упрощенно MXF можно рассматривать как контейнер (см. рис. 2) для видеоматериалов, состоящий из данных, которые формируют изображение и звук, и описаний этих материалов - метаданных. При этом спецификацией MXF предусмотрено большое количество форматов вложенных данных: некомпрессированное видео, DV с потоками до 25, 50 и 100 Мбит/с, MPEG-1, MPEG-2, D-10, D-11 и многие другие. MXF предоставляет возможность многократной вложенности - логического объединения нескольких фрагментов видеоматериалов и их описаний.

Полная структура MXF, определенная спецификациями SMPTE, довольно сложна и охватывает огромное количество функций и параметров, которыми можно управлять в рамках MXF-файла. Однако с точки зрения архивирования материалов практический интерес для специалистов представляет часть, касающаяся описаний (то есть метаданных), доступных для использования в системах автоматизации архивирования.

Структура метаданных описывается схемой метаданных. В соответствии со спецификацией DMS-1 (Descriptive Metadata Scheme 1) определены три основных раздела описательных метаданных: Production, Clip и Scene.

Назначение и состав этих разделов подробно освещаются в соответствующих спецификациях и широко используются в системах, работающих с MXF. Следует отметить, что открытость схемы метаданных позволяет вносить все необходимые дополнения, связанные с производством, хранением и обменом контентом. Это могут быть разнообразные параметры, описывающие нужные характеристики для последующего использования их системами автоматизации или просто пользователями. Например, несложно внести параметры, указывающие на время выходов передачи в эфир, список участвующих в передаче лиц, дату последнего обращения в архив за программой и т.д.

Таким образом, в рамках одной схемы метаданных допустим сбор комплекса описаний материала, отражающего все аспекты, связанные с этим материалом: от производства до хранения.

Функционирование MXF-формата в виде отдельного MXF-файла с внедренными метаданными и отдельного файла контента открывает большие возможности в отношении систематизации и индексации существующих ленточных архивов. Достаточно иметь логическую связь в виде штрихкода кассеты, чтобы задействовать весь функционал MXF-метаданных для поиска и использования нужных материалов, находящихся на кассетах. При необходимости это одновременно упрощает и перевод кассетных записей на электронное хранение.

Все хорошо, но...

MXF открывает серьезные перспективы для автоматизации всего тракта телевещания от планирования и производства до архивирования и распространения.

Сегодня существуют реализации MXF, предусматривающие схему метаданных в виде схемы в стандартах XML (Extensible Markup Language). Это позволяет говорить о построении структурированных архивов, непосредственно связанных со всеми технологическими фазами телевещания -единого центра хранения материалов.

Для работы подобной системы следует определить, в строгом соответствии с рекомендациями EBU (European Broadcasting Union) и SMPTE (Society of Motion Picture and Television Engineers), необходимую структуру метаданных (в части стандартизированных характеристик), чтобы обеспечить совместимость при передаче материалов между компаниями.

Дополнение схемы добавочными параметрами производится в зависимости от технологических особенностей самой компании. При таком подходе значительно упрощаются системы поиска и управления контентом, обеспечивается целостность информации. Таким образом, представляется возможным последующее логическое деление метаданных на Private и Public, на внутренние и публичные данные (см. рис. 3). А использование XML- формата схемы позволяет относительно просто организовать Интернет-доступ к архивам контента, сохранив при этом защищенность самого контента от неавторизованного доступа.

Однако совмещенный формат MXF-файла может приводить к существенному усложнению алгоритмов хранения. При хранении в пределах файловой системы для поиска контента потребуется проводить сканирование заголовков всех файлов, а это процедура малопроизводительная. Возможный поиск контента, связанный с наименованием файла, также не отличается эффективностью по причине ограниченности критериев поиска. Более того, при осуществлении многопользовательского доступа к материалам архива придется уделить особое внимание вопросам обеспечения целостности информации и синхронизации изменений как контента, так и метаданных.

Разделяй и властвуй

В качестве выхода предлагается использовать метод распределенного хранения контента и связанных с ним метаданных, что предусматривается спецификацией MXF.

Метаданные при этом заключены в MXF-файл, а непосредственно контент - в отдельный, оригинальный файл или файлы в любом формате из поддерживаемых MXF (см. рис. 4).

При таком подходе нетрудно организовать отдельное хранение файлов с контентом в оптимизированной для подобного хранения файловой системе или на кассетах. Выбор варианта хранилища зависит от критериев необходимой доступности контента и может быть реализован как комбинированный вариант, сочетающий файловое и кассетное хранение с единой системой поиска информации.

Метаданные, заключенные в MXF-файл, переносятся для хранения в соответствующую по производительности систему управления базами данных, например SQL. Названное решение обеспечит высокую эффективность поиска данных, их целостность, а также потенциал многопользовательского доступа.

При условии "полочного" хранения видеоматериалов, записанных на кассеты, пользователь приобретает полностью сформированное описание материала, содержащее как технические параметры контента, так и справочные данные. Учет запросов и логистика получения кассет с материалом считаются типовыми операциями и легко интегрируются с системой архива.

Очень важными звеньями описанной технологии являются процессы конструкции и деструкции, то есть сборки и разборки MXF-файла путем внедрения и изъятия контента в файл и из него. Здесь следует учитывать одну особенность. В реальной работе с контентом, особенно если мы говорим об архивах, большинство операций совершается с его описанием, то есть с метаданными, в терминах MXF. Следовательно, оптимальным будет технологический процесс, где происходит сборка контента и метаданных только на время работы с контентом. После внесения изменения проводится деструкция MXF, a измененные контент и метаданные сохраняются в соответствии с принятой технологией.

Слагаемые успеха

Процессы конструкции и деструкции распространены до уровня спецификации MXF, как файловой структуры. Они могут затрагивать такие составные части, как файловый заголовок, схемы метаданных, сами метаданные и т.д.

При обычном запросе контента как архивного материала производится "сборка" - конструкция MXF-файла, если запрошен формат MXF, или пользователю предоставляется файл материалов в оригинальном формате с сопроводительными описаниями, экспортированными из метаданных.

Кроме перечисленных достоинств раздельного хранения важно отметить высокую универсальность описанного метода:

  • хранение файлов контента и базы метаданных в пределах одного хранилища SAN;
  • использование удаленных архивов с контентом за счет поддержки URL-адресации файла контента в формате MXF;
  • легкость интеграции с существующими программными продуктами для поиска материалов, авторизации доступа к архивам, сбору статистикииспользования;
  • простота масштабирования архива с сохранением единой системы управления и контроля.

Однако реализация процедур конструкции и деструкции MXF требует очень внимательного подхода, знания и учета всех нюансов спецификации формата. При высокой детализации этих процедур необходимо предусматривать механизмы проверки правильности и цельности компилируемых данных.

В заключение хотелось бы сказать, что выбор архитектуры построения архива контента определяется множеством факторов и предписаний, подчас противоречивых. Такие характеристики, как предназначение архива, "исторически" накопленный объем и вид хранения, частота использования архивных материалов и требуемое время доступа, имеют разнонаправленные алгоритмы оптимизации, и поэтому не стоит искать наилучшее решение в виде какой-то одной технологии.

Сочетание различных методик для проектирования и реализация их в строгом соответствии с существующими стандартами и рекомендациям являются основными факторами, определяющими успех проекта цифрового архивирования.

Директор департамента информационных технологий телеканала СТС
Александр Декевич

Опубликовано: Журнал "Broadcasting. Телевидение и радиовещание" #1, 2005
Посещений: 11929

Статьи по теме

  Автор

Александр Декевич

Александр Декевич

Директор департамента информационных технологий телеканала СТС

Всего статей:  1

В рубрику "Оборудование и технологии" | К списку рубрик  |  К списку авторов  |  К списку публикаций