Оптимизация IT-процессов в финансовой сфере

О проекте:

Оптимизации расходов

Компания-заказчик – процессинговый центр для обработки платежей по модели SaaS. Она предоставляет собственные программные решения, которые входят в реестр отечественного ПО и могут быть кастомизированы под клиентов.

За более чем 10 лет работы Заказчик выстроил обширную отказоустойчивую инфраструктуру, позволяющую в кратчайшие сроки наладить процессинг платежей как для крупных клиентов (например, банков), так и для микрофинансовых организаций. На сегодняшний день компания обслуживает более 250 млн. платёжных карт в России и продолжает активно наращивать клиентскую базу. В связи с этим стремительно растёт массив данных на серверах, и Заказчик обратился к ITELON с просьбой оптимизации расходов на их хранение, обработку и миграцию.

Проблема:

Объем, скорость, отказоустойчивость,

Ранее компания Заказчика хранила и обрабатывала данные на нескольких серверах Gigabyte, 4 из которых были объединены в 2 кластера на основе Oracle RAC. При высоких затратах на обслуживание серверов не хватало объема для локального хранения данных.

Использование решения на основе хранилищ HP 3Par и HP MSA упирались в низкую скорость перекладки больших объемов данных. По факту это приводило к увеличению длительности работ, а также значительному увеличению сложности и количества работ в связи с невозможностью вписывания в окно низкой нагрузки с 23-00 до 05-00.

“Скорость и отказоустойчивость СХД играет критическую роль в процессинге. Владельцы пластиковых карт должны иметь круглосуточный доступ к сервисам, поэтому так важно строго контролировать нагрузку на серверы. Работая более чем с 150 клиентами, мы накопили терабайты информации, и столкнулись с тем, что решение HP 3PAR устарело – оно не позволяло обрабатывать постоянно растущие объемы данных,” - поделился руководитель технического отдела компании Заказчика.

Задача:

Обсудив проблематику и запросы клиента, команда Itelon обозначила целый ряд задач :

1. Обеспечить единое консолидированное хранилище данных с более чем 150 источников.
2. Сформировать онлайновую аналитику на объемах 70+ ТБ структурированных данных.
3. Наладить регулярное построение нагрузочных стендов на основе исторических данных по более чем 150 приложениям.
4. Разработать наборы витрин данных для обеспечения ЛК отдельных приложений, оптимизированных под особенности наполнения универсальных структур. При этом требовалось учитывать запросы, связанные с кастомизацией наполнения данными этих универсальных структур.
5. Снизить затраты на регулярную перестройку структур данных при условии трафика 24/7.
6. Снизить затраты на обрезку и архивацию данных в рамках заданной стратегии цикла жизни данных (Data Lificycle Management). Для этого требуется разработка и тестирование автоматизированных сценариев.
7. Оптимизация и тестирование процесса миграции данных

Результат

Непростая миграция

“Заказчик обратился к нам с просьбой увеличить локальное хранение данных имеющихся серверов. Обсудив задачу, мы поняли, что простым расширением места проблема бы не решилась – в таких случаях требуется комплексный подход. Был предложен односокетный сервер специфической архитектуры, где все 24 NVMe слота соединены напрямую с процессором. Так обеспечивается минимально возможная задержка доступа к данным. Мы не ошиблись – наша концепция подтвердилась на практике. Теперь бизнес Заказчика оснащён мощной и экономичной СХД,” – рассказал технический директор ITELON Олег Носов.

Стало очевидно, что задача может быть решена путём миграции информационных систем Заказчика на полностью новую аппаратную платформу, которая должна соответствовать одновременно нескольким противоречащим друг другу требованиям:

• Максимально высокая плотность хранения данных. Желательно до 200ТБ на старте и вдвое больше в обозримом будущем - в системе, высотой всего 2U

• Минимально возможная задержка и максимальная производительность доступа к данным.

• Максимальная вычислительная производительность на многопоточных задачах.

• Приемлемая цена.

Минимальную задержку мы могли обеспечить, выбрав аппаратную архитектуру, где все накопители соединены напрямую с процессором. Для этого процессор должен обладать достаточным количеством линий PCIe. Максимальная производительность на многопоточных задачах может быть обеспечена применением процессоров с большим количеством вычислительных ядер. Высокая плотность хранения данных одновременно с высокой производительностью может быть обеспечена применением NVMe накопителей объёмом 30ТБ каждый. Приемлемая цена может быть достигнута, если мы сможем ограничиться всего одним процессором, но с большим количеством ядер, и используем систему с односокетной архитектурой.

Такое аппаратное решение было нами создано и значительно превзошло ожидания Заказчика по соотношению цена/производительность.

Для реализации технического решения была предложена СУБД на базе Oracle. Она имеет следующие особенности и преимущества:

• Real Application Cluster (RAC) обеспечивает работу одного экземпляра базы данных на нескольких узлах grid, позволяя управлять нагрузкой и гибко масштабировать систему в случае необходимости. 

• Automatic Storage Management (ASM) автоматически распределяет данные между имеющимися ресурсами СХД, что повышает отказоустойчивость системы и снижает общую стоимость владения. 

• Высокая производительность. Oracle Database позволяет автоматически управлять уровнями сервиса и тиражировать эталонные конфигурации в рамках всей сети. 

• Самоуправление. Специальные механизмы Oracle Database позволяют самостоятельно перераспределять нагрузку на систему, оптимизировать и корректировать SQL-запросы, выявлять и прогнозировать ошибки. 

• Большие базы данных. На данный момент максимальный размер экземпляра базы данных Oracle может достигать 8 экзабайт. 

• В новой версии базы данных реализована поддержка переносимых табличных пространств, система управления потоками данных Oracle Streams и модель распределенных SQL-запросов. Для переноса существующих баз данных в среду Grid в них не потребуется вносить изменений.

Благодаря предложенному компанией Itelon аппаратному решению Заказчик смог более чем в 10 раз снизить время перекладки больших данных в таблицах, индексах и аггрегатах хранилища на основе СУБД Oracle. Это позволило создать оптимизированные схемы данных с учетом непрерывного накопления данных онлайн. При грамотном использовании возможностей паралеллизма БД выигрыш в производительности достигает 4000% (в 40 раз) по сравнению с усиленными тайрингом (доля SSD 20%) хранилищами на основе HP 3Par. 

Таким образом, данное решение способно полностью использовать возможности паралеллизма Oracle, обеспечивая максимально возможную производительность. Также, благодаря низкому времени отклика снижаются требования к оптимизации конфигурации Golden Gate. С персонала снимается задача выявления точек десериализации трафика и изменения структур данных, а также поиска оптимального архитектурного решения Golden Gate для обеспечения возможности паралеллизма. 

Благодаря использованию нового оборудования, производительность труда на ресурсоёмких и времязатратных операциях увеличилась более чем в 4 раза. А показатель человеческих ошибок снизился более чем на 10%. 

Предложенное решение позволит вывести из эксплуатации 5 серверов и хранилище на основе 3 PAR, а также сократить нагрузку на еще одно хранилище на 30%. Все это косвенно снижает затраты на на сопровождение серверов.