Центр колективного користування обладнанням суперкомп’ютерного комплексу "СКІТ" НАН України на базі Інституту кібернетики імені В.М. Глушкова НАН України
Актуальні проблеми наукових досліджень, для вирішення яких створено Центр
ЦККО СКК "СКІТ" створено на базі Інституту кібернетики ім. В.М. Глушкова НАН України з метою найбільш раціонального використання унікального та коштовного сучасного суперкомп’ютерного комплексу для забезпечення потреб наукових установ НАН України у високопродуктивних обчислювальних ресурсах.
Типові застосування суперкомп’ютерів розроблених в Інституті кібернетики ім. В.М. Глушкова пов’язанні з моделюванням молекулярної динаміки (дослідження білків, ДНК тощо – скрінінг, докінг, пошук нових ліків); квантово-хімічним моделюванням (дослідження кристалів, активних центрів біологічних молекул); гідро- та аеродинамічним моделюванням (метеорологічне прогнозування, моніторинг водних ресурсів, проектування споруд і техніки – судів, літаків, гелікоптерів, вузлів електростанцій тощо); математикою (для перевірки гіпотез, чи як складова частина доведення теорем). У рамках Українського Національного Гріду (УНГ) суперкомп’ютери ЦККО СКК "СКІТ" застосовувалися також для обробки даних Великого адронного колайдера, економічного моделювання тощо. Інші застосування, зокрема, Національний корпус української мови, використовують хмарну підсистему ЦККО СКК "СКІТ".
Розподіл академічних користувачів ЦККО СКК "СКІТ" за напрямками досліджень.
Організаційний статус Центру
ЦККО СКК "СКІТ" входить до складу Інституту кібернетики ім. В.М. Глушкова НАН України і підпорядкований безпосередньо дирекції Інституту кібернетики ім. В.М. Глушкова НАН України, без статусу юридичної особи. ЦККО СКК "СКІТ" створений на базі відділу автоматизації програмування Інституту кібернетики ім. В.М. Глушкова НАН України.
Фахівці Центру
Керівник ЦККО СКК "СКІТ": заступник директора Інституту кібернетики ім. В.М. Глушкова НАН України з наукової роботи, член-кореспондент НАН України, док. фіз.-мат. наук, проф. Хіміч Олександр Миколайович (тел.: 044-526-41-18, факс: 044-526-62-19, e-mail: khimich505@gmail.com)
Відповідальний за роботу ЦККО СКК "СКІТ": завідувач відділу автоматизації програмування, док. фіз.-мат. наук, с.н.с. Тульчинський Вадим Григорович (тел.: 044-526-36-03, e-mail: v.tulchinsky@incyb.kiev.ua)
Відповідальний за роботу суперкомп’ютерного комплексу: завідувач лабораторії високопродуктивних і розподілених обчислень к.т.н. Головинський Андрій Леонідович (тел.:. 044-526-20-49, email: icybcluster@gmail.com)
Відповідальні виконавці - співробітники ЦККО СКК "СКІТ":
Сидорук Володимир Антонович, канд. фіз.-мат. наук, с.н.с. відділу чисельних методів та комп’ютерного моделювання (тел.: 044-526-62-19, e-mail: wolodymyr.sydoruk@gmail.com)
Богаєнко Всеволод Олександрович, канд. тех. наук, с.н.с. лабораторії методів математичного моделювання процесів екології та енергетики (тел.: 044-526-21-69, e-mail: sevab@ukr.net)
Баранов Ігор Анатолійович, н.с. відділу чисельних методів та комп’ютерного моделювання (тел.: 044-526-62-19, e-mail: vlasov@ukr.net)
Бандура Олександр Юрійович, н.с. лабораторії високопродуктивних і розподілених обчислень (тел.: 044-526-20-49, e-mail: xand.bandura@gmail.com)
Шишкалов Валерій Павлович, інж.-ел. лабораторії високопродуктивних і розподілених обчислень (тел.: 044-526-20-49)
Ільченко Сергій Миколайович, інж. лабораторії високопродуктивних і розподілених обчислень (тел.: 044-526-20-49)
Опис технічних показників приладів/обладнання Центру
Поточний склад апаратного забезпечення ЦККО СКК "СКІТ"
СКІТ-4.5 AI – сучасний кластер (2018 р.) з новітньою операційною системою Ubuntu 18.04, має 4 вузли об’єднаних у єдиний комплекс високошвидкісним комутатором Іnfiniband DDR. Загалом СКІТ-4.5 АІ має 144 ядра Intel Xeon E5-2695 v4, прискорювач NVidia Tesla K20, прискорювач Intel Xeon Phi, 128 ГБ оперативної пам’яті, внутрішню мережу пропускною здатністю 16 Гбіт/с. Продуктивність СКІТ-4.5 АІ при розв’язуванні систем лінійних рівнянь за тестом Linpack складає 1,5 Тфлопс.
СКІТ-4 у своєму складі має 27 вузлів об’єднаних у єдиний комплекс високошвидкісним комутатором Іnfіnіband FDR. Загалом СКІТ-4 має 432 ядра Intel Xeon E5-2660 2.6 ГГц, 36 прискорювачів NVidia Tesla M2075, 3456 ГБ оперативної пам’яті, внутрішню мережу пропускною здатністю 56 Гбіт/с. Зараз СКІТ-4 розбитий на 2 сегменти: 12 вузлів з GPU і Ubuntu 18.04 та 15 вузлів з Linux CentOS 5. Продуктивність СКІТ-4 при розв’язуванні систем лінійних рівнянь за тестом Linpack складає 18 Тфлопс.
СКІТ-3 складається з 80 вузлів з операційною системою Linux CentOS 5 об’єднаних у єдиний комплекс комутатором 1 Gbіt Ethernet. Загалом СКІТ-3 має 520 ядер (400 ядер Intel Xeon 5345 і 120 ядер Intel Xeon 5160), 1040 ГБ оперативної пам’яті, внутрішню мережу пропускною здатністю 1 Гбіт/с. Його продуктивність при розв’язуванні систем лінійних рівнянь за тестом Linpack складає 2 Тфлопс.
Суперкомп’ютери ЦККО СКК "СКІТ" підключені до Академічної мережі обміну даними (АМОД) каналом 10 Гбіт/с. Комплекс має технічну можливість підключення до інших користувачів з швидкістю до 1 Гбіт/с, але зараз працює з неакадемічними користувачами на швидкості 150 Мбіт/с. До його складу входить паралельне файлове сховище об’ємом 125 ТБ і пропускною здатністю 1 Гбіт/с. На основі суперкомп’ютерного комплексу в Інституті кібернетики ім. В.М. Глушкова НАН України працює ресурсний центр Українського Національного Гріду (УНГ). Загальна пікова продуктивність комплексу СКІТ складає 42 Тфлопс.
Поточний склад програмного забезпечення ЦККО СКК "СКІТ"
На суперкомп’ютерах ЦККО СКК "СКІТ" встановлене і налаштоване різноманітне прикладне програмне забезпечення, зокрема, наступні програми з відкритими кодами та комерційні пакети:
- Система комп’ютерної алгебри GAP;
- Системи квантової хімії GAMESS, Fіrefly, NAMD;
- Моделювання молекулярної динаміки: Gromacs;
- Гідродинамічні розрахунки: OpenFoam;
- Бібліотеки штучних нейронних мереж: Keras, PyTorch, TensorFlow.
Також пропонуємо користувачам ЦККО СКК "СКІТ" програмні пакети власної розробки Інституту кібернетики:
- Інтелектуальний програмний засіб Іnpartool_G для автоматичного дослідження та розв’язування систем лінійних алгебраїчних рівнянь зі щільними та стрічковими матрицями з наближеними даними з оцінками достовірності комп’ютерних результатів на багатоядерному комп’ютері з графічними прискорювачами.
- Бібліотека інтелектуальних програм libInpar_G для дослідження та розв’язування задач лінійної алгебри (лінійних систем та проблем власних значень) з наближеними даними на багатоядерному комп’ютері з графічними прискорювачами.
- Бібліотека інтелектуальних паралельних програм LibInpar для дослідження та розв’язування задач лінійної алгебри та задач з початковими умовами (задач Коші) для систем звичайних диференціальних рівнянь з наближеними даними та оцінками достовірності комп’ютерних результатів на MIMD-комп’ютерах.
- Бібліотека інтелектуальних програм для статистичного прогнозування часових рядів Predictor (26 методів для однієї та багатьох змінних, автоматичний підбір параметрів за довільною комбінацією 12 статистичних оцінок).
- Бібліотеки методів апроксимації і стиснення масивів даних: libaprox для побудови найкращих рівномірних наближень функцій багатьох змінних, а також для чебишовського поліноміального і раціонального наближень функції однієї змінної, lin_int для лінійної інтерполяції функцій багатьох змінних, libicybmath для швидкого розрахунку з високою точністю елементарних функцій.
Системне програмне забезпечення ЦККО СКК "СКІТ" включає:
- компілятори GNU, що входять у операційну систему;
- компілятори NVIDIA CUDA 10.0 з CUDA SDK;
- інтерпретатор Python 3.6;
- пакет бібліотек Intel MKL 2018;
- бібліотеки SCALAPACK 2.0.2, OpenBLAS 3.1;
- систему розпаралелювання OpenMPI;
- систему управління чергами SLURM;
- проміжне програмне забезпечення грід ARC;
- веб-систему для роботи з суперкомп’ютерами http://icybcluster.org.ua/.
Близькі за можливостями існуючі вітчизняні та зарубіжні аналоги
Найшвидші суперкомп’ютери світу реєструються у світовому рейтингу Топ-500: https://www.top500.org/, найбільш екологічні – у рейтингу Грін-500: https://www.top500.org/green500/, а найшвидші суперкомп’ютери для обробки даних – у рейтингу Граф-500: https://graph500.org/.
Перелік українських кластерних комплексів, що об’єднанні в Український Національний Грід (УНГ): http://ung.in.ua/ua/resourses_arc/ та http://ung.in.ua/ua/resourses_glite/.
Основні результати діяльності Центру
Завдяки застосуванню суперкомп’ютерів ЦККО СКК "СКІТ" починаючи з 2005 р. науково-дослідні інститути НАН України отримали важливі фундаментальні та прикладні результати з біофізики, біохімії, фізичної хімії, квантової механіки, матеріалознавства, медицини, геології/геофізики, нанотехнологій тощо. За цей час користувачами суперкомп’ютерів розроблених в Інституті кібернетики ім. В.М. Глушкова стали науковці переважної більшості відділень НАН України:
Секція фізико-технічних та математичних наук | Кількість інститутів |
---|---|
Відділення математики | 1 |
Відділення інформатики | 4 |
Відділення механіки | 1 |
Відділення фізики та астрономії | 6 |
Відділення наук про Землю | |
Відділення фізико-технічних проблем матеріалознавства | 2 |
Відділення фізико-технічних проблем енергетики | грід |
Відділення ядерної фізики та енергетики | 1 |
Секція хімічних та біологічних наук | |
Відділення хімії | 2 |
Відділення біохімії, фізіології та молекулярної біології | 1 |
Відділення загальної біології | 0 |
Секція суспільних і гуманітарних наук | |
Відділення економіки | грід |
Відділення історії, філософії та права | 0 |
Відділення літератури, мови та мистецтвознавства | хмара |
Послуги Центру
ЦККО СКК "СКІТ" надає українським науковцям, співробітникам інститутів НАН України послуги суперкомп’ютерних обчислень та збереження великих обсягів даних, а також послуги хмарної системи. Крім того його суперкомп’ютери є основою ресурсного центру Українського Національного Гріду (УНГ).
Графік роботи Центру
ЦККО СКК "СКІТ" працює в робочий час у робочі дні згідно графіку роботи Інституту кібернетики ім. В.М. Глушкова НАН України.
Суперкомп’ютери працюють безперервно 24 години на добу 7 днів на тиждень без вихідних. Також постійно вони доступні для доступу онлайн і віддаленого використання через веб-систему для роботи з суперкомп’ютерами http://icybcluster.org.ua/.
Питання поліпшення діяльності Центру
Ваші зауваження та пропозиції щодо поліпшення роботи направляйте на електронну пошту відповідального за роботу ЦККО СКК "СКІТ" Тульчинському Вадиму Григоровичу: v.tulchinsky@incyb.kiev.ua.
Ваші практичні запитання направляйте на електронну пошту відповідального за роботу з користувачами Сидорука Володимира Антоновича: wolodymyr.sydoruk@gmail.com.
В разі незадоволення роботою ЦККО СКК "СКІТ" можна звернутися безпосередньо до керівника Центру, заступника директора Інституту кібернетики ім. В.М. Глушкова НАН України з наукової роботи, член-кореспондента НАН України Хіміча Олександра Миколайовича (тел.: 044-526-41-18).