Facebook розкрила технології апаратного прискорення своєї інфраструктури (1)

На заході Open Compute Summit в Сан-Хосе (штат Каліфорнія), Facebook розсекретила три ключові елементи своєї апаратної інфраструктури, включаючи потужний сервер Zion, призначений виключно для тренування моделей глибокого навчання, і два розроблених компанією самостійно чіпа — прискорювача спеціалізованих робочих навантажень.

Zion допомагає прискорити найбільш ресурсномістких фазу більшості проектів ІІ. У ньому використовуються вісім центральних процесорних модулів. Кожен з них оснащений великим об’ємом оперативної пам’яті DDR і може ділитися нею з іншими процесорами для координованої обробки даних.

Адміністратори можуть комплектувати цей сервер вісьмома додатковими чіпами, оптимізованими для особливих типів тренування ІІ. Ці прискорювачі засновані на OAM, технології, яку Facebook відкрила для публічного доступу одночасно з ними. OAM це апаратний стандарт для монтажу різних типів мікросхем загалом, стандартизованому модулі.

Застосування OAM забезпечує сервера Zion значну гнучкість і універсальність. У нього можна встановлювати графічні карти, масиви програмованої логіки і процесори будь-якої конструкції, якщо всі вони змонтовані в однакових стандартних модулях.

Zion розділяє компоненти з інтенсивним використанням пам’яті, обчислень і мережі, дозволяючи масштабувати їх незалежно, — пишуть інженери Facebook Кевін (Kevin Lee), Віджай Рав (Vijay Rao) і Вільям Крісті Арнольд (William Christie Arnold). — У міру зростання розміру та складності наших тренувальних навантажень ІІ, платформа Zion може масштабуватися разом з ними«.

Один з двох чіпів, які компанія відкрила разом з Zion, називається Kings Canyon. Він спеціалізований для прискорення процесу побудови умовиводів (inference) моделями ІІ. Facebook використовує його у виділених «прискорювальних стійках», які містять відразу безліч таких чіпів і зв’язуються з серверами ЦОД по мережі.

Інший чіп, Mount Shasta, оптимізований на апаратному рівні для транскодування відео. Він знижує дозвіл кліпів, завантажених користувачами в соціальну мережу, роблячи відеоконтент більш доступним для передплатників з повільним або ненадійним підключенням до Інтернету.

«В середньому ми очікуємо, що ці відеоприскорювачі виявляться у багато разів ефективніше наших нинішніх серверів», — пишуть інженери Facebook.