IVA TPU: новая нейропроцессорная архитектура российской разработки

Как сообщают наши коллеги из CNews, в российской компании IVA Technologies (группа «Хайтэк») завершена разработка новой и полностью оригинальной микропроцессорной архитектуры, ориентированной на нейронные сети. Источник пишет, что в бенчмарке Resnet-50 (50-слойная остаточная нейронная сеть для распознавания изображений) «архитектура IVA TPU обеспечивает задержку в три раза меньше, чем Xilinx Alveo U250». Кроме того «планируется, что при реализации ускорителя с архитектурой IVA TPU в ASIC результаты будут лучше, чем у нашего ближайшего конкурента Nvidia Jetson Xavier NX — несмотря на отставание в технологии: 28 нм против 12 нм».

Первые образцы процессоров с новой архитектурой IVA ожидаются только в 1 кв 2021, поэтому не вполне понятно идет ли речь о каком-то реальном прототипе, или это «бумажные» расчеты. На сайте консорциума MLPerf в результатах бенчмарка Resnet-50 (Edge, Closed Division — закрытый список нейросетей с ограничениями на модификации, время ожидания и точность) приводятся следующие значения задержки в миллисекундах:

	цена	TDP	дата релиза	задержка
IVA TPU	?	? 1	1 кв 2021	12.23 мс
Xilinx Alveo U250	$9 тыс	225 Вт	октябрь 2018	37.46 мс
Nvidia Jetson Xavier NX	$400	10-15 Вт	лето 2020	3.21 мс
Nvidia A100	$12.5 тыс	400 Вт	лето 2020	0.5 мс 2

¹ в отношении уже выпускаемого процессора упоминается «потребляемая мощность не более 100 Вт»

² в т.ч. по данным Nvidia

Таким образом, производительность IVA TPU действительно втрое превышает Xilinx Alveo U250, но почти в 4 раза уступает Nvidia Jetson Xavier NX и в 24 раза — Nvidia A100. Поэтому не вполне понятно на чем основано заявление, что «при реализации ускорителя с архитектурой IVA TPU в ASIC результаты будут лучше, чем у нашего ближайшего конкурента Nvidia Jetson Xavier NX». В любом случае сами по себе эти результаты выглядят неплохо, поэтому при адекватных цене и энергопотреблении IVA TPU может иметь будущее как минимум на отечественном рынке.