Google TPU дают 30-80-кратный рост энергоэффективности по сравнению с ЦПУ и ГПУ
Google рассказала кое-какие подробности о своих процессорах (точнее — интегральных схем специального назначения, ASIC) — Tensor Processing Unit (TPU). Компания с 2015 года использует их в своих дата-центрах, ежедневно выполняющих голосовые команды сотен миллионов пользователей смартфонов и решающих другие задачи, которые требуют участия систем искусственного интеллекта. Например, с их помощью программа AlphaGo обыграла чемпиона по игре Го. Google приводит следующие данные о росте производительности и энергоэффективности TPU по сравнению с современными ЦПУ и ГПУ (упоминаются неназванная модель серверного процессора Intel с архитектурой Haswell, а также графический ускоритель Nvidia K80):
- в 15-30 раз производительнее;
- в 30-80 раз энергоэффективнее (в TOPS, т.е. трлн. операций глубокого обучения в секунду, на один ватт потребляемой электроэнергии).
При этом размер программ на базе платформы TensorFlow, предназначенной для машинного обучения, составляет всего 100-1,500 строк кода.
И хотя в публикации ничего не говорится о планах по созданию новой версии процессора, в этом отношении имеется неплохой задел. Во-первых, нынешняя была создана на основе устаревшего 28-нанометрового техпроцесса — переход на 14/16-нанометровый может привести к 2-кратному снижению энергопотребления при прежнем уровне производительности. Во-вторых, Google заявляет, что имей она в своем распоряжении лишних 15 месяцев, то за счет более оптимальной логики процессора могла бы увеличить производительность в 1.5 раза. В-третьих, 4-кратное увеличение пропускной способности серверной памяти позволило бы повысить быстродействие еще в 3 раза. В совокупности на базе всех этих улучшений можно спроектировать TPU, энергоэффективность которого будет в 9 раз лучше, чем у нынешней версии. Что весьма актуально с учетом постоянно растущей нагрузки на дата-центры Google.