Компания Google впервые раскрыла некоторые технические параметры Tensor Processing Unit (TPU) — интегральных схем (ASIC) её собственной разработки, которые оптимизированы для решения задач, связанных с глубокими нейронными сетями. Как сообщается в докладе поисковика, на тестах "нейрочипы" показали себя лучше процессоров Intel и NVIDIA как по общему уровню производительности, так и потреблению энергии.
Google занялась разработкой TPU в 2013 году, а впервые этот проект был представлен в мае прошлого года. Как утверждал глава компании Сундар Пичаи, "доморощенные" ASIC TPU лучше подходят для задач интернет-поисковика: в дата-центрах они помещаются в тот же отсек стойки, что и жесткий диск, и "обеспечивают намного лучшую производительность на ватт для машинного обучения", чем стороннее "железо". В частности, TPU требуется меньше транзисторов на одну операцию в секунду.
Нейронные сети — ключевой компонент во многих онлайн-сервисах Google. Именно они отвечают за идентификацию объектов и лиц на фотографиях, распознавание голоса на Android-смартфонах, а также перевод текста с одного языка на другой. За нейросетями других крупных IT-компаний, таких как Facebook (запрещена в РФ) или Twitter, стоят традиционные графические процессоры, обычно производства NVIDIA.
На этой неделе инженер Google Норма Жуппи заявил, что TPU работают быстрее и энергоэффективнее аналогов, сочетая в себе лучшие качества центрального (CPU) и графического (GPU) процессоров. "TPU являются программируемыми, как CPU или GPU, — сказал он, — Они созданы не для какой-то одной модели нейросети; они выполняют CISC-инструкции на множестве сетей (сверточных, на LSTM и крупных, полностью подключенных моделях)".
На замерах ускорители Google, например, превзошли архитектуру Haswell и графику NVIDIA K80. "Нейрочипы" выполнили 92 теоретические операций за секунду (TOPS) с тепловым пакетом 384 Вт, в то время как решение Intel показало результат в 2,6 TOPS и выделило больше тепла (455 Вт).
Источник: Slash Gear
