view in publisher's site

Exploring the Vision Processing Unit as Co-Processor for Inference

The success of the exascale supercomputer is largely debated to remain dependent on novel breakthroughs in technology that effectively reduce the power consumption and thermal dissipation requirements. In this work, we consider the integration of co-processors in high-performance computing (HPC) to enable low-power, seamless computation offloading of certain operations. In particular, we explore the so-called Vision Processing Unit (VPU), a highly-parallel vector processor with a power envelope of less than 1W. We evaluate this chip during inference using a pre-trained GoogLeNet convolutional network model and a large image dataset from the ImageNet ILSVRC challenge. Preliminary results indicate that a multi-VPU configuration provides similar performance compared to reference CPU and GPU implementations, while reducing the thermal-design power (TDP) up to 8x in comparison.

کشف واحد پردازش چشم‌انداز به عنوان یک پردازنده برای استدلال

موفقیت سوپر supercomputer به طور گسترده‌ای مورد بحث قرار می‌گیرد تا وابسته به پیشرفت‌های جدید در فن‌آوری باشد که به طور موثر مصرف توان و الزامات اتلاف حرارتی را کاهش می‌دهد. در این کار، ما ادغام of در محاسبات با کارایی بالا را در نظر می‌گیریم تا تخلیه توان کم، تخلیه یکپارچه محاسباتی عملیات خاص را ممکن سازد. به طور خاص، ما به بررسی به اصطلاح واحد پردازش چشم‌انداز (VPU)، یک پردازنده برداری بسیار موازی با یک پاکت قدرت کم‌تر از ۱ W می‌پردازیم. ما این تراشه را در طول استنتاج با استفاده از مدل شبکه convolutional GoogLeNet pre و یک مجموعه داده تصویر بزرگ از چالش ImageNet ILSVRC ارزیابی کردیم. نتایج اولیه نشان می‌دهد که پیکربندی چند - عملکرد مشابهی را در مقایسه با کاربردهای مرجع CPU و GPU ارایه می‌دهد، در حالی که توان طراحی حرارتی (TDP)تا ۸ x در مقایسه را کاهش می‌دهد.

ترجمه شده با

Download PDF سفارش ترجمه این مقاله این مقاله را خودتان با کمک ترجمه کنید
سفارش ترجمه مقاله و کتاب - شروع کنید

95/12/18 - با استفاده از افزونه دانلود فایرفاکس و کروم٬ چکیده مقالات به صورت خودکار تشخیص داده شده و دکمه دانلود فری‌پیپر در صفحه چکیده نمایش داده می شود.