واحد پردازش عصبی NPU‌ و پردازنده کرین 970

هواوی شهریور امسال و در جریان کنفرانسی اختصاصی در نمایشگاه ایفا ۲۰۱۷ از تراشه‌ی کرین ۹۷۰ پرده‌برداری کرد. چینی‌ها با این تراشه نوید آینده‌ای با محوریت هوش مصنوعی را برای گوشی‌های هوشمند می‌دهند؛ چرا که کرین ۹۷۰ نخستین پردازنده‌ی موبایل دنیا محسوب می‌شود که یک واحد پردازش مبتنی بر شبکه‌ی عصبی اختصاصی موسوم به NPU‌ در آن گنجانده شده است. میت ۱۰، میت ۱۰ پرو و میت ۱۰ پورشه دیزاین، نخستین محصولات تجاری هواوی محسوب می‌شوند که از تراشه‌ی کرین ۹۷۰ بهره می‌برند.

کرین ۹۷۰ تراشه‌ای ۱۰ نانومتری و هشت هسته‌ای است که در آن هسته‌های پردازشی، چینشی مشابه کرین ۹۶۰ دارند. بهره‌وری انرژی این تراشه ۲۰ درصد بهبود یافته و به‌لطف لیتوگرافی ۱۰ نانومتری، مساحت کلی آن نیز ۴۰ درصد کاهش یافته است. تعداد ترانزیستورهای کرین ۹۷۰ نسبت به نسل قبل، افزایشی ۳۷.۵ درصدی تجربه کرده است و اکنون تعداد آن‌ها به ۵.۵ میلیارد ترانزیستور می‌رسد.

کرین ۹۷۰ توسط شرکت تایوانی TSMC و با لیتوگرافی ۱۰ نانومتری +FinFET تولید می‌شود. پردازنده‌ی مرکزی (CPU) بر مبنای معماری مجموعه‌ی دستورالعمل ARMv8-A شرکت آرم توسعه داده شده است. این واحد از هشت هسته‌ی پردازشی بهره می‌برد که در یک خوشه‌ی بسیار قدرتمند، شامل چهار هسته‌ی Cortex-A73 با فرکانس ۲.۳۶ گیگاهرتز و یک خوشه‌ی کم‌مصرف، شامل چهار هسته‌ی Cortex-A53 با فرکانس ۱.۸۴ گیگاهرتز و بر اساس معماری رایانش ناهمگون big.LITTLE آرم کنار یکدیگر قرار گرفته‌اند.

کرین ۹۷۰ نخستین تراشه‌ی موبایل مجهز به جدیدترین واحد پردازش گرافیکی آرم، موسوم به Mali-G72 MP12 است که از ۱۲ هسته‌ی پردازشی با فرکانس ۸۵۰ مگاهرتز و توان پردازشی ۵۹۲.۲ گیگافلاپس تشکیل شده و به‌کارگیری آن در تراشه‌ی کرین ۹۷۰ باعث شده است عملکرد این پردازنده‌ نسبت به کرین ۹۶۰، حدود ۲۰ درصد سریع‌تر شود و مصرف انرژی آن نیز ۵۰ درصد کاهش یابد. این GPU از استانداردهای DirectX 12 و OpenCL 2.0 ،OpenGL ES 3.2 ،OpenVG 1.1 ،Vulkan 1.0 پشتیبانی می‌کند.

صرف‌نظر از بهبود‌های پردازنده‌ی مرکزی و واحد پردازش گرافیکی، آنچه تراشه‌ی جدید هواوی را در کانون توجهات قرار داد، واحد پردازش مبتنی بر شبکه‌های عصبی (NPU) آن است. ریچارد یو، مدیرعامل گروه محصولات تجاری هواوی در جریان معرفی تراشه‌ی کرین ۹۷۰، ضمن اشاره به انواع هوش انسانی شامل هوش انفرادی (ادراک و مقدارسنجی، نتیجه‌گیری و پاسخ‌گویی، تحمل و بقا) و هوش جمعی (ادارک و اشتراک‌گذاری، اتاق فکر و مشاوره، کار تیمی و خلق مشترک)، اعلام کرد که در مورد دستگاه‌های هوشمند، هوش انفرادی از خود دستگاه سرچشمه می‌گیرد و هوش جمعی حاصل از رایانش ابری است. ترکیب هوش مصنوعی مبتنی بر دستگاه‌ و هوش مصنوعی مبتنی بر رایانش ابری، هوش مصنوعی موبایل را شکل می‌دهد؛ اما هواوی با تراشه‌ی کرین ۹۷۰، هوش مصنوعی مبتنی بر دستگاه‌ها را هدف خود قرار داده است.

به گفته‌ی یو، هواوی در زمینه‌ی هوش مصنوعی مبتنی بر دستگاه با چهار چالش ادراک، شناخت، امنیت و توان محاسباتی مواجه شده‌ است. در گوشی‌های هوشمند، وظیفه‌ی ادراک برعهده‌ی دوربین و میکروفون‌ها قرار دارد؛ چرا که برای هوش مصنوعی، ادراک محیط از زوایای مختلف از اهمیت بالایی برخوردار است. شناخت، چالش پیچیده‌ای برای گوشی‌های هوشمند محسوب می‌شود و فراتر از جمع‌آوری صرف داده است. این چالش، مواردی مانند شناسایی صحنه (رانندگی، قدم‌زدن و …)، شناسایی خلق‌‌وخوی کاربر (علایق، سرگرمی‌ها و …) و هدف وی (سفر، رفتن به محل کار و …) را دربرمی‌گیرد.

چالش مهم دیگر، امنیت اطلاعات کاربر، نظیر داده‌های حساس شخصی، داده‌های خصوصی و داده‌های حریم خصوصی است که به‌لطف پردازش مبتنی بر دستگاه، محقق می‌شود و بدین ترتیب از حریم خصوصی کاربر، بیش از پیش، محافظت می‌شود. مدیرعامل چالش نهایی را توان پردازشی می‌داند؛ هوش مصنوعی مبتنی بر دستگاه، نیازمند توان پردازشی و بهره‌وری انرژی فوق‌العاده بالایی است. این نوع از پردازش هوش مصنوعی به یک واحد پردازش تنسور با مصرف انرژی متناسب با گوشی هوشمند نیاز دارد.

مزایای هوش مصنوعی مبتنی بر دستگاه، پردازش‌های سریع‌تر، مصرف انرژی پایین‌تر و امنیت بیشتر است؛ بنابراین هواوی برای فراهم کردن این مزایا برای کاربر عادی، تراشه‌ی کرین ۹۷۰ را طراحی کرده است که از یک واحد پردازش شبکه‌ی عصبی اختصاصی بهره می‌برد. به ادعای چینی‌ها، این واحد پردازشی به‌خوبی از عهده‌ی عبور از چالش‌های یادشده برمی‌آید.

طبق اعلام هواوی، ابعاد واحد پردازش عصبی تراشه‌ی کرین ۹۷۰، ۵۰ درصد کوچک‌تر از پردازنده‌ی مرکزی است؛ با این وجود، به‌ترتیب ۲۵ و ۵۰ برابر، عملکرد و بهره‌وری بهتری را نسبت به آن ارائه می دهد. واحد پردازش عصبی کرین ۹۷۰ قادر است به‌صورت بی‌درنگ و آنی تسک‌های مربوط به پردازش تصویر را انجام دهد؛ در حالی که پردازنده‌ی مرکزی و واحد پردازش گرافیکی از انجام آن ناتوان هستند.

وقتی صحبت از پردازش‌ مبتنی بر هوش مصنوعی (یا به‌طور کلی هر اَبَرپردازش دیگر) می‌شود، آنچه اهمیت دارد، تعداد عملیات ممیز شناوری (فلاپس) است که پردازنده می‌تواند در هر ثانیه انجام دهد. طبق ادعای هواوی، توان محاسباتی واحد پردازش عصبی (NPU) به‌کاررفته در تراشه‌ی کرین ۹۷۰، هنگام استفاده از اعداد ممیز شناور ۱۶ بیتی (FP16)، معادل ۱.۹۲ ترافلاپس است.

عملیات ممیز شناور ۱۶ و ۸ بیتی، اهمیت بسیاری در حوزه‌ی هوش مصنوعی دارند؛ چرا که شبکه‌های عصبی در ماتریس‌های محاسباتی از اعداد دَه‌دَهی استفاده می‌کنند؛ با این حال، نیازی نیست اعداد ممیز شناوری یادشده دقت بسیار بالایی داشته باشند (نیازی به وجود تعداد زیادی عدد، پس از ممیز نیست)؛ بنابراین محاسبات ممیز شناور ۸ و ۱۶ بیتی بسیار مهم‌تر از محاسبات ۳۲ و ۶۴ بیتی هستند.

توان مصرفی NPU برای شناسایی تصویر تنها ۰.۳ وات است و این واحد پردازشی برای شناسایی ۱۰۰۰ تصویر، تنها ۰.۱۹ درصد از ظرفیت باتری ۴۰۰۰ میلی‌آمپرساعتی Huawei Mate 10 را مصرف می‌کند. هواوی مدعی است هر سه واحد پردازشی تراشه‌ی کرین ۹۷۰، شامل CPU ،GPU و NPU در مجموع می‌توانند ۲۰۰۵ تصویر را پردازش کنند، در حالی که این عدد برای پردازش تصویر توسط پردازنده‌ی آیفون ۷ پلاس و گلکسی اس ۸ به‌ترتیب معادل ۴۸۷ و ۹۵ تصویر است.

هواوی در جریان رونمایی از تراشه‌ی کرین ۹۷۰ ویدیویی را به نمایش گذاشت که در آن تفاوت عملکرد NPU و CPU در شناسایی و پردازش تصاویر نشان داده می‌شد. در این ویدیو، واحد پردازش عصبی کرین ۹۷۰ موفق به پردازش ۲۰۰ تصویر تنها در ۶ ثانیه شد؛ در حالی که پردازنده‌ی مرکزی، تصاویر یادشده را در مدت ۱۲۰ ثانیه پردازش کرد؛ بنابراین عملکرد NPU در این تسک، ۲۰ برابر بهتر از CPU است.

از کاربردهای هوش مصنوعی و NPU می‌توان به زمان‌بندی تسک‌ها، متعادل‌سازی بار پردازشی، تخصیص حافظه، رندر بهتر محیط رابط کاربری، پردازش گرافیکی و پردازش تصاویر در دوربین اشاره کرد. هواوی مدعی است که واحد پردازش عصبی اختصاصی کرین ۹۷۰ مزایایی همچون بینایی کامپیوتری بی‌درنگ، تجربه‌ی واقعیت افزوده با مصرف انرژی پایین و ادراک زبان دقیق‌تری را نیز برای گوشی‌های مجهز به این تراشه، نظیر میت ۱۰ و میت ۱۰ پرو نیز به ارمغان می‌آورد.

در حال حاضر از کاربردهای هوش مصنوعی در میت ۱۰ که به مدد واحد پردازش عصبی تراشه‌ی کرین ۹۷۰ فراهم شده‌اند، می‌توان به بهینه‌سازی عملکرد گوشی در طولانی‌مدت با یادگیری الگوی استفاده‌ی کاربر از گوشی، بهینه‌سازی مصرف انرژی گوشی، تشخیص تصویر، تشخیص صدا، پردازش طبیعی زبان و بهبود کیفیت تصاویر ثبت‌شده از طریق شناسایی هوشمند سوژه و شرایط نوری محیط اشاره کرد؛ اما بی‌شک چینی‌ها در این زمینه کماکان در ابتدای راه قرار دارند.

هواوی امیدوار است تا با عرضه‌ی تراشه‌ی کرین ۹۷۰ به‌عنوان «پلتفرمی باز برای هوش مصنوعی مبتنی بر موبایل» و گذاشتن آن در اختیار توسعه‌دهندگان و شرکای تجاری خود، به آن‌ها اجازه بدهد تا کاربردهای جدید و نوآورانه‌ای برای قابلیت‌های پردازش هوش مصنوعی این تراشه بیابند؛ بنابراین تراشه‌ی کرین ۹۷۰ با پشتیبانی از Tensorflow/Tensorflow Lite و Caffe/Caffe2 در کنار کتابخانه‌‌های Kirin AI و Android NN اکوسیستم بازی را برای هوش مصنوعی فراهم می‌کند؛ بنابراین احتمالا به‌زودی شاهد انتشار اپلیکیشن‌های متنوعی برای میت ۱۰ خواهیم بود که از پلتفرم رایانش هوش مصنوعی هواوی بهره می‌برند.

منبع : زومیت