محققان ایرانی مصرف توان سخت افزارهای هوش مصنوعی را کاهش دادند
به گزارش گروه هوش مصنوعی، محققان دانشگاه تهران توانستند مصرف توان را تا ۸۰.۳ درصد، زمان پردازش را تا ۶۸.۳ درصد و فضای مورد نیاز سخت افزار را تا ۹۲.۱ درصد کاهش دهند.
به گزارش گروه هوش مصنوعی به نقل از دانشگاه تهران، افزایش استفاده از هوش مصنوعی، نیاز به پردازنده هایی سریع تر و با این وجود کم مصرف تر را بیشتر کرده است. یکی از بخشهایی که در پردازش های هوش مصنوعی به توان و فضای سخت افزاری قابل توجهی نیاز دارد، انجام عملیات ضرب اعداد است.
پژوهشگران دانشگاه تهران در این مطالعه کوشیده اند این محاسبات را با روشی ساده تر و کم مصرف تر انجام دهند.
در این مطالعه، روشی با عنوان ELA-FPM برای محاسبه تقریبی ضرب اعداد عرضه شده است. ایده اصلی این شیوه آن است که همه بخش های یک محاسبه عددی با یک میزان دقت پردازش نشوند؛ بخشهایی که تاثیر بیشتری بر نتیجه دارند با دقت بالاتر محاسبه می شوند و بخشهایی که تاثیر کمتری دارند، با یک روش ساده تر و سریع تر محاسبه یا حذف می شوند.
برای اجرای این ایده، محققان از یک جدول از پیش آماده برای انجام بخشی از محاسبات بهره برده اند. این کار سبب می شود به جای استفاده از مدارهای پیچیده و پرمصرف برای انجام تمام محاسبات، بخشی از عملیات با ساختاری ساده تر صورت گیرد. درنتیجه، سخت افزار کوچک تر، سریع تر و کم مصرف تر می شود.
نتایج آزمایش های سخت افزاری نشان داد روش ELA-FPM در مقایسه با روش دقیق انجام ضرب، تا ۶۸.۳ درصد زمان پردازش کمتر، ۸۰.۳ درصد مصرف توان کمتر و ۹۲.۱ درصد فضای سخت افزاری کمتر نیاز دارد.
این شیوه در مقایسه با بهترین روشهای تقریبی موجود هم عملکرد قابل توجهی داشته است؛ به شکلی که تا ۶۵.۶ درصد کاهش زمان پردازش، ۷۰ درصد کاهش مصرف توان و ۷۱ درصد کاهش فضای سخت افزاری گزارش شده است.
پژوهشگران برای اطمینان از این که کاهش محاسبات سبب افت قابل توجه عملکرد هوش مصنوعی نمی گردد، روش پیشنهادی را روی چند مدل شناخته شده شبکه های عصبی آزمایش کردند. نتایج نشان داد در یکی از پیکربندی های ELA-FPM، حداکثر کاهش دقت مدلهای بررسی شده تنها ۰.۰۵ درصد بوده است؛ در صورتیکه در همین پیکربندی، زمان پردازش ۳۶ درصد، مصرف توان ۷۶ درصد و فضای سخت افزاری ۸۸ درصد کاسته شده است.
این یافته نشان داده است می توان در بعضی کاربردهای هوش مصنوعی، بخشی از محاسبات را با تقریب انجام داد و در مقابل، صرفه جویی قابل توجهی در منابع سخت افزاری و انرژی به دست آورد، بدون این که دقت نهائی مدل بشکل محسوسی کاهش پیدا کند.
روش پیشنهادی همینطور روی BERT، یکی از مدلهای شناخته شده پردازش زبان، آزمایش شد. در یکی از پیکربندی های ELA-FPM، دقت مدل به ۸۴.۱۹ درصد رسید که تقریبا با دقت مدل در حالت استفاده از محاسبات دقیق برابری می کند.
بر اساس یافته های این مطالعه، ELA-FPM می تواند راهکاری برای طراحی سخت افزارهای مورد استفاده در هوش مصنوعی باشد که انرژی کمتری مصرف می کنند، فضای کمتری اشغال می کنند و با این وجود سرعت پردازش بالاتری دارند.
این خصوصیت می تواند بخصوص در توسعه تجهیزات پردازشی مورد استفاده برای شتاب دهنده های شبکه های عصبی، مدلهای هوش مصنوعی و مدلهای زبانی بزرگ اهمیت داشته باشد.
این مقاله با عنوان «ELA-FPM: An Energy-Efficient LUT-Based Approximate Floating-Point Multiplier for Neural Network Acceleration» به قلم مهلا صالحی شیخعلی کِلایه، اسما ناصری راد، سهند دیوسالار، امید صالحی نیا و دکتر شقایق وحدت، عضو هیات علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران، در مجله IEEE Micro، از نشریات IEEE Computer Society، در شماره ماه های مه و ژوئن ۲۰۲۶ انتشار یافته است. این مقاله در پیوند زیر قابل مشاهده است:
https: //ieeexplore.ieee.org/abstract/document/11458722
به طور خلاصه، ایده اصلی این شیوه آنست که همه بخش های یک محاسبه عددی با یک میزان دقت پردازش نشوند؛ بخشهایی که تأثیر بیشتری بر نتیجه دارند با دقت بالاتر محاسبه می شوند و بخشهایی که تأثیر کمتری دارند، با یک روش ساده تر و سریع تر محاسبه یا حذف می شوند. برای اجرای این ایده، محققان از یک جدول از پیش آماده برای انجام قسمتی از محاسبات بهره برده اند. درنتیجه، سخت افزار کوچک تر، سریع تر و کم مصرف تر می شود. نتایج آزمایش های سخت افزاری نشان داد روش ELA-FPM در مقایسه با روش دقیق انجام ضرب، تا ۶۸.۳ درصد زمان پردازش کمتر، ۸۰.۳ درصد مصرف توان کمتر و ۹۲.۱ درصد فضای سخت افزاری کمتر نیاز دارد. در یکی از پیکربندی های ELA-FPM، دقت مدل به ۸۴.۱۹ درصد رسید که تقریباً با دقت مدل در حالت استفاده از محاسبات دقیق برابری می کند. برمبنای نتایج این مطالعه، ELA-FPM می تواند راهکاری برای طراحی سخت افزارهای مورد استفاده در هوش مصنوعی باشد که انرژی کمتری مصرف می کنند، فضای کمتری اشغال می کنند و با این وجود سرعت پردازش بالاتری دارند. این خصوصیت می تواند بویژه در توسعه تجهیزات پردازشی مورد استفاده برای شتاب دهنده های شبکه های عصبی، مدل های هوش مصنوعی و مدل های زبانی بزرگ اهمیت داشته باشد. این مقاله با عنوان ELA-FPM: An Energy-Efficient LUT-Based Approximate Floating-Point Multiplier for Neural Network Acceleration به قلم مهلا صالحی شیخعلی کِلایه، اسما ناصری راد، سهند دیوسالار، امید صالحی نیا و دکتر شقایق وحدت، عضو هیئت علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران، در مجله IEEE Micro، از نشریات IEEE Computer Society، در شماره ماه های مه و ژوئن ۲۰۲۶ انتشار یافته است.
منبع: iagrp.ir
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب