مصرف انرژی بالاتر هوش مصنوعی در زبان های غیرانگلیسی

پژوهش دانشگاه میشیگان نشان می‌دهد تولید متن غیرانگلیسی در هوش مصنوعی مولد می‌تواند انرژی بسیار بیشتری مصرف کند و دقت پایین‌تری داشته باشد.

.
مصرف انرژی بالاتر هوش مصنوعی در زبان های غیرانگلیسی

3 دقیقه

دنبال کردن در گوگل

یک مطالعه تازه از دانشگاه میشیگان نشان می‌دهد مدل‌های هوش مصنوعی مولد هنگام تولید متن غیرانگلیسی به‌طور قابل‌توجهی انرژی بیشتری مصرف می‌کنند، از ۱.۴ تا ۱۸۰ برابر بیشتر، و ممکن است برای این زبان‌ها خروجی‌هایی با دقت پایین‌تر ارائه دهند. پژوهشگران گزارش می‌کنند که مدل‌های هوش مصنوعی برای تولید متن غیرانگلیسی بین ۱.۴ تا ۱۸۰ برابر انرژی بیشتری مصرف می‌کنند.

یافته‌ها و دامنه مطالعه

این پژوهش که در کنفرانس «ای‌ام‌ان‌ال‌پی» ارائه شد، مصرف انرژی برای تولید متن در زبان‌های مختلف را اندازه‌گیری کرد و نشان داد بیشترین شکاف‌ها در زبان‌هایی دیده می‌شود که از الفبای لاتین استفاده نمی‌کنند و داده‌های آموزشی دیجیتال کمتری دارند. به‌طور میانگین، مدل‌ها برای متن غیرانگلیسی نسبت به انگلیسی به ۱.۴ تا ۱۸۰ برابر انرژی بیشتر نیاز دارند. هزینه انرژی زبان‌های اروپای غربی حداکثر حدود دو برابر انگلیسی بود، در حالی که هندی و بنگالی به‌ترتیب ۷.۹ و ۱۵.۳ برابر انرژی بیشتری نیاز داشتند. نویسندگان برآورد می‌کنند که حدود ۵.۲ میلیارد نفر در سراسر جهان برای تولید متن به زبان مادری خود، در مقایسه با کاربران انگلیسی‌زبان، به بیش از دو برابر انرژی نیاز دارند.

نایهاو دنگ، دانشجوی دکتری علوم و مهندسی کامپیوتر در دانشگاه میشیگان و نویسنده نخست مقاله، می‌گوید زبان‌هایی که انرژی بیشتری مصرف می‌کنند، معمولا با دقت پایین‌تر مدل‌ها نیز روبه‌رو می‌شوند. او این اثر را «جریمه دوگانه» توصیف کرد؛ وضعیتی که می‌تواند دسترسی کاربرانی را که با هزینه‌های بالاتر مواجه‌اند محدود کند و انگیزه شرکت‌ها برای پشتیبانی از برخی زبان‌ها را کاهش دهد.

روش‌ها، مدل‌ها و اندازه‌گیری‌ها

برای سنجش این شکاف، این تیم سه مدل متن‌باز را ارزیابی کرد و مصرف انرژی را با یک چارچوب اختصاصی اندازه‌گیری کرد. مدل‌های آزمایش‌شده عبارت بودند از:

  • کیوِن ۳ (علی‌بابا)
  • جِما ۳ (گوگل)
  • لاما ۳.۱ (متا)

پژوهشگران از مجموعه‌داده «بِله‌بِله» استفاده کردند که درک مدل را در ۱۲۲ زبان ارزیابی می‌کند، و چارچوب اندازه‌گیری «ام‌ال.انرژی» را به کار گرفتند. آن‌ها پرسش‌های چندگزینه‌ای، مسائل ریاضی و درخواست‌های تولید متن آزاد را اجرا کردند. نتایج نشان داد هر سه مدل به‌طور میانگین برای درخواست‌های انگلیسی انرژی کمتری مصرف می‌کنند و این اختلاف‌ها در اندازه‌های بزرگ‌تر مدل و پردازنده‌های مختلف نیز ادامه دارد.

دلایل و توضیح فنی

علت فنی اصلی، توکن‌سازی است. توکن‌ها واحدهای پایه داده هستند که مدل‌ها پردازش می‌کنند؛ متن پیش از محاسبه به توکن تبدیل می‌شود. زبان‌هایی مانند هندی و نپالی، که در آن‌ها شکل نویسه‌ها تغییر می‌کند یا با نشانه‌های آوایی ترکیب می‌شود، برای همان محتوای معنایی توکن‌های بسیار بیشتری تولید می‌کنند. تولید توکن‌های بیشتر مصرف حافظه را افزایش می‌دهد و این مسئله مدل‌ها را وادار می‌کند توکن‌ها را در دسته‌های کوچک‌تر پردازش کنند. دسته‌های کوچک‌تر انرژی مصرفی به ازای هر توکن را بالا می‌برند و توان پردازش را کاهش می‌دهند. از آنجا که بسیاری از ارائه‌دهندگان، هزینه دسترسی را بر اساس تعداد توکن‌ها محاسبه می‌کنند، کاربران غیرانگلیسی ممکن است با هزینه مستقیم بالاتری نیز روبه‌رو شوند.

پیامدها و راهکارهای پیشنهادی

این مطالعه یک منبع بالقوه نابرابری دیجیتال جهانی را برجسته می‌کند: کاربران بسیاری از زبان‌های غیرلاتین و کم‌منبع ممکن است انرژی و هزینه مالی بیشتری بپردازند و در عین حال خروجی‌های کم‌کیفیت‌تری دریافت کنند. برای رفع این عدم توازن، پژوهشگران توصیه می‌کنند شرکت‌های هوش مصنوعی خدمات خود را برای مجموعه گسترده‌تری از زبان‌ها بهینه کنند؛ برای نمونه، درخواست‌ها را به مدل‌های ویژه هر زبان هدایت کنند یا در موارد مناسب، پیش از پردازش، درخواست‌ها را به انگلیسی ترجمه کنند.

سارا احمدی
سلام! من سارا هستم، عاشق دنیای فناوری و گجت‌های جدید. از بچگی شیفته موبایل و لپ‌تاپ بودم و حالا خوشحالم که می‌تونم آخرین اخبار و ترندهای دنیای تکنولوژی رو باهاتون به اشتراک بذارم.

نظر بگذارید

نظرات

هنوز نظری ثبت نشده. اولین نفر باشید.