২০১৭ সালে মুক্তিপ্রাপ্ত এনভিডিয়া টেসলা ভি১০০ জিপিইউ ব্যবহার করে তৈরি ১,০৪২ ডলারের একটি সাশ্রয়ী সিস্টেম এআই প্রসেসিংয়ে ৫,৩৯৯ ডলারের অ্যাপল ম্যাক স্টুডিওকে পেছনে ফেলেছে। বিশেষ করে ১২৮কে (128K) দীর্ঘ প্রেক্ষাপটে ভি১০০ সিস্টেমটি প্রতি সেকেন্ডে ৭২.৭ টোকেন গতি অর্জন করেছে, যা অ্যাপলের তুলনায় ১৯ শতাংশ বেশি। ডেভন ব্রের এই গবেষণা এআই হার্ডওয়্যারের সাশ্রয়ী বিকল্পের নতুন সম্ভাবনা উন্মোচন করেছে।
গুরুত্বপূর্ণ তথ্য পয়েন্ট (Key Takeaways):
- তিনটি পুরোনো এনভিডিয়া টেসলা ভি১০০ জিপিইউ সম্বলিত ১,০৪২ ডলারের সিস্টেমটি ১২৮কে প্রেক্ষাপটে প্রতি সেকেন্ডে ৭২.৭ টোকেন প্রসেস করে, যা ৫,৩৯৯ ডলারের ম্যাক স্টুডিওর (৬১.৩ টোকেন) চেয়ে ১৯% দ্রুত।
- কিউওয়েন (Qwen) ২.৫ ৩৫বি মডেলের মিক্সচার-অফ-এক্সপার্টস (MoE) আর্কিটেকচার ব্যবহার করে এই পরীক্ষা চালানো হয়, যেখানে ৩৫ বিলিয়ন প্যারামিটারের মধ্যে মাত্র ৩ বিলিয়ন সক্রিয় থাকে।
- পুরোনো সার্ভার জিপিইউ হওয়ায় উচ্চ বিদ্যুৎ খরচ ও তাপমাত্রার সমস্যা সমাধানে গবেষক ডেভন ব্রে প্রতিটি কার্ডের জন্য বিশেষ কুলিং কম্পোনেন্ট থ্রিডি প্রিন্ট করে ব্যবহার করেছেন।
সম্পূর্ণ প্রতিবেদন
প্রযুক্তি বিশ্বে চমক সৃষ্টি করে এনভিডিয়ার পুরোনো ও 'পরিত্যক্ত' হিসেবে বিবেচিত টেসলা ভি১০০ জিপিইউগুলো এআই প্রসেসিং পারফরম্যান্সে অ্যাপলের প্রিমিয়াম ম্যাক স্টুডিওকে ছাড়িয়ে গেছে। গবেষক ডেভন ব্রের একটি সাম্প্রতিক প্রকল্পে দেখা গেছে, ২০১৭ সালে বাজারে আসা তিনটি ভি১০০ জিপিইউ দিয়ে তৈরি একটি সিস্টেম দীর্ঘ প্রেক্ষাপটের (Long Context) এআই মডেল পরিচালনায় আধুনিক অ্যাপল সিলিকনের চেয়েও বেশি কার্যকর। যেখানে অ্যাপল ম্যাক স্টুডিওর দাম প্রায় ৫,৩৯৯ ডলার, সেখানে এই কাস্টম সিস্টেমটির হার্ডওয়্যার খরচ পড়েছে মাত্র ১,০৪২ ডলার।
কারিগরি বিশ্লেষণে দেখা যায়, ৮-বিট নির্ভুলতায় কিউওয়েন ২.৫ ৩৫বি (Qwen 2.5 35B) মডেল ব্যবহার করে ৪কে প্রেক্ষাপটে ভি১০০ সিস্টেমটি প্রতি সেকেন্ডে ১০০.৮ টোকেন গতি অর্জন করেছে। তবে চমকপ্রদ ফলাফল আসে ১২৮কে প্রেক্ষাপটে; এখানে অ্যাপল মেশিনের গতি কমে ৬১.৩ টোকেনে নামলেও পুরোনো এনভিডিয়া সিস্টেমটি ৭২.৭ টোকেন গতি বজায় রাখতে সক্ষম হয়। মূলত ভি১০০-এর উচ্চ মেমোরি ব্যান্ডউইথ এবং মিক্সচার-অফ-এক্সপার্টস (MoE) আর্কিটেকচারের সমন্বয়ে এই অভাবনীয় সাফল্য এসেছে।
যদিও পারফরম্যান্সে এটি এগিয়ে, তবে এই পুরোনো জিপিইউগুলোর কিছু সীমাবদ্ধতাও রয়েছে। সার্ভার গ্রেড হার্ডওয়্যার হওয়ায় এগুলো প্রচুর বিদ্যুৎ খরচ করে এবং দ্রুত উত্তপ্ত হয়ে যায়। এই সমস্যা সমাধানে গবেষক দলকে প্রতিটি কার্ডের জন্য আলাদা কুলিং সিস্টেম থ্রিডি প্রিন্ট করতে হয়েছে। এছাড়া ১,০৪২ ডলারের বাজেটে র্যাম, স্টোরেজ বা কেসিংয়ের খরচ অন্তর্ভুক্ত ছিল না, যা সামগ্রিক খরচ কিছুটা বাড়িয়ে দিতে পারে।
এই গবেষণাটি এআই ডেভেলপার এবং শৌখিন ব্যবহারকারীদের জন্য নতুন দিগন্ত উন্মোচন করেছে। ব্যয়বহুল আধুনিক হার্ডওয়্যারে বিনিয়োগ না করে পুরোনো সার্ভার জিপিইউ ব্যবহার করে কীভাবে শক্তিশালী লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) চালানো সম্ভব, তা এখানে প্রমাণিত। তবে দীর্ঘমেয়াদী ব্যবহারের ক্ষেত্রে বিদ্যুৎ সাশ্রয় এবং সফটওয়্যার সামঞ্জস্যতার বিষয়টি গুরুত্বের সাথে বিবেচনার পরামর্শ দিয়েছেন বিশেষজ্ঞরা।
বাংলা নিউজ ২৪ জাতীয় সাংবাদিকতার নীতিমালা অনুসারে বস্তুনিষ্ঠ ও তথ্যনির্ভর সংবাদ প্রকাশ করে। কোনো অসঙ্গতি বা তথ্য সংশোধনের জন্য আমাদের সম্পাদকীয় বিভাগের সাথে যোগাযোগ করার অনুরোধ করা হচ্ছে।