ফাইন-টিউনিংয়ে কত সময়, কত টাকা?
মডেল, ডেটা আর ইপক দিন: প্রতিটি AI কম্পিউটারে কত সময় ও কত টাকা লাগবে দেখুন — সুপারভাইজার, ল্যাব বা ক্লায়েন্টের জন্য এক পাতার হিসাব প্রিন্ট করুন।
২০,০০,০০০ টোকেন × ৩ ইপকে Qwen2.5 7B-এর LoRA ফাইন-টিউন: NVIDIA L40S-এ প্রায় ৩৮ মিনিট, খরচ প্রায় ৳২১৭।
সবচেয়ে দ্রুত: NVIDIA B200 — ১৪ মিনিট, ৳৩৭৬।
| AI কম্পিউটার | মেমরি | সময় | আনুমানিক খরচ |
|---|---|---|---|
| NVIDIA L4৳১৪৭/ঘণ্টা | ১৮ GB / ২৪ GB | ১.৬ ঘণ্টা | ৳২৩৪ |
| NVIDIA A10৳১৯৬/ঘণ্টা | ১৮ GB / ২৪ GB | ১.৬ ঘণ্টা | ৳৩০৩ |
| NVIDIA L40S৳৩৪৩/ঘণ্টা | ১৮ GB / ৪৮ GB | ৩৮ মিনিট | ৳২১৭ |
| NVIDIA A100৳৬৩৮/ঘণ্টা | ১৮ GB / ৮০ GB | ৪৩ মিনিট | ৳৪৫৩ |
| NVIDIA H100৳১,০৪৭/ঘণ্টা | ১৮ GB / ৮০ GB | ২০ মিনিট | ৳৩৪২ |
| NVIDIA H200৳১,৩৯০/ঘণ্টা | ১৮ GB / ১৪১ GB | ২০ মিনিট | ৳৪৫৪ |
| NVIDIA B200৳১,৬৫২/ঘণ্টা | ১৮ GB / ১৮০ GB | ১৪ মিনিট | ৳৩৭৬ |
| NVIDIA B300৳১,৮৮০/ঘণ্টা | ১৮ GB / ২৮৮ GB | ১৪ মিনিট | ৳৪২৮ |
খরচ কমানোর উপায়
- ৭–৮B মডেলে QLoRA বা LoRA দিয়ে শুরু করুন — প্রায়ই এতেই কাজ হয়, আর বড় মডেলের চেয়ে ১০ গুণ সস্তা।
- আগে ডেটার ১০% দিয়ে ১ ইপক চালিয়ে ফল দেখুন, তারপর পুরো কাজ।
- একই রকম ও খুব লম্বা উদাহরণ বাদ দিন; ছোট sequence অনেক দ্রুত শেখে।
- চালু করার সময় “নিজে থেকে বন্ধ” বাজেট দিন — ওই খরচে পৌঁছালে সেশন নিজেই বন্ধ হবে।
সাধারণ প্রশ্ন
এই হিসাব কতটা সঠিক?
এটি পরিকল্পনার আন্দাজ: ট্রেনিংয়ে প্রায় ৬ × প্যারামিটার × টোকেন হিসাব লাগে (LoRA/QLoRA-তে ৪×), GPU-র সর্বোচ্চ গতির ৩০–৩৫%-এ। আসল সময় প্রায়ই ±৫০%-এর মধ্যে থাকে — বাজেটে কিছু বাড়তি রাখুন।
কয়টি ইপক দেওয়া উচিত?
LoRA ফাইন-টিউনে সাধারণত ১–৩ ইপক। Validation loss দেখুন, বাড়তে শুরু করলে থামান।
মডেল ডাউনলোডের সময় কি বিল হয়?
AI কম্পিউটার চলার পুরো সময় মিনিট হিসেবে বিল হয় — মডেল ডাউনলোডও এর মধ্যে। হিসাবে এর জন্য প্রায় ১০ মিনিট যোগ করা আছে।
আসল AI কম্পিউটারে চালিয়ে দেখুন
এক মিনিটের মধ্যে JupyterLab চালু হয়। bKash-এ টাকায় পেমেন্ট, মিনিট হিসেবে বিল — যখন খুশি বন্ধ করুন।