নিজস্ব এআই ব্যবহারের মূল সুবিধা প্রাইভেসি এবং মাসিক খরচ। প্রতিষ্ঠানের কপিরাইট অথবা ট্রেডমার্ক করা তথ্য ও প্রযুক্তি নিয়ে যাঁরা কাজ করেন, তাঁরা কখনোই তথ্য ফাঁস হওয়ার ঝুঁকি নিতে চাইবেন না। ব্যক্তিগত তথ্য সুরক্ষার জন্যও লোকাল এআই হোস্টিং বেছে নেন অনেকে। লোকাল এআই হোস্ট করাকে সহজ করেছে ওপেনক্ল, হাগিংফেস বা ওলামার মতো সফটওয়্যার প্ল্যাটফর্ম।
ওপেনএআই, অ্যানথ্রোপিক, গুগল বা ডিপসিকের মতো সেবাগুলো ব্যবহার করলে নিজের সব তথ্য ক্লাউডে পাঠানোর পাশাপাশি টোকেনপ্রতি মূল্যও পরিশোধ করতে হয়।
কেমন হার্ডওয়্যার প্রয়োজন
এনভিডিয়া আরটিএক্স ৩০০০ সিরিজের অন্তত ৮জিবি ভির্যামযুক্ত জিপিইউ এখনো এআই হোস্টিংয়ের জন্য আদর্শ। ১৬ বা ৩২ জিবি ভির্যামের আরটিএক্স ৪০০০ বা ৫০০০ সিরিজের জিপিইউ ব্যবহার করলে সেরা পারফরম্যান্স পাওয়া যাবে।
আছে সীমাবদ্ধতাও
ওপেনএআই বা অ্যানথ্রোপিকের এআই মডেলগুলো বিপুল পরিমাণ ডেটা ব্যবহার করে ট্রেনিং করা হয়। ব্যবহারকারীর প্রথম প্রম্পট লেখার আগেই প্রায় দুই লাখ টোকেনের ‘কনটেক্সট’ এআইয়ের মেমরিতে লোড করা থাকে, যাতে চট করে প্রম্পট বুঝে নিতে পারে এআই। নিজস্ব এআই মডেলের ক্ষেত্রে প্রম্পট ঠিকমতো বোঝানোর জন্য কনটেক্সটও ব্যবহারকারীকেই বুঝিয়ে দিতে হবে। নইলে এআই মডেল ঠিকমতো প্রম্পট বুঝতে পারবে না। যেমন—ক্লডকে ‘অমুক বিষয়ে আর্টিকল লিখে দাও’ প্রম্পট দেওয়া হলে প্রথম উত্তরেই আর্টিকল জেনারেট করে দেবে। কিন্তু লোকাল এআই আগে জিজ্ঞাসা করবে, আর্টিকল কেমন কাজের জন্য, ভাষা কী ধরনের হবে, কেমন ধরনের পাঠকের জন্য সেটি প্রয়োজন। কোড লেখার ক্ষেত্রেও ক্লাউডসেবাগুলোর মতো মানসম্মত পূর্ণাঙ্গ কোড লিখতে পারে না লোকাল এআই।
সঠিক এআই নির্বাচন
বিভিন্ন ধরনের কাজের জন্য বিশেষায়িত এআই মডেলের অভাব নেই। ওপেনএআইয়ের জিপিটি ওএসএস, মেটার লামা, গুগলের জেমিনি ও জেমা, আলিবাবার কুয়েন, ডিপসিকের আর সিরিজ, মিসট্রাল এবং আরো অনেক প্রতিষ্ঠানের এআই মডেল ইন্টারনেটে পাওয়া যায়। অনেক ক্ষেত্রে এআই মডেলগুলোর একাধিক সংস্করণও থাকতে পারে। কিছু মডেল লেখালেখির জন্য বিশেষায়িত, কয়েকটি ভিডিও বা ছবি বিশ্লেষণ তথা ‘কম্পিউটার ভিশন’ এর জন্য তৈরি। কোডিং বা ছবি জেনারেশনের জন্যও রয়েছে বিশেষায়িত মডেল, আছে ওপেনক্ল প্ল্যাটফর্মে ব্যবহারের জন্য এআই এজেন্ট মডেলও। নিজে হোস্ট করলে একাধিক মডেলও ব্যবহার করা যেতে পারে, যা ক্লাউডসেবায় সম্ভব হয় না। কিছু কিছু মডেলের মধ্যে কোনো নিরাপত্তা বেষ্টনী থাকে না, সেগুলোকে বলা হয় ‘আনসেন্সরড’ বা ‘হেরেটিক’ মডেল। সেগুলো ব্যবহারের সময় সতর্ক থাকতে হবে, কেননা এগুলোর আউটপুটে কোনো ধরনের সেফটি গার্ড নেই।
দূর থেকে ব্যবহার
নিজের পিসি বা সার্ভারে এআই হোস্ট করে ইন্টারনেটের মাধ্যমে বিশ্বের যেকোনো প্রান্ত থেকে সেটি ব্যবহার করা সম্ভব। এ জন্য নিজের ডোমেইন এবং রিভার্স প্রক্সি ব্যবহার করা সবচেয়ে নিরাপদ। তবে ভিপিএনের মাধ্যমে সরাসরি সার্ভার অ্যাকসেসের মাধ্যমেও ব্যবহার করা যেতে পারে। কেউ কেউ এসএসএইচ বা রিমোট ডেস্কটপের মাধ্যমেও অ্যাকসেস করে থাকে। ইন্টারনেটের মাধ্যমে এআই অ্যাকসেস করার ক্ষেত্রে সাইবার নিরাপত্তার বিষয়টি মাথায় রাখতে হবে। কেউ কেউ ভার্চুয়াল প্রাইভেট সার্ভার বা ভিপিএস কিনে সেটার মাধ্যমেও এআই হোস্ট করে থাকে, যদিও তখন সেটিকে ‘লোকাল’ বলা যায় না।
সেলফ হেস্টিংয়ের জনপ্রিয়তা বাড়বে
কোয়ান্টাইজেশন এবং কমপ্রেশন অ্যালগরিদমের কল্যাণে এআইয়ের আকৃতি ধীরে ধীরে ছোট হয়ে আসছে। চালানোর জন্য শক্তিশালী হার্ডওয়্যারের ওপর নির্ভরতাও কমছে। এ বছরের শেষ নাগাদ পিসি ও স্মার্টফোনে ছোট এআই মডেল চালনার হার অনেক বাড়বে বলে ধারণা করছেন এআই গবেষকরা। উইন্ডোজের কোপাইলট, ম্যাক ও আইফোনের অ্যাপল ইন্টেলিজেন্স এবং অ্যানড্রয়েড ও ক্রোম ওএসের জেমিনি অ্যাসিস্ট্যান্টের অফলাইন ভার্সন এর মধ্যেই পরীক্ষা-নিরীক্ষার কাজ চলছে।
