অনেক প্রতিষ্ঠানই চলতি বছরে এআই কোডিং এজেন্ট—যেমন ক্লড কোড বা কোডেক্স—ব্যবহারের পর বিলের আকার দেখে হতবাক হয়ে গেছে। দীর্ঘ সময় ধরে স্বায়ত্তশাসিতভাবে কাজ করা এসব এজেন্ট ঘণ্টার পর ঘণ্টা কাজ করে, বারবার অত্যাধুনিক মডেল ব্যবহারের মাধ্যমে লাখ লাখ টোকেন খরচ করে ফেলে। একজন ডেভেলপার লাঞ্চে গিয়ে ফিরে এসে দেখতে পারেন, তার এজেন্ট কয়েক হাজার ডলার খরচ করে ফেলেছে। এক সমীক্ষায় দেখা গেছে, গত এক বছরে ৬২ শতাংশ প্রতিষ্ঠান বলেছে অপ্রত্যাশিত এআই খরচ তাদের ব্যবসায়িক সিদ্ধান্তে বড় পরিবর্তন এনেছে। এর মধ্যে ৪০ শতাংশ বলেছে বিষয়টি বোর্ড পর্যায়ে আলোচনা করতে হয়েছে, ৩৩ শতাংশ জরুরি ব্যয়冻结 করেছে এবং ২৫ শতাংশ কোনো এআই প্রকল্প বিলম্বিত বা বাতিল করেছে।
এই সমস্যার সমাধান হিসেবে এআই মডেল রাউটার—যে সফটওয়্যার প্রতিষ্ঠানগুলোকে সঠিক কাজের জন্য সঠিক ও সাশ্রয়ী মডেল বেছে নিতে দেয়—এখন এন্টারপ্রাইজ প্রযুক্তির অন্যতম আলোচিত বিষয় হয়ে উঠেছে। প্রতিটি অনুরোধ সবচেয়ে দামি মডেলে না পাঠিয়ে, প্রতিষ্ঠানগুলো নিজেরাই ম্যানুয়ালি বা স্বয়ংক্রিয়ভাবে এমন মডেল বেছে নিতে পারছে যা কাজের প্রতিটি ধাপে খরচ, গতি এবং পারফরম্যান্সের সেরা সমন্বয় দেয়। প্রতিষ্ঠানগুলো বলছে, এই ধরনের বুদ্ধিদীপ্ত রাউটিং ইনফারেন্স খরচ ১০ থেকে ৩০ শতাংশ পর্যন্ত কমিয়ে দিতে পারে।
এই খাতে বেশ কয়েকটি স্টার্টআপ নানা পদ্ধতিতে কাজ করছে। ওপেনরাউটার—যা স্ট্রাইপের সাথে ১০ বিলিয়ন ডলার মূল্যে অধিগ্রহণ নিয়ে আলোচনায় রয়েছে—বিভিন্ন এআই মডেলের একটি মার্কেটপ্লেস এবং একীভূত গেটওয়ে সরবরাহ করছে। অপরদিকে, নট ডায়মন্ড প্রতিটি কাজের জন্য সবচেয়ে উপযুক্ত মডেলে স্বয়ংক্রিয়ভাবে অনুরোধ পাঠায়। লাইটএলএলএম-এর মতো কোম্পানিগুলো প্রতিষ্ঠানগুলিকে নিজস্ব রাউটিং অবকাঠামো তৈরির সুযোগ দিচ্ছে। সেলসফোর্স ও ডেটাব্রিক্সের মতো বড় ভেন্ডরও তাদের এআই প্ল্যাটফর্মে রাউটিং সুবিধা যুক্ত করছে। কিউরসর, র্যাম্প ও মেটাও নিজস্ব মডেল রাউটার তৈরির কাজ করছে বলে জানা গেছে, এমনকি ভিডিও স্টার্টআপ রানওয়েও একটি রাউটার চালু করেছে।
টোকেন-নির্ভর এজেন্টগুলোর চাহিদাই এই রাউটারের জনপ্রিয়তার মূল কারণ। ওপেনরাউটারের সহ-প্রতিষ্ঠাতা ও প্রধান পরিচালন কর্মকর্তা ক্রিস ক্লার্ক ফরচুনকে বলেন, ২০২৫ সালের মাঝামাঝি সময়ে অ্যানথ্রপিকের ক্লড কোডের মতো টুলের ব্যাপক ব্যবহার এই চাহিদা তৈরি করেছে। ২০২৪ ও ২০২৫ সালে সিনিয়র নির্বাহীরা এআই গ্রহণের জন্য প্রতিষ্ঠানগুলোকে তাগিদ দিচ্ছিলেন, কিন্তু এ বছর এসে বিষয়টি ফলপ্রসূ হতে শুরু করেছে কারণ এজেন্টিক ফ্লো চ্যাটের বাইরে সক্ষমতা বাড়িয়েছে। ক্লার্ক বলেন, এটি এখন একটি এআই মডেল যা টুল ব্যবহার করে, বিভিন্ন সিস্টেমে কল করে এবং কাজ করে। কিন্তু এসব এজেন্ট অনেক বেশি টোকেন খরচ করে, যা প্রতি-টোকেন ভিত্তিতে প্রতিষ্ঠানের জন্য ক্রমেই ব্যয়বহুল হয়ে উঠছিল। তিনি বলেন, কারো কাছে এর জন্য বাজেট ছিল না, এটি ছিল এক ধরনের সর্বোচ্চ ব্যবহারের মানসিকতা। তবে ওপেনরাউটারের জন্য এটি ব্যবসার সুযোগ এনে দিয়েছে। ক্লার্কের মতে, এআই টোকেন প্রতিটি ব্যবসার পরিচালন ব্যয়ের একটি বড় খাত হয়ে উঠবে এবং প্রায় প্রতিটি প্রতিষ্ঠানই খরচ কমানোর উপায় খুঁজবে।
প্রতিটি কাজের জন্য সবচেয়ে বুদ্ধিমান বা সবচেয়ে দামি মডেলের প্রয়োজন হয় না বলে তিনি ব্যাখ্যা করেন। তিনি বলেন, যখন একটি নতুন ফ্রন্টিয়ার মডেল আসে এবং আপনি সেই এজেন্টকে নতুন ও বুদ্ধিমান মডেলে স্যুইচ করেন, তখন পারফরম্যান্সের কি উন্নতি হয়? অনেক কাজ ইতিমধ্যে 'ইন্টেলিজেন্স-স্যাচুরেটেড', অর্থাৎ পুরোনো মডেল দিয়েই সেই কাজ সম্পন্ন করা যায়। নট ডায়মন্ডের প্রধান নির্বাহী টমাস হার্নান্দো কফম্যান বলেন, বেশিরভাগ প্রতিষ্ঠান এখনও সবচেয়ে শক্তিশালী মডেল ব্যবহার করছে, যা অপচয়ের কারণ। তবে তিনি সতর্ক করে বলেন, ভুল সময়ে ভুল ছোট মডেল বেছে নিলেও খরচ বাড়তে পারে, কারণ ছোট মডেল একই কাজ করতে বেশি সময় নিতে পারে। এখানেই স্বয়ংক্রিয় রাউটিং সিস্টেম কাজ করে। নট ডায়মন্ড এই সমস্যাকে রোবোটিক্সের সাথে তুলনা করছে—যেভাবে একটি রোবটকে কাজ সম্পন্ন করতে হাজারো ছোট কাজ সমন্বয় করতে হয়, তেমনি একটি এআই কোডিং এজেন্টের দীর্ঘ কর্মপ্রবাহের বিভিন্ন ধাপে বিভিন্ন মডেলের প্রয়োজন হয়। তাদের রাউটিং সিস্টেম অনুরোধের জটিলতা, কথোপকথনের ইতিহাস এবং অন্যান্য সংকেতের ভিত্তিতে পরবর্তী ধাপের জন্য সেরা মডেল ও যুক্তির স্তর পূর্বাভাস দেয়।
খরচ নিয়ন্ত্রণের বাইরেও এই প্রযুক্তির গুরুত্ব রয়েছে বলে মনে করছেন বিশেষজ্ঞরা। সেলসফোর্সের প্রেসিডেন্ট ও প্রধান আর্কিটেক্ট ডেভিড ওয়ার্ড বলেন, বড় বিল কমানো অবশ্যই একটি অগ্রাধিকার, তবে অন্যান্য অগ্রাধিকারও রয়েছে। সময়ের সাথে সাথে রাউটিং সিদ্ধান্ত মডেল নির্বাচনের বাইরে বিশ্বাস, সম্মতি, শাসন এবং পরিমাপযোগ্য ব্যবসায়িক ফলাফলকে অন্তর্ভুক্ত করবে বলে তিনি আশা করছেন। রাউটাররা এজেন্ট কোন এন্টারপ্রাইজ ডেটা অ্যাক্সেস করতে পারবে এবং নির্দিষ্ট কাজের জন্য একটি ফাইন-টিউনড ওপেন-সোর্স মডেল যথেষ্ট কিনা তা নির্ধারণে সহায়তা করতে পারে। ডেটাইকুর সহ-প্রতিষ্ঠাতা ও প্রধান নির্বাহী ফ্লোরিয়ান ডুয়েটো উল্লেখ করেন, অ্যানথ্রপিকের ফেবল মডেলে সাম্প্রতিক অ্যাক্সেস সীমাবদ্ধতা বিশ্বজুড়ে এন্টারপ্রাইজ গ্রাহকদের একক এআই প্রদানকারীর উপর নির্ভরতা পুনর্বিবেচনা করতে প্ররোচিত করেছে। ব্যবসায়িক প্রক্রিয়াগুলো একক ফ্রন্টিয়ার মডেলের সাথে বাঁধা না রেখে, প্রতিষ্ঠানগুলো এখন প্রদানকারী পরিবর্তন বা ক্রমবর্ধমান শক্তিশালী ওপেন-ওয়েট মডেল ব্যবহারের নমনীয়তা চায়। তিনি বলেন, শুক্রবার বিকেলে জানতে পারা যে সোমবার একটি গুরুত্বপূর্ণ ব্যবসায়িক প্রক্রিয়ার মডেলটি উপলব্ধ নাও হতে পারে, তা উদ্বেগজনক। এটিই মানুষকে এআই ক্রয়ের বিভিন্ন উপায় খুঁজতে প্ররোচিত করেছে।
তবে ওপেনরাউটারের ক্লার্ক সতর্ক করে বলেন, এআই মডেল রাউটিং সহজ নয়। তিনি বলেন, গত কয়েক সপ্তাহে প্রায় প্রতিটি কোম্পানির কাছ থেকে আমরা কিছু না কিছু লঞ্চ দেখেছি, কিন্তু এই কোম্পানি এবং তাদের গ্রাহকরা আবিষ্কার করবে যে এটি তাদের ধারণার চেয়ে কঠিন সমস্যা। এটি একটি ইউনিফাইড এপিআইয়ের চেয়ে বেশি কিছু—প্রোডাকশন-গ্রেড রাউটিং প্ল্যাটফর্ম চালানোর জন্য মডেল প্রদানকারীদের সাথে গভীর অংশীদারিত্ব, হাজার হাজার মডেল এন্ডপয়েন্টের নিয়মিত মনিটরিং, বিভ্রাট ও স্পেসিফিকেশন পরিবর্তনে দ্রুত সাড়া দেওয়া এবং ডেটা নীতি থেকে জিপিইউ কনফিগারেশন পর্যন্ত বিভিন্ন বিষয়ের চলমান যাচাই প্রয়োজন। এটি একটি পাতলা সফটওয়্যার র্যাপার নয়, এটি একটি গভীর অংশীদারিত্ব।
