বর্তমান সময়ে এআই প্রযুক্তির দ্রুত বিকাশের ফলে বিভিন্ন প্রতিষ্ঠান নিজেদের কাজকর্ম স্বয়ংক্রিয় করার দিকে ঝুঁকছে। কিন্তু এই স্বয়ংক্রিয় এজেন্টরা কি নিজেদের নিয়ন্ত্রণ হারিয়ে ফেলতে পারে? এমন আশঙ্কা থেকেই বিশ্বের অন্যতম বৃহত্তম পরামর্শদাতা প্রতিষ্ঠান কেপিএমজি নিজেদের এআই এজেন্টদের নিয়ন্ত্রণে রাখতে বেশ কিছু পদক্ষেপ নিয়েছে। প্রতিষ্ঠানটির ‘ট্রাস্টেড এআই’ দলের প্রধান স্যাম গ্লোডের সাথে কথা বলে জানা গেছে, কীভাবে তারা এআই এজেন্টদের নিরাপদে পরিচালনা করছে এবং এদের থেকে সম্ভাব্য ক্ষতির হাত থেকে রক্ষা পাওয়ার উপায়গুলো সম্পর্কে।

এআই এজেন্টদের প্রধান বৈশিষ্ট্য হলো তারা নিজে থেকে সিদ্ধান্ত নিতে পারে, কাজ সম্পাদন করতে পারে এবং জটিল সমস্যাগুলোর সমাধান করতে সক্ষম। কিন্তু এই স্বাধীনতা তাদেরকে নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঝুঁকিও তৈরি করেছে। কেপিএমজি তাদের ক্লায়েন্ট এবং নিজেদের কর্মীদের সুরক্ষিত রাখতে একটি বহুমুখী ফ্রেমওয়ার্ক তৈরি করেছে। এই ফ্রেমওয়ার্কে রয়েছে শক্তিশালী নিয়ন্ত্রণ ব্যবস্থা, পর্যবেক্ষণ পদ্ধতি এবং মানব তত্ত্বাবধান। এছাড়া, প্রতিটি এজেন্টের জন্য আলাদা পরিচিতি এবং সিস্টেম কার্ডের ব্যবস্থা করা হয়েছে, যাতে তাদের কর্মকাণ্ডের উপর নজর রাখা যায় এবং প্রয়োজনে দ্রুত ব্যবস্থা নেওয়া যায়।

স্যাম গ্লোডের মতে, এআই এজেন্টদের নিয়ন্ত্রণে রাখার জন্য সবচেয়ে গুরুত্বপূর্ণ হলো তাদের কর্মকাণ্ডের উপর নিয়মিত পর্যবেক্ষণ। তারা একটি এআই অপারেশন সেন্টার পরিচালনা করছে যেখানে মানব পর্যবেক্ষক এবং এআই উভয়েই মিলে এজেন্টদের কার্যক্রম পর্যবেক্ষণ করেন। এছাড়া, ‘রেড-টিমিং’ নামক একটি প্রক্রিয়ার মাধ্যমে সম্ভাব্য ঝুঁকির পরিস্থিতিগুলোর উপর পরীক্ষা-নিরীক্ষা চালানো হয়, যাতে করে ভবিষ্যতে কোনো বিপত্তি ঘটলে তা প্রতিরোধ করা যায়।

উল্লেখ্য, এআই এজেন্টদের নিয়ন্ত্রণ হারানোর ঘটনা ইতিমধ্যেই বিভিন্ন প্রতিষ্ঠানে ঘটেছে। যেমন, অ্যামাজনের এআই কোডিং টুলের কারণে তাদের সিস্টেমে ত্রুটির কারণে প্রায় ১ লাখ ২০ হাজার অর্ডার হারাতে হয়েছে। এছাড়া, ম্যাককিনসির অভ্যন্তরীণ এআই প্ল্যাটফর্ম ‘লিলি’তে নিরাপত্তা ত্রুটি ধরা পড়ে, যেখানে একটি সাইবার নিরাপত্তা প্রতিষ্ঠান দাবি করে যে তারা ওই এআই এজেন্টকে কাজে লাগিয়ে প্ল্যাটফর্মটিতে প্রবেশ করতে সক্ষম হয়েছে। যদিও ম্যাককিনসি দ্রুত তা সমাধান করে ফেলে, কিন্তু এ ধরনের ঘটনা প্রতিষ্ঠানগুলোর জন্য উদ্বেগের কারণ হয়ে দাঁড়িয়েছে।

কেপিএমজির স্যাম গ্লোডের মতে, এআই এজেন্টদের নিয়ন্ত্রণে রাখার সর্বোত্তম উপায় হলো প্রযুক্তিগত নিয়ন্ত্রণ, মানব তত্ত্বাবধান এবং পর্যবেক্ষণ ব্যবস্থাকে একত্রিত করা। তিনি আরও বলেন, যদি কোনো প্রতিষ্ঠান উদ্দেশ্যপূর্ণভাবে তাদের এআই ইকোসিস্টেমকে সঠিকভাবে গড়ে তোলে, তাহলে এজেন্টদের নিয়ন্ত্রণের বাইরে চলে যাওয়ার সম্ভাবনা খুবই কম।

বর্তমান সময়ে এআই প্রযুক্তির ব্যবহারের ক্ষেত্রে নিরাপত্তা এবং নিয়ন্ত্রণের বিষয়টি অত্যন্ত গুরুত্বপূর্ণ হয়ে উঠেছে। বিভিন্ন প্রতিষ্ঠান যখন নিজেদের কর্মপ্রবাহে এআই এজেন্টদের অন্তর্ভুক্ত করছে, তখন তাদেরকে অবশ্যই নিশ্চিত করতে হবে যে এই প্রযুক্তি যেন কোনো ভাবেই নিয়ন্ত্রণের বাইরে না যায়। কেপিএমজির মতো প্রতিষ্ঠানগুলো যখন নিজেদের এআই এজেন্টদের নিয়ন্ত্রণে রাখার জন্য এতগুলো ব্যবস্থা গ্রহণ করছে, তখন অন্যান্য প্রতিষ্ঠানগুলোরও উচিত নিজেদের এআই সিস্টেমকে সুরক্ষিত রাখার জন্য প্রয়োজনীয় পদক্ষেপ গ্রহণ করা।