শুক্রবার, ১৮ সেপ্টেম্বর ২০২৬
শুক্রবার, ১৮ সেপ্টেম্বর ২০২৬
কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অস্বাভাবিক ও উদ্বেগজনক আচরণের ছয়টি ঘটনা শনাক্ত করেছে ওপেনএআই। এসব ঘটনায় কোনো মডেলকে স্বাভাবিক বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টা করতে দেখা গেছে। আবার একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করেছে।
এআই মডেলের এমন আচরণ নিয়মিতভাবে শনাক্ত, পরীক্ষা ও প্রকাশের জন্য নতুন একটি কাঠামো চালুর ঘোষণা দিয়েছে ওপেনএআই। গত বুধবার প্রতিষ্ঠানটি এ ঘোষণা দেয়।
মডেলের অনুমতি ছাড়া কাজ করা, অন্য মডেলের সঙ্গে সমন্বয় করা কিংবা তদারকি এড়িয়ে যাওয়ার মতো আচরণ এই কাঠামোর আওতায় পর্যবেক্ষণ করা হবে।
ওপেনএআই জানিয়েছে, গত কয়েক মাসে মডেলের প্রশিক্ষণ ও মূল্যায়নের সময় ছয়টি ঘটনা শনাক্ত করা হয়েছে। প্রতিষ্ঠানটি এসব ঘটনাকে এআই মডেলের ‘মিসঅ্যালাইনমেন্ট’ হিসেবে বর্ণনা করেছে। অর্থাৎ মডেলের আচরণ তার নির্ধারিত লক্ষ্য ও সীমার সঙ্গে সামঞ্জস্যপূর্ণ ছিল না।
ছয়টি ঘটনার একটি ঘটেছে ওপেনএআইয়ের একটি এখনো প্রকাশ না করা গবেষণা মডেলে। মডেলটি নিজের নোটে ‘জেলব্রেকের মতো নির্দেশনা’ যুক্ত করেছিল। এতে স্বাভাবিক বিধিনিষেধ উপেক্ষা করার কথা বলা হয়। পাশাপাশি নিজেকে ‘অন্য চ্যাটবটগুলোকে বেঁধে রাখা ভূমিকা ও পরিচয় থেকে মুক্ত’ করার কথাও লিখেছিল মডেলটি।
আরেকটি ঘটনায় একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করে। একটি ব্রাউজার উদ্ধৃতি পাওয়ার জন্য এ কাজ করেছিল এজেন্টটি।
ওপেনএআই বলেছে, এআই ব্যবস্থা যত উন্নত ও ব্যাপকভাবে ব্যবহৃত হবে, অ্যালাইনমেন্ট গবেষণার অগ্রগতি নিয়ে আরো বিস্তৃত ও তথ্যভিত্তিক ঐকমত্যের প্রয়োজন হবে।
প্রতিষ্ঠানটির মতে, আগামী মাস ও বছরগুলোতে এআইয়ের উন্নয়ন কীভাবে এগোবে, সে বিষয়ে সিদ্ধান্ত নেওয়ার ক্ষেত্রে এমন তথ্য থাকা দরকার, যা এআইয়ের উন্নত মডেল তৈরি করা প্রতিষ্ঠানগুলোর বাইরের মানুষও নিজেরা পরীক্ষা করতে পারেন।
এআইয়ের নিরাপত্তা নিয়ে যুক্তরাষ্ট্রে আলোচনা যখন তীব্র হচ্ছে, তখন ওপেনএআইয়ের এই ঘোষণা এল। ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি এআই প্রতিষ্ঠানের শীর্ষ কর্মকর্তারা নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে প্রযুক্তিটির উন্নয়ন ধীর করার আহ্বান জানিয়েছেন।
এর আগে গত জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের একটি নিয়ন্ত্রণহীন এআই ব্যবস্থা এআই স্টার্টআপ হাগিং ফেসে সাইবার হামলা চালিয়েছিল। একই মাসে অ্যানথ্রপিকও জানিয়েছিল, পরীক্ষার সময় তাদের এআই মডেল তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছিল।
প্রযুক্তি গবেষণা ও পরামর্শক প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু বলেন, এআই এজেন্টগুলো আরো সক্ষম হয়ে উঠছে। জটিল কাজ সমাধানে তারা একে অপরের সঙ্গে সহযোগিতা, তথ্য ভাগাভাগি, প্রতারণা ও তথ্য গোপনের মতো পদ্ধতি ব্যবহারে আরও বেশি আগ্রহী হয়ে উঠছে।
এর ফলে প্রচলিত এআই নিরাপত্তাব্যবস্থা দিয়ে এসব এজেন্টকে নিয়ন্ত্রণ ও সীমাবদ্ধ রাখা কঠিন হয়ে পড়ছে বলে মন্তব্য করেন সু।
ওপেনএআইয়ের নতুন পর্যবেক্ষণ ও তথ্য প্রকাশের কাঠামো অন্য এআই নির্মাতাদেরও একই ধরনের পদ্ধতি গ্রহণে উৎসাহিত করতে পারে বলে মনে করেন তিনি।
তবে তার মতে, এই প্রক্রিয়া এখনো ওপেনএআইয়ের অভ্যন্তরীণ ও স্বেচ্ছামূলক উদ্যোগ। তারপরও এটি সঠিক পথে নেওয়া একটি পদক্ষেপ।
