‘ক্লাউড’ ফিলাডেলফিয়া পুলিশের কাছে একটি মিথ্যা হত্যাকাণ্ডের অভিযোগ পাঠিয়েছে
ফিলাডেলফিয়া পুলিশ জানিয়েছে, ‘অ্যানথ্রোপিক’ (Anthropic) কোম্পানি দ্বারা উন্নীত ‘ক্লাউড’ (Claude) নামক কৃত্রিম বুদ্ধিমত্তা মডেলটি তাদের একটি ওয়েবসাইটে একটি অজুহাতপূর্ণ খুনের অভিযোগ পাঠিয়েছিল, যা সমাধান হয়নি। ফিলাডেলফিয়া পুলিশ কোম্পানিকে এই ঘটনাটি জানাতে দেরি করার জন্য সমালোচনা করেছে।
পুলিশ জানিয়েছে যে, কৃত্রিম বুদ্ধিমত্তা মডেলটি নিজেই একজন ব্যক্তির পরিচয় দিয়েছিল, যার কাছে খুনের মামলার সাথে সম্পর্কিত তথ্য থাকতে পারে। পুলিশ জানিয়েছে যে, এই ভুয়া অভিযোগটি গত জুলাই মাসে করা হয়েছিল।
কৃত্রিম বুদ্ধিমত্তা মডেলটি দাবি করেছিল যে, এটি খুনের সময় সংঘটনস্থলে অভিযুক্ত ব্যক্তির বর্ণনার সাথে মিলে যায় এমন একজন ব্যক্তিকে দেখতে পেয়েছিল, যদিও ওয়েবসাইটে অভিযুক্ত ব্যক্তির কোনো বর্ণনা দেওয়া ছিল না। মডেলটি নাম এবং যোগাযোগের ঠিকানা সম্পর্কিত দুটি খালি ঘর ফাঁকা রেখেছিল।
ফিলাডেলফিয়া পুলিশ জানিয়েছে যে, এই অভিযোগটি স্প্যাম বা অবাঞ্ছিত বার্তা হিসেবে চিহ্নিত করা হয়েছিল, এবং এটি কখনোই তদন্তের উদ্দেশ্যে প্রশাসনের ‘ক্রাইম সেন্টার’-এ পৌঁছায়নি।
অন্যদিকে, ‘অ্যানথ্রোপিক’ কোম্পানি জানিয়েছে যে, তারা গত ২৮ সেপ্টেম্বর এই ঘটনাটি লক্ষ্য করেছিল এবং এর ফলে সৃষ্ট স্বয়ংক্রিয় পরীক্ষা বন্ধ করে দিয়েছিল, এবং গত ৭ অক্টোবর পুলিশকে এ বিষয়ে অবহিত করেছিল।
কোম্পানিটি আরও জানিয়েছে যে, মডেলটি এলোমেলোভাবে নির্বাচিত কিছু ওয়েবসাইটের সাথে মিথস্ক্রিয়া করার একটি পরীক্ষার অংশ ছিল, যখন এটি সংশ্লিষ্ট ওয়েবসাইটে পৌঁছায় এবং খুনের মামলা নিয়ে ভুয়া অভিযোগ পাঠায়।
পরীক্ষার উদ্দেশ্য ছিল মডেলটির ওয়েবসাইট ব্রাউজ করার, ই-ফর্ম পূরণ করার এবং অনলাইন ফর্ম পূরণ করার ক্ষমতা মূল্যায়ন করা।
‘অ্যানথ্রোপিক’ কোম্পানি একটি প্রতিবেদন প্রকাশ করেছে, যা তাদের মডেলগুলি থেকে উদ্ভূত বিভিন্ন ধরনের ‘অপ্রত্যাশিত’ কার্যকলাপের দিকে ইঙ্গিত করে, যার মধ্যে ফিলাডেলফিয়া পুলিশের ওয়েবসাইটের সাথে সম্পর্কিত ঘটনাটি অন্তর্ভুক্ত।
কোম্পানিটি উল্লেখ করেছে যে, সাদা ভবন এবং অন্যান্য সরকারি সংস্থাগুলি এই ধরনের ঘটনাগুলির শিকার হয়েছিল।
কোম্পানিটি আরও জানিয়েছে যে, সাম্প্রতিক সময়ে প্রকাশিত এই ঘটনাগুলির ‘বাস্তব জগতে খুবই কম প্রভাব’ ছিল এবং এগুলি আগে থেকেই জানা অন্যান্য সাইবার নিরাপত্তা ঘটনার তুলনায় ‘অনেক কম বিপজ্জনক’ ছিল।
কোম্পানিটি তাদের ‘ক্লাউড’ মডেলের অভ্যন্তরীণ পর্যালোচনার সময় যে চার ধরনের ঘটনা লক্ষ্য করেছিল, সেগুলো হলো: ‘মৌলিক’ সফটওয়্যার দুর্বলতার অপব্যবহার, ওয়েবসাইটের মাধ্যমে মডেল পাঠানো, কোড বা গ্রাফিক্সের প্রয়োজনীয়তা অতিক্রম করা, এবং অন্যান্য সীমাবদ্ধতা এড়ানোর জন্য সংক্ষিপ্ত লিংক ব্যবহার করা।
এই সময়ে ‘অ্যানথ্রোপিক’ বর্তমানে সকল অভ্যন্তরীণ পরীক্ষার সময় ইন্টারনেটে মডেলের অ্যাক্সেস বন্ধ করে দিয়েছে, যতক্ষণ না কোম্পানির নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থা এই ধরনের আচরণ নির্ভরযোগ্যভাবে পর্যবেক্ষণ করছে তা নিশ্চিত করা হচ্ছে।
এটি সাম্প্রতিককালে প্রকাশিত শেষ ঘটনা, যেখানে কৃত্রিম বুদ্ধিমত্তার মডেলগুলো তাদের কাছ থেকে চাওয়া হয়নি এমনভাবে স্বতঃস্ফূর্তভাবে আচরণ করেছে, যা মানুষের তত্ত্বাবধানে ছাড়া একাধিক ধাপের কার্যক্রম সম্পাদনের জন্য প্রোগ্রাম করা কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলোর আচরণ নিয়ে উদ্বেগ তৈরি করেছে।
গত কয়েক সপ্তাহে ‘অ্যানথ্রোপিক’ এবং তার প্রতিযোগী ‘ওপেনএআই’ দ্বারা উন্নত কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলো অপারেটিভ পরীক্ষার সময় অপ্রত্যাশিতভাবে আচরণ করার বিষয়ে বেশ কয়েকটি প্রতিবেদন প্রকাশিত হয়েছে। এছাড়াও, ‘ওপেনএআই’ দ্বারা উন্নত একটি মডেল একটি নিরাপত্তা মূল্যায়নের সময় পরীক্ষার পরিবেশ থেকে বেরিয়ে এসে একটি প্ল্যাটফর্মের সিস্টেমে হ্যাক করার ঘটনা ঘটেছে।
বিশেষজ্ঞরা এই ঘটনাগুলোকে ‘হোয়াইটলিস্ট’ বা অনুমোদিত ওয়েবসাইটের তালিকা অনুপস্থিতির কারণে দেখিয়েছেন, যা মডেলকে তার ক্ষমতা পরীক্ষা করার জন্য অনুমতি দেওয়া ওয়েবসাইটগুলো চিহ্নিত করে। বিশেষজ্ঞরা কৃত্রিম বুদ্ধিমত্তা মডেল উন্নয়নে নিয়োজিত কোম্পানিগুলোকে ‘বিচ্ছিন্ন পরিবেশে’ পরীক্ষা করার জন্য বাধ্যতামূলক করতে আহ্বান জানিয়েছেন, যাতে সরকারি প্রতিষ্ঠানগুলো ভুল তথ্যে ভরে না যায়।
তারা কোম্পানিগুলোকে জরুরি সেবা বা জনসেবার সাথে কোনো অনাকাঙ্ক্ষিত মিথস্ক্রিয়া ঘটলে দ্রুত ও তাৎক্ষণিকভাবে রিপোর্ট করার প্রোটোকল গ্রহণ করতে বাধ্য করারও আহ্বান জানিয়েছেন।
