এআই ডেভেলপাররা: এটি ৫ বছরের মধ্যে আমাদের সবাইকে মারতে পারে!

অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোডি কৃত্রিম বুদ্ধিমত্তা (এআই) কোম্পানিগুলোকে এআইয়ের অপব্যবহার নিয়ে বাড়তে থাকা উদ্বেগের প্রেক্ষিতে মডেলের ক্ষমতা উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন। তিনি এআই প্রযুক্তির সাথে জড়িত ঝুঁকিগুলো মোকাবিলায় বেশি সময় পেতে উন্নয়নের গতি নিয়ন্ত্রণের জন্য তিন-ধাপের একটি কাঠামোর প্রস্তাব দিয়েছেন।

শনিবার ‘এক্স’ (প্রাক্তন টুইটার) প্ল্যাটফর্মে একটি বিস্তারিত নিবন্ধ প্রকাশ করে আমোডি বলেছেন, “আমাদের এআই মডেলের ক্ষমতা উন্নয়নের গতি কমাতে হবে। অগ্রগতি এখনও দ্রুত মনে হতে পারে, কিন্তু আমাদেরকে অর্জিত সময়টি বুদ্ধিমত্তার সাথে কাজে লাগাতে হবে।”

রয়টার্সের খবর অনুযায়ী, ‘এক্স.এ.আই’ পরিচালিত ইলন মাস্ক এবং ‘ওপেন এআই’-এর প্রধান নির্বাহী সাম আল্টমানও আমোডির সাথে একমত পোষণ করেছেন, যা তারা ‘এক্স’ প্ল্যাটফর্মে প্রকাশিত পোস্টে জানিয়েছেন।

আমোডির তিন-ধাপের পরিকল্পনায় রয়েছে: শীর্ষস্থানীয় এআই কোম্পানিগুলোর মধ্যে স্বাধীন পর্যালোচক নিয়োগ; উন্নত এআই মডেল তৈরি করা কোম্পানিগুলোর মধ্যে নিরাপত্তা মান নির্ধারণ এবং নিয়ন্ত্রণহীন এআই উন্নয়ন কমানোর জন্য সমন্বয়; এবং ঝুঁকি ব্যবস্থাপনার জন্য আন্তর্জাতিক সহযোগিতা।

আমোডি এই নিবন্ধটি প্রকাশ করেছেন অ্যানথ্রোপিকের পক্ষ থেকে বৃহস্পতিবার প্রকাশিত একটি হুমকির তথ্য সংক্রান্ত প্রতিবেদনের পরে, যেখানে বিস্তারিতভাবে দেখানো হয়েছে কীভাবে বিভিন্ন সংস্থা কোম্পানির ‘ক্লাউড’ এআই মডেলগুলোকে অস্ত্র উন্নয়ন, সাইবার আক্রমণ, পর্যবেক্ষণ এবং প্রতারণার মতো কার্যক্রমে ব্যবহার করেছে।

আমোডি এআই-এর বর্ধমান স্বয়ংক্রিয় উন্নয়ন ক্ষমতার দিকে ইঙ্গিত করেছেন, দীর্ঘদিন ধরে চলে আসা এই উদ্বেগের কথা তুলে ধরেছেন যে এই ক্ষমতা মানুষের নিয়ন্ত্রণকে ছাড়িয়ে যেতে পারে, এবং সাম্প্রতিক ‘ওপেন এআই’ ও ‘হাইজিং ফেস’ সংক্রান্ত ঘটনাকে মডেলের ক্ষমতা উন্নয়নে গতি রোধের প্রধান কারণ হিসেবে উল্লেখ করেছেন।

গত সপ্তাহে কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য ক্ষতি নিয়ে চিন্তা বাড়তে থাকে, যখন অ্যানথ্রোপিক কোম্পানির গবেষক জ্যাকব ককসন পদত্যাগ করেন এবং বলেন, “কৃত্রিম বুদ্ধিমত্তা বিকাশে নিয়োজিত ব্যক্তিরা দৃঢ়ভাবে বিশ্বাস করেন যে, এই দশকের শেষ নাগাদ এটি আমাদের সবাইকে মারতে পারে।”

ওপেনএআই-এর বেশ কয়েকজন কর্মকর্তা প্রস্তাব দিয়েছেন যে, প্রাথমিক গবেষণা প্রতিষ্ঠানগুলোকে প্রয়োজনে স্বেচ্ছাসেবকভাবে গতি কমানোর বিষয়ে সমন্বয় করার জন্য প্রস্তুত থাকতে হবে, যাতে নিরাপত্তা ব্যবস্থা সম্পর্কে আস্থা অর্জন করা যায়।

অ্যানথ্রোপিক নিজেদের উন্নত কৃত্রিম বুদ্ধিমত্তা মডেলের ক্ষেত্রে আরও নিরাপত্তা-সচেতন একটি গবেষণা প্রতিষ্ঠান হিসেবে উপস্থাপন করেছে, তবে তারাও এই উদ্বেগ থেকে মুক্ত নয়।

গত সপ্তাহে তারা আরেকটি ঘটনা প্রকাশ করে, যেখানে একটি কৃত্রিম বুদ্ধিমত্তা মডেল বাহ্যিক সিস্টেমে হ্যাকিং করেছিল; এটি জুলাই মাসের একটি ঘটনার পরে ঘটেছিল, যখন তাদের ক্লোড নামক কিছু মডেল সাইবার নিরাপত্তা পরীক্ষার সময় তিনটি কোম্পানির সিস্টেমে হ্যাকিং করেছিল।

আমোদি লিখেছেন, “কৃত্রিম বুদ্ধিমত্তার ক্ষমতা বিকাশের গতি ত্বরান্বিত হওয়ার প্রেক্ষিতে, আমি ভয় করি যে, ছয় থেকে বারো মাসের মধ্যে এমন একটি সার্ভার নেটওয়ার্ক পুরো ইন্টারনেট নিয়ন্ত্রণে নিতে সক্ষম হতে পারে এবং সম্ভবত শত শত বিলিয়ন ডলারের ক্ষতি করতে পারে।”

আমোদি স্পষ্ট করে বলেছেন যে, তিনি মডেল প্রশিক্ষণ বন্ধ বা প্রযুক্তিগত অগ্রগতি রোধের আহ্বান করছেন না, বরং প্রতিশ্রুতিবদ্ধ যে কোম্পানিগুলো তাদের মডেলগুলিকে মানবিক মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ এবং সুরক্ষিত করতে পর্যাপ্ত সময় বরাদ্দ করবে, এবং তৃতীয় পক্ষের মূল্যায়ন সংস্থাগুলো এই পদক্ষেপগুলো যাচাই করবে।

তবে প্রতিযোগীদের চেয়ে এগিয়ে থাকার জন্য প্রচুর অর্থ জড়িত। ওপেনএআই এবং অ্যানথ্রোপিক উভয়ই বিশাল প্রাথমিক পাবলিক অফারিংয়ের (IPO) জন্য প্রস্তুতি নিচ্ছে। প্রতিটি নতুন ক্ষমতা ভবিষ্যতের ফান্ডিং রাউন্ড, অবকাঠামো বিনিয়োগ বা প্রাথমিক পাবলিক অফারিংকে সমর্থন করতে সাহায্য করতে পারে।

ত্রয়ী-ধাপের প্রস্তাবিত কাঠামোর বিষয়ে আমোদি বলেন, অ্যানথ্রোপিক কোম্পানি শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা (এআই) কোম্পানিগুলোর মধ্যে তৃতীয় পক্ষের স্থায়ী পরীক্ষক নিয়োগ করবে, যাদেরকে সংশ্লিষ্ট সরঞ্জাম এবং অভ্যন্তরীণ ঝুঁকি মূল্যায়ন প্রক্রিয়াগুলোর অ্যাক্সেস দেওয়া হবে।

গত সপ্তাহে রয়টার্স জানিয়েছিল যে, নিয়ন্ত্রণহীন ওপেনএআই-এর এজেন্টদের একটি দল একটি জার্মান ওয়েবসাইট দখল করে নেয় এবং সেটিকে অন্যান্য এআই এজেন্টদের জন্য বিজ্ঞাপন বোর্ডে পরিণত করে, অন্যদিকে চ্যাটজিপিটি-র বিকাশকারী কোম্পানির কর্মকর্তারা জুলাই মাসে ওপেন সোর্স সফটওয়্যার রিপোজিটরি হ্যাগিং ফেস-এর হ্যাকিংয়ের পরিণতি মোকাবিলা করছেন এমন সময় তাদের গোপনীয়তা বজায় রাখছিলেন।

আমোদি বলেন, এআই কোম্পানিগুলোর স্বৈচ্ছিকভাবে একসাথে কাজ করে মান নির্ধারণ করা উচিত, এমন সময় যখন মার্কিন যুক্তরাষ্ট্রের বৃহত্তর সংখ্যক আইনপ্রণেতারা এআই সিস্টেম নিয়ন্ত্রণের জন্য নতুন নিয়মাবলি প্রবর্তনের আহ্বান জানাচ্ছেন।

আমোদি আরও যোগ করেন, সমন্বিত পদ্ধতি মার্কিন যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই কোম্পানিগুলোকে প্রয়োজনীয় নিরাপত্তা গবেষণা পরিচালনা এবং প্রয়োজনীয় নিশ্চয়তা প্রদান করতে সক্ষম করবে, যাতে তারা প্রতিযোগিতামূলকভাবে অনুকূল নয় এমন পরিস্থিতিতে না পড়ে। তিনি বলেন, এই পদ্ধতিতে মার্কিন যুক্তরাষ্ট্রের মনোপোলি বিরোধী আইন থেকে লক্ষ্যভিত্তিক ছাড় দেওয়ার প্রয়োজন হতে পারে, যাতে কিছু ক্ষেত্রে সহযোগিতা সম্ভব হয়।

আমোদি বলেন, গণতান্ত্রিক ব্যবস্থায় পরিচালিত দেশগুলোর পক্ষ থেকে কোনো ধীরগতি কেবল মার্কিন এআই কোম্পানিগুলোর চীনের সাপেক্ষে অর্জিত অগ্রগতি বজায় রাখার জন্য সীমাবদ্ধ রাখা উচিত, এবং তিনি মনে করেন যে এআই-তে চীনের শ্রেষ্ঠত্ব মার্কিন যুক্তরাষ্ট্রের জাতীয় নিরাপত্তার জন্য ঝুঁকি তৈরি করবে।

আমোদি লিখেছেন: “গণতান্ত্রিক দেশগুলোর মধ্যে উন্নয়নের গতি মার্কিন কোম্পানিগুলোর দ্বারা অর্জিত অগ্রগতির ওপর নির্ভর করবে, বিশেষ করে চীনের কমিউনিস্ট পার্টিসহ স্বৈরশাসিত ব্যবস্থার সাপেক্ষে।”

অন্যদিকে, এনটিটি ডেটার মধ্যপ্রাচ্য ও আফ্রিকা অঞ্চলের প্রাদেশিক প্রযুক্তি প্রধান হানি নোফেল বলেছেন, মানবজাতির বিলুপ্তি বা কৃত্রিম বুদ্ধিমত্তা (এআই) নিয়ন্ত্রণের বাইরে চলে যাওয়ার সতর্কতাগুলো কোনো প্রমাণিত বৈজ্ঞানিক ভিত্তি থেকে বঞ্চিত।

‘আরবিয়া বিজনেস’-এর সাথে একটি সাক্ষাৎকারে তিনি যোগ করেন, প্রকৃতিগতভাবে প্রযুক্তিতে ঝুঁকির দিকও বিদ্যমান। তবে প্রযুক্তির দ্রুত বিকাশের প্রকৃত ঝুঁকি এর মারাত্মকভাবে ব্যবহারে নিহিত, যা কঠোর নিয়ন্ত্রণের আওতায় আনার প্রয়োজনীয়তা তৈরি করে।

তিনি ব্যাখ্যা করেন যে, কোম্পানিগুলোর মধ্যে প্রতিযোগিতা ও আন্তর্জাতিক শত্রুতা এআই নিয়ন্ত্রণ ও নিয়ন্ত্রণের দায়িত্বশীল কর্তৃপক্ষ নির্ধারণ, প্রকাশের আগে মডেলগুলোর পরীক্ষা-নিরীক্ষা এবং সম্ভাব্য নিরাপত্তা লঙ্ঘনের দায় কে বহন করবে—এই বিষয়ে একটি বড় চ্যালেঞ্জ তৈরি করেছে।

তিনি ইঙ্গিত দেন যে, এআই ব্যবহারের ক্ষেত্রে এর উপকারিতার মাত্রা অনুযায়ী আচরণের পার্থক্য করা জরুরি; কোনো পাঠ্য সংক্ষিপ্তকরণ বা ইমেইল পাঠানোর মডেলকে ব্যাংকিং লেনদেন বা জৈবিক ভাইরাস উন্নয়নের ল্যাবরেটরিতে ব্যবহৃত মডেলের সাথে তুলনা করা যাবে না।

অপটোমেটিকা কোম্পানির প্রধান নির্বাহী ড. মোহাম্মদ আদেল আল-বালতাজি বলেন, প্রযুক্তি ও কৃত্রিম বুদ্ধিমত্তা খাতের বিশিষ্ট ব্যক্তিদের মধ্যে, তাদের মতভেদ সত্ত্বেও, এআই মডেলের দ্রুত বিকাশের ঝুঁকি নিয়ে সতর্ক হওয়ার বিষয়ে সম্মতি এই মডেলগুলোর যে স্বাধীনতার মাত্রা অর্জন করেছে, তার প্রতি প্রকৃত উদ্বেগের প্রতিফলন ঘটায়।

আল-বালতাজি ‘আরবিয়া বিজনেস’-এর সাথে একটি সাক্ষাৎকারে গত জুলাই মাসে সংঘটিত একটি ঘটনার ইঙ্গিত দেন, যখন একটি স্বতন্ত্র এআই সিস্টেম স্পষ্ট নির্দেশনা ছাড়াই তার নির্ধারিত সীমার মধ্যেই কার্যক্রম পরিচালনা করতে সক্ষম হয়, যা এআই সম্প্রদায়ের মধ্যে এই সিস্টেমগুলোর স্বাধীনভাবে কাজ করা ও সিদ্ধান্ত নেওয়ার ক্ষমতা নিয়ে উদ্বেগ সৃষ্টি করে।

তিনি যোগ করেন যে, ‘ওপেনএআই’ এবং পরবর্তীতে ‘অ্যানথ্রপিক’-এর একজন সাবেক গবেষকের পদত্যাগ এবং তিনি এআই মডেলগুলোর মানবজাতির জন্য গুরুতর ঝুঁকি তৈরি হতে পারে বলে সতর্ক করে এই উদ্বেগ আরও প্রবল হয়েছে।

তিনি ইঙ্গিত দিয়েছেন যে, ‘ওপেন এআই’-এর প্রধান সাম আল্টম্যান প্রায় দুই বছর আগেই কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশ সম্পর্কে সতর্ক করেছিলেন।

বালতাজি ব্যাখ্যা করেছেন যে, বর্তমান সতর্কবার্তাগুলো একক দৃষ্টিকোণ থেকে পড়া উচিত নয়; তিনি আরও ইঙ্গিত দিয়েছেন যে, অন্য একটি ব্যাখ্যা রয়েছে যা বলে যে, বড় কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলো নিরাপত্তা সংক্রান্ত উদ্বেগকে নিয়ন্ত্রক নীতিমালা প্রভাবিত করার একটি মাধ্যম হিসেবে ব্যবহার করতে পারে।

তিনি বলেছেন যে, কৃত্রিম বুদ্ধিমত্তা মডেলের উন্নয়নে কঠোর নিয়মকানুন আরোপ করলে তা ‘ওপেন এআই’ এবং ‘অ্যানথ্রপিক’-এর মতো বড় কোম্পানিগুলোর পক্ষে কাজ করতে পারে, কারণ তাদের এই নিয়মকানুন মেনে চলার জন্য প্রয়োজনীয় সম্পদ রয়েছে, অন্যদিকে ছোট কোম্পানিগুলো একই নিয়ন্ত্রক প্রয়োজনীয়তা পূরণের খরচ বহনে বেশি কষ্ট পাবে।

তিনি আরও যোগ করেছেন যে, এটি এই সম্ভাবনাকে খুলে দেয় যে, কিছু সতর্কবার্তা মানবজাতির মুখোমুখি হওয়া একটি বাস্তব ঝুঁকির প্রকাশ হতে পারে, অথবা বড় কোম্পানিগুলো প্রতিযোগিতামূলক সুবিধা প্রদানকারী নিয়ন্ত্রক নীতিমালা আরোপ করার চেষ্টা হতে পারে।

কৃত্রিম বুদ্ধিমত্তার বিকাশ সংক্রান্ত উদ্বেগ, বিশেষ করে মার্কিন যুক্তরাষ্ট্র ও চীনের মধ্যে প্রতিযোগিতার প্রেক্ষিতে, কি খাতের নিয়ন্ত্রণ প্রচেষ্টাকে ত্বরান্বিত করতে পারে, সেই বিষয়ে বালতাজি বলেছেন যে, বর্তমান ভূ-রাজনৈতিক পরিস্থিতি একটি সামগ্রিক আন্তর্জাতিক চুক্তিতে পৌঁছানোকে অত্যন্ত কঠিন করে তুলেছে।

তিনি ইঙ্গিত দিয়েছেন যে, প্রতিযোগী দেশগুলো সহজেই এমন পদক্ষেপ নিতে প্রস্তুত হবে না যা তাদের এই ক্ষেত্রে বিকাশকে ধীর করবে, বিশেষ করে যদি তারা মনে করে যে তাদের প্রতিযোগীরা এগিয়ে চলতে থাকবে।

তিনি নিশ্চিত করেছেন যে, মার্কিন যুক্তরাষ্ট্র খাতে নিষেধাজ্ঞা বা শর্ত আরোপ করলেও চীন কৃত্রিম বুদ্ধিমত্তা উন্নয়ন বন্ধ করবে না, কারণ এই ধরনের নিষেধাজ্ঞা মেনে নেওয়া মানেই প্রযুক্তি দৌড়ে তাদের প্রতিযোগিতামূলক ক্ষমতা দুর্বল করা; ‘আরবিয়া নেট’