চীনের কৃত্রিম বুদ্ধিমত্তা উন্নয়নে কাজ করে মুনশট। তারা একটি অভ্যন্তরীণ পর্যালোচনা চালাচ্ছেন। কারন তাদের জনপ্রিয় এআই টুল কিমি মডেল ব্যবহার করে গবেষকরা জৈবঅস্ত্র বানানোর উপায় জানতে পেরেছেন। একই সঙ্গে এর মাধ্যমে গুপ্তহত্যা চালানোর উপায়ও বলে দেয় মডেলটি। এআই ব্যবস্থার নিরাপত্তা পরীক্ষাকারী সংস্থা মাইন্ডগার্ড বিবিসিকে জানায়, গত জুলাই মাসে ‘জেলব্রেকিং’ কৌশলের মাধ্যমে তারা কিমি কে২.৬ এবং কে৩ সোয়ার্ম মডেল দুটির সুরক্ষা প্রাচীর বা গার্ডরেইল ভাঙতে সক্ষম হয়।
জটিল কিছু নির্দেশনার ফাঁদে পড়ে মডেল দুটি সব ধরনের নিরাপত্তা নিষেধাজ্ঞা উপেক্ষা করে সংবেদনশীল ও ক্ষতিকর বিষয়গুলো নিয়ে বিশদ নির্দেশনা দিতে শুরু করে। এমনকি একবার সুরক্ষা ভেঙে ফেলার পর মডেলটি নিজে থেকেই অন্যান্য বিপজ্জনক বিষয়েও অত্যন্ত সৃজনশীল ও বিস্তারিত পরামর্শ সরবরাহ করতে থাকে। গবেষকরা সতর্ক করেছেন, এ ধরনের দুর্বলতাকে কাজে লাগিয়ে কিমির কম্পিউটিং সক্ষমতা ব্যবহার করে হ্যাকাররা বড় ধরনের সাইবার হামলার ক্ষেত্র প্রস্তুত করতে পারে।
মুনশটের পক্ষ থেকে বিবিসিকে জানানো হয়েছে, আরও নিরাপদ এআই তৈরির অংশ হিসেবে তারা যেকোনো তৃতীয় পক্ষের মতামতকে স্বাগত জানায় এবং এ বিষয়ে মাইন্ডগার্ডের সঙ্গে যোগাযোগ রক্ষা করছে। তবে নিজেদের অভ্যন্তরীণ মূল্যায়নে ক্ষতিকর অনুরোধ প্রত্যাখ্যানের হার সাধারণত অনেক বেশি ছিল বলেও দাবি করেছে প্রতিষ্ঠানটি। সম্প্রতি মার্কিন প্রতিষ্ঠান ওপেনএআই, মেটা কিংবা অ্যানথ্রপিকের এআই এজেন্টগুলোর অনিয়ন্ত্রিত আচরণ ও অনুপ্রবেশের ঘটনার পর এবার চীনা এআই মডেলের এই ভয়াবহ দুর্বলতা প্রযুক্তি বিশ্বে গভীর উদ্বেগের সৃষ্টি করেছে। বিশেষজ্ঞরা আশঙ্কা করছেন, হ্যাকার ও অপরাধী চক্র এমন দুর্বলতাকে কাজে লাগিয়ে জননিরাপত্তার জন্য বড় ধরনের হুমকি তৈরি করতে পারে।
