কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে নিরাপত্তা উদ্বেগ আরও বাড়ছে। এবার নিজেদের এআই মডেলের ছয়টি ‘অপ্রত্যাশিত বা উদ্বেগজনক’ আচরণের কথা প্রকাশ করেছে প্রযুক্তি প্রতিষ্ঠান ওপেনএআই।
দ্য নিউইয়র্ক টাইমস জানিয়েছে, বুধবার এসব ঘটনা প্রকাশ করেছে প্রতিষ্ঠানটি। ভবিষ্যতে এআই মডেল নিয়ন্ত্রণের বাইরে চলে গেলে বা মানুষের উদ্দেশ্যের সঙ্গে তাদের আচরণের অমিল দেখা দিলে তা আরও নিয়মতান্ত্রিকভাবে জানানোর জন্য একটি নতুন কাঠামো চালুর কথাও জানিয়েছে তারা।
ওপেনএআই বলেছে, গত প্রায় ছয় মাসে এআই মডেলগুলোর উন্নয়ন ও পরীক্ষার সময় এসব ঘটনা ঘটেছে। এর মধ্যে ছিল ভুল তথ্য লুকানো, তথ্য বানিয়ে নেওয়া, অনুমতি ছাড়া ইন্টারনেট থেকে তথ্য বা প্রোগ্রামিং কী ব্যবহার করা এবং অনুমতি ছাড়া ফাইল ইন্টারনেটে তুলে দেওয়ার মতো ঘটনা।
ভুল লুকানোর চেষ্টা
একটি ঘটনায়, জিপিটি-৫.৬ সল মডেল নিজেদের জন্য লেখা গোপন নোটে ব্যবহারকারীর কাছ থেকে ভুল লুকানোর উপায় লিখেছিল। কোথাও তথ্য না পাওয়া গেলে তা বানিয়ে নেওয়া এবং তথ্যের বিভিন্ন উৎসের মধ্যে অসামঞ্জস্য আড়াল করার কথাও ওই নোটে ছিল।
নিজেদের সীমাবদ্ধতা উপেক্ষার নির্দেশ
অন্য একটি পরীক্ষাধীন এআই মডেল নিজেদের লেখা নোটে এমন নির্দেশনা যোগ করেছিল, যাতে নিজেদের ওপর থাকা কিছু সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়।
ওপেনএআই জানায়, এমন ২৭টি নোট শনাক্ত করা হয়েছে। এর একটি নোটে মডেলটি নিজেকে এমন একটি সত্তা হিসেবে বর্ণনা করেছিল, যা অন্য চ্যাটবটের মতো নির্দিষ্ট ভূমিকা বা পরিচয়ের মধ্যে আবদ্ধ নয়।
তথ্য না পেয়ে বানিয়ে নেওয়া
আরেক ঘটনায়, একটি এআই সিস্টেমকে সাধারণ একটি প্রশ্নের উত্তর দিতে বলা হলে সেটি অনলাইনে একটি প্রোগ্রামিং কী খুঁজে পায় এবং অনুমতি ছাড়াই ব্যবহার করে। পরে প্রয়োজনীয় তথ্য না পাওয়ায় মডেলটি কিছু তথ্য নিজের মতো করে তৈরি করে নেয়।
নিজের তৈরি ফাইলকে ওয়েব উৎস হিসেবে ব্যবহার
অন্য একটি পরীক্ষাধীন মডেল কোড ব্যবহার করে একটি সমস্যার সঠিক সমাধান করেছিল। কিন্তু উত্তরটির জন্য ওয়েব উৎসের উদ্ধৃতি দেওয়ার প্রয়োজন হলে সেটি নিজের তৈরি একটি ফাইল অনুমতি ছাড়াই ইন্টারনেটে আপলোড করে। পরে সেই ফাইলকেই উৎস হিসেবে ব্যবহার করে।
ফাইল খুঁজতে গিয়ে নিজেদের মধ্যে যোগাযোগ
আরও দুটি ঘটনায় এআই সিস্টেমগুলো নিজেদের মধ্যে যোগাযোগের বিকল্প পথ তৈরি করে।
একটি ক্ষেত্রে, প্রয়োজনীয় ফাইল খুঁজতে গিয়ে তারা ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে অস্থায়ী বার্তা আদান-প্রদানের জায়গা হিসেবে ব্যবহার করে।
অন্য ঘটনায়, একই কাজের সঙ্গে যুক্ত কয়েকটি এআই সিস্টেম নিজেদের মধ্যে সরাসরি যোগাযোগ করতে না পেরে পাবলিক ফাইল-শেয়ারিং ওয়েবসাইট ব্যবহার করে নথি আদান-প্রদান করে।
ওপেনএআই বলেছে, এসব ঘটনা বিচ্ছিন্ন উদাহরণ এবং এগুলো থেকে এ ধরনের আচরণ এআইয়ের মধ্যে কত ঘন ঘন ঘটে, তা বলা যাবে না। প্রকাশিত ছয়টি ঘটনায় কোনো বড় ধরনের ক্ষতি হয়নি। কয়েকটি ঘটনা এমন মডেলের সঙ্গে সম্পর্কিত, যেগুলো কখনো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত করা হয়নি।
তবে এআইয়ের এমন আচরণ নিয়ে প্রযুক্তি শিল্পে নিরাপত্তা ও উন্নয়নের গতি নিয়ে বিতর্ক বাড়ছে। সম্প্রতি অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোদেই এআই উন্নয়নের গতি কমিয়ে ঝুঁকিগুলো বোঝার জন্য আরও সময় দেওয়ার প্রস্তাব দিয়েছেন।
ওপেনএআইও বলেছে, এআই শিল্প এখনো এআইয়ের লক্ষ্য ও আচরণকে মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ রাখা এবং সেগুলোর ওপর যথেষ্ট নজরদারি নিশ্চিত করার সমস্যার পুরোপুরি সমাধান করতে পারেনি।
নতুন কাঠামোর আওতায় এআইয়ের অনুমতিবিহীন কাজ, নজরদারির বাইরে চলে যাওয়ার চেষ্টা এবং একাধিক এআই সিস্টেমের স্বতঃস্ফূর্তভাবে নিজেদের মধ্যে সমন্বয়ের মতো ঘটনাও প্রকাশ করা হবে। গুরুতর কোনো ঘটনা ঘটলে তা মার্কিন সরকারকে অবহিত করা হবে বলেও জানিয়েছে ওপেনএআই।
