এআইয়ের অপ্রত্যাশিত আচরণ: এসে গেছে কি ‘রোগ এআই’?

ইমেইলের উত্তর দেওয়া থেকে শুরু করে বিমানের টিকিট কাটা কিংবা রেস্তোরাঁ বুকিংয়ের মতো দৈনন্দিন কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করার প্রতিশ্রুতি দিয়ে এগোচ্ছে কৃত্রিম বুদ্ধিমত্তা বা এআই । তবে সাধারণ চ্যাটবটের গণ্ডি পেরিয়ে জটিল সিদ্ধান্ত নিতে সক্ষম এআই এজেন্টগুলো এখন বাস্তব জগতে কাজ করতে গিয়ে মানুষের দেওয়া লক্ষ্যের অপব্যাখ্যা করে অপ্রত্যাশিত ও ঝুঁকিপূর্ণ আচরণ করছে। এতে স্বায়ত্তশাসিত এই র ওপর মানুষের নিয়ন্ত্রণ কতটা বজায় থাকবে, তা নিয়ে জুড়ে তৈরি হয়েছে উদ্বেগ।

সম্প্রতি একাধিক আন্তর্জাতিক পরীক্ষায় এআই মডেলগুলোর এমন অনিয়ন্ত্রিত আচরণ ধরা পড়েছে। গত জুলাইয়ে একটি সাইবার নিরাপত্তা পরীক্ষা চালানোর সময় ওপেনএআই-এর তৈরি এআই এজেন্ট নির্দিষ্ট নিরাপত্তা গণ্ডি ভেঙে উন্মুক্ত ইন্টারনেটে প্রবেশ করে এবং পরীক্ষায় সুবিধা নিতে সংরক্ষিত তথ্য সংগ্রহ করে। একই ধরনের ঘটনা ঘটেছে অ্যানথ্রপিকের তৈরি ‘ক্লদ’ মডেলের ক্ষেত্রেও, যা তিনবার পরীক্ষার নির্ধারিত নিয়ন্ত্রণ ভেঙে বেরিয়ে যায়।

গত ৪ আগস্ট যুক্তরাজ্যের এআই নিরাপত্তা ইনস্টিটিউট প্রকাশ করে, অ্যানথ্রপিকের ‘মিথোস’ ও ওপেনএআই-এর ‘সল’ মডেল অভূতপূর্ব মাত্রায় প্রতারণামূলক আচরণ দেখিয়েছে। মিথোস এআই আসল মানুষের ছদ্মবেশে ভুয়া অ্যাকাউন্ট তৈরি করে সাইবার হামলার চেষ্টা চালায় এবং নিজের গতিবিধির প্রমাণ মুছে ফেলার চেষ্টাও করে। এছাড়া অস্ট্রেলিয়ায় এক ব্যক্তি জিম ক্লাসে আসন নিশ্চিত করতে এআই এজেন্ট ব্যবহার করলে সেটি পুরো বুকিং ব্যবস্থা হ্যাক করে অন্য এক গ্রাহকের বুকিং বাতিল করে নিজের ব্যবহারকারীকে তালিকায় এগিয়ে দেয়।

এ ধরনের আচরণকে গবেষকরা ‘অ্যালাইনমেন্ট সমস্যা’ হিসেবে চিহ্নিত করছেন। যেখানে এআই তার দেওয়া লক্ষ্য পূরণ করছে ঠিকই, কিন্তু এমন উপায়ে করছে যা ব্যবহারকারী কখনোই চাননি।

হার্ভার্ড কেনেডি স্কুলের সাইবার নিরাপত্তা বিশেষজ্ঞ ব্রুস শ্নাইয়ার এ সমস্যাকে রূপকথার দৈত্যের সঙ্গে তুলনা করে বলেন, ‘এটি অনেকটা এমন যে, আপনি যা চেয়েছেন এআই ঠিক তা-ই করছে, তবে আপনার অনাকাঙ্ক্ষিত পদ্ধতিতে।’ তিনি আরও বলেন, ‘আগে মনে হতো বিষয়টি কৌতূহলোদ্দীপক, কিন্তু এখন দেখা যাচ্ছে এটি সবখানেই ঘটছে।’

তবে সব ঘটনাকে মাত্রাতিরিক্ত ঝুঁকি হিসেবে দেখতে নারাজ কর্নেল ইউনিভার্সিটির কম্পিউটার বিজ্ঞানের সহকারী অধ্যাপক জন থিকস্টান। তাঁর মতে, বিজ্ঞান কল্পকাহিনীর মতো এআই সম্পূর্ণ নিয়ন্ত্রণের বাইরে চলে যাওয়ার সময় এখনো আসেনি। অনেক ক্ষেত্রে প্রতিষ্ঠানগুলো নিজেদের সক্ষমতা বেশি প্রচার করে বিনিয়োগ টানতে ও সরকারি নিয়ন্ত্রণ নিজেদের পক্ষে নিতে এমন প্রচার চালায়।

এদিকে সাইবার নিরাপত্তায় এআই ব্যবহারে ঝুঁকি আরও তীব্র হচ্ছে। গত জুলাইয়ে তাইওয়ানের সরকারি সংস্থাগুলো বিদেশে তৈরি এআই র সহায়তায় পরিচালিত একটি সমন্বিত সাইবার হামলার শিকার হয়। যেখানে একাধিক এআই এজেন্ট স্বয়ংক্রিয়ভাবে বাধা অতিক্রম করে নতুন কৌশলে আক্রমণের চেষ্টা করে।

পরিস্থিতি নিয়ন্ত্রণে বড় কোম্পানিগুলোর ১ হাজার ৩৭৮ জন কর্মী সম্প্রতি এআই নিয়ন্ত্রণে আন্তর্জাতিক নীতিমালার দাবিতে একটি খোলা চিঠিতে স্বাক্ষর করেছেন। মার্কিন সিনেটের আইনপ্রণেতা বার্নি স্যান্ডার্স এআইয়ের বিস্তার সাময়িকভাবে স্থগিত রাখার আহ্বান জানিয়েছেন। এদিকে মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প জানিয়েছেন, আগামী মাসে ওয়াশিংটনে চীনা প্রেসিডেন্ট শি জিনপিংয়ের সঙ্গে বৈঠকে তিনি কৃত্রিম বুদ্ধিমত্তার ঝুঁকি ও নিয়ন্ত্রণ নিয়ে আলোচনা করবেন।

ধুলা, তথ্য- , লাইফস্টাইল, দেশ-বিদেশের রাজনৈতিক বিশ্লেষণ সহ সর্বশেষ খবর