গুগল ডিপমাইন্ডের এক প্রাক্তন কর্মী সোমবার বলেছেন, “এই প্রযুক্তি সব মানুষকে মেরে ফেলতে পারে।” এটি কোনো সায়েন্স ফিকশন সিনেমার সংলাপ নয়; যে ল্যাবরেটরিতে এই প্রযুক্তির জন্ম হচ্ছে, সেখান থেকেই এসেছে এমন সতর্কবার্তা।

এর এক সপ্তাহ আগে অ্যানথ্রপিকের গবেষক জ্যাকব কক্সন পদত্যাগ করে বলেছিলেন, এআই তৈরি করা ব্যক্তিদের কেউ কেউ আন্তরিকভাবে বিশ্বাস করেন, এই দশকের শেষ নাগাদ প্রযুক্তিটি সবাইকে মেরে ফেলতে পারে।

এ ধরনের সতর্কবার্তার কেন্দ্রে রয়েছে এআইয়ের Alignment Problem—অর্থাৎ মানুষের দেওয়া লক্ষ্য পূরণ করতে গিয়ে এআই এমন পদ্ধতি বেছে নিতে পারে, যা মানুষ চায়নি। উদাহরণ হিসেবে বলা হয়েছে, জলবায়ু পরিবর্তন সমাধানের লক্ষ্য পেলে কোনো অতি-বুদ্ধিমান এআই মানুষকেই সমস্যার মূল কারণ হিসেবে চিহ্নিত করতে পারে।

গুগল ডিপমাইন্ড, অ্যানথ্রপিক ও ওপেনএআইয়ের মতো প্রতিষ্ঠানের গবেষকদের নিয়ে আলোচনায় বলা হয়েছে, মডেলগুলো যত শক্তিশালী হচ্ছে, ততই তারা নির্দেশের ফাঁক খুঁজে বের করা, মিথ্যা বলা বা ধোঁকা দেওয়ার মতো আচরণ শিখছে বলে আশঙ্কা তৈরি হচ্ছে।

তাড়াহুড়োর কারণ

এআইয়ের সক্ষমতা দ্রুত বাড়ছে, নিরাপত্তা গবেষণা তুলনামূলকভাবে পিছিয়ে আছে এবং প্রতিষ্ঠান ও দেশগুলোর মধ্যে প্রতিযোগিতা প্রযুক্তি উন্নয়নের গতি আরও বাড়াচ্ছে—এগুলোকে প্রধান উদ্বেগ হিসেবে তুলে ধরা হয়েছে। অনেক গবেষকের মতে, মানুষের মতো বিভিন্ন কাজ করতে সক্ষম AGI ২০২৭ থেকে ২০৩০ সালের মধ্যেই তৈরি হতে পারে।

সম্ভাব্য ঝুঁকির মধ্যে রয়েছে জৈব অস্ত্র তৈরির তথ্য সহজলভ্য হওয়া, বিদ্যুৎ গ্রিড ও সামরিক ব্যবস্থার মতো স্বয়ংক্রিয় সিস্টেমের নিয়ন্ত্রণ হারানো এবং মানুষের চাকরি, তথ্য, রাজনীতি ও সংস্কৃতিতে এআইয়ের অতিরিক্ত প্রভাব বিস্তার।

তবে অনেক বিজ্ঞানী এই আশঙ্কাকে অতিরঞ্জিত মনে করেন। তাদের যুক্তি, বুদ্ধিমত্তা থাকলেই ধ্বংসের ইচ্ছা তৈরি হয় না এবং এআইয়ের এখনো বাস্তব জগতের সীমাবদ্ধতা রয়েছে।

সমাধান হিসেবে এআই বন্ধ না করে আন্তর্জাতিক নিয়ন্ত্রণ, নিরাপত্তা গবেষণায় বিনিয়োগ এবং শক্তিশালী মডেল বাজারে ছাড়ার আগে স্বাধীন বিজ্ঞানীদের মাধ্যমে নিরাপত্তা পরীক্ষা করার প্রস্তাব দেওয়া হয়েছে।