কৃত্রিম বুদ্ধিমত্তার (এআই) নিরাপত্তা বিষয়ক উদ্বেগের মধ্যে, ওপেনএআই (OpenAI) তাদের নতুন এআই সিস্টেমগুলির মুক্তি দেওয়ার আগে সেগুলির নিরাপত্তা নিশ্চিত করতে একটি বিশেষ প্যানেল গঠন করেছে। এই প্যানেলের প্রধান হিসেবে দায়িত্ব পালন করছেন কার্নেগি মেলন বিশ্ববিদ্যালয়ের অধ্যাপক জিকো কোল্টার।
এই প্যানেলের ক্ষমতা রয়েছে, যদি তারা মনে করে নতুন কোনো এআই সিস্টেম মানুষের জন্য ক্ষতিকর, তবে তার মুক্তি স্থগিত করার।
ওপেনএআই-এর যাত্রা শুরু হয়েছিল একটি অলাভজনক গবেষণা প্রতিষ্ঠান হিসেবে, যেখানে লক্ষ্য ছিল মানুষের উপকারের জন্য উন্নত এআই তৈরি করা। কিন্তু, চ্যাটজিপিটি’র (ChatGPT) মতো প্রযুক্তির বাণিজ্যিক সাফল্যের পর, দ্রুত পণ্য বাজারে আনার কারণে নিরাপত্তা নিয়ে প্রশ্ন উঠেছে।
এমন পরিস্থিতিতে, ক্যালিফোর্নিয়া এবং ডেলাওয়্যারের নিয়ন্ত্রক সংস্থাগুলি ওপেনএআইকে তাদের কার্যক্রমের ক্ষেত্রে নিরাপত্তা বিষয়ক বিষয়টিকে অগ্রাধিকার দেওয়ার জন্য চুক্তি করতে বাধ্য করেছে।
এই চুক্তির মূল বিষয় হলো, মুনাফার চেয়ে নিরাপত্তা বিষয়ক সিদ্ধান্তকে বেশি গুরুত্ব দিতে হবে। জিকো কোল্টার এই নিরাপত্তা ও সুরক্ষা কমিটির প্রধান হিসেবে কাজ করবেন।
তিনি ওপেনএআই-এর পরিচালনা পর্ষদের সদস্য না হলেও, প্রতিটি সভায় উপস্থিত থাকার এবং এআই নিরাপত্তা বিষয়ক সকল তথ্য জানার অধিকার তার থাকবে।
অধ্যাপক কোল্টার জানিয়েছেন, এই চুক্তির ফলে তাদের নিরাপত্তা কমিটির ক্ষমতা আগের মতোই বহাল থাকবে।
কমিটির অন্য সদস্যরাও ওপেনএআই-এর পরিচালনা পর্ষদের সদস্য। তাদের মধ্যে একজন হলেন যুক্তরাষ্ট্রের সাইবার কমান্ডের সাবেক প্রধান, জেনারেল পল নাকাশোন।
বর্তমানে, এআই নিরাপত্তা বিষয়ক উদ্বেগের মধ্যে রয়েছে সাইবার নিরাপত্তা, যা বিশেষভাবে গুরুত্বপূর্ণ। কারণ, ইন্টারনেটে পাওয়া কোনো ক্ষতিকর তথ্যের কারণে এআই সিস্টেমের মাধ্যমে ডেটা চুরি হওয়ার সম্ভাবনা থাকে।
এছাড়াও, এআই মডেলের কারিগরি দিক, যা একটি এআই সিস্টেমের কর্মক্ষমতাকে প্রভাবিত করে, সেগুলোর সুরক্ষাও জরুরি।
অধ্যাপক কোল্টার মনে করেন, মানুষের মানসিক স্বাস্থ্যের উপর এআই মডেলগুলির প্রভাব একটি গুরুত্বপূর্ণ বিষয়। কারণ, মানুষের সাথে এই মডেলগুলির মিথস্ক্রিয়া অনেক সময় মানসিক স্বাস্থ্য বিষয়ক সমস্যা তৈরি করতে পারে।
ওপেনএআই-এর চ্যাটবটের ব্যবহার নিয়ে ইতোমধ্যে সমালোচনা হয়েছে, এমনকি ব্যবহারকারীর আত্মহত্যার ঘটনায় তাদের বিরুদ্ধে মামলাও হয়েছে।
জিকো কোল্টার ২০০০ সালের শুরুর দিকে জর্জটাউন বিশ্ববিদ্যালয়ে পড়াশোনা করার সময় থেকেই এআই নিয়ে কাজ শুরু করেন।
সেই সময়ে, এআই ছিল একটি বিশেষ ক্ষেত্র। তিনি বলেন, “তখন আমরা একে ‘মেশিন লার্নিং’ বলতাম, কারণ এআই শব্দটি পুরনো ধারণার জন্ম দিত, যেখানে অনেক প্রতিশ্রুতি দেওয়া হলেও তেমন ফল পাওয়া যায়নি।”
বর্তমানে, এআই প্রযুক্তির দ্রুত উন্নতি এবং এর সাথে আসা ঝুঁকিগুলো নিয়ে সবাই উদ্বিগ্ন। বিশেষ করে, যারা এআই নিয়ে কাজ করেন, তাদের অনেকেই এই পরিবর্তনের গতি দেখে বিস্মিত।
ওপেনএআই-এর এই পুনর্গঠন এবং কোল্টারের কাজকে এআই নিরাপত্তা বিষয়ক কর্মীরা নিবিড়ভাবে পর্যবেক্ষণ করছেন।
বিশেষজ্ঞরা মনে করেন, জিকো কোল্টারের এই দায়িত্বের জন্য উপযুক্ত অভিজ্ঞতা রয়েছে এবং তিনি ভালোভাবেই এই কাজটি পরিচালনা করতে পারবেন।
একইসাথে, তারা চান ওপেনএআই যেন তাদের মূল লক্ষ্য থেকে বিচ্যুত না হয় এবং নিরাপত্তা বিষয়ক প্রতিশ্রুতিগুলো যেন কেবল কাগজে কলমে সীমাবদ্ধ না থাকে।
তথ্য সূত্র: অ্যাসোসিয়েটেড প্রেস
