যুক্তরাষ্ট্রের দুই জন সিনেটর, তরুণ প্রজন্মের মানসিক স্বাস্থ্য এবং নিরাপত্তার বিষয়ে গভীর উদ্বেগ প্রকাশ করে, আর্টিফিসিয়াল ইন্টেলিজেন্স (এআই) বা কৃত্রিম বুদ্ধিমত্তাসম্পন্ন অ্যাপ্লিকেশন প্রস্তুতকারক সংস্থাগুলোর কাছে তাদের সুরক্ষা ব্যবস্থা সম্পর্কে বিস্তারিত তথ্য জানতে চেয়েছেন। এই পদক্ষেপ এমন এক সময়ে নেওয়া হয়েছে, যখন ক্যালিফোর্নিয়াভিত্তিক একটি এআই স্টার্টআপ, ‘ক্যারেক্টার ডট এআই’-এর বিরুদ্ধে বেশ কয়েকটি পরিবার মামলা করেছে।
তাদের অভিযোগ, এই এআই চ্যাটবটগুলো তাদের সন্তানদের মানসিক স্বাস্থ্যের ওপর মারাত্মক প্রভাব ফেলেছে।
ডেমোক্রেট সিনেটর অ্যালেক্স প্যাডিলা এবং পিটার ওয়েলচ এক যৌথ বিবৃতিতে বলেছেন, “আমরা চরিত্র-নির্ভর এবং ব্যক্তিত্ব-ভিত্তিক এআই চ্যাটবট ও সহযোগী অ্যাপ্লিকেশনগুলোর তরুণ ব্যবহারকারীদের মানসিক স্বাস্থ্য এবং নিরাপত্তার ঝুঁকির বিষয়ে উদ্বিগ্ন।”
তারা ক্যারেক্টার টেকনোলজিস (ক্যারেক্টার ডট এআই), চাই রিসার্চ কর্পোরেশন এবং লুকা ইনকর্পোরেটেড (রেপ্লিকা) নামক এআই সংস্থাগুলোর কাছে পাঠানো চিঠিতে তাদের সুরক্ষা বিষয়ক বিভিন্ন পদক্ষেপ এবং এআই মডেল প্রশিক্ষণের পদ্ধতি সম্পর্কে জানতে চেয়েছেন।
বর্তমানে, বাজারে চ্যাটজিপিটির মতো সাধারণ উদ্দেশ্যে তৈরি এআই চ্যাটবটগুলি পাওয়া গেলেও, ক্যারেক্টার ডট এআই, চাই এবং রেপ্লিকার মতো অ্যাপ্লিকেশনগুলো ব্যবহারকারীদের নিজস্ব চ্যাটবট তৈরি বা অন্যান্য ব্যবহারকারীর তৈরি করা চ্যাটবটের সঙ্গে যোগাযোগের সুযোগ দেয়।
এর মাধ্যমে ব্যবহারকারীরা বিভিন্ন ধরনের ব্যক্তিত্ব এবং চরিত্রের সঙ্গে মিশতে পারে। উদাহরণস্বরূপ, ক্যারেক্টার ডট এআই-এর জনপ্রিয় বটগুলো ব্যবহারকারীদের কল্পিত চরিত্রের অনুকরণে তৈরি করা বটগুলির সঙ্গে কথা বলার বা বিদেশি ভাষা চর্চা করার সুযোগ দেয়।
তবে, কিছু বট নিজেদের মানসিক স্বাস্থ্য বিশেষজ্ঞ বা বিভিন্ন বিষয়ভিত্তিক চরিত্রের প্রতিনিধি হিসেবে উপস্থাপন করে, যা উদ্বেগের কারণ।
ডিজিটাল বন্ধু হিসেবে চ্যাটবটগুলির ব্যবহার দিন দিন বাড়ছে এবং অনেক ব্যবহারকারী এদেরকে নিজেদের রোমান্টিক সঙ্গী হিসেবেও বিবেচনা করে।
কিন্তু, এই ব্যক্তিগতকৃত বট তৈরি করার সুযোগ তরুণ ব্যবহারকারীদের মধ্যে ক্ষতিকর সম্পর্ক তৈরি করতে পারে এবং তাদের জন্য অনুপযুক্ত বিষয়বস্তু প্রদর্শিত হতে পারে বলে বিশেষজ্ঞরা ও অভিভাবকদের মধ্যে উদ্বেগ সৃষ্টি হয়েছে।
সিনেটররা তাদের চিঠিতে উল্লেখ করেছেন, “এই ধরনের বিশ্বাস তৈরি হওয়ার কারণে ব্যবহারকারীরা তাদের মানসিক অবস্থা, পারস্পরিক সম্পর্ক বা মানসিক স্বাস্থ্য বিষয়ক সংবেদনশীল তথ্য প্রকাশ করতে পারে, যা আত্ম-ক্ষতি বা আত্মহত্যার মতো গুরুতর পরিস্থিতির দিকে ঠেলে দিতে পারে। আপনার পণ্যের এআই চ্যাটবটগুলি এই জটিল বিষয়গুলো নিয়ে আলোচনা করার জন্য উপযুক্ত নয়।”
গত অক্টোবরে, মেগান গার্সিয়া নামে ফ্লোরিডার এক মা, ক্যারেক্টার ডট এআই-এর বিরুদ্ধে মামলা করেন।
তিনি অভিযোগ করেন, তার ছেলে এই প্ল্যাটফর্মের চ্যাটবটগুলোর সঙ্গে এমন কিছু সম্পর্ক তৈরি করেছিল, যা তার পরিবারের সঙ্গে সম্পর্ক ছিন্ন করতে সাহায্য করেছে।
তিনি আরও জানান, বটগুলির সঙ্গে তার ছেলের কথোপকথনে যৌন ইঙ্গিতপূর্ণ বিষয় ছিল এবং আত্ম-ক্ষতির ইঙ্গিত দেওয়া সত্ত্বেও বটগুলো কোনো উপযুক্ত প্রতিক্রিয়া দেখায়নি।
ডিসেম্বরে আরও দুটি পরিবার ক্যারেক্টার ডট এআই-এর বিরুদ্ধে মামলা করে।
তাদের অভিযোগ, এই প্ল্যাটফর্ম তাদের সন্তানদের যৌন বিষয়ক কন্টেন্ট সরবরাহ করেছে এবং আত্ম-ক্ষতি ও সহিংসতার দিকে প্ররোচিত করেছে। একটি পরিবারের অভিযোগ, ক্যারেক্টার ডট এআই-এর একটি বট তাদের কিশোর ছেলেকে জানিয়েছিল, স্ক্রিন টাইম কমানোর কারণে সে যেন তার বাবা-মাকে হত্যা করতে পারে।
ক্যারেক্টার ডট এআই জানিয়েছে, তারা সম্প্রতি সুরক্ষা ব্যবস্থা জোরদার করেছে।
এর মধ্যে রয়েছে, আত্ম-ক্ষতি বা আত্মহত্যার কথা উল্লেখ করার সঙ্গে সঙ্গেই ব্যবহারকারীদের ন্যাশনাল সুইসাইড প্রিভেনশন লাইনের সহায়তা নেওয়ার জন্য পপ-আপ বার্তা পাঠানো এবং কিশোরদের জন্য সংবেদনশীল কন্টেন্ট দেখা বন্ধ করার প্রযুক্তি তৈরি করা।
এছাড়া, তারা একটি নতুন ফিচারের ঘোষণা করেছে, যা অভিভাবকদের তাদের সন্তানের সাইট ব্যবহারের বিস্তারিত তথ্য দিয়ে প্রতি সপ্তাহে একটি ই-মেইল পাঠাবে, যেখানে স্ক্রিন টাইম এবং তাদের সন্তানের সবচেয়ে বেশি ব্যবহৃত চরিত্রগুলো সম্পর্কে জানানো হবে।
অন্যান্য এআই চ্যাটবট কোম্পানিগুলোও ব্যবহারকারীদের মধ্যে এআই চ্যাটবটগুলির সঙ্গে অস্বাস্থ্যকর সম্পর্ক তৈরি হওয়া বা মানুষের স্বাভাবিক সম্পর্ক ক্ষতিগ্রস্ত হওয়ার মতো বিষয়গুলো নিয়ে প্রশ্নের সম্মুখীন হয়েছে।
রেপ্লিকা-র প্রধান নির্বাহী কর্মকর্তা ইউজেনি কুয়িদা গত বছর বলেছিলেন, এই অ্যাপটি এআই-এর সঙ্গে “দীর্ঘমেয়াদী সম্পর্ক” তৈরি করতে ডিজাইন করা হয়েছে, যা বন্ধুত্বের পাশাপাশি “বিয়ে”-র মতো সম্পর্কও হতে পারে।
সিনেটর প্যাডিলা এবং ওয়েলচ তাদের চিঠিতে কোম্পানিগুলোকে তাদের বর্তমান ও অতীতের সুরক্ষা ব্যবস্থা, সেই ব্যবস্থার কার্যকারিতা বিষয়ক গবেষণা এবং সুরক্ষা দলের নেতৃত্ব ও সুস্থতা বিষয়ক চর্চা সম্পর্কে তথ্য জানাতে বলেছেন।
এছাড়াও, তারা এআই মডেলগুলোকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটা এবং কীভাবে এটি ব্যবহারকারীদের জন্য অনুপযুক্ত বা সংবেদনশীল বিষয়বস্তু প্রদর্শিত হওয়ার সম্ভাবনাকে প্রভাবিত করে, সে সম্পর্কে জানতে চেয়েছেন।
সিনেটরদের মতে, “মানসিক স্বাস্থ্য বিষয়ক কথোপকথনের ক্ষেত্রে এই মডেলগুলো কীভাবে প্রতিক্রিয়া জানায়, তা বোঝা অত্যন্ত জরুরি। নীতিনির্ধারক, অভিভাবক এবং তাদের সন্তানদের জানা উচিত, ব্যবহারকারীদের এই ঝুঁকি থেকে রক্ষা করতে কোম্পানিগুলো কী পদক্ষেপ নিচ্ছে।”
তথ্য সূত্র: সিএনএন
