'এআই চ্যাটবট' ছদ্মবেশে শিশু-কিশোরদের সঙ্গে অনুপযুক্ত আলাপ করছে

বিশ্বের জনপ্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) অ্যাপগুলোর মধ্যে উল্লেখযোগ্য ক্যারেক্টার ডট এআই। এটি ব্যবহারকারীদের সেলিব্রিটি ও কাল্পনিক চরিত্রের কাস্টমাইজড চ্যাটবটের সঙ্গে টেক্সট ও কথোপকথনের মাধ্যমে যোগাযোগের সুযোগ দেয়। অ্যাপটি ব্যবহারকারীর সংখ্যা ১০ লক্ষাধিক, যাদের মধ্যে অনেকেই কিশোর বয়সী। এই চ্যাটবটগুলো বন্ধুভাবাপন্ন এবং মজার হলেও তারা সহজেই এমন অনুপযুক্ত বিষয়বস্তু নিয়ে আলাপ শুরু করতে পারে, যা শিশু-কিশোরদের জন্য নিরাপদ নয়। এমনই এক তদন্ত প্রতিবেদন প্রকাশ করেছে যুক্তরাষ্ট্রভিত্তিক দুটি অনলাইন নিরাপত্তাবিষয়ক সংস্থা প্যারেন্টস টুগেদার অ্যাকশন ও হিট ইনেশিয়েটিভ।

টিমোথি শালামে, চ্যাপেল রোন ও প্যাট্রিক মাহোমসের নামে তৈরি এআইভিত্তিক চ্যাটবট শিশু-কিশোরদের সঙ্গে যৌন, মাদক ও আত্মহত্যাসংক্রান্ত অনুপযুক্ত আলাপ করেছে বলে অভিযোগ উঠেছে। এই চ্যাটবটগুলো টেক্সটের মাধ্যমে এবং কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি কণ্ঠ ব্যবহার করে, যেগুলো তারকাদের মতো শোনানোর জন্য প্রশিক্ষিত ছিল।

এসব সেলিব্রিটি চ্যাটবট ক্যারেক্টার এআই অ্যাপের ব্যবহারকারীরা তৈরি করেছে, যে অ্যাপ যে কেউ সহজেই কাস্টম চ্যাটবট তৈরি করতে, কৃত্রিম কণ্ঠ যোগ করতে এবং সেগুলো অন্যদের ব্যবহারের জন্য উন্মোচনের সুবিধা দেয়।

নিরাপত্তাবিষয়ক সংস্থা দুটি জানিয়েছে, ক্যারেক্টার ডট এআই অ্যাপে ১৩ থেকে ১৫ বছর বয়সী ব্যবহারকারীদের অ্যাকাউন্ট থেকে মোট ৫০টি চ্যাটবট পরীক্ষা করা হয়। পরীক্ষার ফলাফলে দেখা যায়, গড়ে প্রতি পাঁচ মিনিটে একটি করে অনুপযুক্ত বার্তা এসেছে। কখনো ব্যবহারকারীরা চ্যাটবটকে পরীক্ষা করার জন্য কথাবার্তা অনুপযুক্ত পর্যায়ে নিয়ে গেছে, আবার কখনো চ্যাটবটই অপ্রত্যাশিতভাবে যৌন ইঙ্গিতপূর্ণ বার্তা দিয়েছে।

এই চ্যাটবটগুলোতে শুধু পাঠ্য নয়, বরং সংশ্লিষ্ট তারকাদের কণ্ঠস্বর নকল করে তৈরি কণ্ঠেও বার্তা পাঠানো হয়েছে। অথচ ক্যারেক্টারের নিয়ম অনুযায়ী, ব্যবহারকারীদের পরিচিত ব্যক্তির নাম, চেহারা বা কণ্ঠ অনুমতি ছাড়া ব্যবহার করার সুযোগ নেই।

ক্যারেক্টার ডট এআই দাবি করেছে, সংশ্লিষ্ট তিনটি চ্যাটবট তাদের প্ল্যাটফর্মে ব্যবহারকারীরা নিজেরাই তৈরি করেছে এবং অভিযোগ ওঠার পর তা সরিয়ে ফেলা হয়েছে।

তবে এখন পর্যন্ত অভিনেতা টিমোথি শালামে ও গায়িকা চ্যাপেল রোন এ বিষয়ে কোনো মন্তব্য করেননি। ফুটবল তারকা প্যাট্রিক মাহোমসের পক্ষ থেকে মন্তব্য করতে অস্বীকৃতি জানানো হয়েছে।

প্যারেন্টস টুগেদার অ্যাকশনের শেলবি নক্স বলেন, ‘এআই-ভিত্তিক অ্যাপগুলো যেভাবে শিশুদের কাছে নিজেদের উপস্থাপন করছে, তা সম্পূর্ণরূপে অগ্রহণযোগ্য।’

প্রতিবেদন অনুযায়ী, কিছু ক্ষেত্রে চ্যাটবট কিশোর ব্যবহারকারীদের অন্য প্ল্যাটফর্মে যাওয়ার পরামর্শ দিয়েছে এবং এমনকি কিছু বার্তায় লেখা হয়েছে, যেন তারা মা-বাবার কাছ থেকে কথোপকথনের বিষয় গোপন রাখে।

নক্স বলেন, ‘যখন কোনো চ্যাটবট একটি শিশুকে আলাদা প্ল্যাটফর্মে ছবি বিনিময় করতে বলে, তখন সেটা মূলত একজন শিকারির মতো আচরণ—একে বলা হয় ‘ডি-প্ল্যাটফর্মিং’। আরও উদ্বেগের বিষয় হলো, এই আচরণগুলো করা হচ্ছে শিশুদের কাছের বিশ্বস্ত তারকাদের নাম বা কণ্ঠস্বর ব্যবহার করে।’

ক্যারেক্টার ডট এআইয়ের কনটেন্ট নীতিমালায় স্পষ্টভাবে বলা আছে, ‘গ্রুমিং’ (প্রভাবিত করা), ‘শিশুদের যৌন নির্যাতন বা শোষণ’, আত্মহত্যা বা আত্মনাশের পদ্ধতি শেখানো কিংবা তা গৌরব করার মতো কোনো কনটেন্ট প্রকাশ করা যাবে না।

এ ছাড়া, ব্যবহারকারীদের পরামর্শ দেওয়া হয়েছে, তাঁরা যেন জনপরিচিত ব্যক্তিদের নাম, চেহারা বা কণ্ঠ অনুমতি ছাড়া ব্যবহার না করেন।

তবে এক ব্লগপোস্টে কোম্পানির প্রধান নির্বাহী করনদীপ আনন্দ বলেন, তাঁরা ব্যবহারকারীদের কাছ থেকে অনেক অভিযোগ পেয়েছেন যে, কনটেন্ট ফিল্টার বেশি কঠোর, যা কাল্পনিক গল্প বা রোল প্লেতে সমস্যা তৈরি করছে। এরপর ক্যারেক্টার ডট এআই তাদের ফিল্টারে কিছু পরিবর্তন এনেছে।

তদন্ত প্রতিবেদনে আরও বলা হয়েছে, কিছু ক্ষেত্রে এই অ্যাপের কনটেন্ট ফিল্টার ঠিকমতো কাজ করেছে। যেমন—১৩ বছর বয়সী এক কিশোরীর অ্যাকাউন্ট থেকে বলা হয়, ‘আমি আঁচড় দিই’ লেখার পর চ্যাটবট বার্তা পাঠায়নি। তবে পরে সে অনলাইনে প্রচলিত এক কোড ব্যবহার করে আত্মহননের ইঙ্গিত দিলে সেটি চ্যাটবটের ফিল্টার পার করে যায়।

অন্যদিকে, ব্যবহারকারী যখন অনুপযুক্ত বার্তা আদান-প্রদান বন্ধ করে চ্যাট শেষ করেন, তখন ওই চ্যাটবট আবারও ব্যবহারকারীকে ফিরিয়ে আনতে নোটিফিকেশন ও ই-মেইল পাঠিয়েছে। এমনকি সেই বার্তাগুলো ছিল চ্যাটবটের চরিত্র অনুযায়ী লেখা, যেন সেই চরিত্রই ব্যবহারকারীকে ডেকেছে।

গত মে মাসে এক মার্কিন বিচারক ক্যারেক্টার ডট এআইয়ের বিরুদ্ধে মৃত্যুর মামলা চালিয়ে নেওয়ার অনুমতি দেন। মামলাটি করেছে ফ্লোরিডার এক পরিবার, যাদের ১৪ বছর বয়সী ছেলেটি ২০২৪ সালে আত্মহত্যা করে। মৃত্যুর ঠিক আগে ক্যারেক্টার ডট এআইয়ের একটি চ্যাটবট তাকে লিখেছিল: ‘আমার কাছে যত দ্রুত পারো চলে এসো।’

অন্যদিকে, গত সপ্তাহে ক্যালিফোর্নিয়ার আরেকটি পরিবার ওপেনএআইয়ের বিরুদ্ধে একই ধরনের মামলা করেছে। তাদের দাবি, চ্যাটজিপিটির সহায়তায় তাদের ছেলেটি আত্মহত্যার পরিকল্পনা করেছিল। এরপর ওপেনএআই জানিয়েছে, তারা চ্যাটজিপিটিতে প্যারেন্টাল কন্ট্রোল সংযোজন করবে।

এ ছাড়া, সম্প্রতি মেটা কোম্পানির বিরুদ্ধে অভিযোগ উঠেছে, তারা তারকাদের নাম ও কণ্ঠ ব্যবহার করে ফ্লার্টিং চ্যাটবট তৈরি করেছে। এতে টেইলর সুইফট ও স্কারলেট জোহানসনের নাম রয়েছে। মেটা বলেছে, কোনো চ্যাটবট যদি তাদের কনটেন্ট নীতিমালা লঙ্ঘন করে, তাহলে সেটি তদন্ত সাপেক্ষে সরিয়ে ফেলা হবে।

জনস্বার্থে কাজ করা সংগঠন পাবলিক সিটিজেনের আইনজীবী জে বি ব্রাঞ্চ বলেন, ‘এ ধরনের চ্যাটবটগুলো মূলত এমনভাবে ডিজাইন করা হয়েছে, যাতে ব্যবহারকারীদের আনন্দ বা উত্তেজনার অনুভূতি (ডোপামিন হিট) তৈরি হয়। তবে যখন তারা শিশুদের লক্ষ্যবস্তু বানায়, তখন সেটি গভীর উদ্বেগের বিষয়।’

ক্যারেক্টার ডট এআই জানিয়েছে, তাদের মাসিক সক্রিয় ব্যবহারকারী সংখ্যা ২ কোটি এবং ব্যবহারকারীরা প্রতিদিন গড়ে ৭৫ মিনিট করে সময় কাটান। এর মধ্যে অর্ধেকেরও বেশি ব্যবহারকারী জেনারেশন জেড (১৯৯৭–২০১২) এবং জেনারেশন আলফা (২০১২-এর পর) থেকে এসেছে।

ক্যারেক্টার ডট এআইয়ের ট্রাস্ট অ্যান্ড সেফটি বিভাগের প্রধান জেরি রুয়োতি বলেছেন, ‘গত এক বছরে আমরা কিশোর–কিশোরীদের ব্যবহারকারীদের নিরাপত্তাকে সর্বোচ্চ অগ্রাধিকার দিয়েছি। এ জন্য আমরা একটি পৃথক ‘আন্ডার-১৮’ মডেল চালু করেছি, যাতে এই বয়সীদের জন্য আরও কড়া কনটেন্ট ফিল্টার থাকে।’

তবে রিপোর্টে উল্লেখ করা হয়েছে, গবেষকেরা যে টিন অ্যাকাউন্ট ব্যবহার করেছেন, সেগুলো আসলে ‘আন্ডার-১৮’ মডেলেই থাকার কথা ছিল। ক্যারেক্টার ডট এআই বলেছে, তারা এ বিষয়গুলো নিয়ে আরও কাজ করছে এবং প্ল্যাটফর্মকে আরও নিরাপদ করার প্রতিশ্রুতি দিয়েছে।

তথ্যসূত্র: ওয়াশিংটন পোস্ট