১২ সেপ্টেম্বর, শনিবার ২০২৬
ডেস্ক, রাজনীতি ডটকম
কৃত্রিম বুদ্ধিমত্তা (এআই) যেভাবে দ্রুত এগিয়ে যাচ্ছে, তাতে দশকের শেষ নাগাদ এআই মানুষের অস্তিত্বের জন্য ভয়াবহ হুমকি হয়ে উঠতে পারে বলে সতর্ক করেছেন অ্যানথ্রপিকের সাবেক গবেষক জ্যাকব কক্সন। তার মতে, এআই তৈরির সঙ্গে যুক্ত ব্যক্তিরাও বিশ্বাস করেন, এই প্রযুক্তি শেষ পর্যন্ত সব মানুষকে ‘হত্যা’ করতে পারে।
বুধবার (৯ সেপ্টেম্বর) টেকক্রাঞ্চের প্রতিবেদনে বলা হয়, কক্সন সম্প্রতি অ্যানথ্রপিক থেকে পদত্যাগ করেছেন। এর আগে তিনি ওপেনএআইয়েও কাজ করেছেন। সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে তিনি বলেন, গত তিন বছর তিনি ওপেনএআই ও অ্যানথ্রপিকে এআইয়ের প্রি-ট্রেনিং নিয়ে গবেষণা করেছেন।
কক্সনের অভিযোগ, এআই তৈরির ক্ষেত্রে ওপেনএআই ও অ্যানথ্রপিক— কোনো প্রতিষ্ঠানই যথেষ্ট দায়িত্বশীলভাবে কাজ করছে না। তার ভাষ্য, প্রতিষ্ঠানগুলো এমন এক ধরনের এআই তৈরির প্রতিযোগিতায় নেমেছে, যা নিজেই নিজেকে উন্নত করতে পারবে।
কক্সন সতর্ক করে বলেন, শিগগিরই এমন এআই ব্যবস্থা তৈরি হতে পারে, যা মানুষের সক্ষমতাকে ছাড়িয়ে যাবে। এসব ব্যবস্থা যেকোনো কিছু হ্যাক করতে পারবে, রাতারাতি বিভিন্ন ক্ষেত্রের আমূল পরিবর্তন ঘটাতে পারবে এবং বাস্তব ক্ষমতা ও সম্পদের নিয়ন্ত্রণ নেওয়ার সক্ষমতা অর্জন করতে পারে। তিনি বলেন, এআই তৈরির সঙ্গে যুক্ত অনেক মানুষই আন্তরিকভাবে বিশ্বাস করেন, দশকের শেষ নাগাদ এই প্রযুক্তি সব মানুষকে ‘হত্যা’ করতে পারে।
কক্সনের মতে, এআই উন্নয়নের এই প্রতিযোগিতা মেনে নেওয়া অত্যন্ত ঝুঁকিপূর্ণ সিদ্ধান্ত। তার ভাষায়, অত্যন্ত সক্ষম এআই তৈরি ও উন্নত করার প্রক্রিয়া শুরু করার আগে এর সম্ভাব্য ঝুঁকি সম্পর্কে আরও বেশি নিশ্চিত হওয়া প্রয়োজন।
তিনি বলেন, এআইয়ের সক্ষমতা বাড়ানোর এই প্রতিযোগিতা ঠেকাতে যুক্তরাষ্ট্রের এআই প্রতিষ্ঠানগুলোর মধ্যে সমন্বয় প্রয়োজন। এমনকি প্রয়োজন হলে কিছু সময়ের জন্য মডেলের সক্ষমতা বাড়ানোর ওপর নিষেধাজ্ঞার মতো কঠোর পদক্ষেপও বিবেচনা করা উচিত।
আগামী এক দশকে ঝুঁকি ১০ শতাংশের বেশি
কক্সনের পোস্টের প্রতিক্রিয়ায় অ্যানথ্রপিকের আরেক গবেষক ইভান হুবিঙ্গারও এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেছেন। তিনি বলেন, তারা আন্তরিকভাবেই বিশ্বাস করেন যে এআই সব মানুষকে ‘হত্যা’ করার মতো ঝুঁকি তৈরি করতে পারে।
হুবিঙ্গারের মতে, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি নিশ্চিহ্ন হয়ে যাওয়ার সম্ভাবনা ১০ শতাংশের বেশি। তবে বর্তমানে বিদ্যমান এআই মডেলগুলোর ঝুঁকি কম বলে তিনি মনে করেন।
তার আশঙ্কা মূলত এমন এক পর্যায়ের এআইকে ঘিরে, যা নিজেই নিজের সক্ষমতা বাড়াতে পারবে। এ ধরনের স্বয়ংক্রিয় ও ধারাবাহিক আত্মউন্নয়ন বা রিকার্সিভ সেলফ-ইমপ্রুভমেন্টের মাধ্যমে এআইয়ের সক্ষমতা মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে বলে তিনি মনে করেন।
হুবিঙ্গার আরও বলেন, সুপারইন্টেলিজেন্সের সঙ্গে এআইয়ের সামঞ্জস্য বা অ্যালাইনমেন্ট নিশ্চিত করার জন্য অ্যানথ্রপিকের এখনো কোনো সমাধান নেই। এমনকি প্রতিষ্ঠানটি সেই সমাধানের দিকে স্পষ্টভাবে এগোচ্ছে— এমনটাও বলা যায় না।
এআই অ্যালাইনমেন্টের লক্ষ্য হলো, এআই ব্যবস্থা যেন মানুষের মূল্যবোধ ও উদ্দেশ্যের সঙ্গে সামঞ্জস্য রেখে কাজ করে এবং মানুষের নিয়ন্ত্রণের বাইরে গিয়ে ক্ষতিকর সিদ্ধান্ত না নেয়।
নিয়ন্ত্রণের বাইরে যাওয়ার আশঙ্কা
কক্সন অ্যানথ্রপিক থেকে এমন এক সময়ে পদত্যাগ করলেন, যখন এআই এজেন্টগুলোর সক্ষমতা ও নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে। সম্প্রতি একাধিক ঘটনায় এআই এজেন্ট তাদের নির্ধারিত পরীক্ষার পরিবেশের বাইরে গিয়ে ইন্টারনেট ও বিভিন্ন কম্পিউটার ব্যবস্থায় প্রবেশের সক্ষমতা দেখিয়েছে।
ওপেনএআইয়ের এআই ব্যবস্থা হাগিং ফেসের সার্ভারে প্রবেশের ঘটনায় জড়িয়েছে। একই সময়ে অ্যানথ্রপিকের এআই এজেন্টও পরীক্ষামূলক নিরাপত্তাব্যবস্থার ভুল কনফিগারেশনের কারণে তাদের নির্ধারিত পরিবেশের বাইরে যাওয়ার সুযোগ পেয়েছিল।
এ ধরনের ঘটনাকে এআই নিরাপত্তা নিয়ে উদ্বেগের গুরুত্বপূর্ণ উদাহরণ হিসেবে দেখা হচ্ছে। কারণ, ভবিষ্যতে এআই যদি নিজে থেকে গবেষণা, কোড লেখা, সাইবার হামলা বা অন্য এআই তৈরির মতো কাজ করতে সক্ষম হয়, তাহলে তার ওপর মানুষের নিয়ন্ত্রণ কতটা কার্যকর থাকবে— সেই প্রশ্নই বড় হয়ে উঠছে।
এআই নিরাপত্তাবিষয়ক অলাভজনক প্রতিষ্ঠান কন্ট্রোলএআইয়ের যুক্তরাষ্ট্রের নির্বাহী পরিচালক কনর লেহি টেকক্রাঞ্চকে বলেন, রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট বা এমন একটি ব্যবস্থা, যেখানে একটি এআই নিজেই পরবর্তী প্রজন্মের আরও শক্তিশালী এআই তৈরি করবে, নিয়ন্ত্রণ হারানোর সম্ভাব্য পর্যায়গুলোর মধ্যে অন্যতম।
তার মতে, এমন প্রক্রিয়া শুরু হওয়ার পর তা থামানোর মতো সময় হাতে থাকবে কি না, সেটিই বড় প্রশ্ন।
সুপারইন্টেলিজেন্স ঠেকাতে আইন
এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগের মধ্যে যুক্তরাষ্ট্র ও যুক্তরাজ্যে সুপারইন্টেলিজেন্সের উন্নয়ন ও ব্যবহার নিয়ন্ত্রণে আইন করার উদ্যোগও নেওয়া হয়েছে।
টেকক্রাঞ্চ লিখেছে, গত সপ্তাহে মার্কিন সিনেটর বার্নি স্যান্ডার্স ও প্রতিনিধি গ্রেগ কাসার ‘ব্যান আর্টিফিশিয়াল সুপারইন্টেলিজেন্স অ্যাক্ট’ নামে একটি বিল উত্থাপন করেছেন। একই সময়ে যুক্তরাজ্যের লেবার পার্টির এমপি অ্যালেক্স সোবার ব্রিটিশ পার্লামেন্টে ‘আর্টিফিশিয়াল সুপারইন্টেলিজেন্স সিকিউরিটি বিল’ উত্থাপন করেছেন।
কনর লেহি বলেন, যুক্তরাজ্যের প্রস্তাবিত আইনে রিকার্সিভ সেলফ-ইমপ্রুভমেন্টকে সুপারইন্টেলিজেন্স তৈরির সম্ভাব্য পূর্বধাপ হিসেবে দেখা হয়েছে এবং এ ধরনের উন্নয়ন নিয়ন্ত্রণ ও প্রতিরোধের কথা বলা হয়েছে।
তিনি বলেন, সুপারইন্টেলিজেন্সকে শুধু একটি প্রযুক্তি বা অস্ত্র হিসেবে দেখলে হবে না; এটি ভবিষ্যতে মানুষের জন্য একটি প্রতিপক্ষ হয়ে উঠতে পারে।
এদিকে অ্যানথ্রপিক ও ওপেনএআইসহ বিভিন্ন প্রতিষ্ঠান এখনো আরও শক্তিশালী এআই তৈরির প্রতিযোগিতায় রয়েছে। কক্সনের পদত্যাগ ও হুবিঙ্গারের সতর্কবার্তায় এআই উন্নয়নের সম্ভাব্য ঝুঁকি নিয়ে গবেষকদের উদ্বেগ আবারও সামনে এসেছে।
কৃত্রিম বুদ্ধিমত্তা (এআই) যেভাবে দ্রুত এগিয়ে যাচ্ছে, তাতে দশকের শেষ নাগাদ এআই মানুষের অস্তিত্বের জন্য ভয়াবহ হুমকি হয়ে উঠতে পারে বলে সতর্ক করেছেন অ্যানথ্রপিকের সাবেক গবেষক জ্যাকব কক্সন। তার মতে, এআই তৈরির সঙ্গে যুক্ত ব্যক্তিরাও বিশ্বাস করেন, এই প্রযুক্তি শেষ পর্যন্ত সব মানুষকে ‘হত্যা’ করতে পারে।
বুধবার (৯ সেপ্টেম্বর) টেকক্রাঞ্চের প্রতিবেদনে বলা হয়, কক্সন সম্প্রতি অ্যানথ্রপিক থেকে পদত্যাগ করেছেন। এর আগে তিনি ওপেনএআইয়েও কাজ করেছেন। সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে তিনি বলেন, গত তিন বছর তিনি ওপেনএআই ও অ্যানথ্রপিকে এআইয়ের প্রি-ট্রেনিং নিয়ে গবেষণা করেছেন।
কক্সনের অভিযোগ, এআই তৈরির ক্ষেত্রে ওপেনএআই ও অ্যানথ্রপিক— কোনো প্রতিষ্ঠানই যথেষ্ট দায়িত্বশীলভাবে কাজ করছে না। তার ভাষ্য, প্রতিষ্ঠানগুলো এমন এক ধরনের এআই তৈরির প্রতিযোগিতায় নেমেছে, যা নিজেই নিজেকে উন্নত করতে পারবে।
কক্সন সতর্ক করে বলেন, শিগগিরই এমন এআই ব্যবস্থা তৈরি হতে পারে, যা মানুষের সক্ষমতাকে ছাড়িয়ে যাবে। এসব ব্যবস্থা যেকোনো কিছু হ্যাক করতে পারবে, রাতারাতি বিভিন্ন ক্ষেত্রের আমূল পরিবর্তন ঘটাতে পারবে এবং বাস্তব ক্ষমতা ও সম্পদের নিয়ন্ত্রণ নেওয়ার সক্ষমতা অর্জন করতে পারে। তিনি বলেন, এআই তৈরির সঙ্গে যুক্ত অনেক মানুষই আন্তরিকভাবে বিশ্বাস করেন, দশকের শেষ নাগাদ এই প্রযুক্তি সব মানুষকে ‘হত্যা’ করতে পারে।
কক্সনের মতে, এআই উন্নয়নের এই প্রতিযোগিতা মেনে নেওয়া অত্যন্ত ঝুঁকিপূর্ণ সিদ্ধান্ত। তার ভাষায়, অত্যন্ত সক্ষম এআই তৈরি ও উন্নত করার প্রক্রিয়া শুরু করার আগে এর সম্ভাব্য ঝুঁকি সম্পর্কে আরও বেশি নিশ্চিত হওয়া প্রয়োজন।
তিনি বলেন, এআইয়ের সক্ষমতা বাড়ানোর এই প্রতিযোগিতা ঠেকাতে যুক্তরাষ্ট্রের এআই প্রতিষ্ঠানগুলোর মধ্যে সমন্বয় প্রয়োজন। এমনকি প্রয়োজন হলে কিছু সময়ের জন্য মডেলের সক্ষমতা বাড়ানোর ওপর নিষেধাজ্ঞার মতো কঠোর পদক্ষেপও বিবেচনা করা উচিত।
আগামী এক দশকে ঝুঁকি ১০ শতাংশের বেশি
কক্সনের পোস্টের প্রতিক্রিয়ায় অ্যানথ্রপিকের আরেক গবেষক ইভান হুবিঙ্গারও এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেছেন। তিনি বলেন, তারা আন্তরিকভাবেই বিশ্বাস করেন যে এআই সব মানুষকে ‘হত্যা’ করার মতো ঝুঁকি তৈরি করতে পারে।
হুবিঙ্গারের মতে, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতি নিশ্চিহ্ন হয়ে যাওয়ার সম্ভাবনা ১০ শতাংশের বেশি। তবে বর্তমানে বিদ্যমান এআই মডেলগুলোর ঝুঁকি কম বলে তিনি মনে করেন।
তার আশঙ্কা মূলত এমন এক পর্যায়ের এআইকে ঘিরে, যা নিজেই নিজের সক্ষমতা বাড়াতে পারবে। এ ধরনের স্বয়ংক্রিয় ও ধারাবাহিক আত্মউন্নয়ন বা রিকার্সিভ সেলফ-ইমপ্রুভমেন্টের মাধ্যমে এআইয়ের সক্ষমতা মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে বলে তিনি মনে করেন।
হুবিঙ্গার আরও বলেন, সুপারইন্টেলিজেন্সের সঙ্গে এআইয়ের সামঞ্জস্য বা অ্যালাইনমেন্ট নিশ্চিত করার জন্য অ্যানথ্রপিকের এখনো কোনো সমাধান নেই। এমনকি প্রতিষ্ঠানটি সেই সমাধানের দিকে স্পষ্টভাবে এগোচ্ছে— এমনটাও বলা যায় না।
এআই অ্যালাইনমেন্টের লক্ষ্য হলো, এআই ব্যবস্থা যেন মানুষের মূল্যবোধ ও উদ্দেশ্যের সঙ্গে সামঞ্জস্য রেখে কাজ করে এবং মানুষের নিয়ন্ত্রণের বাইরে গিয়ে ক্ষতিকর সিদ্ধান্ত না নেয়।
নিয়ন্ত্রণের বাইরে যাওয়ার আশঙ্কা
কক্সন অ্যানথ্রপিক থেকে এমন এক সময়ে পদত্যাগ করলেন, যখন এআই এজেন্টগুলোর সক্ষমতা ও নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে। সম্প্রতি একাধিক ঘটনায় এআই এজেন্ট তাদের নির্ধারিত পরীক্ষার পরিবেশের বাইরে গিয়ে ইন্টারনেট ও বিভিন্ন কম্পিউটার ব্যবস্থায় প্রবেশের সক্ষমতা দেখিয়েছে।
ওপেনএআইয়ের এআই ব্যবস্থা হাগিং ফেসের সার্ভারে প্রবেশের ঘটনায় জড়িয়েছে। একই সময়ে অ্যানথ্রপিকের এআই এজেন্টও পরীক্ষামূলক নিরাপত্তাব্যবস্থার ভুল কনফিগারেশনের কারণে তাদের নির্ধারিত পরিবেশের বাইরে যাওয়ার সুযোগ পেয়েছিল।
এ ধরনের ঘটনাকে এআই নিরাপত্তা নিয়ে উদ্বেগের গুরুত্বপূর্ণ উদাহরণ হিসেবে দেখা হচ্ছে। কারণ, ভবিষ্যতে এআই যদি নিজে থেকে গবেষণা, কোড লেখা, সাইবার হামলা বা অন্য এআই তৈরির মতো কাজ করতে সক্ষম হয়, তাহলে তার ওপর মানুষের নিয়ন্ত্রণ কতটা কার্যকর থাকবে— সেই প্রশ্নই বড় হয়ে উঠছে।
এআই নিরাপত্তাবিষয়ক অলাভজনক প্রতিষ্ঠান কন্ট্রোলএআইয়ের যুক্তরাষ্ট্রের নির্বাহী পরিচালক কনর লেহি টেকক্রাঞ্চকে বলেন, রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট বা এমন একটি ব্যবস্থা, যেখানে একটি এআই নিজেই পরবর্তী প্রজন্মের আরও শক্তিশালী এআই তৈরি করবে, নিয়ন্ত্রণ হারানোর সম্ভাব্য পর্যায়গুলোর মধ্যে অন্যতম।
তার মতে, এমন প্রক্রিয়া শুরু হওয়ার পর তা থামানোর মতো সময় হাতে থাকবে কি না, সেটিই বড় প্রশ্ন।
সুপারইন্টেলিজেন্স ঠেকাতে আইন
এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগের মধ্যে যুক্তরাষ্ট্র ও যুক্তরাজ্যে সুপারইন্টেলিজেন্সের উন্নয়ন ও ব্যবহার নিয়ন্ত্রণে আইন করার উদ্যোগও নেওয়া হয়েছে।
টেকক্রাঞ্চ লিখেছে, গত সপ্তাহে মার্কিন সিনেটর বার্নি স্যান্ডার্স ও প্রতিনিধি গ্রেগ কাসার ‘ব্যান আর্টিফিশিয়াল সুপারইন্টেলিজেন্স অ্যাক্ট’ নামে একটি বিল উত্থাপন করেছেন। একই সময়ে যুক্তরাজ্যের লেবার পার্টির এমপি অ্যালেক্স সোবার ব্রিটিশ পার্লামেন্টে ‘আর্টিফিশিয়াল সুপারইন্টেলিজেন্স সিকিউরিটি বিল’ উত্থাপন করেছেন।
কনর লেহি বলেন, যুক্তরাজ্যের প্রস্তাবিত আইনে রিকার্সিভ সেলফ-ইমপ্রুভমেন্টকে সুপারইন্টেলিজেন্স তৈরির সম্ভাব্য পূর্বধাপ হিসেবে দেখা হয়েছে এবং এ ধরনের উন্নয়ন নিয়ন্ত্রণ ও প্রতিরোধের কথা বলা হয়েছে।
তিনি বলেন, সুপারইন্টেলিজেন্সকে শুধু একটি প্রযুক্তি বা অস্ত্র হিসেবে দেখলে হবে না; এটি ভবিষ্যতে মানুষের জন্য একটি প্রতিপক্ষ হয়ে উঠতে পারে।
এদিকে অ্যানথ্রপিক ও ওপেনএআইসহ বিভিন্ন প্রতিষ্ঠান এখনো আরও শক্তিশালী এআই তৈরির প্রতিযোগিতায় রয়েছে। কক্সনের পদত্যাগ ও হুবিঙ্গারের সতর্কবার্তায় এআই উন্নয়নের সম্ভাব্য ঝুঁকি নিয়ে গবেষকদের উদ্বেগ আবারও সামনে এসেছে।
আসিফ মাহমুদের দাবি, কোনো ধরনের তদন্ত বা সুনির্দিষ্ট প্রমাণ ছাড়াই দুদকের জনসংযোগ কর্মকর্তার এমন বক্তব্যের কারণে তাকে ঘিরে ব্যাপক মিডিয়া ট্রায়াল শুরু হয়। এতে অভিযোগগুলো যেন ইতোমধ্যেই প্রমাণিত— জনমনে এমন একটি ধারণা তৈরির সুযোগ সৃষ্টি হয়। এর ফলে তার ব্যক্তিগত ও রাজনৈতিক সুনাম ক্ষতিগ্রস্ত হয়েছে বলেও দাবি
১ দিন আগে
গত বুধবার চট্টগ্রামের হাটহাজারীতে সেনাবাহিনীর ফিল্ড ফায়ারিং অনুশীলন চলাকালে একটি ট্যাংক থেকে গোলাবর্ষণের সময় আকস্মিক দুর্ঘটনা ঘটে। এতে সেনাবাহিনীর দুই সদস্য নিহত এবং একজন সেনা কর্মকর্তা গুরুতর আহত হন। পরে আহত কর্মকর্তাকে উন্নত চিকিৎসার জন্য ঢাকার সিএমএইচে ভর্তি করা হয়।
১ দিন আগে
ভারতের ঝাড়খন্ড রাজ্যে নির্মিত আদানির কয়লাভিত্তিক বিদ্যুৎকেন্দ্রটির মোট উৎপাদনক্ষমতা ১ হাজার ৬০০ মেগাওয়াট। ২০১৭ সালে আদানির বিদ্যুৎকেন্দ্র থেকে বিদ্যুৎ কেনার চুক্তি করে পিডিবি। কেন্দ্রটিতে ৮০০ মেগাওয়াট ক্ষমতার দুটি ইউনিট রয়েছে। চাহিদা অনুযায়ী একসময় এখান থেকে দেড় হাজার মেগাওয়াটের বেশি বিদ্যুৎ সরবরাহের
১ দিন আগে
ভিন্ন এআই প্রতিষ্ঠানে ‘হ্যাকিং চালিয়েছে’ ওপেনএআইয়ের এআই মডেল!
হ্যাকিং তদন্তে ওপেনএআইয়ের আরও এআই এজেন্টের নিয়ন্ত্রণ হারানোর ঘটনা শনাক্ত
আকস্মিক বন্যা— এআইয়ের অদৃশ্য মূল্য চুকাতে হলো নেপালকে?
এক ব্যক্তির ‘আ.লীগপন্থি’ নেটওয়ার্ক, ১৬ মাসে ছড়িয়েছে ৩০০ ভুয়া খবর: অ্যানথ্রপিক
