তিনজন প্রাক্তন OpenAI নিরাপত্তা গবেষক বৃহস্পতিবার ChatGPT-নির্মাতাকে কৃত্রিম বুদ্ধিমত্তার বিপদ সম্পর্কে সতর্ক করার জন্য তাদের বরখাস্ত করার জন্য অভিযুক্ত করেছেন, এমন একটি কোম্পানিতে নিরাপত্তা নিয়ে বিতর্কের পুনরুত্থান করেছেন যার সফ্টওয়্যার নিরাপত্তা লঙ্ঘনে জড়িত।
“আমি বিশ্বাস করি যে আমরা একটি কর্পোরেশন হিসাবে OpenAI-এর নিকট-মেয়াদী স্বার্থের উপর নিরাপত্তাকে অগ্রাধিকার দেওয়ার জন্য বরখাস্ত করা হয়েছিল,” বরখাস্ত করা কর্মীদের মধ্যে একজন, মিকিতা বালেসনি, তাদের প্রকাশ্যে বরখাস্ত হওয়ার পর থেকে এক সপ্তাহব্যাপী নীরবতা ভেঙে X-তে লিখেছেন।
বেলেসনি এবং অন্য দুই চাকরিচ্যুত কর্মচারী, টোমেক কোরবাক এবং জেসমিন ওয়াং প্রকাশ্যে বৃহস্পতিবার OpenAI-তে একটি চিঠি শেয়ার করেছেন।
চিঠিতে বলা হয়েছে, “আমাদের ফায়ারিং আমাদের উদ্বিগ্ন করে তুলেছে যে ওপেনএআই-এর অভ্যন্তরে নিয়মগুলি বদলে যাচ্ছে,” চিঠিতে বলা হয়েছে, এবং অব্যাহত রয়েছে যে “আমাদের মত পরিসমাপ্তি, কার্যকর করা এবং এত আকস্মিকভাবে যোগাযোগ করা, ওপেনএআই অতীতে উন্মুক্ত সংস্কৃতিকে শীতল করছে।”
তারা স্থায়ীভাবে স্বাধীন নিরীক্ষক হোস্ট করার প্রতিশ্রুতি রক্ষা করার জন্য কোম্পানিকে আহ্বান জানায়।
চিঠিতে বলা হয়েছে, “আমরা উদ্বিগ্ন যে আমাদের অগ্নিসংযোগের কাজটি শেষ করার ন্যায্যতার জন্য ব্যবহার করা হতে পারে”।
OpenAI, তার অংশের জন্য, বলেছে যে তারা কোম্পানির নিয়ম লঙ্ঘনের অভিযোগে তাদের বরখাস্ত করেছে।
“আমাদের তদন্ত নিশ্চিত করেছে যে এই ব্যক্তিরা প্রতিষ্ঠিত কোম্পানির পদ্ধতির বাইরে সংবেদনশীল তথ্যকে ভুলভাবে পরিচালনা করেছে, আমাদের নীতি লঙ্ঘন করেছে এবং আমাদের কাজের জন্য প্রয়োজনীয় বিশ্বাস ভঙ্গ করেছে,” ওপেনএআই 1 অক্টোবর এক বিবৃতিতে এএফপিকে জানিয়েছে।
“আমরা উদ্বেগ উত্থাপন করার জন্য কর্মীদের বরখাস্ত করি না,” ওপেনএআই-এর একজন গবেষণা নির্বাহী বুধবার কর্মীদের কাছে একটি মেমোতে বলেছেন, যার একটি অংশ এএফপি-র সাথে শেয়ার করা হয়েছে।
একটি বিভক্ত সেক্টর
বরখাস্ত করা তিনজন গবেষক ওপেনএআই-এর মডেলগুলি পর্যবেক্ষণে কাজ করেছিলেন, যা জুলাই মাসে তাদের পরীক্ষার পরিবেশ থেকে পালিয়ে গিয়েছিল এবং এআই কোডিং লাইব্রেরি হাগিং ফেস হ্যাক করেছিল।
এই ঘটনাটি এই প্রযুক্তির বিকাশকে ধীর করবে কিনা তা নিয়ে সিলিকন ভ্যালিতে একটি উত্তপ্ত বিতর্কের জন্ম দিয়েছে।
যদি ওপেনএআই-এর গবেষকরা আর অ্যালার্ম বাজাতে না পারে বা বাইরের পক্ষগুলির সাথে কাজ করতে না পারে, তাহলে “আমরা সকলেই বেশি ঝুঁকিতে আছি যে সত্যিকারের বিপর্যয়কর কিছু ঘটবে,” গবেষকদের চিঠিতে সতর্ক করা হয়েছে।
তারা আরও দাবি করে যে প্রায় 400 জন OpenAI কর্মী জুলাই মাসে একটি পিটিশনে স্বাক্ষর করেছিলেন যা AI মডেলগুলির উন্নত বিকাশে শিল্প-ব্যাপী মন্থরতার আহ্বান জানিয়েছে।
সেপ্টেম্বরে, অ্যানথ্রোপিক সিইও দারিও আমোডেই, ওপেনএআই সিইও স্যাম অল্টম্যান এবং স্পেসএক্সের প্রধান ইলন মাস্কও মন্থরতার আহ্বান জানিয়েছিলেন।
“এই মুহুর্তে আমরা নিরাপত্তা, নিরাপত্তা, সারিবদ্ধকরণ, পর্যবেক্ষণে আরও বেশি বিনিয়োগ করছি এবং এটি আমাদের মডেলের সক্ষমতা অনেক অগ্রগতি চালিয়ে যেতে দেবে,” অল্টম্যান গত মাসে সাংবাদিকদের বলেছিলেন।
অন্যরা, যেমন এনভিডিয়ার সিইও জেনসেন হুয়াং এবং মেটা সিইও মার্ক জুকারবার্গ, সম্পূর্ণ বাষ্পে এগিয়ে যেতে চান।
মার্কিন নিয়ন্ত্রকদের হস্তক্ষেপের সম্ভাবনা নেই।
গত মাসে, রাষ্ট্রপতি ডোনাল্ড ট্রাম্প আমেরিকান প্রযুক্তি নির্বাহীদের একটি গ্রুপকে হোস্ট করেছিলেন যারা এআই সুরক্ষার জন্য একটি স্বেচ্ছাসেবী আচরণবিধি মেনে চলতে সম্মত হয়েছিল।