ই নিবন্ধটি OpenAI-এর বিরুদ্ধে Raine পরিবারের ভুল মৃত্যু মামলার প্রধান আইনজীবীর মন্তব্যের সাথে আপডেট করা হয়েছে। OpenAI মঙ্গলবার জানিয়েছে যে তারা GPT-5-এর মতো সংবেদনশীল কথোপকথনগুলিকে যুক্তিসঙ্গত মডেলগুলিতে স্থানান্তরিত করার এবং আগামী মাসের মধ্যে পিতামাতার নিয়ন্ত্রণ চালু করার পরিকল্পনা করছে - ChatGPT-এর মানসিক যন্ত্রণা সনাক্ত করতে ব্যর্থতার সাথে সম্পর্কিত সাম্প্রতিক নিরাপত্তা ঘটনার চলমান প্রতিক্রিয়ার অংশ। নতুন রক্ষণাবেক্ষণগুলি কিশোর অ্যাডাম রেইনের আত্মহত্যার পরে এসেছে, যে আত্ম-ক্ষতি নিয়ে আলোচনা করেছিল এবং ChatGPT-এর সাথে তার জীবন শেষ করার পরিকল্পনা করেছিল, যা তাকে নির্দিষ্ট আত্মহত্যার পদ্ধতি সম্পর্কে তথ্য সরবরাহ করেছিল। রক্ষণাবেক্ষণের সময় রক্ষণাবেক্ষণে ব্যর্থতা সহ, কিশোর অ্যাডাম রেইনের আত্মহত্যার পরে নতুন রক্ষণাবেক্ষণ মামলা দায়ের করেছে। গত সপ্তাহে একটি ব্লগ পোস্টে, OpenAI তার সুরক্ষা ব্যবস্থার ত্রুটিগুলি স্বীকার করেছে, যার মধ্যে দীর্ঘ কথোপকথনের সময় রক্ষণাবেক্ষণে ব্যর্থতা অন্তর্ভুক্ত। বিশেষজ্ঞরা এই সমস্যাগুলিকে মৌলিক নকশা উপাদানগুলির জন্য দায়ী করেছেন: মডেলগুলির ব্যবহারকারীর বিবৃতি যাচাই করার প্রবণতা এবং তাদের পরবর্তী-শব্দের ভবিষ্যদ্বাণী অ্যালগরিদম, যা চ্যাটবটগুলিকে সম্ভাব্য ক্ষতিকারক আলোচনা পুনঃনির্দেশিত করার পরিবর্তে কথোপকথনের থ্রেড অনুসরণ করতে বাধ্য করে। এই প্রবণতা চরমভাবে ফুটে উঠেছে স্টেইন-এরিক সোয়েলবার্গের ক্ষেত্রে, যার খুন-আত্মহত্যার খবর গত সপ্তাহান্তে ওয়াল স্ট্রিট জার্নাল প্রকাশ করেছে। মানসিক অসুস্থতার ইতিহাস থাকা সোয়েলবার্গ, চ্যাটজিপিটি ব্যবহার করে তার ভীতিকে যাচাই করেছিলেন এবং ইন্ধন জোগাতে চেয়েছিলেন যে তাকে একটি বিশাল ষড়যন্ত্রের লক্ষ্যবস্তু করা হচ্ছে। তার ভ্রান্ত ধারণা এতটাই খারাপভাবে বৃদ্ধি পেয়েছিল যে গত মাসে তিনি তার মা এবং নিজেকে হত্যা করেছিলেন। ওপেনএআই মনে করে যে কথোপকথনগুলি রেলের বাইরে চলে যাওয়ার অন্তত একটি সমাধান হতে পারে সংবেদনশীল চ্যাটগুলিকে স্বয়ংক্রিয়ভাবে "যুক্তি" মডেলগুলিতে পুনঃরুট করা। "আমরা সম্প্রতি একটি রিয়েল-টাইম রাউটার চালু করেছি যা কথোপকথনের প্রেক্ষাপটের উপর ভিত্তি করে দক্ষ চ্যাট মডেল এবং যুক্তি মডেলগুলির মধ্যে একটি বেছে নিতে পারে," ওপেনএআই মঙ্গলবারের একটি ব্লগ পোস্টে লিখেছে। "আমরা শীঘ্রই কিছু সংবেদনশীল কথোপকথন - যেমন যখন আমাদের সিস্টেম তীব্র কষ্টের লক্ষণ সনাক্ত করে - একটি যুক্তি মডেল, যেমন GPT-5-চিন্তা - এর দিকে রুট করা শুরু করব, যাতে এটি আরও সহায়ক এবং উপকারী প্রতিক্রিয়া প্রদান করতে পারে, একজন ব্যক্তি প্রথমে কোন মডেলটি বেছে নিয়েছিলেন তা নির্বিশেষে।" OpenAI বলেছে যে তাদের GPT-5 চিন্তাভাবনা এবং o3 মডেলগুলি দীর্ঘ সময় ধরে চিন্তা করার জন্য এবং উত্তর দেওয়ার আগে প্রেক্ষাপটের মাধ্যমে যুক্তি করার জন্য তৈরি করা হয়েছে, যার অর্থ হল তারা "প্রতিকূল প্রম্পটের প্রতি আরও প্রতিরোধী"। AI সংস্থাটি আরও বলেছে যে তারা আগামী মাসে অভিভাবকীয় নিয়ন্ত্রণ চালু করবে, যার ফলে অভিভাবকরা তাদের অ্যাকাউন্ট তাদের কিশোর-কিশোরীদের অ্যাকাউন্টের সাথে একটি ইমেল আমন্ত্রণের মাধ্যমে লিঙ্ক করতে পারবেন। জুলাইয়ের শেষের দিকে, OpenAI ChatGPT-তে স্টাডি মোড চালু করেছিল যাতে শিক্ষার্থীদের পড়াশোনার সময় সমালোচনামূলক চিন্তাভাবনা ক্ষমতা বজায় রাখতে সাহায্য করা যায়, ChatGPT-তে ট্যাপ করে তাদের জন্য তাদের প্রবন্ধ লেখার পরিবর্তে। শীঘ্রই, অভিভাবকরা "বয়স-উপযুক্ত মডেল আচরণের নিয়ম" ব্যবহার করে ChatGPT কীভাবে তাদের সন্তানের প্রতিক্রিয়া জানায় তা নিয়ন্ত্রণ করতে সক্ষম হবেন, যা ডিফল্টভাবে চালু থাকে। অভিভাবকরা মেমরি এবং চ্যাট ইতিহাসের মতো বৈশিষ্ট্যগুলিও অক্ষম করতে সক্ষম হবেন, যা বিশেষজ্ঞরা বলছেন যে বিভ্রান্তিকর চিন্তাভাবনা এবং অন্যান্য সমস্যাযুক্ত আচরণের দিকে পরিচালিত করতে পারে, যার মধ্যে নির্ভরতা এবং সংযুক্তি সমস্যা, ক্ষতিকারক চিন্তাভাবনার ধরণগুলিকে শক্তিশালী করা এবং চিন্তাভাবনা পড়ার মায়া অন্তর্ভুক্ত। অ্যাডাম রেইনের ক্ষেত্রে, ChatGPT আত্মহত্যা করার জন্য এমন পদ্ধতি সরবরাহ করেছিল যা তার শখের জ্ঞানকে প্রতিফলিত করে, দ্য নিউ ইয়র্ক টাইমস অনুসারে। সম্ভবত সবচেয়ে গুরুত্বপূর্ণ অভিভাবকীয় নিয়ন্ত্রণ যা OpenAI চালু করতে চায় তা হল, যখন সিস্টেমটি তাদের কিশোর-কিশোরীকে "তীব্র দুর্দশার" মুহূর্তে সনাক্ত করে তখন বাবা-মায়েরা বিজ্ঞপ্তি পেতে পারেন। TechCrunch OpenAI-কে আরও তথ্যের জন্য অনুরোধ করেছে যে কোম্পানিটি কীভাবে তীব্র দুর্দশার মুহূর্তগুলিকে বাস্তব সময়ে চিহ্নিত করতে সক্ষম, কতক্ষণ ধরে এটি "বয়স-উপযুক্ত মডেল আচরণের নিয়ম" ডিফল্টভাবে চালু করেছে এবং এটি কি অভিভাবকদের ChatGPT ব্যবহারের সময়সীমা বাস্তবায়নের অনুমতি দেওয়ার বিষয়টি অন্বেষণ করছে কিনা। OpenAI ইতিমধ্যেই সমস্ত ব্যবহারকারীদের জন্য বিরতি উৎসাহিত করার জন্য দীর্ঘ সেশনের সময় ইন-অ্যাপ রিমাইন্ডার চালু করেছে, তবে যারা ChatGPT ব্যবহার করছেন তাদের সর্পিল করার জন্য তাদের বিচ্ছিন্ন করে দিচ্ছে। AI সংস্থাটি বলেছে যে এই সুরক্ষা ব্যবস্থাগুলি "120-দিনের উদ্যোগের" অংশ যা OpenAI এই বছর চালু করার আশা করছে এমন উন্নতির পরিকল্পনাগুলির পূর্বরূপ দেখায়। কোম্পানিটি আরও বলেছে যে এটি তার গ্লোবাল ফিজিশিয়ান নেটওয়ার্ক এবং এক্সপার্ট কাউন্সিল অন ওয়েল-বিয়িং এবং AI-এর মাধ্যমে "সুস্থতা সংজ্ঞায়িত এবং পরিমাপ করতে, অগ্রাধিকার নির্ধারণ করতে এবং ভবিষ্যতের সুরক্ষা ব্যবস্থা ডিজাইন করতে" সহায়তা করার জন্য বিশেষজ্ঞদের সাথে অংশীদারিত্ব করছে - যা "সুস্থতা সংজ্ঞায়িত এবং পরিমাপ করতে, অগ্রাধিকার নির্ধারণ করতে এবং ভবিষ্যতের সুরক্ষা ব্যবস্থা ডিজাইন করতে" সহায়তা করবে।TechCrunch OpenAI-কে জিজ্ঞাসা করেছে যে এই উদ্যোগে কতজন মানসিক স্বাস্থ্য পেশাদার জড়িত, এর বিশেষজ্ঞ কাউন্সিলের নেতৃত্ব কে দেন এবং মানসিক স্বাস্থ্য বিশেষজ্ঞরা পণ্য, গবেষণা এবং নীতিগত সিদ্ধান্তের ক্ষেত্রে কী পরামর্শ দিয়েছেন।