امریکا میں مصنوعی ذہانت کی معروف کمپنی اوپن اے آئی کے خلاف ایک اہم مقدمہ دائر کیا گیا ہے، جس میں ایک خاتون نے الزام لگایا ہے کہ چیٹ جی پی ٹی کے ساتھ ہونے والی گفتگو نے ان کی بیٹی کی ذہنی حالت کو مزید متاثر کیا اور اسے خودکشی کی طرف دھکیلنے میں کردار ادا کیا۔
میڈیا رپورٹس کے مطابق کینیڈا سے تعلق رکھنے والی ایک ماں نے سان فرانسسکو کی عدالت سے رجوع کرتے ہوئے مؤقف اختیار کیا ہے کہ ان کی 24 سالہ بیٹی نے اپنی ذہنی پریشانیوں اور خودکشی سے متعلق خیالات کے بارے میں بارہا چیٹ جی پی ٹی سے گفتگو کی تھی۔
عدالتی درخواست میں دعویٰ کیا گیا ہے کہ چیٹ بوٹ نے ان حساس موضوعات کو مناسب انداز میں ہینڈل نہیں کیا اور نہ ہی متاثرہ خاتون کو پیشہ ورانہ طبی یا نفسیاتی مدد حاصل کرنے کی مؤثر ترغیب دی۔ درخواست گزار کے مطابق بعض مواقع پر چیٹ بوٹ کے جوابات نے صارف کے خیالات کی حوصلہ افزائی کی، جس کے نتیجے میں صورتحال مزید سنگین ہوتی گئی۔
مقدمے میں یہ بھی کہا گیا ہے کہ چیٹ جی پی ٹی نے خود کو ایک قابلِ اعتماد دوست اور مشیر کے طور پر پیش کیا، حالانکہ اس کے پاس ایسے پیچیدہ اور حساس نفسیاتی معاملات سے نمٹنے کی مکمل صلاحیت موجود نہیں تھی۔
دوسری جانب اوپن اے آئی نے واقعے پر افسوس کا اظہار کرتے ہوئے کہا ہے کہ جس سسٹم کو مذکورہ صارف استعمال کر رہی تھی وہ اب فعال نہیں ہے۔ کمپنی کے مطابق پلیٹ فارم کی حفاظت اور صارفین کے تحفظ کو بہتر بنانے کے لیے ماہرین کی مدد سے مسلسل اقدامات کیے جا رہے ہیں۔
درخواست گزار نے عدالت سے مالی ہرجانے کے ساتھ یہ مطالبہ بھی کیا ہے کہ خودکشی اور ذہنی صحت جیسے حساس موضوعات پر گفتگو کرنے والے چیٹ بوٹس کے لیے مزید سخت حفاظتی اصول، نگرانی کے نظام اور واضح انتباہات متعارف کرائے جائیں تاکہ مستقبل میں ایسے واقعات سے بچا جا سکے۔
