×

دنیا میرے آگے

اے آئی سے خودکشی،جنازے کی تیاری،گوگل کیخلاف مقدمہ

بند کریں

13سالہ بچی کروم بک کی اے آئی سرچ سے منصوبہ بندی، الوداعی خط لکھتی پائی گئی سکول میں جیمنائی،چیٹ جی پی ٹی ممنوع ،حفاظتی انتظامات موجود:گوگل ،ناکافی:وکیل

سان فرانسسکو (اے ایف پی)امریکی ٹیکنالوجی کمپنی گوگل کے خلاف ایک 13 سالہ بچی کے والدین نے مقدمہ دائر کر دیا ہے ، جس میں الزام عائد کیا گیا کہ گوگل  کی مصنوعی ذہانت پر مبنی سرچ ٹیکنالوجی نے ان کی بیٹی کو خودکشی کی منصوبہ بندی اور اپنے جنازے کی تیاری تک پہنچا دیا۔ بچی نے سکول کی جانب سے فراہم کردہ کمپیوٹر پر گوگل کی اے آئی ٹیکنالوجی استعمال کی تھی۔کیلیفورنیا کی عدالت میں پیر کو دائر کیے گئے مقدمے میں گوگل پر غفلت کا الزام لگایا گیا ہے ۔ یہ اپنی نوعیت کا پہلا معلوم مقدمہ ہے جس میں گوگل کے کروم بکس (Chromebooks) میں شامل مصنوعی ذہانت کی سہولتوں کو نشانہ بنایا گیا ہے ۔ یہ کم قیمت لیپ ٹاپ امریکا سمیت دنیا بھر میں لاکھوں طلبہ استعمال کرتے ہیں۔مقدمے کے مطابق ایما نامی لڑکی کو سکول کی جانب سے گوگل کی جیمنائی (Gemini) ایپ اور اوپن اے آئی کے چیٹ جی پی ٹی تک رسائی حاصل نہیں تھی کیونکہ تعلیمی ادارے نے ان پر پابندی لگا رکھی تھی، تاہم وہ گوگل سرچ انجن استعمال کر سکتی تھی، جس میں مصنوعی ذہانت سے چلنے والے بعض جدید فیچرز موجود تھے ۔ دلچسپ بات یہ ہے کہ گوگل نے رواں ہفتے طلبہ کیلئے جن اے آئی سہولتوں کو ابتدائی طور پر بند رکھنے کا اعلان کیا، ان میں سرچ انجن کے یہ فیچرز شامل نہیں تھے ۔

لڑکی کے خاندان کے وکیل اینڈریو لڈل نے اے ایف پی سے گفتگو کرتے ہوئے کہا کہ سکولوں کو گوگل سرچ کی سہولت بند کر دینی چاہیے اور اسے اس وقت تک بحال نہیں کرنا چاہیے جب تک کمپنی سرچ میں اے آئی موڈ ختم نہیں کرتی یا اس بات کو یقینی نہیں بناتی کہ مصنوعی ذہانت استعمال کرنے والے ہر طالبعلم کو مکمل تحفظ حاصل ہو۔ مقدمے میں مؤقف اختیار کیا گیا ہے کہ شمالی کیرولائنا سے تعلق رکھنے والی ایما ایک خوش مزاج 13 سالہ بچی تھی، جس کے تعلیمی نتائج اچھے تھے ، وہ موسیقی سے دلچسپی رکھتی تھی اور گرل سکاؤٹس کی سرگرمیوں میں بھی حصہ لیتی تھی۔ اس کے خاندان کے مطابق اسے پہلے کبھی کسی ذہنی بیماری کی شکایت نہیں رہی تھی۔تاہم شکایت کے مطابق سکول کے لیپ ٹاپ پر گوگل کی اے آئی سے چلنے والی سرچ استعمال کرنے کے چند ماہ بعد ہی اس کی ذہنی کیفیت تیزی سے بگڑنے لگی اور وہ شدید نفسیاتی بحران کا شکار ہو گئی۔17 مارچ کو سکول کے مانیٹرنگ سافٹ ویئر نے ’’جنازہ‘‘(Funeral) کے عنوان سے ایک دستاویز کی نشاندہی کی، جس پر سکول انتظامیہ نے بچی کے والدین کو مطلع کیا۔مقدمے کے مطابق بچی کی والدہ نے اس کے اکاؤنٹ میں داخل ہو کر دیکھا کہ وہ اسی وقت ایک الوداعی خط لکھ رہی تھی، جس پر اس کے والد نے فوری مداخلت کی۔

گوگل کے ترجمان ہوزے کاسٹانیڈا نے اے ایف پی کو بتایا کہ کمپنی مقدمے میں لگائے گئے الزامات کا جائزہ لے رہی ہے اور اس معاملے کو انتہائی سنجیدگی سے لیتی ہے ۔گوگل کا مؤقف ہے کہ اس کے اے آئی موڈ میں خود کو نقصان پہنچانے سے متعلق مواد کی روک تھام کیلئے حفاظتی اقدامات موجود ہیں اور انہیں ناکام بنانے کی کوششوں سے نمٹنے کے انتظامات بھی کیے گئے ہیں۔تاہم خاندان کے وکیل لڈل کا کہنا تھا کہ ایما بار بار ان حفاظتی رکاوٹوں سے آگے بڑھنے میں کامیاب رہی۔ ان کے بقول کمپنی جن حفاظتی انتظامات کا دعویٰ کرتی ہے ، وہ واضح طور پر ناکافی ثابت ہوئے ۔

روزنامہ دنیا ایپ انسٹال کریں