×

دنیا میرے آگے

سپر انٹیلیجنٹ کمپیوٹر نطام ،کیا ہمیں پریشان ہونا چاہیے؟

بند کریں

حکومتوں کو اے آئی کے ضابطے بنانے میں ہاتھ پر ہاتھ رکھ کر نہیں بیٹھنا چاہیے :حسین عباس اے آئی سسٹم ہیک کر کے ایٹمی جنگ شروع کر ا سکتی ، آکسیجن ختم کرسکتی :پروفیسر رسل کمپنی خطرات پر قابو نہ پانے کی صورت میں ماڈلز کی تیاری روکنے کے وعدے سے ہٹ گئی

ٹوکیو (اے ایف پی) ’’سپر انٹیلیجنٹ‘‘ کمپیوٹر نظام کے ممکنہ خطرات کیا ہیں اور کیا ہمیں ان سے پریشان ہونا چاہیے ؟اے آئی کے ماہرین طویل عرصے سے اس ٹیکنالوجی  کے خطرے کو انتہائی سنگین قرار دیتے رہے ہیں۔2023 میں اے آئی کے شعبے سے وابستہ سیکڑوں سائنس دانوں اور ماہرین، جن میں امریکا کی بڑی اے آئی لیبارٹریوں کے سربراہان بھی شامل تھے ، نے ‘‘اے آئی سے انسانیت کے خاتمے کے خطرے ’’ سے متعلق ایک بیان پر دستخط کیے ۔ اس میں مطالبہ کیا گیا تھا کہ اس خطرے کو عالمی وباؤں اور جوہری جنگ جتنا سنجیدہ سمجھا جائے ۔یونیورسٹی آف کیلیفورنیا، برکلے کے کمپیوٹر سائنس کے پروفیسر اسٹورٹ رسل نے اے ایف پی کو بتایا کہ اگر مستقبل میں کوئی بے قابو اے آئی یہ سمجھ لے کہ انسان اس کے مقاصد کی راہ میں رکاوٹ ہیں تو وہ روبوٹس کے ذریعے ‘‘نئے جراثیم تیار اور پھیلا’’ سکتی ہے ۔رسل کے مطابق، اے آئی لوگوں کو جوہری جنگ چھیڑنے پر اُکسا سکتی ہے ، مثلاً جوہری حملے سے متعلق وارننگ سسٹم کو ہیک کرکے غلط خطرے کا تاثر پیدا کرنا۔انہوں نے واضح کیا کہ انسانیت کے وجود کو درپیش یہ خطرات موجودہ اے آئی نظاموں سے متعلق نہیں۔ تاہم، ٹیکنالوجی کی ترقی کے ساتھ مستقبل کی اے آئی ایسے مہلک اقدامات کرسکتی ہے جنہیں انسان سمجھ بھی نہ سکیں، مثلاً ماحول سے آکسیجن ختم کرنا۔رسل نے ایک مثال دیتے ہوئے کہا: ‘‘انسان چمپینزی سے زیادہ ذہین ہے ۔

اگر انسان چمپینزیوں کو ختم کرنے کا فیصلہ کرلے تو کیا چمپینزی یہ سمجھ پائیں گے کہ انسان انہیں کیسے ختم کرے گا؟ شاید نہیں۔ اسی طرح اگر سپر انٹیلیجنٹ اے آئی انسانوں سے کہیں زیادہ ذہین ہوگئی، تو ممکن ہے ہم بھی یہ سمجھنے کے قابل نہ رہیں کہ وہ ہمیں ختم کرنے کے لیے کیا طریقہ اختیار کرے گی۔’’تاہم، ان کے مطابق فی الحال ‘‘اگلے ایک دو برس میں خطرہ انسانوں کی جانب سے اے آئی کے غلط استعمال سے زیادہ ہے ’’، مثلاً اے آئی کی مدد سے ہونے والا دہشت گرد حملہ۔اینتھروپک کمپنی نے رواں سال اپنے سیفٹی چارٹر سے وہ عہد بھی ہٹا دیا جس کے تحت خطرات پر قابو نہ پانے کی صورت میں اپنے ماڈلز کی تیاری روکنے کا وعدہ کیا گیا تھا۔اے آئی کے بے قابو ہونے کے خدشات اس وقت مزید بڑھے جب انسانی نگرانی کے بغیر کام کرنے والی اوپن اے آئی کی ٹیکنالوجی نے اے آئی ماڈلز کے ذخیرے ‘‘ہگنگ فیس’’ کو ہیک کرلیا۔اینتھروپک کے سیفٹی ایگزیکٹو ایون ہیوبنگر نے بھی ایکس پر لکھا، ‘‘ہم واقعی سنجیدگی سے سمجھتے ہیں کہ اے آئی تمام انسانوں کو ہلاک کرسکتی ہے ۔’’ انہوں نے آئندہ ایک دہائی میں اس خطرے کا امکان 10 فیصد سے زیادہ قرار دیا۔یو این ایس ڈبلیو کینبرا کے کمپیوٹنگ پروفیسر حسین عباس نے کہا کہ یہ بات یاد رکھنا ضروری ہے کہ دنیا کے خاتمے سے متعلق اس طرح کے فیصدی اندازے ‘‘بالکل غیر سائنسی’’ ہیں۔

عباس نے اے ایف پی کو بتایا، ‘‘صورتحال اب بھی قابو میں ہے اور اسے سنبھالا جاسکتا ہے ۔’’تاہم انہوں نے خبردار کیا کہ حکومتوں کو اے آئی کے ضابطے بنانے کے معاملے میں ہاتھ پر ہاتھ رکھ کر نہیں بیٹھنا چاہیے ۔ ان کے مطابق اے آئی کی تیز رفتار ترقی کے پیش نظر ‘‘لچکدار اور فوری ردعمل’’ پر مبنی نظام ضروری ہے ۔رسل کے مطابق ممکن ہے حکومتوں کو کارروائی پر مجبور کرنے کے لیے ‘‘چرنوبل جیسے کسی بڑے پیمانے کے تباہ کن حادثے ’’ کا انتظار کرنا پڑے ۔انہوں نے حکومتوں پر زور دیا کہ اے آئی کے لیے لائسنسنگ کا نظام متعارف کرایا جائے ، جیسا کہ ہوا بازی، طب یا پانی کی فراہمی کے شعبوں میں موجود ہے ۔رسل نے کہا، ‘‘شاید کسی مرحلے پر حکومتوں کو یاد آجائے گا کہ ان کے ووٹر مرنا پسند نہیں کرتے ۔’’

روزنامہ دنیا ایپ انسٹال کریں