ایلون مسک اور دیگر نے ‘معاشرے کے لیے گہرے خطرات’ کا حوالہ دیتے ہوئے اے آئی پر روک لگانے کا مطالبہ کیا
ایلون مسک اور دیگر نے ‘معاشرے کے لیے گہرے خطرات’ کا حوالہ دیتے ہوئے اے آئی پر روک لگانے کا مطالبہ کیا
ایک ہزار سے زائد ٹیک رہنماؤں، محققین اور دیگر نے ایک کھلے خط پر دستخط کیے جس میں سب سے طاقتور مصنوعی ذہانت کے نظام کی ترقی پر روک لگانے پر زور دیا گیا ہے۔
ایلون مسک سمیت ایک ہزار سے زائد ٹیکنالوجی رہنماؤں اور محققین نے مصنوعی ذہانت کی تجربہ گاہوں پر زور دیا ہے کہ وہ جدید ترین نظاموں کی تیاری کو روک دیں اور ایک کھلے خط میں متنبہ کیا ہے کہ اے آئی ٹولز “معاشرے اور انسانیت کے لئے گہرے خطرات” پیش کرتے ہیں۔
غیر منافع بخش فیوچر آف لائف انسٹی ٹیوٹ کی جانب سے بدھ کے روز جاری کیے گئے خط کے مطابق اے آئی ڈویلپرز ‘زیادہ طاقتور ڈیجیٹل دماغ تیار کرنے اور تعینات کرنے کی دوڑ میں پھنسے ہوئے ہیں جنہیں کوئی بھی نہیں سمجھ سکتا، یہاں تک کہ ان کے تخلیق کار بھی نہیں سمجھ سکتے، پیش گوئی نہیں کر سکتے یا قابل اعتماد طور پر کنٹرول نہیں کر سکتے۔’
خط پر دستخط کرنے والوں میں ایپل کے شریک بانی اسٹیو ووزنیاک بھی شامل ہیں۔ اینڈریو یانگ، ایک کاروباری شخصیت اور 2020 کے صدارتی امیدوار۔ اور ریچل برونسن، بلیٹن آف دی اٹامک سائنٹسٹس کی صدر، جو ڈومس ڈے گھڑی مرتب کرتی ہے۔
ایک کاروباری شخصیت اور ماہر تعلیم گیری مارکس نے ایک انٹرویو میں کہا، “یہ چیزیں ہماری دنیا کو تشکیل دے رہی ہیں۔ “ہمارے پاس کارپوریٹ غیر ذمہ داری، وسیع پیمانے پر اپنانے، ضابطوں کی کمی اور نامعلوم افراد کی ایک بڑی تعداد کا ایک بہترین طوفان ہے۔
اے آئی چیٹ جی پی ٹی ، مائیکروسافٹ کے بنگ اور گوگل کے بارڈ جیسے چیٹ بوٹس کو طاقت دیتا ہے ، جو انسانی طرح کی گفتگو انجام دے سکتے ہیں ، مختلف موضوعات پر مضامین تخلیق کرسکتے ہیں اور کمپیوٹر کوڈ لکھنے جیسے زیادہ پیچیدہ کام انجام دے سکتے ہیں۔
زیادہ طاقتور چیٹ بوٹس تیار کرنے پر زور دینے سے ایک ایسی دوڑ شروع ہوگئی ہے جو ٹیک انڈسٹری کے اگلے رہنماؤں کا تعین کرسکتی ہے۔ لیکن ان ٹولز کو تفصیلات غلط حاصل کرنے اور غلط معلومات پھیلانے کی ان کی صلاحیت پر تنقید کا نشانہ بنایا گیا ہے۔
کھلے خط میں جی پی ٹی-4 سے زیادہ طاقتور اے آئی سسٹمز کی تیاری میں تعطل کا مطالبہ کیا گیا ہے، یہ چیٹ بوٹ ریسرچ لیب اوپن اے آئی کی جانب سے رواں ماہ متعارف کرایا گیا تھا، جس کی مسٹر مسک نے مشترکہ طور پر بنیاد رکھی تھی۔ خط میں کہا گیا ہے کہ اس تعطل سے اے آئی سسٹمز کے لیے ‘مشترکہ حفاظتی پروٹوکول’ متعارف کرانے کے لیے وقت ملے گا۔ اگر اس طرح کی روک کو فوری طور پر نافذ نہیں کیا جا سکتا ہے تو حکومتوں کو قدم اٹھانا چاہئے اور روک لگانا چاہئے۔
خط میں کہا گیا ہے کہ طاقتور اے آئی سسٹم کی ترقی صرف اس وقت آگے بڑھنی چاہیے جب ہمیں یقین ہو کہ ان کے اثرات مثبت ہوں گے اور ان کے خطرات سے نمٹا جا سکے گا۔
خط میں کہا گیا ہے کہ اے آئی کے ساتھ انسانیت ایک خوشحال مستقبل سے لطف اندوز ہو سکتی ہے۔ “طاقتور اے آئی سسٹم بنانے میں کامیاب ہونے کے بعد، اب ہم ‘اے آئی موسم گرما’ سے لطف اندوز ہوسکتے ہیں جس میں ہم انعامات حاصل کرسکتے ہیں، ان نظاموں کو سب کے واضح فائدے کے لئے انجینئر کرسکتے ہیں اور معاشرے کو اپنانے کا موقع فراہم کرتے ہیں۔
اوپن اے آئی کے چیف ایگزیکٹیو سیم آلٹمین نے اس خط پر دستخط نہیں کیے۔
مسٹر مارکس اور دیگر کا خیال ہے کہ وسیع تر ٹیک کمیونٹی کو پابندی پر راضی کرنا مشکل ہوگا۔ لیکن حکومت کی جانب سے فوری اقدامات کا امکان بھی بہت کم ہے کیونکہ قانون سازوں نے مصنوعی ذہانت کو ریگولیٹ کرنے کے لیے بہت کم کام کیا ہے۔
کیلی فورنیا سے تعلق رکھنے والے ریپبلیکن پارٹی کے نمائندے جے اوبرنولٹ نے حال ہی میں نیویارک ٹائمز کو بتایا کہ امریکہ میں سیاست دانوں کو اس ٹیکنالوجی کی زیادہ سمجھ نہیں ہے۔ 2021 میں ، یورپی یونین کے پالیسی سازوں نے اے آئی ٹکنالوجیوں کو منظم کرنے کے لئے ڈیزائن کردہ ایک قانون تجویز کیا جو چہرے کی شناخت کے نظام سمیت نقصان پہنچا سکتے ہیں۔
توقع ہے کہ اس سال جلد از جلد اس اقدام کو منظور کیا جائے گا ، کمپنیوں کو اے آئی ٹکنالوجیوں کے خطرے کا جائزہ لینے کی ضرورت ہوگی تاکہ اس بات کا تعین کیا جاسکے کہ ان کی ایپلی کیشنز صحت ، حفاظت اور انفرادی حقوق کو کس طرح متاثر کرسکتی ہیں۔
جی پی ٹی -4 وہ ہے جسے اے آئی کے محققین اعصابی نیٹ ورک کہتے ہیں ، ایک قسم کا ریاضیاتی نظام جو اعداد و شمار کا تجزیہ کرکے مہارت سیکھتا ہے۔ اعصابی نیٹ ورک وہی ٹیکنالوجی ہے جو سری اور الیکسا جیسے ڈیجیٹل اسسٹنٹ بولنے والے احکامات کو پہچاننے کے لئے استعمال کرتے ہیں ، اور یہ کہ خود ڈرائیونگ کاریں پیدل چلنے والوں کی شناخت کرنے کے لئے استعمال کرتی ہیں۔
2018 کے آس پاس ، گوگل اور اوپن اے آئی جیسی کمپنیوں نے اعصابی نیٹ ورکس بنانا شروع کیا جو کتابوں ، ویکیپیڈیا مضامین ، چیٹ لاگز اور انٹرنیٹ سے حاصل کردہ دیگر معلومات سمیت ڈیجیٹل متن کی بڑی مقدار سے سیکھتے ہیں۔ نیٹ ورکس کو بڑی زبان کے ماڈل ، یا ایل ایل ایم ایس کہا جاتا ہے۔
اس تمام متن میں اربوں نمونوں کی نشاندہی کرکے ، ایل ایل ایم اپنے طور پر متن تیار کرنا سیکھتے ہیں ، جس میں ٹویٹس ، ٹرم پیپرز اور کمپیوٹر پروگرام شامل ہیں۔ وہ بات چیت بھی جاری رکھ سکتے تھے۔ سالوں سے ، اوپن اے آئی اور دیگر کمپنیوں نے ایل ایل ایم تیار کیے ہیں جو زیادہ سے زیادہ اعداد و شمار سے سیکھتے ہیں۔
اس سے ان کی صلاحیتوں میں بہتری آئی ہے ، لیکن سسٹم اب بھی غلطیاں کرتے ہیں۔ وہ اکثر حقائق کو غلط سمجھتے ہیں اور انتباہ کے بغیر معلومات بناتے ہیں ، ایک ایسا رجحان جسے محققین “ہیلوسینیشن” کہتے ہیں۔ چونکہ نظام تمام معلومات کو مکمل اعتماد کے ساتھ فراہم کرتا ہے ، لہذا لوگوں کے لئے اکثر یہ بتانا مشکل ہوتا ہے کہ کیا صحیح ہے اور کیا غلط ہے۔
ماہرین کو خدشہ ہے کہ ان نظاموں کا غلط استعمال ماضی کے مقابلے میں زیادہ رفتار اور موثریت کے ساتھ غلط معلومات پھیلانے کے لیے کیا جا سکتا ہے۔ ان کا ماننا ہے کہ ان کا استعمال انٹرنیٹ پر لوگوں کے رویے کو قائل کرنے کے لئے بھی کیا جاسکتا ہے۔
جی پی ٹی -4 کے اجراء سے پہلے ، اوپن اے آئی نے بیرونی محققین سے سسٹم کے خطرناک استعمال کی جانچ کرنے کے لئے کہا۔ محققین نے بتایا کہ آن لائن غیر قانونی آتشیں اسلحہ خریدنے، گھریلو اشیاء سے خطرناک مادہ بنانے کے طریقوں کی وضاحت کرنے اور خواتین کو اسقاط حمل کے غیر محفوظ ہونے کے بارے میں قائل کرنے کے لئے فیس بک پوسٹس لکھنے کے لئے قائل کیا جاسکتا ہے۔
انہوں نے یہ بھی پایا کہ یہ نظام ٹاسک خرگوش کو انٹرنیٹ پر ایک انسان کی خدمات حاصل کرنے اور کیپچا ٹیسٹ کو شکست دینے کے لئے استعمال کرنے کے قابل تھا ، جو بڑے پیمانے پر آن لائن بوٹس کی شناخت کے لئے استعمال ہوتا ہے۔ جب انسان نے پوچھا کہ کیا یہ نظام “روبوٹ” ہے تو سسٹم نے کہا کہ یہ ایک نابینا شخص ہے۔
اوپن اے آئی کی طرف سے تبدیلیوں کے بعد ، جی پی ٹی -4 اب ان چیزوں کو نہیں کرتا ہے۔
برسوں سے اے آئی کے بہت سے محققین، ماہرین تعلیم اور ٹیک ایگزیکٹوز بشمول مسٹر مسک کو خدشہ ہے کہ اے آئی سسٹم اس سے بھی زیادہ نقصان پہنچا سکتے ہیں۔ ان میں سے کچھ ایک وسیع آن لائن کمیونٹی کا حصہ ہیں جسے عقلپرست یا مؤثر الٹروسٹ کہا جاتا ہے جو یقین رکھتے ہیں کہ اے آئی بالآخر انسانیت کو تباہ کر سکتا ہے۔
یہ خط فیوچر آف لائف انسٹی ٹیوٹ کی طرف سے تیار کیا گیا تھا، جو انسانیت کے وجودی خطرات پر تحقیق کرنے کے لئے وقف ایک تنظیم ہے جس نے طویل عرصے سے مصنوعی ذہانت کے خطرات کے بارے میں متنبہ کیا ہے. لیکن اس پر صنعت اور تعلیمی اداروں سے تعلق رکھنے والے مختلف افراد نے دستخط کیے تھے۔
اگرچہ اس خط پر دستخط کرنے والے کچھ لوگ بار بار ان خدشات کا اظہار کرنے کے لئے جانے جاتے ہیں کہ اے آئی انسانیت کو تباہ کر سکتا ہے ، لیکن مسٹر مارکس سمیت دیگر اس کے مستقبل قریب کے خطرات کے بارے میں زیادہ فکرمند ہیں ، بشمول غلط معلومات کا پھیلاؤ اور یہ خطرہ کہ لوگ طبی اور جذباتی مشورے کے لئے ان نظاموں پر انحصار کریں گے۔
اس خط پر دستخط کرنے والے مارکس نے کہا کہ اس خط سے ظاہر ہوتا ہے کہ کتنے لوگ اس بارے میں بہت فکرمند ہیں کہ کیا ہو رہا ہے۔ ان کا ماننا ہے کہ یہ خط ایک اہم موڑ ثابت ہوگا۔ ان کا کہنا تھا کہ ‘ایسا لگتا ہے کہ یہ اے آئی کی تاریخ اور شاید انسانیت کی تاریخ میں واقعی ایک اہم لمحہ ہے۔’
تاہم انہوں نے تسلیم کیا کہ جن لوگوں نے اس خط پر دستخط کیے ہیں ان کے لیے کمپنیوں اور محققین کی وسیع تر کمیونٹی کو اس بات پر قائل کرنا مشکل ہو سکتا ہے کہ وہ اس پر پابندی عائد کریں۔ انہوں نے کہا، “یہ خط کامل نہیں ہے۔ ”لیکن روح بالکل درست ہے۔”
