اسٹینفورڈ یونیورسٹی کی اس تحقیق سے معلوم ہوا ہے کہ اے آئی سسٹمز اکثر قیاس کرنے کی عادت رکھتے ہیں۔ یہ اس لیے ہوتا ہے کہ یہ پروگرام ایسے بنائے گئے ہیں کہ اگر انہیں کسی جواب کے بارے میں پتا نہ ہو تو بھی وہ کچھ نہ کچھ جواب دینے کی کوشش کرتے ہیں، بجائے اس کے کہ کہہ دیں ”مجھے پتا نہیں“۔

جدید کاریں آپ کی جاسوسی کر رہی ہیں، ان سے کیسے بچیں؟

ہیلوسینیشن کیوں ہوتی ہے؟

اوپن اے آئی کے محققین بتاتے ہیں کہ اے آئی ماڈلز کی تربیت اور جانچ میں بنیادی خامی موجود ہے۔

زیادہ تر ماڈلز کو صحیح جوابات زیادہ سے زیادہ دینے کے لیے ڈیزائن کیا گیا ہے۔

اس کا نتیجہ یہ ہوتا ہے کہ ماڈل اکثر قیاس آرائی کرتا ہے بجائے یہ کہ کہے کہ اسے علم نہیں ہے۔

محققین نے اس کا موازنہ ایسے طالب علم سے کیا ہے جو ہر سوال کا جواب دینے کی کوشش کرتا ہے، تاکہ نمبر ملیں، چاہے جواب درست نہ ہو۔

سائنسدانوں نے درجہ حرارت کا الٹا بہائو ناپنے کے لیے کوانٹم تھرمو میٹر تیار کرلیا

تربیت کا عمل بھی مسئلہ بڑھاتا ہے

اے آئی ماڈلز بہت زیادہ متن پڑھ کر سیکھتے ہیں اور اگلے الفاظ کا اندازہ لگاتے ہیں۔ کچھ مواد آسان اور منطقی ہوتا ہے، لیکن بہت سا ڈیٹا نامکمل یا بے ترتیب ہوتا ہے۔ جب انہیں مشکل یا غیر واضح سوالات دیے جائیں، تو یہ خود سے جواب بنانے کی کوشش کرتے ہیں، جس کی وجہ سے اکثر غلط معلومات سامنے آجاتی ہیں۔

موجودہ جانچ کے طریقے ناکافی ہیں

تحقیق میں یہ بھی بتایا گیا ہے کہ موجودہ ایویلیوایشن سسٹمز صرف درستگی پر زیادہ زور دیتے ہیں۔

ماڈلز کو صرف اس بات پر پرکھا جاتا ہے کہ وہ کتنے صحیح جوابات دیتے ہیں۔

اس وجہ سے اے آئی کو جواب دینے کی ترغیب ملتی ہے، چاہے وہ غلط ہی کیوں نہ ہو، جبکہ کسی سوال کو چھوڑنے یا شک ظاہر کرنے پر کوئی انعام نہیں ملتا۔

سائنس دانوں نے نظروں کے سامنے چھپی نئی طاقتور اینٹی بائیوٹک ڈھونڈ نکالی

حل کیا ہو سکتا ہے؟

محققین نے کچھ تجاویز بھی پیش کی ہیں:

اے آئی ماڈلز کو پراعتماد غلطیوں پر سزا دی جائے۔

شک یا غیر یقینی صورتحال ظاہر کرنے پر انعام دیا جائے۔

موجودہ ”درستگی پر مبنی“ جانچ کے طریقے بدل کر اے ائی کو زیادہ قابل اعتماد بنایا جا سکتا ہے۔

یہ طریقہ ایسے ہے جیسے تعلیمی امتحانات میں غلط جواب پر منفی نمبر اور سوال چھوڑنے پر جزوی کریڈٹ دیا جاتا ہے۔

اگرچہ اے آئی ٹیکنالوجی میں بہت ترقی ہو چکی ہے، مگر جھوٹی معلومات یا ہیلوسینیشن کا مسئلہ ابھی بھی موجود ہے۔ صحت، قانون اور دیگر حساس شعبوں میں اے آئی کے بڑھتے استعمال کے پیشِ نظر، گہرے تحقیقی اقدامات اور حفاظتی میکانزم کی ضرورت ہے تاکہ ماڈلز زیادہ مستند اور قابل اعتماد بن سکیں۔