بدلا من الإجابات الحاسمة الخاطئة.. جوجل تمنح نماذجها لغة الشك والتخمين المدروس

بدلا من الإجابات الحاسمة الخاطئة.. جوجل تمنح نماذجها لغة الشك والتخمين المدروس



كتب مايكل فارس

جوجل تكشف سلاحًا جديدًا ضد هلوسات نماذجها في الـAI


قدم باحثون في شركة جوجل مفهومًا جديدًا يُدعى "اليقين المخلص" (Faithful Uncertainty)، يمكّن نماذج اللغة الكبيرة من التعبير عن عدم اليقين بشكل صادق ومتوافق مع معرفتها الداخلية، مما يقلل بشكل كبير من ظاهرة الهلوسات دون التضحية بفائدة النماذج في التطبيقات العملية.
ويُعد هذا البحث خطوة نوعية نحو بناء ذكاء اصطناعي أكثر موثوقية وشفافية، خاصة في المجالات الحساسة مثل الطب والقرارات الاستراتيجية والأنظمة الوكيلة.
وفقًا لتقرير نشر على موقع فينشر بيت، أوضح الباحثون في ورقة بحثية جديدة أن معظم التحسينات السابقة في دقة النماذج جاءت من توسيع قاعدة المعرفة، لكنها لم تحسن الوعي بالحدود المعرفية، ويقترحون "اليقين المخلص" كحل يربط بين التعبير اللغوي عن الشك والثقة الإحصائية الداخلية للنموذج، مما يسمح بتقديم تخمينات مدروسة مثل "أفضل تخمين لي هو..." بدلاً من الإجابة الحاسمة الخاطئة أو الامتناع الكامل.

الضريبة الوظيفية لاستراتيجيات الحد من الهلوسات

يبرز البحث مشكلة "الضريبة الوظيفية" التي تفرضها الطرق التقليدية لمكافحة الهلوسات، حيث يؤدي تقليل الأخطاء إلى رفض النموذج لإجابات صحيحة كثيرة. على سبيل المثال، لخفض معدل الخطأ من 25% إلى 5%، قد يضطر النموذج إلى التخلي عن أكثر من 52% من إجاباته الصحيحة، ويُعاد تعريف الهلوسة هنا كـ"خطأ واثق"، أي معلومات خاطئة مقدمة بثقة زائدة دون تحفظ، مما يفتح الباب للتعبير عن اليقين غير الكامل كفرضية مفيدة.

التطبيقات العملية في الأنظمة الوكيلة والمؤسسية



يُعد "اليقين المخلص" جزءًا أساسيًا من "الاستدلال الذاتي، الذي يمكّن النماذج من إدارة استخدام الأدوات الخارجية مثل البحث الديناميكي، وتقييم المعلومات المسترجعة.
في التطبيقات المؤسسية، يساعد هذا النهج في تجنب إهدار الموارد أو الاعتماد الأعمى على مصادر خارجية، ويحسن الثقة بين المستخدمين، يشير الباحثون إلى تحديات مثل "مفارقة التمهيد" في التدريب الخاضع للإشراف، حيث يعتمد التعبير الصحيح على معرفة النموذج المتغيرة.