«مايكروسوفت» تتصدى لهلوسة الذكاء الاصطناعي

نشر في البلاد يوم 03 - 10 - 2024

كشفت شركة "مايكروسوفت" الأمريكية، عن ميزة جديدة للذكاء الاصطناعي تساعد في تصحيح البيانات الخاطئة، أو المضللة للنماذج، أو ما يُعرف ب "هلوسة الذكاء الاصطناعي".وتتيح الميزة الجديدة- وفقًا للمتحدث باسم الشركة إلين طومبسون- مسح الجزء غير الدقيق من الإجابات الموّلدة، وإنشاء استجابة حول سبب خطأ الجزء واستخدام الذكاء الاصطناعي التوليدي لتصحيحها؛ للتأكد من مطابقتها لمصادر البيانات المعتمدة.
كما تسمح الميزة برصد هذه الهلوسات وتصحيحها قبل خروجها على هيئة استجابات؛ تولّدها النماذج للمستخدمين، حيث يمكن تضمينها في جميع أدوات الذكاء الاصطناعي بالأجهزة التي تعتمد واجهة برنامج "Azure AI Content Safety".
يُشار إلى أن الهلوسة تظهر في حالة تدريب نماذج الذكاء الاصطناعي على بيانات غير مكتملة أو متحيزة، حيث تقوم النماذج بتوليد بيانات غير صحيحة، أو كاذبة؛ ما يسفر عن خفض مستوى ثقة المستخدمين في نتائجها.