أطلقت أمازون ويب سيرفيسز (AWS) أداة جديدة لمعالجة ظاهرة “الهلوسة” في نماذج الذكاء الاصطناعي؛ وهي الحالات التي تقدم فيها النماذج إجابات غير موثوقة، حسبما ذكر موقع تك كرانش.
وأعلنت الشركة عن الخدمة باسم “Automated Reasoning checks”، خلال مؤتمر re:Invent 2024 في لاس فيغاس. تعمل الخدمة على التحقق من إجابات النموذج عبر مقارنتها بمعلومات يوفرها العملاء.
مميزات الخدمة:
- تحاول فهم كيفية وصول النموذج إلى إجاباته
- تتحقق من صحة المعلومات المقدمة
- تعرض الإجابات الصحيحة جنبًا إلى جنب مع الإجابات غير الدقيقة
لكن الخدمة تواجه تحديات:
- لا تعمل حاليًا إلا مع نماذج محددة من Anthropic و Meta
- قد تفقد بعض الدقة في النتائج
- تتطلب استخدام نماذج من نفس “العائلة”
وأعلنت AWS أيضًا عن خدمة “التعاون متعدد الوكلاء” التي تتيح للعملاء تخصيص مهام فرعية مختلفة لنماذج الذكاء الاصطناعي ضمن مشروع أكبر.
اقتراح المُحرر:
