ليش الذكاء الاصطناعي يكذب عليك بثقة؟ (وكيف تقلّلها اليوم)

سألت الذكاء الاصطناعي سؤال، جاوبك بثقة كاملة، وطلع الجواب غلط. صار لك؟ اسمها "هلوسة"، وهذا موضوع بحثي بالضبط في الماجستير. خلني أشرحها بأبسط طريقة.

ليش يصير هذا؟

النموذج ما "يعرف" الحقيقة. هو يكمّل الكلام الأكثر احتمالًا بناءً على ما تدرّب عليه. يعني الثقة اللي تشوفها هي ثقة في الأسلوب، مو في المعلومة. والأسئلة اللي فيها أرقام وتواريخ وأسماء = أعلى نسبة هلوسة، لأنها تفاصيل دقيقة يسهل "تخمينها".

الحل الأول: اعطه المصدر

بدل ما تسأله من ذاكرته، الصق النص أو ارفع الملف وقله "جاوب من هذا فقط". التقنية اسمها RAG (Retrieval-Augmented Generation)، وهي اللي أشتغل عليها. الفرق في الدقة كبير جدًا.

الحل الثاني: اسمح له يقول "ما أعرف"

أضف في نهاية طلبك: إذا ما تعرف، قل "ما أعرف" ولا تخمّن. جملة وحدة تقلّل الاختراع بشكل ملحوظ، لأنك عطيته مخرج غير التأليف.

الحل الثالث: اطلب الدليل

اطلب منه يحدد من أي سطر أو فقرة أخذ الجواب. إذا ما قدر يشير لمكان محدد، لا تثق بالجواب.

قاعدة ذهبية

أي رقم أو تاريخ أو اسم أو اقتباس يطلعه لك الذكاء الاصطناعي: تحقق منه قبل ما تستخدمه. دقيقة تحقق توفر عليك إحراج.

جرّب الحل الأول اليوم على أي ملف عندك، وقلّي وش صار.

إذا فادك هذا الشرح: الملفات والفيديوهات تنزل أول في قناة تيليجرام، والخلاصة الأسبوعية في النشرة.