كم مرة طلبت من شات جي بي تي أو أي أداة أخرى البحث عن معلومة، ثم اكتشفت أن الإجابة خاطئة؟ وكم مرة ضغطت على المصادر المرفقة فوجدتها لا تقول ما تعرضه الإجابة أصلاً؟ هذه ليست تجربتك وحدك، فميزة ملخصات البحث بالذكاء الاصطناعي من جوجل مثلاً تقدم إجابة خاطئة تقريباً في كل ١٠ إجابات، أما النموذج الأحدث من شات جي بي تي ٥ فتصل دقته إلى ٨٧%.

قد تبدو هذه النسبة مرتفعة، لكن مع أكثر من ٥ تريليونات عملية بحث سنوياً في جوجل، وأكثر من ٢.٥ مليار رسالة يومياً في شات جي بي تي، يمكن لهامش الخطأ أن يتحول إلى مئات الملايين من الإجابات الخاطئة. ولا تقف المشكلة عند الخطأ فقط، فـ٥٦% من الإجابات الصحيحة في ملخصات جوجل لا تستند إلى مصادر واضحة يستطيع المستخدم العودة إليها.

ورغم ذلك، لا تزال الثقة مرتفعة؛ فقد كشف تقرير لشركة يوجوف أن ٦٩% من مستخدمي الذكاء الاصطناعي في الولايات المتحدة يثقون بإجاباته، في حين أن أكثر من ١٨% فقط يشككون في النتائج ويبحثون عن مصادر إضافية، وفق دراسة لشركة إكسبلودينغ توبكس.

ويعود جانب من هذه الثقة إلى أن أدوات الذكاء الاصطناعي مريحة، فهي تختصر البحث الطويل في إجابة واحدة جاهزة وسهلة القراءة والفهم، كما أن شكل الإجابة الواثق والمرتب يقلل شعور المستخدم بالحاجة إلى التحقق. أما وجود المصادر، فقد يمنح إحساساً زائفاً بالدقة، إذ وجدت دراسات عن ثقة المستخدمين في بحث الذكاء الاصطناعي أن الروابط والاستشهادات ترفع الثقة في الإجابة حتى عندما تكون هذه الروابط خاطئة أو لا تسند المعلومة فعلياً.

وهنا تصبح الثقة نفسها جزءاً من المشكلة، بين أخطاء الذكاء الاصطناعي من جهة، وسرعة تصديقنا لإجابة تبدو موثوقة من دون مراجعتها من جهة أخرى.