هل يمكننا الوثوق في ملخصات Google AI Overview؟

غيرت ميزة Ai Overviews المقدمة من جوجل عملية البحث على الإنترنت؛ حيث أصبح الحصول على المعلومة أسهل وأسرع، فلا داعي لمراجعة كل نتائج البحث وزيارة كل الروابط الموجودة، ولكن يكفي النظر على الملخص الذي يقدمه جوجل في بداية الصفحة.

ومع ذلك كشف تحقيق استقصائي أجرته صحيفة الجارديان عن تورط ميزة AI Overviews من شركة جوجل في نشر معلومات صحية خاطئة ومضللة، وهو ما اعتبره التحقيق “يعرض حياة المستخدمين لخطر صحي حقيقي”.

ورغم تأكيدات جوجل المستمرة بأن ملخصاتها التي تعتمد على الذكاء الاصطناعي التوليدي هي أداة مفيدة وموثوقة لتقديم لمحات سريعة عن المواضيع المعقدة، إلا أن التحقيق أثبت أن هذه الأداة أظهرت المعلومات المغلوطة في المقدمة، ما يثير التساؤلات حول إمكانية الاعتماد عليها.

نصائح خطيرة لمرضى البنكرياس والكبد

رصد تحقيق الجارديان ثلاث حالات رئيسية أثارت قلق الأطباء؛ كان أولها تقديم نصيحة لمرضى سرطان البنكرياس بضرورة تجنب الأطعمة الغنية بالدهون، وهي نصيحة خاطئة ومضللة، حيث يؤكد الأطباء احتياج هؤلاء المرضى للسعرات الحرارية والدهون للحفاظ على وزنهم ليكونوا قادرين على تحمل العلاج الكيميائي أو العمليات الجراحية الضرورية.

والحالة الثانية كانت تقديم أرقاما عشوائية تخص الأرقام الطبيعية لنتائج فحوصات وظائف الكبد وإهمال العوامل المؤثرة، كالجنس والعمر، ما قد يتسبب في اعتقاد المريض بأن أرقامه طبيعية ولا حاجة له في المتابعة الطبية.

وبالنسبة للحالة الثالثة فكانت تخص مسحة عنق الرحم، حيث أشارت نتائج الذكاء الاصطناعي إلى أن تلك المسحة هي الوسيلة الأساسية للكشف عن سرطان المهبل، وهو ما أنكره الأطباء وشددوا على أنه لا يمكن الاعتماد على نتيجة المسحة وإهمال باقي الأعراض الخاصة بسرطان المهبل.

نتائج متذبذبة ومعلومات نفسية مضللة

أشار التقرير إلى أن نتائج البحث تتغير بشكل عشوائي؛ حيث أن البحث عن نفس العبارة في أوقات مختلفة يعطي إجابات مختلفة بناءً على مصادر متغيرة، ما يعني غياب المعيار الموحد والموثوق للمعلومة الطبية.

أما بالنسبة للصحة النفسية، فقد وجد التحقيق أن الأداة قدمت نتائج مضللة حول حالات مثل الذهان واضطرابات الأكل، حيث أكدت ستيفن بكلي من مؤسسة Mind الخيرية، أن بعض النصائح كانت مفتقرة للوعي السليم بل، وتعكس في بعض الأحيان تحيزات أو قوالب نمطية سلبية قد تمنع المصابين من طلب المساعدة المهنية.

رد شركة جوجل على الاتهامات

وبحسب التقرير، فقد أكدت شركة جوجل أن الغالبية العظمى من الملخصات التي تقدمها دقيقة وتخضع لعمليات تحسين مستمرة في الجودة خاصة في المواضيع الحساسة، حيث أوضح المتحدث باسم الشركة، أن دقة الميزة الجديدة تفوق ميزات البحث التقليدية الأخرى.

وادعت الشركة أن بعض الأمثلة المقدمة في التحقيق كانت مجرد لقطات شاشة غير مكتملة، وأن النظام في المجمل يحيل المستخدمين إلى مصادر طبية معروفة وينصحهم باستشارة الخبراء، بالإضافة إلى أن الشركة تتخذ إجراءات فورية لحذف أو تعديل المحتوى الذي يخالف سياساتها.

كيف تعمل تقنية Google AI Overview؟

يقول الدكتور محمد الجندي خبير أمن المعلومات واستشاري الجريمة الالكترونية بالأمم المتحدة لـ”الشروق”، إن خدمة Google AI Overview تعتمد على تقنيات متقدمة في الذكاء الاصطناعي ولها نماذجها الخاصة.

وأوضح أن تلك التقنية لا تظهر النتائج بناءً على شهرة المصدر أو الشخص فقط، وإنما تعتمد على مجموعة كبيرة من المعايير مثل مدى موثوقية المصدر، وهل المحتوى مكتوب أم مرئي، ومدى توافر هذا المحتوى وانتشاره داخل منظومة جوجل.

وأضاف أنه كلما كان المحتوى متوافقا مع هذه المعايير، زادت فرص ظهوره ضمن النتائج التي يقدمها الذكاء الاصطناعي، وترفق جوجل عادةً الإجابة بروابط للمصادر التي اعتمدت عليها في صياغة الملخص.

وأوضح الجندي، أنه بالرغم من ذلك فسواء جوجل أو غيره من أدوات الذكاء الاصطناعي تظل هناك نسبة من الخطأ واردة؛ فالذكاء الاصطناعي يتعلم من كم هائل من المعلومات المتاحة على الإنترنت، وهذه المعلومات ليست جميعها صحيحة بالضرورة، فليس كل ما هو منشور على الإنترنت يعد مصدرا موثوقا.

وأشار إلى أن المواقع البحثية والأكاديمية الدقيقة غالبا ما تكون مغلقة أو غير متاحة للذكاء الاصطناعي، فيلجأ بدلا من ذلك إلى المصادر المفتوحة التي قد لا تكون دائما صحيحة، وإلى جانب ذلك قد تتأثر بعض البيانات بانحيازات أصحابها.

لذلك فإن ما يقوم به الذكاء الاصطناعي أقرب إلى التنبؤ، حيث يربط المعلومات المتوفرة لديه ببعضها البعض وفقا لطبيعة البيانات التي تدرب عليها ليتوصل لنتيجة قد تكون صحيحة أو خاطئة.

الـ”Zero Click ” يهدد فعالية عملية البحث

وأضاف أنه رغم إضافة جوجل لروابط المصادر فإن نسبة كبيرة من المستخدمين والتي قد تتجاوز 90% لا تقوم بالضغط على هذه الروابط، وهو ما أدى إلى ظهور مشكلة جديدة تعرف باسم Zero Click، حيث يكتفي المستخدم بالإجابة التي يقدمها الذكاء الاصطناعي دون الرجوع إلى المصدر الأصلي.

وقد تسبب ذلك في أزمة حقيقية لعدد كبير من المواقع، خاصة في مجال التسويق الرقمي لأن محتواها لم يعد يزار كما كان في السابق.

هل يمكن الاعتماد على ملخصات الذكاء الاصطناعي بدلا من البحث التقليدي؟
يوضح الجندي، أن الأمر في الأساس يعود للمستخدمين، وأن التحول للاعتماد على ملخصات الذكاء الاصطناعي بالفعل يحدث تدريجيا؛ فالكثيرون لم يعودوا يرغبون في بذل جهد البحث ويفضلون الحصول على إجابة سريعة ومختصرة والاستفادة من المزايا التكنولوجية الجديدة التي توفر الوقت.

وأضاف أن جوجل تحاول حاليا تحقيق توازن بين تقديم ملخصات جاهزة للمستخدمين، وفي الوقت نفسه الحفاظ على دور المواقع التقليدية في نتائج البحث، لكن في النهاية فجوجل شركة هادفة للربح ومع ميل المستخدمين إلى الاعتماد على الذكاء الاصطناعي، ستسعى هذه الشركات إلى إيجاد طرق جديدة لتحقيق الربح من نتائج الذكاء الاصطناعي كما كانت تفعل سابقا من خلال الإعلانات في نتائج البحث التقليدية.