مخاطر الذكاء الإصطناعي في الإستشارات الطبية غوغل تتحرك لتصحيح المسار
شهدت الآونة الأخيرة تطورًا لافتًا في تقنيات البحث إذ بدأت شركة “غوغل” في الإعتماد على ميزة AI Overviews لتقديم ملخصات سريعة للمستخدمين
ومع ذلك فقد واجهت هذه الميزة انتقادات حادة نتيجة تقديم معلومات صحية وُصفت بالخطيرة والمضللة مما دفع الشركة إلى إتخاذ إجراءات إحترازية عاجلة لإزالة بعض هذه الملخصات من نتائج البحث لضمان سلامة المستخدمين.
معلومات طبية مضللة تثير قلق الخبراء
لقد كشف تحقيق أجرته صحيفة “غارديان” عن ثغرات مقلقة في دقة المعلومات التي يقدمها الذكاء الإصطناعي لاسيما فيما يتعلق بالفحوصات الحيوية ومن أبرز الأمثلة على ذلك تقديم أرقام غير دقيقة حول إختبارات وظائف الكبد حيث عرض المحرك أرقامًا تفتقر إلى السياق الطبي الضروري ولم تأخذ في الإعتبار تباينات الجنس أو العمر أو العِرق
وبناءً على ذلك حذر الخبراء من أن هذه المعلومات قد تمنح المرضى “طمأنة زائفة” تجعلهم يعتقدون أن حالتهم مستقرة بينما قد يعانون في الواقع من أمراض كبدية متقدمة تتطلب تدخلًا طبيًا فوريًا.
تحرك غوغل بين التحسين والإزالة
وإستجابةً لهذه المخاوف أقدمت غوغل على إزالة الملخصات المتعلقة بعمليات البحث عن “المعدل الطبيعي لفحوصات دم الكبد” وأوضحت الشركة أنها تعمل بإستمرار على تحسين خوارزمياتها عندما تفتقر الملخصات إلى السياق الكافي
وبالرغم من هذه الخطوة إلا أن الشركة لا تزال تدافع عن موثوقية تقنياتها في موضوعات أخرى مؤكدة أن فريقًا من الأطباء يراجع المحتوى لضمان إستناده إلى مصادر عالية الجودة مع توجيه تنبيهات للمستخدمين بضرورة إستشارة المتخصصين.
تحذيرات من ثغرات إضافية في نتائج البحث
وعلاوة على ما سبق أعربت “فانيسا هيبدتش” من مؤسسة British Liver Trust عن قلقها المستمر مشيرة إلى أن تغيير صيغة السؤال قد يؤدي أحيانًا إلى ظهور ملخصات مضللة أخرى
وأكدت أن فهم نتائج تحاليل الدم عملية معقدة لا تعتمد فقط على مقارنة الأرقام بل تتطلب رؤية طبية شاملة ومن ناحية أخرى أشار التحقيق إلى إستمرار ظهور ملخصات في موضوعات حساسة مثل السرطان والصحة النفسية
وهو ما يراه بعض الخبراء مخاطرة غير مبررة قد تؤدي إلى نتائج كارثية إذا إعتمد عليها المستخدم بشكل كلي.
ضرورة الحذر في التعامل مع المحتوى الرقمي
وفي الختام بعد أن تعرفنا علي مخاطر الذكاء الإصطناعي في الإستشارات فيجب أن نعرف يبقى الذكاء الإصطناعي أداة مساعدة
لكنها ليست بديلًا عن التشخيص الطبي المتخصص ولذلك يتوجب على المستخدمين التعامل بحذر شديد مع الملخصات المعلوماتية التي تظهر في أعلى نتائج البحث
والتأكد دائمًا من المصادر الرسمية أو التوجه مباشرة للأطباء لتجنب أي تداعيات صحية قد تنجم عن أخطاء تقنية غير مقصودة.
