وأعطى التقرير مثالا برجل يبلغ من العمر ستين عاما، اُستبدل ملح الطعام ببروميد الصوديوم، بعد استشارة ChatGPT ، وكانت النتيجة أن أدى به ذلك إلى سمية البروميد، ودخول المستشفى النفسي لمدة ثلاثة أسابيع.

وتسلط هذه القضية الضوء على المخاطر المحتملة للاعتماد على روبوتات الدردشة (الذكاء الاصطناعي)، للحصول على المشورة الصحية، ويعتقد معظم الأمريكيين أن المعلومات الصحية التي تم إنشاؤها بواسطة الذكاء الاصطناعي “موثوقة إلى حد ما” ، وفقا لمسح حديث.

 غير أنّ الخبراء يحذرون من أن أدوات الذكاء الاصطناعي، يجب ألا تحل محل الرعاية الطبية، لأنّ روبوتات المحادثة (الذكاء الاصطناعي)، لا تحتوي على سجلاتك الصحية الشخصية، ولذلك لا يمكنها تقديم إرشادات موثوقة حول الأعراض الجديدة، أو الحالة الحالية التي تعاني منها، أو ما إذا كنت بحاجة إلى رعاية طارئة.

وقد وجدت دراسة نشرت في مجلة Nutrients، أن روبوتات الدردشة الشهيرة مثل Gemini و Microsoft Copilot و ChatGPT، يمكن أن تولد خطط وجبات مناسبة لفقدان الوزن، لكنها تفشل في موازنة المغذيات الكبيرة، بما في ذلك الكربوهيدرات، والبروتينات، والدهون، والأحماض الدهنية2.

وبخصوص هل هناك طريقة آمنة لاستخدام أدوات الذكاء الاصطناعي للصحة؟ أشار خبراء إلى أن روبوتات الذكاء الاصطناعي التوليدية، لا تغطيها حماية الخصوصية الصحية مثل HIPAA في الوقت الحالي، لذا يُنصح بعدم إدخال المعلومات الصحية الشخصية، إذ يمكن أن ينتهي الأمر بتلك المعلومات في أي مكان.، كما يُنصح أيضا في حال تصفح ملخصات الذكاء الاصطناعي على محرك غوغل، بالتحقق مما إذا كانت المعلومات، مصدرها مجلة علمية معروفة أو منظمة طبية. والتحقق أيضا من تاريخ المعلومات لمعرفة آخر تحديث لها.

ويحث هؤلاء الخبراء الناس على الاستمرار في زيارة أطبائهم إذا كانوا يعانون من أعراض جديدة، وأن يكونوا صريحين بشأن المعلومات التي تم العثور عليها من خلال روبوت الدردشة، وأي إجراء اتخذوه، زيادة على مشاركة المعلومات من الذكاء الاصطناعي مع أطبائهم، وطرح الأسئلة من قبيل: هل هذا دقيق؟ هل ينطبق على حالتي؟ وإذا لم يكن كذلك، فلماذا لا؟ يمكنك أيضا سؤال هؤلاء الأطباء عما إذا كانت هناك أي أداة صحية الذكاء الاصطناعي التي يثقون بها.