لقد ضغطنا القراء مرارًا وتكرارًا على عدم استخدام الذكاء الاصطناعي لأن إخراجها غير موثوق به. على سبيل المثال ، تمكن المعلق من نشر تعريف تم إنشاؤه من الذكاء الاصطناعى الواجب الائتماني. لقد فاته الجانب الحاسم الذي أن الواجب الائتماني هو أعلى مستوى للرعاية بموجب القانون ويتطلب من الوكيل وضع مصلحة المدير قبله. إذا لم تتمكن AI من الحصول على شيء أساسي للغاية ، ومناقشته على نطاق واسع ، وليس من الصعب الحصول على صواب ، كيف يمكن الوثوق به فقط أي موضوع؟
وهذا قبل العوملة في أن الذكاء الاصطناعى يجعل المستخدمين العاديين ينحدرون. أو أن سام التمان حذر: ما تشاركه مع chatgpt يمكن استخدامه ضدك.
إذا كنت لا تزال مستكشفًا لدرجة أنك تستخدم Google للبحث وجعلها تلتصق بنتائج بحث AI في وجهك ، فهذه غير موثوق بها أيضًا. لا يمكن حتى تجميع مصادر الأخبار بشكل صحيح. من ARS Technica:
تجد دراسة جديدة من مركز السحب للصحافة الرقمية في كولومبيا للصحافة ، مشكلات دقة خطيرة مع نماذج الذكاء الاصطناعى التوليدي المستخدمة في عمليات البحث عن الأخبار. قام الباحثون باختبار ثماني أدوات بحث مدفوعة من AI من خلال توفير مقتطفات مباشرة من مقالات إخبارية حقيقية وطلب من النماذج تحديد العنوان الأصلي لكل مقالة ، وناشر ، وتاريخ النشر ، وعنوان URL. اكتشفوا أن نماذج الذكاء الاصطناعى استشهدت بشكل غير صحيح في مصادر في أكثر من 60 في المائة من هذه الاستفسارات ، مما يثير مخاوف كبيرة بشأن موثوقيتها في إسناد محتوى الأخبار بشكل صحيح.
حصلنا على مثال آخر عبر البريد الإلكتروني من اتصال شخصي في جنوب شرق آسيا. لقد علمها في الجامعات أرنب والمملكة المتحدة. كما أنه مخترع ولديه شركة في المملكة المتحدة مع أكثر من 40 موظفًا على أساس أحد إبداعاته. يعمل الآن على جهازين آخرين ولديه براءة اختراع صادرة على أحدهما. لقد أظهر لي نموذجًا مبكرًا لأحد المغناطيس المخصص الفائق الذي كان يلقحه لجعله يعمل بشكل أفضل. رسالته:
لقد كنت أستخدم AIS مختلفًا (ChatGpt و Deepseek و Luna) لإجراء بعض الحسابات وإيجاد معلومات عن أشياء مثل خصائص المعادن ، ثم بدأت في ملاحظة الأخطاء. لقد أشرت إلى ذلك التوحد ، لقد أشرت إلى ذلك – قال لونا “عفوًا – لا تقلق ، فسيكون ذلك على صواب هذه المرة” ، قال Chatgpt إنه من الصواب أنني مخطئ و Deepseek ورفضت التفاعل بعد الآن.
على أي حال ، استخدمت بعض الأدوات التي حصلت عليها عندما كنت في Uni لإيجاد الانتحال للعثور على مصادر البيانات والأغلبية جاءت من Reddit و Quora – والتي لا تكاد مصادر للمعلومات الدقيقة. يبدو أنه لا توجد آليات لمعرفة ما إذا كانت البيانات صحيحة ، فهي تتخلص من مواقع الويب وتأخذها كإنجيل.
خلاصة القول هي أن الكثير مما يقدمونه هو غير مرغوب فيه. يساعدنا الله إذا قال المهنيون الطبيون يعتمدون عليه. ولا يمكنني رؤية أي طريقة للخروج منها إلا عن طريق الحصول على محترفين للتحقق من البيانات وهذا مكلف للغاية.
قد يتذكر القراء النظاميون أننا سبق أن نشرنا على حقيقة أن الذكاء الاصطناعى يتم استخدامه الآن بشكل كبير في الطب و doc يصف الاستعانة بمصادر خارجية المخطط للتشخيص إلى الذكاء الاصطناعي. من منشور فبراير 2024:
سيكون هناك كاميرات والميكروفونات في غرفة الامتحان. تسجيل كل من الصوت والفيديو لكل ما يتم القيام به. ستظهر أنظمة الكمبيوتر الذكاء الاصطناعى بعد ذلك المذكرة للزيارة من Air Thin – بعد مراقبتها والاستماع إليها إلى كل شيء في الغرفة. يرجى ملاحظة – أعتقد أن كل واحدة من هذه الأنظمة تتم من خلال خدمات الويب الشاسعة مثل AWS. هذا يعني أن زيارتك ومناقشاتك الخاصة مع طبيبك سيتم تفجيرها في جميع أنحاء الإنترنت. أنا لا أحب هذه الفكرة على الإطلاق. يتم بالفعل وصف هذا إلى “زيادة الكفاءة” و “تحسين الفواتير”. أفهم من أولئك الذين تم تجربتهم كأطباء ، أنه أثناء استكمال الزيارة ، سيبدأ الكمبيوتر في مطالبةك بطلب هذا الاختبار أو ذاك لأن الذكاء الاصطناعي هو أيضًا تشخيص ويشعر أن هذه الاختبارات أمر بالغ الأهمية. كما أنه لن يسمح لك بإغلاق الملاحظة حتى تتمكن من الاستعلام عن المريض حول أشياء المراقبة – أي لقاحات القولون وتنظير القولون ، حتى في زيارات أظافر الأظافر. وعلى عكس الآن عندما يمكنك فقط إيقاف تشغيل هذه الأشياء ، فهي في السيطرة والمشاهدة والاستماع إلى كل خطوة. لن يتم إكمال الملاحظة حتى تشعر أنك تناقش هذه المشكلات مع المريض والرضا أنك دفعت بقوة كافية.
أفهم أيضًا أن هناك دفعة كبيرة لبدء المهمة الشاقة المتمثلة في تولي الذكاء الاصطناعي أشياء تمامًا مثل قراءة الأشعة السينية وشرائح المسار. لا تهتم بقضايا Medicolegal مع هذا – أي هل لدى الذكاء الاصطناعى تأمين سوء التصرف؟ هل لديها رخصة طبية؟ من الذي يتحدث إليه PCP عندما تكون هناك مادة حساسة لمناقشة مع طبيب الأشعة ، كما هو الحال في الآفات الجديدة على تصوير الثدي بالأشعة السينية وما إلى ذلك؟ هل نناقش هذا مع السيد روبوتو؟ …
إن الغبطة التي يقفز بها قادة هذه المهنة إلى هذا الأمر وسرعان ما يجبرنا على ذلك جميعًا ، يعطي أحدهم شعورًا مريضًا للغاية. تجاهل كامل لأخلاقيات هذه المهنة التي يعود تاريخها إلى قرون.
قدمت IM Doc لاحقًا مثالًا رعبًا على التجزئة التي يصنعها من نسخ ملاحظات المريض. في إحدى الحالات ، اخترعت أمراضًا خطيرة متعددة لم يكن لدى المريض أبدًا وحتى صيدلية لم تكن موجودة. استخراج من رسالته:
هذا يحدث طوال الوقت مع هذه التكنولوجيا. هذا المثال صارخ إلى حد ما ، ولكن على ما يقرب من 2/3 من المخططات التي تتم معالجتها ، هناك أخطاء كبيرة ، تصنع الأشياء ، والبيانات غير الصحيحة ، وما إلى ذلك. لسوء الحظ – كما يمكنك أن ترى أنه قادر على جعل كل هذا في “دكتور” الصحيح – الكود والبناء الذي نستخدمه جميعًا ، ويمكننا أن نخبره على الفور بأنه مكتوب من قبل MD مدرب حقًا.
جاء هذا المريض بالفعل إلى المكتب لزيارة سنوية. لم يكن هناك شيء مناقشته الاهتزاز …
هذا المريض على أي ميدس غير مكملات. لا توجد وصفات – ومع ذلك ، من المفترض ناقشنا 90 يومًا من صيدلية Brewer في Bainesville. لا توجد صيدلية ولا مدينة في أي مكان هنا والتي تبدو حتى عن بُعد مثل أي منها. كشف بحث سريع عن Google عن MD Bainesville ، بعيدًا عن ما نحن فيه – ولكن بقدر ما أستطيع أن أقول أنه لا توجد صيدلية Brewer هناك – كانت الوحيدة في البلاد التي أجدها في ولاية ألاباما الريفية العميقة.
كانت الفقرة الأخيرة حرفيًا هي الجزء الوحيد من هذه الكتابة بأكملها والتي كانت دقيقة …
هذا ما أعرفه مع ذلك
1) لو وقعت هذا وذهبت في مخططه ، إذا تقدم بطلب إلى أي شيء مثل التأمين على الحياة – لكان قد تم رفضه على الفور. وهم لا يفعلون ثواني وأعذار. عندما تنتهي ، تنتهي. إذا كنت على xxx ولديك yyy – فأنت لا تحصل على أي تأمين على الحياة. النهاية.
2) هذا هو “توفير الوقت” آخر يستغرق في الواقع المزيد من الوقت لأولئك منا ضميري. أقضي كل أنواع الوقت في البحث عن هؤلاء يبحثون عن أخطاء حتى لا أتعامل مع مريضي ومستقبلهم. ومع ذلك ، يمكنني أن أضمن لك ذلك صعبًا كما أحاول – لقد واجهت الأخطاء. علاوة على ذلك ، سيتم استخدام الذكاء الاصطناعي قريبًا لتقييم التخطيط الطبي للتأمين للأغراض الاكتوارية. فقط فكر في ما سيتم إنشاؤه.
3) تسجل هذه الأنظمة مقدار الوقت الدقيق مع المرضى. أنا أسمع من مختلف الزملاء في كل مكان يتم استخدام هذا التوقيت لضغط المستندات للحصول عليها وإخراجهم بشكل أسرع. هذا لم يحدث لي بعد – لكنني متأكد من أن الجرس سيخضع قريبًا جدًا.
4) عندما بدأت قبل 35 عامًا – تم تنفيذ ملاحظاتي معي وهي تخرج من الغرفة وتسجيل الزيارة في جهاز يدوي يديره Duracells. ثم تم نسخه من قبل سكرتير على الورق مع مختار. تم تنظيف أشرطة النسخ الورقية الفعلية تمامًا في نهاية كل يوم بواسطة النسخ. قارن استخدام الطاقة هذا بما تتطلبه هذه التكنولوجيا. علاوة على ذلك ، لدي فرصة لإعادة النظر في الملاحظات القديمة من تلك الحقبة طوال الوقت – أعرف على الفور ما حدث في زيارة المريض في عام 1987. هناك فقرة أو اثنتين وهذا هو ذلك. قارن اليوم-ستكون الملاحظة التي تم إنشاؤها من ما سبق 5-6 الصفحات الأمامية المليئة حرفيًا من Gobbledy Gook مع بيانات مهمة منتشرة في كل مكان. في معظم الأوقات ، أتخلى تمامًا عن محاولة استخدام هذه المستندات الأحدث لأي شيء مفيد. ومرة أخرى فقط فكر في الطاقة الفعلية المستخدمة لهذا الغرض.
5) هذا التسجيل يسير في مكان ما ، ولم يتم شرح هذا لي أبدًا. من لديه الوصول؟ كم من الوقت لديهم؟ هل تم محوها؟ هل وقع المرضى حقًا على هذا؟
6) هذا هو الأكثر أهمية. ليس لدي أي فكرة على الإطلاق حيث حصل النظام على هذه القصة بأكملها في مخططها. بسبب أسماء أسلوب “Frank Capra Movie” المزيفة في المستند ، لدي شعور غير مستقر للغاية من فيلم أو برنامج تلفزيوني أو رواية. هل من الممكن أن تقوم AI بسحب الأشياء “لقد سمعت” من هذه الأنواع من المصادر؟ لقد طلبت. هذه ليست المرة الأولى. لا يمكن للناس أن يخبروني أن هذا لا يحدث.
ليس لدي أي فكرة عن سبب وجود مثل هذا الدفعة للقيام بذلك – هذا مجنون. لماذا قادة مهنتي والكونغرس لدينا كل هذا هو لغز كامل.
بعد إرسال المشاهد من المخترع ، أجاب Doc:
هذا الأسبوع ، كان لدي أنا وطلاب مريض في المكتب مع كوفيد. امرأة ذات ظروف متعددة مشتركة ، مريضة للغاية في الأساس. هي على كل من الستاتين و SSRI ، وأميودارون لقضايا قلبها. هناك 3 أدوية أخرى – HCTZ ، ASA ، وأحيانًا بعض Advil للألم.
كانت الطالبة تستعد لمنحها باكسلوفيد ل covid لها. عندما واجهت حقيقة أنها تتناول 3 أدوية يتم بطلانها على الإطلاق مع Paxlovid ، والآخر الذي تم بطلانه المشروط أبلغتني أن Chatgpt أخبرتها أن جميعها على ما يرام. هذه المرأة الشابة طالبة في إحدى كليات الطب النخبة للغاية – وقالت إنها نظرت إلي وقالت “عقلك البشري يخبرك أن هذه مشكلة ، فإن الذكاء الاصطناعى لديه ملايين الوثائق التي يجب أن ننظر إليها وأخبرتني أن هذه ليست مشكلة ……. سأثق في الذكاء الاصطناعي”
قلت ، “ليس مع مريض ، أنت لا”.
يجب أن أكون صادقًا – كنت قلقًا جدًا بشأن هذا ، لم أكن أعرف حتى من أين أبدأ الطالب. أصبحت الذكاء الاصطناعى الآن رسميًا جزءًا من القشرة المخية الحديثة في دماغ الشباب. أنا على وشك التخلي عن هذا الجيل بأكمله من طلاب الطب. إنه سبب ضائع في أحسن الأحوال.
كان لدى KLG مثال أكثر دنيوية:
الفشل التافلي ولكن الحقيقي لـ AI/LLM على سؤال بسيط استخدمته كاختبار بعد القراءة عن طالبة الطب التي تحبها بعض الذكاء الاصطناعي.
استفسار: أوكلاهوما تغش على الفوز ضد أوبورن
إجابة: لا توجد تقارير أو دليل على الغش في اللعبة بين أوكلاهوما وأوبورن.في الواقع ، لدي قائمة تتضمن حوالي 20 رابطًا تثبت غش أوكلاهوما باستخدام الخطوة غير الشريفة المتمثلة في وجود جهاز استقبال واسع يتظاهر بمغادرة الملعب للحصول على بديل ثم سجل في مسرحية تمريرة لأنه لم يتم تغطيته بواسطة دفاع أوبورن. كان هذا غير قانوني ، كما هو الحال في الغش في شكل “ثعبان في مسرحية العشب” ، في كل مستوى منذ أن لعبت كرة القدم من الصف الثالث حتى المدرسة الثانوية. presearch.com منظمة العفو الدولية جاهل ، رغم ذلك.
لذلك نحن نحث القراء مرة أخرى: لا تستخدم الذكاء الاصطناعي. يرجى تثبيط الآخرين عن استخدام الذكاء الاصطناعي. تحتاج نماذج اللغة الكبيرة إلى الكثير من المحتوى لأن مجموعات التدريب لا يمكنهم فقط التمييز من حيث المحتوى ، بل إنها تتناول ناتجهم السيئ كجزء من مجموعات التدريب الخاصة بهم. إذا كنت بحاجة إلى إجابات دقيقة عن بُعد ، فأنت بحاجة إلى إلغاء الاشتراك.
