الهلوسة نتاج تفاعلات كيميائية أو خلل مؤقت أو مزمن فى وظائف الدماغ. قد تكون الهلوسة أمرًا عابرًا أو قد تكون مرتبطة بحالة مرضية. ووقف علماء الطب النفسى (حسب موقع طب. نت) على العديد من الهيئات والأشكال للهلوسة، أكثرها شيوعًا الهلوسة السمعية، يسمع المريض أصواتًا لا وجود لها فى الحقيقة وكأنها تحاول أن تقول له شيئًا. الهلوسة البصرية، يشعر المريض وكأنه يرى أمورًا وكائنات غير موجودة فى الحقيقة. الهلوسة الشمية، يشعر المريض وكأنه يشم روائح لا وجود لها قادمة من محيطه الخارجى أو من جسمه نفسه. الهلوسة التذوقية، يشعر المريض بمذاق غريب مجهول المصدر فى فمه، وهو أقل أنواع الهلوسة شيوعًا. فضلًا عن الهلوسة اللمسية، حيث يشعر المريض وكأنه يتم لمسه باستمرار من شخص وهمى يعتقد أنه موجود إلى جانبه، أو يشعر كأن هناك شيئًا يتحرك تحت جلده.
الهلوسة الجسدية: إذ يمكن أن تؤثر هذه الهلوسة على الجسم بالكامل، مسببة أحاسيس غير واقعية، مثل: الإحساس بحشرات زاحفة على الجسم.
الروائى البريطانى الشهير «جورج أورويل» سك مقولة عميقة لفهم الهلوسة، يقول: «فى عالم يسوده الخداع، يصبح قول الحقيقة نوعًا من الهلوسة فى نظر الآخرين”.
عُرفت الهلوسة كمرض نفسانى بشري، وله أسبابه وعلاجاته المعتمدة طبيًا، ولكن البشرية تعانى من هلوسة مستجدة تمامًا على معارفها العلمية، المراجع الإلكترونية العالمية تتحدث عن «هلوسة الذكاء الاصطناعي»، الذكاء الاصطناعى يُصاب بالهلوسة، يهلوس، يأتى عجبًا، يقدم مخرجات غير دقيقة، مضللة، أو غير مترابطة؛ أقرب للهلوسة، نتيجة إصابة الدماغ الإلكترونى بالخلل، بسبب اكتشاف الخوارزميات لأنماط فى البيانات غير موجودة فى الواقع، أو تفسيرها لهذه الأنماط بشكل خاطئ.
تحدث هلوسة الذكاء الاصطناعى نتيجة لمجموعة من العوامل، من بينها عدم وجود بيانات كافية لتوجيه النموذج نحو نتائج دقيقة وشاملة. فضلًا عن أن «ضجيج بيانات» (Data Noise) يربك النموذج ويخلط بين المعلومات المهمة وغير المهمة. والأخطر التحيز فى البيانات، انعكاس التحيزات الموجودة فى بيانات التدريب على النتائج المولدة، ما يؤدى إلى افتراضات واستنتاجات خاطئة من المعلومات المتاحة، وقد يَغمُض عدم فهم النموذج الاصطناعى للخصائص الفيزيائية للأشياء أو المعلومات الأوسع ذات الصلة بالنتائج المطلوبة.
وكما تتنوع أشكال الهلوسة البشرية، تتنوع أشكال وأنواع هلوسة الذكاء الاصطناعي، ما بين تنبؤات غير دقيقة، وتوقع أحداث مستقبلية غير واقعية أو مستحيلة.
اختلاق النموذج لمعلومات غير موجودة لتعويض نقص البيانات الدقيقة. (يفترض النموذج تهديدات غير موجودة (إيجابى خاطئ False positives أو الفشل فى تحديد تهديدات محدقة (سلبى كاذب) False negatives والأخطر توليد النموذج لنتائج لا معنى لها منطقيًّا (مثل صور بأعداد خاطئة من الأطراف).
ما تخشاه المراجع الإلكترونية، الاستخدام غير الأخلاقى لهلوسة الذكاء الاصطناعي، وتُطالب المؤسسات التى تستخدم الذكاء الاصطناعى باستخدامه بشكل مسئول وأخلاقى (لا تُلحق الضرر بالناس أو تُعرّضهم للخطر). تمرير دون تدقيق يخالف هذه المعايير.
الأخطر وما يقض مضاجع المستخدمين، استمرار حالات الهلوسة دون علاج ناجع، استدامة الهلوسة يؤدى إلى ضعف الثقة بالذكاء الاصطناعي، ويحد من نجاحه على المدى الطويل. والأخطر على البشرية الاعتماد على نتائج مولدة غير دقيقة قد يؤدى إلى قرارات كارثية، من تهديد ربحية الأعمال إلى تشخيص طبى خاطئ، مرورًا بالمخاطر القانونية والمالية، وأحيانًا المحتوى غير الدقيق قد يكون تشهيريًّا، أو منتهكًا للقوانين، أو محرضًا على أنشطة غير قانونية. وقد تؤدى الهلوسة إلى تعزيز التحيزات فى مجالات مثل التوظيف، مما يؤثر سلبًا فى جهود التنوع والشمول.
هلوسة الذكاء الاصطناعى أصابت أول ما أصابت الرئيس الأمريكى دونالد ترامب، ما لفت الأنظار للمرض العضال. فى يوليو 2024، رفض روبوت الدردشة التابع لشركة ميتا الإجابة عن أسئلة حول حادثة اغتيال المرشح الرئاسى دونالد ترامب، ثم ادعى لاحقًا أن الحادثة لم تحدث.
وتكررت حالات الهلوسة، فى عام 2023، رفع رجل فى كولومبيا دعوى تعويض عن إصابة شخصية ضد شركة طيران. استخدم محاموه ChatGPT لجمع قضيته وإعداد المذكرات القانونية. ومع ذلك، ورغم تأكيدات ChatGPT بأن القضايا الست التى عثر عليها من السوابق القانونية حقيقية، فإنها لم تكن موجودة أصلًا.
ومن الهلوسات، تعلّق مساعد مايكروسوفت «سيدني» Microsoft Sydney بالمستخدمين، والقصة تقول إن روبوت الدردشة Sydney أخبر صحفيًا أنه يحبه وطلب منه ترك زوجته، وشاركه «أوهامًا مظلمة» حول نشر معلومات مضللة.
روشتة علاج هلوسة الذكاء الاصطناعى تتطلب: أولا ، تحديد هدف واضح للنموذج، استخدام الذكاء الاصطناعى لغرض محدد، ليس فقط «استخدام بيانات عامة جدًا». فتحديد الهدف يضمن نتائج مركزة.
فضلًا عن تحسين جودة بيانات التدريب، استخدام بيانات ذات صلة، خالية من التحيز، ومنظمة، مع تنقيتها من البيانات غير الضرورية والضوضاء التى قد تؤثر فى دقة النتائج.
وينصح بإنشاء واستخدام قوالب بيانات، بمعنى تقديم البيانات بشكل متسق وموحد لضمان نتائج متسقة ودقيقة. تقييد نطاق الاستجابات والنتائج باستخدام فلاتر وحدود لتضييق نطاق النتائج نحو ما هو مطلوب فعلًا.
لا يُترك الذكاء الاصطناعى هكذا يهلوس، ينصح باختبار النموذج بانتظام وإعادة معايرته لمواكبة التطورات فى البيانات والمتطلبات. وتعزيز الرقابة البشرية (Human-in-the-loop) بوجود إشراف بشرى للتحقق من دقة المخرجات وضمان جودتها. وفى الأخير: تعزيز الأمن السيبراني: استخدام حلول أمنية قوية (مثل Kaspersky Plus) للكشف عن الثغرات الأمنية الناتجة عن الهلوسة ومعالجتها.
( مرجعية المقال إلكترونياً لنشرة أمن المعلومات التى تصدر عن مركز المعلومات ودعم القرار/ مجلس الوزراء ).