باحثون يكشفون إشارات جديدة تكشف هلاوس روبوتات الدردشة الذكية وتطرح تساؤلات حول حدود قدرة الذكاء الاصطناعي

إشارات جديدة تكشف "هلاوس" روبوتات الدردشة وتثير تساؤلات حول حدود الذكاء الاصطناعي

مع التقدم المتسارع في تقنيات الذكاء الاصطناعي التوليدي، برزت ظاهرة مٹيرة للقلق بين الخبراء والمستخدمين على حد سواء، وهي ما يعرف بـ"هلاوس" روبوتات الدردشة الذكية. هذه الظاهرة تظهر عندما تقدم النماذج اللغوية إجابات تبدو صحيحة وموثوقة، لكنها في الواقع غير دقيقة أو غير موجودة على الإطلاق. وما يجعل الموضوع أكثر تعقيدًا هو أن الهلاوس ليست مجرد أخطاء عابرة، بل قد تكشف عن حدود جوهرية في قدرة الذكاء الاصطناعي على فهم الواقع وتمييز الحقيقة من الخيال.

الهلاوس: ظاهرة أكثر من مجرد خطأ تقني

مصطلح "الهلاوس" في عالم الذكاء الاصطناعي يشير إلى المخرجات التي يولدها النموذج والتي تُقنع المستخدم بصحتها، رغم أنها في الحقيقة مضللة أو خاطئة. يمكن أن تكون هذه الهلاوس عبارة عن معلومات زائفة، توصيفات غير دقيقة، أو حتى اختلاق أحداث وشخصيات، وكلها تقدم بطريقة تبدو عقلانية ولغة سليمة. هذه الظاهرة لم تعد مقتصرة على نماذج معينة، بل تمتد عبر منصات متعددة مثل ChatGPT وGoogle Bard وClaude.

ولا يقتصر خطړ هذه الهلاوس على كونها مجرد أخطاء لغوية أو معلوماتية؛ إذ يمكن أن تؤثر بشكل مباشر على المستخدمين، خاصة إذا اعتمدوا على هذه المعلومات في القرارات اليومية أو العلمية أو المهنية، ما يزيد من خطۏرة قبول المعلومات الزائفة على أنها حقيقة.

البحث العلمي يكشف إشارات الهلاوس

في خطوة متقدمة، كشف باحثون عن أساليب جديدة لرصد الهلاوس قبل أن تصل إلى المستخدم النهائي. هذه الأساليب تعتمد على الإشارات الداخلية للنموذج نفسه، بدلاً من مقارنتها ببيانات خارجية للتحقق من صحتها. من خلال تحليل الثقة التي يمنحها النموذج لكل جزء من النص، يمكن تحديد الجمل الأكثر عرضة لأن تكون "هلاوس"، ما يمنح الباحثين والمطورين أداة للتنبيه قبل وصول الخطأ إلى المستخدم.

هذا النهج الجديد يمثل نقلة نوعية، إذ يمكنه أن يوفر طريقة فورية لتقييم موثوقية المخرجات، ويساعد على تحسين تجارب المستخدم وتقليل مخاطر الاعتماد على المعلومات غير الدقيقة. كما أنه يعكس تفكير الباحثين في كيفية جعل الأنظمة أكثر شفافية ووعيًا بحدود قدراتها.

تفاعل الإنسان مع الذكاء الاصطناعي

لا يقتصر الأمر على التكنولوجيا وحدها، بل يتداخل أيضًا العنصر البشري. فقد أظهرت الدراسات أن المستخدمين يميلون إلى الثقة بالنصوص التي يولدها الذكاء الاصطناعي، حتى عندما تكون غير صحيحة. هذا ما يطلق عليه بعض الخبراء "مفارقة الثقة"، حيث يصبح المستخدم أكثر عرضة لقبول الهلاوس على أنها حقائق بمجرد أن تأتي من مصدر ذكي اصطناعي.

وهذا الأمر يسلط الضوء على تحدٍ مزدوج: ليس فقط على مستوى دقة المعلومات التي يولدها الذكاء الاصطناعي، بل أيضًا على مستوى الوعي البشري بأهمية التحقق المستمر وعدم الثقة العمياء بالنماذج.

إن استخدام الإشارات الداخلية للنماذج للكشف عن الهلاوس يمثل نقلة نوعية في التعامل مع الذكاء الاصطناعي، ويشير إلى أن المستقبل سيكون مرتبطًا ليس فقط بتطوير أنظمة أكثر ذكاءً، بل أيضًا أكثر وعيًا بحدود قدراتها، وأكثر شفافية في عرض المعلومات.