خبراء Future of Life Institute يرون أن ممارسات شركات الذكاء الاصطناعي لا تزال أدنى من المعايير العالمية رغم النمو السريع

من هو المعهد وما هو «مؤشر سلامة الذكاء الاصطناعي»؟

معهد Future of Life Institute هو هيئة بحثية مستقلة تُعنى بدراسة المخاطر المحتملة الناتجة عن تكنولوجيا الذكاء الاصطناعي، خاصة في أبعادها الوجودية والبشرية. أطلق المعهد مؤشراً موسّعاً لتقييم مدى التزام شركات الذكاء الاصطناعي بممارسات السلامة والشفافية، عبر معايير موضوعية تغطي الحوكمة، تقييم المخاطر، إدارة الأضرار، الشفافية، إجراء تقييمات خارجية قبل نشر نماذج قوية، وخطط التعامل مع الأضرار المحتملة في الحاضر والمستقبل. التقرير الأخير يقدّم نتائج هذا المؤشر لعام 2025، ويبيّن أداء الشركات ضمن سبع فئات رئيسية، ويقيِّم ما إذا كانت الإجراءات التي اتخذتها قابلة للتطبيق وقياسها فعلياً، وليس فقط في شكل وعود أو بيانات عامة.

نتائج التقييم: القصور يفوق الالتزام

بحسب التقرير، عدد كبير من الشركات التي تم تقييمها لم يوفّوا بمعايير السلامة المطلوبة في أكثر من محور. بعض أبرز نقاط القصور:

غياب خطة ملموسة للتعامل مع مخاطر الذكاء المتقدم جداً: رغم أن بعض الشركات تتحدث عن إمكانيات مستقبلية لتطوير ذكاء عام يفوق الذكاء البشري، إلا أن المعهد لم يعثر على استراتيجيات ثابتة وواضحة للتحكم في هذه الأنظمة أو ضمان عدم انحرافها.

فجوة بين الإعلانات العامة وتنفيذ السياسات: بعض الشركات أعلنت التزامها بمعايير الأمان وعرضت وثائق وإرشادات، لكن عند التدقيق تُظهر الوثائق أنواعاً كثيرة من الشروط الغامضة، أو غياب إجراءات تنفيذ فعلي مثل تقييم مستقل أو تحقيق في حوادث سابقة.

ضعف الشفافية والإبلاغ عن الحوادث: في عدد من الحالات لم توفر الشركات ما يشير إلى وجود نظام للإبلاغ الداخلي أو خارجي عن أخطاء أو حوادث ناجمة عن استخدام نماذج الذكاء الاصطناعي كما أن بعض المؤسسات لم تكن مستعدة للإفصاح عن تفاصيل ربما تُسيئ إلى سمعتها.

تفاوت كبير بين الشركات: بعض الشركات نالت درجات “أفضل نسبياً” مقارنة بغيرها، لكنها لم تحقق ما يمكن وصفه بالأداء المثالي أو القريب من المعيار العالي. في المقابل، شركات ناشئة أو من خارج الدول الكبرى جاءت في أدنى الدرجات، غالباً بسبب غياب حوكمة واضحة أو سياسات سلامة أساسية.

خلاصة: التوازن بين الابتكار والمسؤولية

الذكاء الاصطناعي يعد من أهم محركات التحوّل التكنولوجي في عصرنا، وقد يفتح آفاقاً واسعة في الطب والتعليم والصناعة وغيرها. لكن كما هو واضح من تقييم معهد Future of Life Institute، الابتكار وحده لا يكفي. إذا لم يصاحبه إطار قوي للسلامة، شفافية، ومسؤولية، فإن ما يمكن أن يكون نفعاً جباراً قد يصبح مصدر مخاطر كبيرة.