أنظمة الذكاء الاصطناعي

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا" تقريرًا متخصصًا عن "التحيز في أنظمة الذكاء الاصطناعي" بهدف تسليط الضوء على التحديات التي تواجه تطوير وتبني أنظمة الذكاء الاصطناعي، في ظل توسع كثير من الدول والمنظمات والشركات العالمية في تفعيل تطبيقات الذكاء الاصطناعي بشكل مضطرد في عددٍ من القطاعات الحساسة والحيوية، وما رافق ذلك من قلق متنامٍ من تسرب التحيز إلى أنظمة الذكاء الاصطناعي، لا سيما تلك المرتبطة باتخاذ القرار.

مفهوم التحيز في الذكاء الاصطناعي وأسبابه

التحيز في الذكاء الاصطناعي هو عبارة عن ميل غير عادل أو غير مقصود في مخرجات هذه الأنظمة، وينشأ عن بيانات منحازة أو تصميم غير متوازن للخوارزميات. وقد يحدث بسبب التحيزات الإدراكية التي تؤدي إلى الانحراف عن التفكير العقلاني أو السلوك الطبيعي في اتخاذ القرار أو الحكم على الأشياء، وغالبًا ما تنبع من التصورات الذهنية أو الاختصارات العقلية التي يستخدمها العقل البشري لتبسيط وتسريع عمليات الفهم واتخاذ القرارات. كما يمكن أن ينشأ التحيز بسبب العوامل التقنية المتعلقة بتصميم وتطوير وتنفيذ أنظمة الذكاء الاصطناعي، مثل التحيز في القياس أو الخوارزميات التي قد تؤثر في عدالة ودقة النتائج.

جهود "سدايا" في الحد من التحيز

بذلت "سدايا" جهودًا كبيرة في تقليل التحيز في أنظمة الذكاء الاصطناعي، من خلال تطوير معايير أخلاقية تضمن العدالة والشفافية وعدم التمييز، مع تحسين جودة مخرجات الذكاء الاصطناعي. كما أطلقت أداة متخصصة لقياس مدى الامتثال للمعايير الأخلاقية، مما يسهم في تعزيز استخدام الذكاء الاصطناعي بشكل مسؤول وعادل.

التعاون الدولي وتعزيز الأبحاث الأخلاقية

وفي إطار التعاون الدولي، عملت "سدايا" مع المنظمات الدولية المهتمة بأخلاقيات الذكاء الاصطناعي لضمان تطبيق أفضل المعايير العالمية. وأسست المملكة، ممثلة في "سدايا"، مركزًا دوليًا لأبحاث وأخلاقيات الذكاء الاصطناعي (ICAIRE) في الرياض بالتعاون مع منظمة اليونسكو، بهدف تعزيز الأبحاث الأخلاقية في الذكاء الاصطناعي، ودراسة الحلول الممكنة لمعالجة تحديات الاستخدام الأخلاقي لهذه التقنية على المستوى الدولي.

قمم عالمية لمناقشة التحيز في الذكاء الاصطناعي

كما نظّمت "سدايا" القمة العالمية للذكاء الاصطناعي لأعوام (2021 و2022 و2024) تحت شعار "الذكاء الاصطناعي من أجل خير البشرية"، بهدف التوعية ومناقشة التحديات المرتبطة بالتحيز، وتعزيز تطبيقات عادلة وشفافة تخدم الإنسانية. ولم تقتصر "سدايا" على الجانب التنظيمي فحسب، بل اتخذت عدة تدابير عملية للحد من التحيزات، بدءًا من جمع البيانات وضمان جودتها ودقتها وتنوعها، وصولًا إلى مرحلة نشر النماذج مثل "عيناي"، ونموذج الكشف عن سرطان الثدي، ونموذج التنبؤ بخطر الإصابة بالسكتة الدماغية.

تحذيرات من أخطاء التحيز في الأنظمة الذكية

حذر التقرير من أن الخطأ البشري والتحيز وسوء التقدير يمكن أن يتسلل إلى دورة حياة بناء أنظمة الذكاء الاصطناعي، مما يؤدي إلى خلق تحيزات قد تكون مقصودة أو غير مقصودة. وهذه التحيزات قد تظهر في المراحل الأولية لصياغة المشكلة وجمع البيانات واستكشافها، أو في المراحل الحرجة كبناء النموذج والتنفيذ. إلا أن فهم مصادر التحيز وكيفية ظهوره، ووضع سياسات وإجراءات وضوابط مدروسة، يمكن أن يساعد على تجنب الكثير من هذه التحيزات وتخفيف آثارها.

مراقبة البيانات والنتائج لضمان العدالة

أشار التقرير إلى أن التحيزات قد تنشأ من البيانات المستخدمة لتدريب الأنظمة، أو الخوارزميات المستخدمة لمعالجتها، أو حتى من طريقة عرض النتائج على المستخدمين، مما قد يؤدي إلى تكريس صور نمطية سلبية تجاه بعض الفئات. لذا، دعا التقرير إلى مراقبة ومراجعة النماذج قيد التشغيل بشكل مستمر، لضمان الالتزام بالسياسات الأخلاقية المعتمدة، مما يساعد في الكشف عن التحيزات مبكرًا وتخفيفها قبل تفاقم ضررها، إضافة إلى البقاء على اطلاع دائم بالبحوث الحديثة، واختيار الموردين الملتزمين بتطوير تطبيقات ذكاء اصطناعي مسؤولة.

حلول وتوصيات لمعالجة التحيز في الذكاء الاصطناعي

قدم التقرير مجموعة من الحلول والتوصيات لمواجهة التحيز في الذكاء الاصطناعي، من بينها: تطوير خوارزميات تتبنى مبادئ الشفافية والعدالة، وتحسين جودة البيانات من خلال ضمان تنوعها وتمثيلها لجميع الفئات، وزيادة الوعي بخطورة التحيز وتأثيره على المجتمعات لتحقيق التوازن والإنصاف. كما دعا إلى وضع معايير موحدة لتسمية البيانات، لضمان الاتساق بين المسميات، والاستفادة من الأدوات الناضجة في هذا المجال، مثل اتفاقية المسميين.

أهمية تنويع فرق العمل وضمان كفاءة الأنظمة

شدد التقرير على ضرورة تنويع فرق العمل المسؤولة عن تطوير أنظمة الذكاء الاصطناعي، وصيانة البنية التحتية لهذه الأنظمة لضمان كفاءتها وحمايتها من التحيزات. كما أوصى بالتأكد من أن الأنظمة تعمل بكفاءة، واعتماد إجراءات للتخفيف من تحيز البيانات عند ملاحظتها، وضمان حماية بيانات المستفيدين، وعدم نشر التطبيقات إلا بعد مراجعتها من قبل فرق حوكمة متخصصة ومدربة على البحث عن التحيزات في جميع مراحل بناء أنظمة الذكاء الاصطناعي، والإبلاغ عن أي مخاوف عند توقعها.

"سدايا" تصدر تقريرًا حول التحيز في أنظمة الذكاء الاصطناعي

مفهوم التحيز في الذكاء الاصطناعي وأسبابه

جهود "سدايا" في الحد من التحيز

التعاون الدولي وتعزيز الأبحاث الأخلاقية

قمم عالمية لمناقشة التحيز في الذكاء الاصطناعي

تحذيرات من أخطاء التحيز في الأنظمة الذكية

مراقبة البيانات والنتائج لضمان العدالة

حلول وتوصيات لمعالجة التحيز في الذكاء الاصطناعي

أهمية تنويع فرق العمل وضمان كفاءة الأنظمة

تكنولوجيا واتصالات

تطبيقات ذكية تُعيد تشكيل تجربة الزائر في السعودية نحو سياحة رقمية متكاملة

ميزات مبتكرة من سناب شات لتسهيل إنتاج الفيديوهات دون تطبيقات خارجية

تقني يكشف خطوات سريعة لمعرفة حالة رحلتك الجوية عبر الهاتف فقط

كيف تنشئ صورتك الرمزية على واتساب؟.. دليل مبسط للمستخدمين

آبل تكشف عن مزايا iOS 26.. تصميم شفاف وثورة في الذكاء الاصطناعي

أوبو تستعد لإطلاق هاتف Oppo K13x 5G الاقتصادي.. إليك أهم مواصفاته