5 مخاطر للذكاء الاصطناعي يخشى من عدم ضبطها

الذكاء الاصطناعي (AI) هو أداة قوية لها القدرة على إحداث تأثيرات كبيرة، سواء كانت إيجابية أم سلبية. عندما نتناول الآثار الأخلاقية للذكاء الاصطناعي، تظهر عدة مخاطر حرجة:

1. التحيز في تصميم الذكاء الاصطناعي:

يمكن أن تظهر أنظمة الذكاء الاصطناعي تحيزًا، مما يؤدي إلى نتائج تمييزية في مجالات مثل التوظيف والإقراض وإنفاذ القانون والرعاية الصحية. ينبع هذا التحيز غالبًا من البيانات التدريبية المستخدمة. إذا كانت البيانات التاريخية محملة بالتحاملات أو تمثيل غير كافٍ للفئات المتنوعة، فقد يستمر النظام في تكريس هذه التحاملات. لمعالجة هذا، يمكن لمصممي الذكاء الاصطناعي أن يقوموا بما يلي:
– استخدام بيانات تدريب متنوعة وممثلة.
– تنفيذ عمليات رياضية لاكتشاف وتقليل التحاملات.
– تطوير خوارزميات شفافة وقابلة للشرح.
– الالتزام بالمعايير الأخلاقية التي تعطي الأولوية للعدالة.
– مراقبة الأنظمة بانتظام لمراقبة التحاملات والتحسين على مر الزمن.

• أمثلة على التحيز في الذكاء الاصطناعي:

بعض أمثلة التحيز في الذكاء الاصطناعي من الحياة الواقعية:

– العنصرية المدمجة في الرعاية الصحية في الولايات المتحدة: في أكتوبر 2019، اكتشف الباحثون أن خوارزمية استخدمت على أكثر من 200 مليون شخص في مستشفيات الولايات المتحدة للتنبؤ بالمرضى الذين قد يحتاجون إلى رعاية طبية إضافية، كانت تميل بشدة إلى المرضى البيض.
– نظام COMPAS: نظام تقدير خطورة المجرمين المستخدم في القضايا الجنائية يظهر تحيزًا في توجيه العقوبات.
– خوارزمية توظيف أمازون: في عام 2018، أظهرت دراسة أن خوارزمية توظيف أمازون كانت تميل إلى تفضيل المرشحين الذكور على حساب المرشحات الإناث2.

2. خصوصية البيانات والأمان:

تخزين ومعالجة مجموعات البيانات الكبيرة يشكل مخاطر تسرب البيانات. حماية خصوصية المستخدم ضرورية، خاصة مع تزايد اعتماد الذكاء الاصطناعي.

ويمكن أن نمثل لهذه المخاطر بالآتي:

• جمع البيانات واستخدامها: تتطلب أنظمة الذكاء الاصطناعي كميات هائلة من البيانات للتدريب والتشغيل، ممّا قد يُؤدّي إلى جمع البيانات الشخصية واستخدامها دون موافقة أو علم الأفراد.
• المراقبة والتنبؤ: يمكن استخدام الذكاء الاصطناعي لمراقبة سلوك الأفراد وتنبؤ تصرفاتهم، ممّا قد يُؤدّي إلى انتهاكات للخصوصية وتقييد الحريات الفردية.
• القرصنة والهجمات الإلكترونية: قد تكون أنظمة الذكاء الاصطناعي عرضة للقرصنة والهجمات الإلكترونية، ممّا قد يُؤدّي إلى سرقة البيانات أو تعطيل الخدمات الأساسية.
• الأسلحة ذاتية التشغيل: قد يتم استخدام الذكاء الاصطناعي لتطوير أسلحة ذاتية التشغيل، ممّا قد يُؤدّي إلى مخاطر أخلاقية وقانونية كبيرة.
• فشل النظام: قد تُؤدّي أعطال أنظمة الذكاء الاصطناعي إلى عواقب وخيمة، خاصة في المجالات الحساسة مثل الرعاية الصحية والنقل.

3. المساءلة عن أخطاء الذكاء الاصطناعي:

عندما يرتكب الذكاء الاصطناعي أخطاء، يصبح تحدي تحديد المسؤولية. هناك حاجة إلى إرشادات واضحة لتحديد المسؤولية.

وعدم وجود هياكل واضحة للمساءلة يمكن أن يؤدي إلى مخاطر تشمل:

• مخاطر تشغيلية: مع تولي أنظمة الذكاء الاصطناعي المعالجة لكل شيء من تفاعلات العملاء إلى اتخاذ القرارات الاستراتيجية، يجب أن لا يكون للمساءلة هيكل غير واضح. قد يؤدي ذلك إلى مخاطر تشغيلية وقضايا قانونية وتلف في سمعة الأعمال.
• مسائل قانونية: عندما يفشل الذكاء الاصطناعي في الأداء، يصبح من الصعب تحديد المسؤولية. قد يتطلب تحديد المسؤولية خبراء قانونيين حالة بحالة. فمن العقلاني والعادل أن يكون الذكاء الاصطناعي مسؤولًا بدلاً من الأفراد.
• مسائل اقتصادية: قد يؤدي عدم المساءلة إلى تكاليف اقتصادية. على الرغم من أن الذكاء الاصطناعي يمكن أن يعزز الإنتاجية، إلا أنه قد يؤدي أيضًا إلى تجاوز الوظائف وتأثير الأعمال.

4. الآثار الاقتصادية:

كفاءة الذكاء الاصطناعي في أتمتة المهام تثير مخاوف اقتصادية. على الرغم من أنه يمكن أن يعزز الإنتاجية، إلا أنه قد يؤدي أيضًا إلى تجاوز الوظائف.

ومن الآثار الاقتصادية التي تثير الكثير من المخاوف من الانتشار الواسع للذكاء الاقتصادي نذكر الآتي:

يُمكن للذكاء الاصطناعي أن يُقدم فوائد اقتصادية هائلة، مثل زيادة الإنتاجية والكفاءة وخلق فرص عمل جديدة.

ومع ذلك، هناك أيضًا مخاطر اقتصادية محتملة مرتبطة بتطويره واستخدامه، تشمل:

• قد تحلّ أنظمة الذكاء الاصطناعي محلّ العمال في العديد من الوظائف، ممّا يُؤدّي إلى البطالة وانخفاض الأجور.
• يُمكن أن يكون التأثير أكبر على الوظائف التي تتطلب مهام متكررة وغير معقدة.
• قد تُؤدّي أنظمة الذكاء الاصطناعي إلى تفاقم عدم المساواة في الدخل والثروة.
• قد يستفيد من الذكاء الاصطناعي بشكل أساسي أصحاب المهارات العالية وأصحاب الرأسمال، بينما يفقد العمال من ذوي المهارات المنخفضة وظائفهم.
• قد تُؤدّي أنظمة الذكاء الاصطناعي إلى تركز القوة والثروة في أيدي عدد قليل من الشركات الكبيرة.
• قد يُصبح من الصعب على الشركات الصغيرة والناشئة المنافسة، ممّا يُؤدّي إلى قلة الابتكار وتراجع النمو الاقتصادي.

5. التنظيم والمعايير:

قوانين ولوائح الذكاء الاصطناعي لا تزال قيد التطور. قطاعات مثل الرعاية الصحية والمالية والتأمين تستخدم البيانات الشخصية لتقديم توصيات مخصصة. من هذه المخاطر:

• الوصول إلى البيانات: قد تُحدّد القوانين واللوائح الوصول إلى البيانات الطبية الحساسة، ممّا قد يُعيق تطوير تطبيقات الذكاء الاصطناعي للتشخيص والعلاج.
• الخصوصية: قد تُثير مخاوف الخصوصية بخصوص جمع البيانات وتحليلها مخاوف في مجال الرعاية الصحية، ممّا قد يُؤدّي إلى تردد المرضى في مشاركة معلوماتهم.
• الاستقرار المالي: قد تُشكل أنظمة الذكاء الاصطناعي مخاطر على الاستقرار المالي في حال فشلها أو تعرضها للقرصنة.
• الحماية من الاحتيال: قد تُؤدّي أنظمة الذكاء الاصطناعي إلى طرق جديدة للاحتيال وغسل الأموال، ممّا يُشكل تحديات جديدة للقطاع المالي.
• تقييم المخاطر: قد تُؤدّي أنظمة الذكاء الاصطناعي إلى تغييرات في كيفية تقييم المخاطر من قبل شركات التأمين، ممّا قد يُؤثّر على أسعار التأمين وشروطه.
  الاحتيال: قد تُؤدّي أنظمة الذكاء الاصطناعي إلى طرق جديدة للاحتيال في طلبات التأمين، ممّا يُشكل تحديات جديدة للقطاع.
• الوصول إلى التأمين: قد تُؤدّي الخوارزميات المتحيزة في أنظمة الذكاء الاصطناعي إلى تمييز ضد بعض الفئات من العملاء، ممّا يُحدّ من وصولهم إلى التأمين.

كانت هذه خمسة مخاطر استعرضناها معكم عن الذكاء الاصطناعي الذي تتنافس الشركات الكبرى العالمية اليوم في تطويره وتنفق عليه المليارات من الدولارات.