عندما يخطئ الذكاء الاصطناعي
يمكّن الذكاء الاصطناعي الآلات من التفكير مثل البشر، على الأقل من الناحية النظرية. فيما يلي سبع حالات لم تعمل فيها الحواسيب الذكية هذه كما خُطّط لها
بقلم: إيلسا هارفي
هروب الروبوت
في عام 2016، أظهر روبوت روسي يُدعى بروموبوت آي أر 77 Promobot IR77 كيف يمكن للآلات أن تتلمس طريقها حول العالم دون مساعدة بشرية عندما صار فناناً في الهروب المستمر. فقد هرب الروبوت، الذي صمّم للتفاعل مع البشر كمرشد سياحي، من مختبره في مدينة بيرم Perm الروسية، بعد أن ترك أحد الباحثين الباب مفتوحا. تحرك الروبوت IR77 لمسافة 50 متراً عبر الطرق القريبة وتسبب في ازدحام مروري قبل نفاد بطاريته وإعادته إلى المختبر.
بعد الهروب الأولي، حاول العلماء إعادة برمجة الروبوت، لكنه استمر بالتحرك في الاتجاه نفسه نحو الباب الذي نجح في الهروب عبره. فعلى الرغم من أن الروبوت هرب في المرة الأولى لأنه لم يكن هناك ما يوقفه، إلا أن محاولات هروبه المستقبلية أظهرت أن الحاسوب استخدم ذاكرته لاستهداف المسار نفسه. أدى فشل العلماء في السيطرة على نوايا الروبوت إلى إغلاق المشروع.
أدلة مختلقة
عندما مثل رجل يدعى روبرتو ماتا Roberto Mata أمام المحكمة مع محاميه، متهماً خطوط أفيانكا الجوية Avianca Airlines بصدمه بعربة تقديم معدنية على متن طائرة، كان يفترض أن محاميه مجهزون جيداً لدعمه. ولكن المحامين استشاروا برنامج الدردشة الآلي شات جي بي تي Chat GPT الذي يعمل بالذكاء الاصطناعي للبحث في حالات مماثلة بدلاً من مصادر أكثر موثوقية. تبين أن 6 حالات عرضوها على المحكمة لإثبات أحداث وعقوبات مماثلة هي خيال محض، فقد اختلقها برنامج الدردشة الآلي. ادّعى المحامي أنه ظن أن شات جي بي تي هو محرك بحثي، وليس أداة لتوليد اللغة كما هو الحال. ويستخلص شات جي بي تي المعلومات من قاعدة بيانات عبر الإنترنت، لكنه كثيراً ما يسيء تفسير البيانات ويمكنه نقل العناصر بشكل خاطئ. بعد نظر هذه القضية أمام المحكمة، أدخلت المحكمة مرحلة جديدة في إجراءاتها، والتي يتعين فيها على المحامين الإقرار بأنه ”لن يُصاغ أي جزء من أي ملف بواسطة الذكاء الاصطناعي التوليدي“.
كرة أم رأس أصلع؟
في مباراة لكرة القدم، تُستخدم تقنية حكم الفيديو المساعد لتسجيل لقطات لحركات الكرة وتفاعلاتها، بحيث يمكن مشاهدتها مرة أخرى للتحقق من وجود خطأ أو تفاصيل مفقودة. تستخدم الكاميرات الذكاء الاصطناعي لتحديد موقع الكرة وتتبعها طوال المباراة. في عام 2020، اختبر فريق إينفيرنيس كالدونيان ثيسل Inverness Caledonian Thistle الأسكتلندي لكرة القدم الكاميرات التي يُتحكم فيها بواسطة الذكاء الاصطناعي في تغطية المباراة، لتحل محل جميع الكاميرات التي يشغلها البشر. تحدّد هذه التقنية حجم وشكل كرة القدم وتوجه الكاميرات نحوها. ولكن المشاهدين الذين تابعوا المباراة في المنزل فاتهم الكثير من الأحداث عندما أخطأ الذكاء الاصطناعي في اعتبار رأس مساعد الحكم الأصلع هو الكرة. كلما سقطت الكرة بالقرب من مساعد الحكم، ظلت الكاميرا تركز عليه بدلاً من الكرة نفسها.
تحيز التوظيف في شركة أمازون
في عام 2018، اضطرت شركة أمازون Amazon إلى التخلي عن أداة التوظيف الخاصة بها والمعتمدة على الذكاء الاصطناعي، والتي صارت متحيزة ضد توظيف النساء. لكن كيف يمكن لحاسوب أن يكتسب تفضيلاً للرجال؟ أنشئت تقنية الذكاء الاصطناعي باستخدام بيانات تعود إلى أكثر من 10 سنوات قبل استخدام الأداة. ونظراً لأن الموظفين الذكور كانوا يهيمنون على تلك الصناعة إلى حد كبير خلال تلك الفترة، فقد استخدم الذكاء الاصطناعي هذا كنموذج وسعى إلى وضع نمط مماثل. للحفاظ على نسبة الذكور نفسها إلى الإناث، فضّلت خوارزمية الذكاء الاصطناعي المرشحين الذكور. وأدت أي طلبات للتوظيف تشير إلى أن أحدهم التحق بفريق رياضي نسائي أو مدرسة للفتيات إلى تصنيفه في مرتبة أدنى. كثيراً ما أدى أي ذكر للجنس في الطلب أو أي دليل على أن الشخص أنثى إلى الرفض التلقائي. ولمنع المزيد من التفسيرات التمييزية من قبل الخوارزمية، تخلت أمازون عن استخدام تلك الأداة تماماً.
التكهن غير اللائق بالحمل
عندما نشتري سلعاً من أحد المتاجر، يحصل تجار التجزئة على معلومات حول تفضيلات كل عميل. في بعض المتاجر، مثل سلسلة متاجر التجزئة الأمريكية ”تارغت“ Target، يُمنح العملاء رقم هوية يربط بطاقة الدفع بعنوان البريد الإلكتروني الخاص بكل منهم. باستخدام هذا المزيج من المعلومات، كلما زاد عدد عمليات الشراء التي يجريها العميل، زادت المعلومات التي يمكن أن يستنتجها الذكاء الاصطناعي عنه.
كجزء من تكتيك إعلاني، وضعت متاجر ”تارغت“ قائمة تضم أكثر 25 منتجاً اشترتها النسوة الحوامل. شملت هذه المنتجات مكملات الكالسيوم والمغنيسيوم والزنك والمستحضرات غير المعطرة وكرات الصوف القطني. باستخدام بيانات الإيصالات من العملاء، أعطت خوارزمية الحاسوب المدعومة بالذكاء الاصطناعي لكل شخص ”درجة حَمْل“ Pregnancy score بناءً على عدد هذه المنتجات التي اشتراها. أرسلت قسائم الحمل من قبل بائع التجزئة إلى من حصلوا على أعلى الدرجات. تسبب هذا في انزعاج كبير ومخاوف تتعلق بالخصوصية عندما بدأت متاجر ”تارغت“ تتكهن بحالات الحمل قبل أن يدرك أفراد الأسرة ذلك.
مُسيء عبر الإنترنت
في عام 2016، أطلقت شركة مايكروسوفت حساباً لروبوت الدردشة على منصة تويتر Twitter chatbot أطلقت عليه اسم تاي Tay، والمصمّم لاستخدام تعلم الآلة Machine learning للنشر تلقائياً. للقيام بذلك، يحفظ برنامج الدردشة الآلي البيانات من الحسابات الأخرى التي تفاعلت معه ليتعلم كيفية نشر الرسائل بأنماط مماثلة. يستخدم تعلم الآلة مجموعات هائلة من البيانات – في هذه الحالة من منشورات الإنترنت، والتي يمكن تحليلها لإيجاد أنماط في العبارات أو الكلمات. كُتبت بعض البيانات مسبقاً من قبل كوميديين لمنح ”تاي“ أساساً للجمل التي يكتبها وإضفاء روح الدعابة عليها.
أخذت بقية البيانات بصورة غير مُحددة للهوية من الملفات الشخصية العمومية. وفي غضون 16 ساعة فقط، نشر برنامج الدردشة الآلي أكثر من 95,000 مرة وأظهر الجانب المعتم للإنترنت. وكان العديد من التغريدات مسيئة، بما في ذلك تعليقات عنصرية ومعادية للسامية ومعادية للنسوية. أظهر ”تاي“ مخاطر إطلاق برنامج آلي غير منضبط للدردشة. وبعد عدة أشهر، أصدرت مايكروسوفت نسخة جديدة منه، اسمتها ”زو“ Zo، والذي بُرمج لتجنب نشر أي موضوعات قد تكون مسيئة.
اصطدام تسلا
كيف فشلت المجسات الموجودة في سيارة الطراز إس Model S الذاتية القيادة من تسلا في اكتشاف شاحنة؟
في مايو 2016، عبرت شاحنة طريقاً مزدوجاً أمام سيارة تسلا من الطراز إس. لم تبطئ سيارة تسلا أو تتوقف، فقد اعتمد السائق على تقنية القيادة الآلية في السيارة لتجنب أي عوائق أو مخاطر. وقع الحادث في فلوريدا وأظهر أن تكنولوجيا الذكاء الاصطناعي لم تكن متقدمة بما يكفي لتحمل المسؤولية الكاملة عن السلامة على الطرق. وكان السائق يشاهد فيلماً، ومن ثمّ لم يكن واعياً بالخطر الذي يتكشف أمامه لتنفيذ أي تدخل بشري. وكان آخر إجراء قام به السائق قبل دقيقتين من وقوع الحادث، حيث ضبط سرعة السيارة على 74 ميلاً/ساعة عبر نظام تثبيت السرعة.
1 سائق تسلا الآلي Tesla Autopilot
توفر 8 كاميرات ومجسات رؤية بزاوية 360 درجة للعقبات المحيطة بالسيارة عند تشغيل السائق الآلي في سيارات تسلا.
2 أخذ زمام السيطرة Taking Control
على الرغم من أن السيارة مصممة للقيادة بنفسها، إلا أن الطراز S يتطلب من السائق أن يظل متيقظاً لأغراض السلامة.
إخلاء المسؤولية
لم يُستخدم الذكاء الاصطناعي
في إنتاج مجلة ”كيف تعمل الأشياء“.
بعد اصطدامها بالشاحنة، انحرفت السيارة عن جانب الطريق.
4 رؤية الكاميرا Camera Vision
لم تتمكن كاميرات تسلا من رؤية الجزء العلوي من الشاحنة الضخمة. وعندما مرت أمام السيارة، لم تتمكن الكاميرات من التمييز بين الشاحنة الخفيفة والسماء الساطعة.
