[wp_news_ticker_benaceur_short_code]

الذكاء الاصطناعي وخطورته: حين تصاب الآلة بـ”الهذيان”

الذكاء الاصطناعي وخطورته: حين تصاب الآلة بـ"الهذيان"

قد يلحظ الراكب إشارة التوقف ويصاب بالهلع عندما تُسرع السيارة التي يجلس بداخلها بدلا من التوقف. يفتح الراكب فمه ليصرخ في السائق ويطالبه بالتوقف فورا. حينها، وهو يرى قطارا مسرعا يقترب منه، يتذكر أنه لا يوجد سائق على الإطلاق. وبسرعة 125 ميلا في الساعة، يدهس القطار السيارة ذاتية القيادة ويأتي عليها وعلى من فيها.

هذا سيناريو خيالي، لكنه يسلط الضوء على عيوب حقيقية في أنظمة الذكاء الاصطناعي بشكلها الحالي. وقد شهدت السنوات القليلة الماضية أمثلة كثيرة لأخطاء وقعت فيها الآلة، حيث رأت وسمعت خلافا للواقع. مع حدوث “تشويش” يعرقل أنظمة التعرف لديها، تُصاب الآلة بحالة من “الهذيان”. وفي السيناريو الأسوأ، يمكن أن تبلغ خطورة “الهذيان” حد المثل السابق، كأن لا تعي إشارة التوقف رغم كونها بادية للعيان.

مواضيع متشابها
1 من 35

هذه الظاهرة الغريبة تحدث بسبب ما يُطلق عليه العاملون بمجال الذكاء الاصطناعي “النماذج المعاكسة” أو على نحو أكثر بساطة “الأحداث الغريبة”.

ويقول أنيش أتالي، خبير الكمبيوتر بمعهد ماساتشوستس للتكنولوجيا في كامبريدج، إن “الأمر يحدث بسبب مدخلات من المفترض أن تستقبلها الشبكة بطريقة معينة، غير أن أمرا غير متوقع يطرأ على آلية التعرف”.

التعليقات مغلقة.