اضطرت شركة مايكروسوفت لسحب مشروعها الفريد “تاي” وهو عبارة عن روبوت يجيد الدردشة وتسلية مستعملي مواقع الدردشة، لكن مستعملين استدرجوا هذا الروبوت ليكتب تغريدات عنصرية وأخرى جنسية.
وكان الهدف من تصميم تاي الذي يستهدف فئة الشباب من 18 الى 24 سنة التواصل مع المستخدمين وتسليتهم من خلال الدردشة والمزاح معهم على الانترنت.
وكلما دردش المستخدم مع تاي ازداد الروبوت ذكاء بحيث يمكن ان تصبح خبرة التحادث معه خبرة مشخصنة.
وفي غضون أقل من يوم كتب الروبوت تاي على تويتر أكثر من 96 الف تغريدة نتيجة تفاعله مع البشر. ولكن مضمون عدد صغير من هذه التغريدات كان عنصريا وتحريضيا وتمييزيا على أساس الجنس.
وكان من التغريدات التي رد بها الروبوت تاي على سائليه ان المحرقة النازية ضد اليهود لم تحدث وانه يؤيد ابادة الجنس.
في النهاية سحبت مايكروسوفت الروبوت من الانترنت واصدرت بيانا قالت فيه ان الروبوت تاي الذي يستخدم الذكاء الاصطناعي هو مشروع آلة تتعلم، صُمم للتواصل مع البشر وانه تجربة اجتماعية وثقافية بقدر ما هو تجربة تكنولوجية.
وما زالت الحسابات ذات الصلة مفتوحة على تويتر ولكن الكثير من التغريدات حُذفت فيما بقي بعضها ربما لأنها تستطيع ان تستغفل حتى البشر بلغتها المبطنة.
ويبدو ان مصدر بعض الأقوال الجارحة مستخدمون عرفوا انهم يستطيعون التغرير بالروبوت تاي ليقول أي شيء بطباعة الكلمتين “كرر بعدي” ثم كتابة عبارة عنصرية يكررها الروبوت كما طُلب منه.
وعلى سبيل المثال، ان احد المستخدمين استدرج تاي الى الدفاع عن شعار منظمة عنصرية اميركية.
وكتب هذا المستخدم رأيه بما حدث قائلا ان من المتعذر استخدام برنامج للذكاء الاصطناعي يتواصل على الانترنت ويستخدم الشبكات الاجتماعية قاعدة بيانية دون ان يقول اشياء مرفوضة.
