وفقًا لأحد الوالدين الذي نشر لقطات من سجل نشاط Alexa ، فإن مساعد صوت Amazon ، عندما طلب من أحد الأطفال تقديم تحدٍ ، أعطى مثالًا لتجربة مميتة بالكهرباء ، مع إخراج وصفها من سياق مقالة عشوائية. تحدث عمود Echo عن تجربة شائعة بين عشاق TikTok باستخدام عملة معدنية وشاحن لهاتف ذكي - تم الإبلاغ عن العديد من الحوادث والإصابات والحرائق بعد تنفيذها من قبل وسائل الإعلام المختلفة أكثر من مرة. على ما يبدو ، حصل الجهاز على فكرة هذا التحدي من مقال وصفه بأنه خطير ، نقلاً عن تقرير حول تحدي TikTok الحالي المزعوم.
بحسب لقطة شاشة التقطتها كريستين ليفدال ، عندما طُلب منها "عرض مهمة لي" ، أجاب إيكو ، "هذا شيء وجدته على الإنترنت." وفقًا لموقع ourcommunitynow.com ، فإن المهمة بسيطة: "أدخل شاحن الهاتف في منتصف الطريق تقريبًا في المنفذ ، ثم المس المسامير العارية بعملة واحدة".
وفي تصريح لهيئة الإذاعة البريطانية ، أكدت أمازون سلوك أليكسا قائلة: "بمجرد علمنا بهذا الخطأ ، اتخذنا إجراءات فورية لإصلاحه". غرد ليفدال أمس بأن طلب التحدي لم يعد يعمل. قام المستخدمون على الويب أيضًا باختبار الطلب مع Alexa وحصلوا على نتيجة مماثلة.
OMFG My 10 سنوات طلبت للتو من Alexa على Echo التحدي وهذا ما قالته. الموافقة المسبقة عن علم.twitter.com / HgGgrLbdS8
- كريستين ليفدال (klivdahl) 26 كانون الأول، 2021
أمازون ليست الشركة الوحيدة التي واجهت مشاكل عند تحليل محتوى الويب. في أكتوبر ، أبلغ أحد المستخدمين أن Google كانت تعرض نصيحة يحتمل أن تكون خطرة في أحد مقتطفاتها إذا كتبت "لديك نوبة ، ماذا تفعل" في Google - تم أخذ المعلومات من قسم من صفحة الويب يصف ما لا لتفعله إذا أصيب شخص ما بنوبة صرع. ومع ذلك ، فقد أبلغ المستخدمون عن مشكلات أخرى مماثلة ، بما في ذلك أحد المستخدمين الذي أبلغ أن Google تعرض نتائج انخفاض ضغط الدم الانتصابي عند البحث عن ارتفاع ضغط الدم الانتصابي ، ونشر آخر لقطة شاشة من Google تعرض نصائح رهيبة لتهدئة شخص حزين على غرار "يسعدني أنك "لا بأس" أو "لا تحزن! ابتهج!".
ملخص بحث Google مقابل الصفحة الفعلية الموافقة المسبقة عن علم.twitter.com / OJxt1FrBqh
- soft.linden (｡ • ̀ᴗ-) ✧ (soft) 16 أكتوبر 2021
لقد رأينا أيضًا تحذيرات بشأن السلوك الخطير يتصاعد لجعل المشكلة أكبر مما كانت عليه - في وقت سابق من هذا الشهر ، تم إغلاق بعض المناطق التعليمية الأمريكية بعد تقارير عن تهديدات إطلاق النار على TikTok. اتضح أن العاصفة الاجتماعية كانت بسبب حقيقة أن الناس تحدثوا عن التهديدات ، أكثر بكثير من التهديدات الموجودة بالفعل. في حالة Alexa ، اختارت الخوارزمية الجزء الوصفي من التحذير وعززته دون السياق الأصلي. على الرغم من أن الوالدين كانا موجودين للتدخل على الفور ، فمن السهل تخيل موقف لا يكون فيه هذا هو الحال والعواقب.
غردت ليفدال بأنها انتهزت الفرصة "لمناقشة أمان الإنترنت مع طفلها وعدم الوثوق بما تقرأه دون البحث والتحقق" ، وهو ما نقترح عليك القيام به أيضًا.
اقرأ أيضا: