انتقل إلى المحتوى

انحياز للآلة: الفرق بين النسختين

من ويكيبيديا، الموسوعة الحرة
تصفح التاريخ تفاعلياً
[نسخة منشورة][نسخة منشورة]
→ التعديل السابقالتعديل اللاحق ←
تم حذف المحتوى تمت إضافة المحتوى
مرئينص الويكي
AlaaBot (نقاش | مساهمات)
489٬032 edits
ط روبوت:تخصيص البذرة {{بذرة علم_النفس}}
This article was translated by I Believe in Science & Ideas beyond borders & Beit al Hikma 2.0
سطر 1: سطر 1:
{{مصدر|تاريخ=ديسمبر 2018}}
'''الانحياز للآلة''' أو '''التحيز الآلي''' {{إنج|Automation bias}} هو ميل الإنسان لصالح الاقتراحات التي تقدمها أنظمة صنع القرار الآلية وتجاهل المعلومات الغير آلية المناقضة لهذا المقترح حتى لو كانت صحيحة. وقد تعرضت هذه المشكلة لمزيد من التدقيق حيث أن صنع القرار في سياقات حرجة، مثل وحدات [[العناية المركزة]] و[[محطات الطاقة النووية]] و[[قمرة القيادة]] في الطائرات، أصبح يحتوي بشكل متزايد على أجهزة مراقبة [[حاسوبية]] و[[الكترونيات|أجهزة ألكترونية]] مساعِدة على اتخاذ القرار. وعادة ما تحدث أخطاء الانحياز الآلي عندما ينطوي اتخاذ القرار على درجة كبيرة من الاعتماد على الحواسيب أو الوسائل الآلية الأخرى، ويقتصر العنصر البشري إلى حد بعيد على مراقبة المهام الجارية. ويمكن أن تشمل الأمثلة في مثل هذه الحالات ليس فقط المسائل الملحة مثل الطيران بالطيار الآلي ولكن أيضا في أمر بسيطة مثل استخدام برامج التدقيق الإملائي.
'''الانحياز للآلة''' أو '''التحيز الآلي''' {{إنج|Automation bias}} هو ميل الإنسان لصالح الاقتراحات التي تقدمها أنظمة صنع القرار الآلية وتجاهل المعلومات الغير آلية المناقضة لهذا المقترح حتى لو كانت صحيحة. وقد تعرضت هذه المشكلة لمزيد من التدقيق حيث أن صنع القرار في سياقات حرجة، مثل وحدات [[العناية المركزة]] و[[محطات الطاقة النووية]] و[[قمرة القيادة]] في الطائرات، أصبح يحتوي بشكل متزايد على أجهزة مراقبة [[حاسوبية]] و[[الكترونيات|أجهزة ألكترونية]] مساعِدة على اتخاذ القرار. وعادة ما تحدث أخطاء الانحياز الآلي عندما ينطوي اتخاذ القرار على درجة كبيرة من الاعتماد على الحواسيب أو الوسائل الآلية الأخرى، ويقتصر العنصر البشري إلى حد بعيد على مراقبة المهام الجارية. ويمكن أن تشمل الأمثلة في مثل هذه الحالات ليس فقط المسائل الملحة مثل الطيران بالطيار الآلي ولكن أيضا في أمر بسيطة مثل استخدام برامج التدقيق الإملائي.


ويعرف الميل نحو الإفراط في الاعتماد على المساعدات الآلية باسم "اسائة الاستخدام الآلي".
ويعرف الميل نحو الإفراط في الاعتماد على المساعدات الآلية باسم "اسائة الاستخدام الآلي".

==عدم الاستخدام وسوء الاستخدام==
يمكن أن تؤدي ثقة المشغل في النظام أيضًا إلى تفاعلات مختلفة مع النظام، بما في ذلك استخدام النظام وإساءة الاستخدام وعدم الاستخدام.<ref>{{cite journal|last1=Parasuraman|first1=Raja|last2=Riley|first2=V|title=Humans and automation: Use, misuse, disuse, abuse.|journal=Human Factors|date=1997|volume=39|issue=2}}</ref>

يُعرف الميل نحو الإفراط في الاعتماد على المساعدات الآلية باسم "إساءة استخدام الأتمتة".<ref name=":1">Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human factors, 39(2), 230-253.</ref><ref name="international Journal of Aviation Psychology">{{cite journal|last1=Mosier|first1=Kathleen|last2=Skitka|first2=Linda|last3=Heers|first3=Susan|last4=Burdick|first4=Mark|title=Automation Bias: Decision Making and Performance in High-Tech Cockpits|journal=International Journal of Aviation Psychology|date=February 1997|volume=8|issue=1|pages=47–63|doi=10.1207/s15327108ijap0801_3|url=https://www.researchgate.net/publication/11805395|accessdate=17 January 2017|pmid=11540946}}</ref> يمكن ملاحظة سوء استخدام الأتمتة عندما يفشل المستخدم في مراقبة النظام الآلي بشكل صحيح، أو عند استخدام النظام الآلي عند عدم وجوب استخدامه. هذا على عكس الإهمال، حيث لا يستخدم المستخدم الأتمتة بشكل صحيح إما عن طريق إيقاف تشغيلها أو تجاهلها. يمكن أن يكون كل من سوء الاستخدام و عدم الاستخدام مشكلة، لكن تحيز الأتمتة مرتبط بشكل مباشر بإساءة استخدام الأتمتة إما من خلال الكثير من الثقة في قدرات النظام، أو إهمال استخدام الاستدلالات. يمكن أن يؤدي سوء الاستخدام إلى عدم مراقبة النظام الآلي أو الاتفاق الأعمى مع اقتراح الأتمتة، تصنف الأخطاء إلى نوعين، أخطاء الإغفال وأخطاء ارتكابية، على التوالي.<ref name=":0" /><ref>Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. science, 185(4157), 1124-1131.</ref><ref name=":1" />

يمكن أن يؤثر استخدام الأتمتة و عدم استخدامها على مراحل معالجة المعلومات: الحصول على المعلومات وتحليل المعلومات واتخاذ القرارات واختيار الإجراءات وتطبيق الإجراء.<ref>{{cite book|last1=Wickens|last2=Hollands|last3=Banbury|last4=Parasuraman|title=Engineering psychology & human performance.|date=2015}}</ref>

على سبيل المثال، اكتساب المعلومات، الخطوة الأولى في معالجة المعلومات، هي العملية التي يسجل بها المستخدم المدخلات عبر الحواس.<ref>{{cite book|last1=Wickens|first1=Christopher|last2=Hollands|first2=Justin|last3=Banbury|first3=Simon|last4=Parasuraman|first4=Raja|title=Engineering Psychology and Human Performance|date=2015}}</ref> قد يساعد مقياس المحرك الآلي المستخدم في الحصول على المعلومات من خلال ميزات واجهة استخدتم بسيطة - مثل تسليط الضوء على التغييرات في أداء المحرك - وبالتالي توجيه الإنتباه الانتقائي للمستخدم. عند مواجهة مشكلات من طائرة، قد يميل الطيارون إلى الوثوق بمقاييس محرك الطائرة، متجاهلين الأعطال المحتملة الأخرى غير المتعلقة بالمحرك. هذا الموقف هو شكل من أشكال أتمتة الرضا عن النفس وسوء الاستخدام. ومع ذلك، إذا كان الطيار يخصص وقتًا لتفسير مقياس المحرك، والتعامل مع الطائرة وفقًا لذلك، فقط لاكتشاف أن اضطراب الطيران لم يتغير، فقد يميل الطيار إلى تجاهل توصيات الخطأ المستقبلية التي ينقلها مقياس المحرك — شكل من أشكال بالرضا عن الأتمتة مما يؤدي إلى عدم استخدامها.

==أخطاء الاغفال و الأخطاء الارتكابية==
يمكن أن يتخذ التحيز التلقائي شكل أخطاء ارتكابية، التي تحدث عندما يتبع المستخدمون توجيهًا تلقائيًا دون مراعاة مصادر المعلومات الأخرى. على العكس من ذلك، تحدث أخطاء الإغفال عندما تفشل الأجهزة الآلية في الإكتشاف أو الإشارة إلى المشاكل ولا يلاحظ المستخدم أنها لا تراقب النظام بشكل صحيح.<ref>{{cite book|last1=Wickens|first1=Christopher|last2=Hollands|first2=Justin|last3=Banbury|first3=Simon|last4=Parasuraman|first4=Raja|title=Engineering Psychology and Human Performance|date=2015}}</ref>
ثبت أن أخطاء الإغفال ناتجة عن انخفاض اليقظة المعرفية، في حين تنجم أخطاء الارتكاب عن مزيج من الفشل في أخذ المعلومات في نظر الاعتبار والثقة المفرطة في موثوقية الوسائل الآلية.<ref name="The Journal of the Human Factors and Ergonomics Society">{{cite journal|last1=Parasuraman|first1=Raja|last2=Manzey|first2=Dietrich|title=Complacency and Bias in Human Use of Automation: An Attentional Integration|journal=The Journal of the Human Factors and Ergonomics Society|date=June 2010|volume=52|issue=3|pages=381–410|doi=10.1177/0018720810376055|pmid=21077562|url=https://www.researchgate.net/publication/47792928|accessdate=17 January 2017}}</ref> تحدث أخطاء الارتكاب لثلاثة أسباب: (1) إعادة توجيه الانتباه العلني بعيدًا عن المساعدة الآلية؛ (2) تقلص الاهتمام بالمساعدة؛ (3) التخفيض النشط للمعلومات التي تعارض توصيات المساعدة.<ref name="University of Illinois at Chicago"/> تحدث أخطاء السهو عندما يفشل صانع القرار البشري في ملاحظة فشل التشغيل الآلي، إما بسبب اليقظة المنخفضة أو الانهيار الزائد في النظام. على سبيل المثال، فإن برنامج التدقيق الإملائي الذي يميز كلمة بشكل خاطئ على أنها كلمة بها أخطاء إملائية وأن اقتراح بديل سيكون خطًأ ارتكابيًا، وبرنامج التحقق من التدقيق الإملائي الذي فشل في ملاحظة كلمة بها أخطاء إملائية سيكون خطأ في الإهمال. في هذه الحالات، يمكن ملاحظة تحيز الأتمتة من قبل مستخدم يقبل الكلمة البديلة دون الرجوع إلى قاموس، أو مستخدم لا يلاحظ الكلمة التي بها أخطاء إملائية بشكل خاطئ ويفترض أن جميع الكلمات صحيحة دون مراجعة الكلمات.

تبين أن التدريب الذي ركز على الحد من تحيز الأتمتة والمشاكل ذات الصلة يؤدي إلى خفض معدل أخطاء الارتكاب، ولكن ليس من أخطاء الإغفال.<ref name="University of Illinois at Chicago"/>

==العوامل==
إن وجود الوسائل الآلية، كما يقول أحد المصادر، "يقلل من احتمالية قيام صناع القرار ببذل الجهد المعرفي للبحث عن معلومات تشخيصية أخرى أو معالجة جميع المعلومات المتاحة بطرق معقدة إدراكياً". كما أنه يجعل المستخدمين أكثر عرضة للانتهاء من تقييمهم للموقف على عجل للغاية بعد أن يتم تلقينهم بالمساعدة التلقائية لاتخاذ إجراءات محددة.<ref name="international Journal of Aviation Psychology"/>

وفقًا لمصدر واحد، هناك ثلاثة عوامل رئيسية تؤدي إلى تحيز الأتمتة. أولاً، الميل البشري إلى اختيار النهج الادراكي الأقل لصنع القرار، والذي يسمى فرضية البخيل المعرفي. ثانياً، ميل البشر إلى رؤية المساعدات الآلية على أنها تتمتع بقدرة تحليلية تفوق قدراتهم. ثالثًا، ميل البشر إلى تقليل جهدهم عند مشاركة المهام، إما مع شخص آخر أو بمساعدة آلية.<ref name="The Journal of the Human Factors and Ergonomics Society"/>

تشمل العوامل الأخرى التي تؤدي إلى الاعتماد المفرط على الأتمتة وبالتالي إلى تحيز الأتمتة قلة الخبرة في المهمة (على الرغم من أن المستخدمين عديمي الخبرة يميلون إلى أن يستفيدوا أكثر من أنظمة دعم القرار الآلية)، ونقص الثقة في قدرات الفرد، وعدم وجود بديل متاح للمعلومات أو الرغبة في توفير الوقت والجهد في المهام المعقدة أو أعباء العمل المرتفعة.<ref name=goddard2012>{{cite journal|last1=Goddard|first1=K.|last2=Roudsari|first2=A.|last3=Wyatt|first3=J. C.|title=Automation bias: a systematic review of frequency, effect mediators, and mitigators|journal=Journal of the American Medical Informatics Association|date=2012|volume=19|issue=1|pages=121–127|doi=10.1136/amiajnl-2011-000089|pmid=21685142|pmc=3240751}}</ref><ref name="Alberdi2009">{{cite book|doi=10.1007/978-3-642-04468-7_3|chapter=Why Are People's Decisions Sometimes Worse with Computer Support?|title=Computer Safety, Reliability, and Security|volume=5775|pages=18–31|series=Lecture Notes in Computer Science|year=2009|last1=Alberdi|first1=Eugenio|last2=Strigini|first2=Lorenzo|last3=Povyakalo|first3=Andrey A.|last4=Ayton|first4=Peter|isbn=978-3-642-04467-0|publisher=Springer Berlin Heidelberg|chapter-url=http://openaccess.city.ac.uk/384/2/Alberdi-et-alSAFECOMP09.pdf}}</ref><ref name=goddard2014>{{cite journal|last1=Goddard|first1=Kate|last2=Roudsari|first2=Abdul|last3=Wyatt|first3=Jeremy C.|title=Automation bias: Empirical results assessing influencing factors|journal=International Journal of Medical Informatics|date=2014|volume=83|issue=5|pages=368–375|doi=10.1016/j.ijmedinf.2014.01.001|pmid=24581700}}</ref><ref name=":0" /> لقد ثبت أن الأشخاص الذين لديهم ثقة أكبر في قدراتهم على اتخاذ القرارات يميلون إلى أن يكونوا أقل اعتمادًا على الدعم الآلي الخارجي، بينما كان أولئك الذين لديهم ثقة أكبر في أنظمة دعم اتخاذ القرار (DSS) أكثر اعتمادًا عليها.<ref name="J Am Med Inform Association">{{cite journal|last1=Goddard|first1=Kate|last2=Roudsari|first2=Abdul|last3=Wyatt|first3=Jeremy|title=Automation bias: a systematic review of frequency, effect mediators, and mitigators|journal=J Am Med Inform Association|date=June 16, 2011|volume=19|issue=1|pages=121–127|doi=10.1136/amiajnl-2011-000089|pmc=3240751|pmid=21685142}}</ref>

===تصميم الشاشة===
وجدت إحدى الدراسات، التي نشرت في مجلة الجمعية الأمريكية للمعلوماتية الطبية، أن موقف النصائح وأهميتها على الشاشة يمكن أن يؤثر على احتمال التحيز في الأتمتة، حيث من المحتمل اتباع النصائح التي تظهر بشكل بارز، سواء كانت صحيحة أم لا، دراسة أخرى، ومع ذلك، يبدو أنها تقلل من أهمية هذا العامل.<ref name="J Am Med Inform Association"/> وفقًا لدراسة أخرى، فإن وجود قدر أكبر من التفاصيل التي تظهر على الشاشة يمكن أن يجعل المستخدمين أقل "محافظة" وبالتالي يزيد من احتمال تحيز الأتمتة.<ref name="J Am Med Inform Association"/> أظهرت إحدى الدراسات أن جعل الأفراد مسؤولين عن أدائهم أو دقة قراراتهم قلل من تحيز الأتمتة.<ref name="University of Illinois at Chicago"/>

===التوفر===
تقول إحدى الدراسات التي أجرتها ليندا سكيتكا: "توفُر الوسائل الآلية للقرارات، يمكن أحيانًا أن يغذي الميل البشري العام إلى السير في الطريق الأقل من ناحية الجهد الادراكي."<ref name="University of Illinois at Chicago"/>

===الوعي بالعملية===
وجدت إحدى الدراسات أيضًا أنه عندما يتم إطلاع المستخدمين على عملية الاستدلال المستخدمة في نظام دعم القرار، فمن المحتمل أن يقوموا بضبط اعتمادهم وفقًا لذلك، وبالتالي تقليل انحياز الأتمتة.<ref name="J Am Med Inform Association"/>

===الفريق مقابل الفرد===
أداء الوظائف من قِبل الطواقم بدلاً من الأفراد الذين يعملون بمفردهم لا يلغي بالضرورة تحيز الأتمتة.<ref name="The International Journal of Aviation Psychology">{{cite journal|last1=Mosier|first1=Kathleen|last2=Skitka|first2=Linda|last3=Dunbar|first3=Melisa|last4=McDonnell|first4=Lori|title=Aircrews and Automation Bias: The Advantages of Teamwork?|journal=The International Journal of Aviation Psychology|date=November 13, 2009|volume=11|issue=1|pages=1–14|doi=10.1207/S15327108IJAP1101_1}}</ref><ref name="Sagepub"/> أظهرت إحدى الدراسات أنه عندما فشلت الأجهزة الآلية في اكتشاف مخالفات النظام، لم تكن الفرق أكثر نجاحًا من الأفراد في الاستجابة لهذه المخالفات.<ref name="University of Illinois at Chicago"/>

===تدريب===
نجح التدريب الذي يركز على تحيز الأتمتة في مجال الطيران في الحد من أخطاء الإغفال من قبل الطيارين الطلاب.<ref name="The International Journal of Aviation Psychology"/><ref name="Sagepub"/>

===فشل الأتمتة و "الإهمال المكتسب بالتعليم"===
لقد ثبت أن فشل الأتمتة يتبعه انخفاض في ثقة المشغل، والذي ينجح بدوره في التعافي البطيء للثقة. تم وصف انخفاض الثقة بعد فشل التشغيل الآلي الأولي بأنه تأثير الفشل الأول.<ref name="The Journal of the Human Factors and Ergonomics Society"/> وعلى نفس المنوال، إذا أثبتت المساعدات الآلية موثوقية عالية مع مرور الوقت، فمن المحتمل أن تكون النتيجة مستوى مرتفع من تحيز الأتمتة. وهذا ما يسمى "الإهمال المكتسب بالتعليم".ref name="The Journal of the Human Factors and Ergonomics Society"/>

===توفير معلومات ثقة النظام===
في الحالات التي يتم فيها توفير معلومات ثقة النظام للمستخدمين، يمكن أن تصبح هذه المعلومات نفسها عاملاً في تحيز الأتمتة.

===الضغوط الخارجية===
أظهرت الدراسات أنه كلما تم ممارسة المزيد من الضغوط الخارجية على القدرة المعرفية للفرد، زاد اعتماده على الدعم الخارجي.<ref name="J Am Med Inform Association"/>

===مشاكل التعريف===
على الرغم من أن تحيز الأتمتة كان موضوع العديد من الدراسات، لا تزال هناك شكاوى من أنه لا يزال غير محدد وأن الإبلاغ عن الحوادث التي تنطوي على تحيز الأتمتة غير منهجي.<ref name="J Am Med Inform Association"/><ref name=":0">{{Cite journal|last=Lyell|first=David|last2=Coiera|first2=Enrico|date=August 2016|title=Automation bias and verification complexity: a systematic review|url=https://academic.oup.com/jamia/article/24/2/423/2631492/Automation-bias-and-verification-complexity-a|journal=Journal of the American Medical Informatics Association|volume=24|issue=2|pages=424–431|doi=10.1093/jamia/ocw105|pmid=27516495}}</ref>

قام تصنيف لدراسات تحيز الأتمتة المختلفة بتصنيف الأنواع المختلفة من المهام التي استخدمت فيها الوسائل الآلية بالإضافة إلى الوظيفة التي قدمتها المساعدات الآلية. تم تصنيف المهام التي استخدمت فيها المساعدات الآلية على أنها مهام مراقبة أو مهام تشخيصية أو مهام علاجية. أدرجت أنواع المساعدة التلقائية باسم أتمتة التنبيه، والتي تتعقب التغييرات المهمة وتنبه المستخدم، أو أتمتة دعم اتخاذ القرار، والتي قد توفر تشخيصًا أو توصية، أو التنفيذ التلقائي، حيث تؤدي المساعدات الآلية مهمة محددة.<ref name=":0" /> تعميم آثار التحيز الآلي قد يقوض تطوير حلول محددة وفعالة.

==المراجع==
{{مراجع|2}}


{{أنواع الانحياز}}
{{أنواع الانحياز}}


{{بذرة علم النفس}}


{{شريط بوابات|منطق|فلسفة|علم النفس}}
{{شريط بوابات|منطق|فلسفة|علم النفس}}

نسخة 22:28، 8 يوليو 2019

الانحياز للآلة أو التحيز الآلي (بالإنجليزية: Automation bias)‏ هو ميل الإنسان لصالح الاقتراحات التي تقدمها أنظمة صنع القرار الآلية وتجاهل المعلومات الغير آلية المناقضة لهذا المقترح حتى لو كانت صحيحة. وقد تعرضت هذه المشكلة لمزيد من التدقيق حيث أن صنع القرار في سياقات حرجة، مثل وحدات العناية المركزة ومحطات الطاقة النووية وقمرة القيادة في الطائرات، أصبح يحتوي بشكل متزايد على أجهزة مراقبة حاسوبية وأجهزة ألكترونية مساعِدة على اتخاذ القرار. وعادة ما تحدث أخطاء الانحياز الآلي عندما ينطوي اتخاذ القرار على درجة كبيرة من الاعتماد على الحواسيب أو الوسائل الآلية الأخرى، ويقتصر العنصر البشري إلى حد بعيد على مراقبة المهام الجارية. ويمكن أن تشمل الأمثلة في مثل هذه الحالات ليس فقط المسائل الملحة مثل الطيران بالطيار الآلي ولكن أيضا في أمر بسيطة مثل استخدام برامج التدقيق الإملائي.

ويعرف الميل نحو الإفراط في الاعتماد على المساعدات الآلية باسم "اسائة الاستخدام الآلي".

عدم الاستخدام وسوء الاستخدام

يمكن أن تؤدي ثقة المشغل في النظام أيضًا إلى تفاعلات مختلفة مع النظام، بما في ذلك استخدام النظام وإساءة الاستخدام وعدم الاستخدام.[1]

يُعرف الميل نحو الإفراط في الاعتماد على المساعدات الآلية باسم "إساءة استخدام الأتمتة".[2][3] يمكن ملاحظة سوء استخدام الأتمتة عندما يفشل المستخدم في مراقبة النظام الآلي بشكل صحيح، أو عند استخدام النظام الآلي عند عدم وجوب استخدامه. هذا على عكس الإهمال، حيث لا يستخدم المستخدم الأتمتة بشكل صحيح إما عن طريق إيقاف تشغيلها أو تجاهلها. يمكن أن يكون كل من سوء الاستخدام و عدم الاستخدام مشكلة، لكن تحيز الأتمتة مرتبط بشكل مباشر بإساءة استخدام الأتمتة إما من خلال الكثير من الثقة في قدرات النظام، أو إهمال استخدام الاستدلالات. يمكن أن يؤدي سوء الاستخدام إلى عدم مراقبة النظام الآلي أو الاتفاق الأعمى مع اقتراح الأتمتة، تصنف الأخطاء إلى نوعين، أخطاء الإغفال وأخطاء ارتكابية، على التوالي.[4][5][2]

يمكن أن يؤثر استخدام الأتمتة و عدم استخدامها على مراحل معالجة المعلومات: الحصول على المعلومات وتحليل المعلومات واتخاذ القرارات واختيار الإجراءات وتطبيق الإجراء.[6]

على سبيل المثال، اكتساب المعلومات، الخطوة الأولى في معالجة المعلومات، هي العملية التي يسجل بها المستخدم المدخلات عبر الحواس.[7] قد يساعد مقياس المحرك الآلي المستخدم في الحصول على المعلومات من خلال ميزات واجهة استخدتم بسيطة - مثل تسليط الضوء على التغييرات في أداء المحرك - وبالتالي توجيه الإنتباه الانتقائي للمستخدم. عند مواجهة مشكلات من طائرة، قد يميل الطيارون إلى الوثوق بمقاييس محرك الطائرة، متجاهلين الأعطال المحتملة الأخرى غير المتعلقة بالمحرك. هذا الموقف هو شكل من أشكال أتمتة الرضا عن النفس وسوء الاستخدام. ومع ذلك، إذا كان الطيار يخصص وقتًا لتفسير مقياس المحرك، والتعامل مع الطائرة وفقًا لذلك، فقط لاكتشاف أن اضطراب الطيران لم يتغير، فقد يميل الطيار إلى تجاهل توصيات الخطأ المستقبلية التي ينقلها مقياس المحرك — شكل من أشكال بالرضا عن الأتمتة مما يؤدي إلى عدم استخدامها.

أخطاء الاغفال و الأخطاء الارتكابية

يمكن أن يتخذ التحيز التلقائي شكل أخطاء ارتكابية، التي تحدث عندما يتبع المستخدمون توجيهًا تلقائيًا دون مراعاة مصادر المعلومات الأخرى. على العكس من ذلك، تحدث أخطاء الإغفال عندما تفشل الأجهزة الآلية في الإكتشاف أو الإشارة إلى المشاكل ولا يلاحظ المستخدم أنها لا تراقب النظام بشكل صحيح.[8] ثبت أن أخطاء الإغفال ناتجة عن انخفاض اليقظة المعرفية، في حين تنجم أخطاء الارتكاب عن مزيج من الفشل في أخذ المعلومات في نظر الاعتبار والثقة المفرطة في موثوقية الوسائل الآلية.[9] تحدث أخطاء الارتكاب لثلاثة أسباب: (1) إعادة توجيه الانتباه العلني بعيدًا عن المساعدة الآلية؛ (2) تقلص الاهتمام بالمساعدة؛ (3) التخفيض النشط للمعلومات التي تعارض توصيات المساعدة.[10] تحدث أخطاء السهو عندما يفشل صانع القرار البشري في ملاحظة فشل التشغيل الآلي، إما بسبب اليقظة المنخفضة أو الانهيار الزائد في النظام. على سبيل المثال، فإن برنامج التدقيق الإملائي الذي يميز كلمة بشكل خاطئ على أنها كلمة بها أخطاء إملائية وأن اقتراح بديل سيكون خطًأ ارتكابيًا، وبرنامج التحقق من التدقيق الإملائي الذي فشل في ملاحظة كلمة بها أخطاء إملائية سيكون خطأ في الإهمال. في هذه الحالات، يمكن ملاحظة تحيز الأتمتة من قبل مستخدم يقبل الكلمة البديلة دون الرجوع إلى قاموس، أو مستخدم لا يلاحظ الكلمة التي بها أخطاء إملائية بشكل خاطئ ويفترض أن جميع الكلمات صحيحة دون مراجعة الكلمات.

تبين أن التدريب الذي ركز على الحد من تحيز الأتمتة والمشاكل ذات الصلة يؤدي إلى خفض معدل أخطاء الارتكاب، ولكن ليس من أخطاء الإغفال.[10]

العوامل

إن وجود الوسائل الآلية، كما يقول أحد المصادر، "يقلل من احتمالية قيام صناع القرار ببذل الجهد المعرفي للبحث عن معلومات تشخيصية أخرى أو معالجة جميع المعلومات المتاحة بطرق معقدة إدراكياً". كما أنه يجعل المستخدمين أكثر عرضة للانتهاء من تقييمهم للموقف على عجل للغاية بعد أن يتم تلقينهم بالمساعدة التلقائية لاتخاذ إجراءات محددة.[3]

وفقًا لمصدر واحد، هناك ثلاثة عوامل رئيسية تؤدي إلى تحيز الأتمتة. أولاً، الميل البشري إلى اختيار النهج الادراكي الأقل لصنع القرار، والذي يسمى فرضية البخيل المعرفي. ثانياً، ميل البشر إلى رؤية المساعدات الآلية على أنها تتمتع بقدرة تحليلية تفوق قدراتهم. ثالثًا، ميل البشر إلى تقليل جهدهم عند مشاركة المهام، إما مع شخص آخر أو بمساعدة آلية.[9]

تشمل العوامل الأخرى التي تؤدي إلى الاعتماد المفرط على الأتمتة وبالتالي إلى تحيز الأتمتة قلة الخبرة في المهمة (على الرغم من أن المستخدمين عديمي الخبرة يميلون إلى أن يستفيدوا أكثر من أنظمة دعم القرار الآلية)، ونقص الثقة في قدرات الفرد، وعدم وجود بديل متاح للمعلومات أو الرغبة في توفير الوقت والجهد في المهام المعقدة أو أعباء العمل المرتفعة.[11][12][13][4] لقد ثبت أن الأشخاص الذين لديهم ثقة أكبر في قدراتهم على اتخاذ القرارات يميلون إلى أن يكونوا أقل اعتمادًا على الدعم الآلي الخارجي، بينما كان أولئك الذين لديهم ثقة أكبر في أنظمة دعم اتخاذ القرار (DSS) أكثر اعتمادًا عليها.[14]

تصميم الشاشة

وجدت إحدى الدراسات، التي نشرت في مجلة الجمعية الأمريكية للمعلوماتية الطبية، أن موقف النصائح وأهميتها على الشاشة يمكن أن يؤثر على احتمال التحيز في الأتمتة، حيث من المحتمل اتباع النصائح التي تظهر بشكل بارز، سواء كانت صحيحة أم لا، دراسة أخرى، ومع ذلك، يبدو أنها تقلل من أهمية هذا العامل.[14] وفقًا لدراسة أخرى، فإن وجود قدر أكبر من التفاصيل التي تظهر على الشاشة يمكن أن يجعل المستخدمين أقل "محافظة" وبالتالي يزيد من احتمال تحيز الأتمتة.[14] أظهرت إحدى الدراسات أن جعل الأفراد مسؤولين عن أدائهم أو دقة قراراتهم قلل من تحيز الأتمتة.[10]

التوفر

تقول إحدى الدراسات التي أجرتها ليندا سكيتكا: "توفُر الوسائل الآلية للقرارات، يمكن أحيانًا أن يغذي الميل البشري العام إلى السير في الطريق الأقل من ناحية الجهد الادراكي."[10]

الوعي بالعملية

وجدت إحدى الدراسات أيضًا أنه عندما يتم إطلاع المستخدمين على عملية الاستدلال المستخدمة في نظام دعم القرار، فمن المحتمل أن يقوموا بضبط اعتمادهم وفقًا لذلك، وبالتالي تقليل انحياز الأتمتة.[14]

الفريق مقابل الفرد

أداء الوظائف من قِبل الطواقم بدلاً من الأفراد الذين يعملون بمفردهم لا يلغي بالضرورة تحيز الأتمتة.[15][16] أظهرت إحدى الدراسات أنه عندما فشلت الأجهزة الآلية في اكتشاف مخالفات النظام، لم تكن الفرق أكثر نجاحًا من الأفراد في الاستجابة لهذه المخالفات.[10]

تدريب

نجح التدريب الذي يركز على تحيز الأتمتة في مجال الطيران في الحد من أخطاء الإغفال من قبل الطيارين الطلاب.[15][16]

فشل الأتمتة و "الإهمال المكتسب بالتعليم"

لقد ثبت أن فشل الأتمتة يتبعه انخفاض في ثقة المشغل، والذي ينجح بدوره في التعافي البطيء للثقة. تم وصف انخفاض الثقة بعد فشل التشغيل الآلي الأولي بأنه تأثير الفشل الأول.[9] وعلى نفس المنوال، إذا أثبتت المساعدات الآلية موثوقية عالية مع مرور الوقت، فمن المحتمل أن تكون النتيجة مستوى مرتفع من تحيز الأتمتة. وهذا ما يسمى "الإهمال المكتسب بالتعليم".ref name="The Journal of the Human Factors and Ergonomics Society"/>

توفير معلومات ثقة النظام

في الحالات التي يتم فيها توفير معلومات ثقة النظام للمستخدمين، يمكن أن تصبح هذه المعلومات نفسها عاملاً في تحيز الأتمتة.

الضغوط الخارجية

أظهرت الدراسات أنه كلما تم ممارسة المزيد من الضغوط الخارجية على القدرة المعرفية للفرد، زاد اعتماده على الدعم الخارجي.[14]

مشاكل التعريف

على الرغم من أن تحيز الأتمتة كان موضوع العديد من الدراسات، لا تزال هناك شكاوى من أنه لا يزال غير محدد وأن الإبلاغ عن الحوادث التي تنطوي على تحيز الأتمتة غير منهجي.[14][4]

قام تصنيف لدراسات تحيز الأتمتة المختلفة بتصنيف الأنواع المختلفة من المهام التي استخدمت فيها الوسائل الآلية بالإضافة إلى الوظيفة التي قدمتها المساعدات الآلية. تم تصنيف المهام التي استخدمت فيها المساعدات الآلية على أنها مهام مراقبة أو مهام تشخيصية أو مهام علاجية. أدرجت أنواع المساعدة التلقائية باسم أتمتة التنبيه، والتي تتعقب التغييرات المهمة وتنبه المستخدم، أو أتمتة دعم اتخاذ القرار، والتي قد توفر تشخيصًا أو توصية، أو التنفيذ التلقائي، حيث تؤدي المساعدات الآلية مهمة محددة.[4] تعميم آثار التحيز الآلي قد يقوض تطوير حلول محددة وفعالة.

المراجع

  1. ^ Parasuraman، Raja؛ Riley، V (1997). "Humans and automation: Use, misuse, disuse, abuse". Human Factors. ج. 39 ع. 2.
  2. ^ ا ب Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human factors, 39(2), 230-253.
  3. ^ ا ب Mosier، Kathleen؛ Skitka، Linda؛ Heers، Susan؛ Burdick، Mark (فبراير 1997). "Automation Bias: Decision Making and Performance in High-Tech Cockpits". International Journal of Aviation Psychology. ج. 8 ع. 1: 47–63. DOI:10.1207/s15327108ijap0801_3. PMID:11540946. اطلع عليه بتاريخ 2017-01-17.
  4. ^ ا ب ج د Lyell، David؛ Coiera، Enrico (أغسطس 2016). "Automation bias and verification complexity: a systematic review". Journal of the American Medical Informatics Association. ج. 24 ع. 2: 424–431. DOI:10.1093/jamia/ocw105. PMID:27516495.
  5. ^ Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. science, 185(4157), 1124-1131.
  6. ^ Wickens؛ Hollands؛ Banbury؛ Parasuraman (2015). Engineering psychology & human performance.
  7. ^ Wickens، Christopher؛ Hollands، Justin؛ Banbury، Simon؛ Parasuraman، Raja (2015). Engineering Psychology and Human Performance.
  8. ^ Wickens، Christopher؛ Hollands، Justin؛ Banbury، Simon؛ Parasuraman، Raja (2015). Engineering Psychology and Human Performance.
  9. ^ ا ب ج Parasuraman، Raja؛ Manzey، Dietrich (يونيو 2010). "Complacency and Bias in Human Use of Automation: An Attentional Integration". The Journal of the Human Factors and Ergonomics Society. ج. 52 ع. 3: 381–410. DOI:10.1177/0018720810376055. PMID:21077562. اطلع عليه بتاريخ 2017-01-17.
  10. ^ ا ب ج د ه اكتب عنوان المرجع بين علامتي الفتح <ref> والإغلاق </ref> للمرجع University of Illinois at Chicago
  11. ^ Goddard، K.؛ Roudsari، A.؛ Wyatt، J. C. (2012). "Automation bias: a systematic review of frequency, effect mediators, and mitigators". Journal of the American Medical Informatics Association. ج. 19 ع. 1: 121–127. DOI:10.1136/amiajnl-2011-000089. PMC:3240751. PMID:21685142.
  12. ^ Alberdi، Eugenio؛ Strigini، Lorenzo؛ Povyakalo، Andrey A.؛ Ayton، Peter (2009). "Why Are People's Decisions Sometimes Worse with Computer Support?" (PDF). Computer Safety, Reliability, and Security. Lecture Notes in Computer Science. Springer Berlin Heidelberg. ج. 5775. ص. 18–31. DOI:10.1007/978-3-642-04468-7_3. ISBN:978-3-642-04467-0.
  13. ^ Goddard، Kate؛ Roudsari، Abdul؛ Wyatt، Jeremy C. (2014). "Automation bias: Empirical results assessing influencing factors". International Journal of Medical Informatics. ج. 83 ع. 5: 368–375. DOI:10.1016/j.ijmedinf.2014.01.001. PMID:24581700.
  14. ^ ا ب ج د ه و Goddard، Kate؛ Roudsari، Abdul؛ Wyatt، Jeremy (16 يونيو 2011). "Automation bias: a systematic review of frequency, effect mediators, and mitigators". J Am Med Inform Association. ج. 19 ع. 1: 121–127. DOI:10.1136/amiajnl-2011-000089. PMC:3240751. PMID:21685142.
  15. ^ ا ب Mosier، Kathleen؛ Skitka، Linda؛ Dunbar، Melisa؛ McDonnell، Lori (13 نوفمبر 2009). "Aircrews and Automation Bias: The Advantages of Teamwork?". The International Journal of Aviation Psychology. ج. 11 ع. 1: 1–14. DOI:10.1207/S15327108IJAP1101_1.
  16. ^ ا ب اكتب عنوان المرجع بين علامتي الفتح <ref> والإغلاق </ref> للمرجع Sagepub


مجلوبة من «https://ar.wikipedia.org/w/index.php?title=انحياز_للآلة&oldid=36627175»