هذا ما يحصل عندما يراقب الذكاء الاصطناعي أداء الموظفين.. تزداد الشكاوى ويسوء الأداء

يمكن للمؤسسات التي تستخدم الذكاء الاصطناعي لمراقبة سلوك الموظفين وإنتاجيتهم أن تتوقع منهم أن يشتكوا أكثر، وأن يكونوا أقل إنتاجية، ويرغبوا في الاستقالة أكثر، ما لم يتم تأطير التكنولوجيا، وذلك وفق ما توصّلت إليه أبحاث في جامعة كورنيل، بحسب الباحث جيمس دين.

ووفقا للبحث نفسه، فإن أدوات المراقبة، التي يتم استخدامها بشكل متزايد لتتبع وتحليل النشاط البدني، وتعبيرات الوجه، والنبرة الصوتية والتواصل اللفظي والكتابي، تجعل الناس يشعرون بفقدان أكبر للاستقلالية مقارنة بالرقابة من قبل البشر.

يقول الباحثون، إن "الشركات والمنظمات الأخرى التي تستخدم التقنيات سريعة التغيّر لتقييم ما إذا كان الأشخاص يتراخون أو يعاملون العملاء بشكل جيد، أو يحتمل تورطهم في الغش أو أي مخالفات أخرى، يجب أن تأخذ في الاعتبار عواقبها غير المقصودة، التي قد تؤدي إلى المقاومة، وتضر بالأداء".

واقترح عدد من الباحثين ما وصفوه بـ"فرصة لكسب التأييد، إذا شعر الأشخاص الخاضعون للمراقبة أن الأدوات موجودة لمساعدتهم بدلا من الحكم على أدائهم؛ في تقييمات يخشون أنها سوف تفتقر إلى السياق والدقة".

وقالت إميلي زيتيك، وهي الأستاذة المشاركة في السلوك التنظيمي في كلية ILR في جامعة كورنيل: "عندما يتم تطبيق الذكاء الاصطناعي والتقنيات المتقدمة الأخرى لأغراض تنموية، فإن الناس يحبّون أن يتعلموا منه ويحسنوا أدائهم. تحدث المشكلة عندما يشعرون أن التقييم يحدث تلقائيا، مباشرة من البيانات، ولا يكونون قادرين على وضعه في سياقه بأي شكل من الأشكال".

شاركت زيتيك في تأليف دراسة "المراقبة الخوارزمية مقابل المراقبة البشرية تؤدي إلى تصورات أقل للاستقلالية وزيادة المقاومة"، التي نُشرت في 6 حزيران/ يونيو في مجلة Communications Psychology. راشيل شلوند، دكتوراه '24، هي المؤلف الأول.

وتشير إلى أن المراقبة الخوارزمية تسبّبت بالفعل في ردود فعل عكسية. خلال عام 2020، حيث تخلّى أحد البنوك الاستثمارية بسرعة عن برنامج تجريبي لاختبار برامج الإنتاجية لمراقبة نشاط الموظفين، بما في ذلك تنبيههم إذا أخذوا فترات راحة كثيرة. وأثارت مراقبة المدارس للاختبارات الافتراضية في أثناء الوباء احتجاجات ودعاوى قضائية، حيث قال الطلاب إنهم يخشون إساءة تفسير أي حركة على أنها غش.

اظهار أخبار متعلقة

من ناحية أخرى، قد يرى الناس أن الخوارزميات أكثر كفاءة وموضوعية. وقد وجدت الأبحاث أن الناس يصبحون أكثر تقبّلا لأنظمة تتبع السلوك مثل الشارات الذكية أو الساعات الذكية عندما تقدم هذه الأنظمة تعليقاتها مباشرة، بدلا من تقديم تلك التعليقات من خلال شخص قد يشكل أحكاما سلبية حول البيانات.

إلى ذلك، في أربع تجارب شملت ما يقرب من 1200 مشارك، قامت شلوند وزيتيك بالتحقيق فيما إذا كان من المهم أن يقوم الأشخاص أو الذكاء الاصطناعي والتقنيات ذات الصلة بالمراقبة، وما إذا كان السياق الذي يُستخدم فيه لتقييم الأداء أو دعم التنمية يؤثر على التصورات.

في دراسة أولى، عندما طُلب من المشاركين أن يتذكروا ويكتبوا عن الأوقات التي تم فيها رصدهم وتقييمهم من خلال أي من نوعي المراقبة، أفاد المشاركون بأنهم يشعرون بقدر أقل من الاستقلالية في ظل الذكاء الاصطناعي، وكانوا أكثر عرضة للانخراط في "سلوكيات مقاومة".

بعد ذلك، من خلال محاكاة المراقبة في العالم الحقيقي، طلبت دراستان من المشاركين العمل كمجموعة لتبادل الأفكار حول متنزه ترفيهي، ثم توليد أفكار بشكل فردي حول جزء واحد من المتنزه. وقيل لهم إن عملهم ستتم مراقبته من قبل مساعد أبحاث أو الذكاء الاصطناعي، ويتم تمثيل الأخير في مؤتمرات الفيديو عبر منصة "زوم" باسم "موجز تكنولوجيا الذكاء الاصطناعي".

وبعد عدة دقائق، قام المساعد البشري أو "الذكاء الاصطناعي" بنقل رسائل مفادها أن المشاركين لم يتوصلوا إلى أفكار كافية، ويجب عليهم بذل المزيد من الجهد. في الدراسات الاستقصائية التي أعقبت إحدى الدراسات، انتقد أكثر من 30 في المئة من المشاركين مراقبة الذكاء الاصطناعي، مقارنة بحوالي 7 في المئة انتقدوا المراقبة البشرية.

اظهار أخبار متعلقة

وكتب أحد المشاركين: "إن التعزيز من الذكاء الاصطناعي جعل الوضع أكثر إرهاقا وأقل إبداعا".
وبعيدا عن الشكاوى والانتقادات، وجد الباحثون أن أولئك الذين اعتقدوا أنهم يخضعون للمراقبة بواسطة الذكاء الاصطناعي، ولدوا أفكارا أقل، ما يشير إلى أداء أسوأ.

وقالت زيتيك: "على الرغم من أن المشاركين حصلوا على نفس الرسالة في كلتا الحالتين بأنهم بحاجة إلى توليد المزيد من الأفكار، فإنهم نظروا إليها بشكل مختلف عندما جاءت من الذكاء الاصطناعي بدلا من مساعد الأبحاث. لقد تسببت مراقبة الذكاء الاصطناعي في أدائهم بشكل أسوأ في دراسات متعددة."

وفي دراسة رابعة، تم إخبار المشاركين الذين تخيلوا أنهم يعملون في مركز اتصال أن البشر أو الذكاء الاصطناعي سوف يحللون عينة من مكالماتهم. بالنسبة للبعض، سيتم استخدام التحليل لتقييم أدائهم، وللآخرين، لتقديم ردود الفعل التنموية. في السيناريو التنموي، لم يعد المشاركون ينظرون إلى المراقبة الخوارزمية على أنها تنتهك استقلاليتهم أكثر، ولم يبلغوا عن نية أكبر للانسحاب.

اظهار أخبار متعلقة

تشير النتائج إلى وجود فرصة أمام المنظمات لتنفيذ المراقبة الخوارزمية بطرق يمكن أن تكسب ثقة الأشخاص بدلا من إثارة المقاومة.

وقالت زيتيك: "المنظمات التي تحاول تنفيذ هذا النوع من المراقبة بحاجة إلى التعرف على الإيجابيات والسلبيات. يجب عليهم أن يفعلوا ما في وسعهم لجعل الأمر أكثر تطورا أو التأكد من أن الناس يمكنهم إضافة السياق. إذا شعر الناس أنهم لا يتمتعون بالاستقلالية، فلن يكونوا سعداء".