يثير حل Turnitin للغش في الذكاء الاصطناعي مخاوف أعضاء هيئة التدريس

عندما تم إطلاق Turnitin في عام 1998 ، وعدت الشركة الناشئة في مجال تكنولوجيا التعليم بحل واحد من أكثر التهديدات إلحاحًا للنزاهة الأكاديمية في عصر الإنترنت الوليدة: الانتحال السهل من المصادر عبر الإنترنت.

بعد خمسة وعشرين عامًا ، تحول السؤال على شفاه كل معلم في الفصل من “كيف أعرف ما إذا كان تلميذي ينسخ عمل شخص آخر؟” إلى “كيف أعرف أن هذا المقال لم يكتبه إنسان آلي؟”

تم طرح هذا السؤال بشكل متكرر ، وبشكل محموم ، منذ إصدار مارس للتطور الرابع لـ ChatGPT ، الذكاء الاصطناعي التوليدي الذي أظهر موهبة خارقة لتقليد اللغة والفكر البشريين. لقد نجح أحدث طراز بالفعل في اجتياز امتحان نقابة المحامين في أريزونا واجتاز اختبار ماجستير إدارة الأعمال في وارتون.

ستصدر Turnitin غدًا “معاينة” لأداة اكتشاف الذكاء الاصطناعي المطورة حديثًا ، Originality. من خلال القيام بذلك ، ستحاول الشركة إقناع قاعدة مشتركيها الكبيرة في التعليم العالي وما بعده بأن لديها الحل – أو على الأقل جزء أساسي من الحل – للتهديد التكنولوجي الأخير للنزاهة الأكاديمية.

كتب متحدث باسم Turnitin في رسالة بريد إلكتروني إلى داخل التعليم العالي. “يرد Turnitin على تلك المكالمة”.

لكن السرقة الأدبية والذكاء الاصطناعي التوليدي هي طيور لها ريش مختلف جذريًا. يشعر بعض أعضاء هيئة التدريس والمتخصصين في التكنولوجيا المؤسسية بالقلق بشأن سرعة طرح Turnitin ، فضلاً عن جوانب تقنية كاشف الذكاء الاصطناعي على نطاق أوسع.

“لقد بدأنا للتو في إجراء محادثات مع المدربين حول الكتابة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في سياقات متعددة ، ولكن التوفر المفاجئ وغير المتوقع لتكنولوجيا الكشف يغير بشكل كبير أسلوب وأهداف هذه المناقشات ،” ستيفن ويليامز ، مدير المنتج الرئيسي في مركز Bruin Learn من التميز في جامعة كاليفورنيا ، لوس أنجلوس ، في رسالة بريد إلكتروني إلى داخل التعليم العالي. “يعد تقديم هذه الميزة تغييرًا كبيرًا ، لكن الجدول الزمني لـ Turnitin لا يوفر وقتًا كافيًا للتحضير تقنيًا أو تربويًا.”

يقول خبراء آخرون إن وتيرة التقدم في تقنية الذكاء الاصطناعي ستجعل أي حل يتم تسويقه سريعًا عفا عليه الزمن. يخشون أن الأصالة قد تكون متأخرة بالفعل – لم يتم تدريبها على GPT-4 ، الذي تم إصداره الشهر الماضي فقط ، كما أنها ليست لديها خبرة مع Bard ، الذكاء الاصطناعي الجديد الصاخب من Google.

هذا سباق تسلح تكنولوجي. قال مايكل ميندزاك ، الأستاذ المساعد في قسم الدراسات التربوية في جامعة بروك: “تظهر التكنولوجيا ، وبالطبع تريد ed tech أن تخرج بالكشف ، وبعد ذلك سيتم تحديث GPT في غضون أشهر قليلة أخرى”. “لذا [Turnitin’s AI detector] ليس حلا حقا. إنها أكثر من مجرد فجوة مؤقتة “.

أقر متحدث باسم Turnitin بوتيرة تطور الذكاء الاصطناعي وقال إن الشركة ستعمل على تحديث Originality بشكل متكرر.

وقالوا: “تذكر أن الهدف من اكتشاف Turnitin للذكاء الاصطناعي هو إعطاء المعلمين نقطة انطلاق لإجراء محادثة”. “نتوقع أن يتطور المعلمون في تفكيرهم مع تطور هذه التكنولوجيا.”

طرح سريع ، ولا توجد طريقة للإيقاف

عندما أعلن Turnitin عن الإطلاق التجريبي لـ Originality في فبراير ، قال ويليامز إنه كان لديه على الفور مجموعة من المخاوف. وكان أهمها عدم قدرة أعضاء هيئة التدريس والمؤسسات على الانسحاب من الخدمة والسرعة التي سيتم بها تقديم الأصالة. كما أعرب عن قلقه من عدم منح الشركاء المؤسسيين الفرصة لمراجعة التكنولوجيا قبل إتاحتها لأعضاء هيئة التدريس.

كتب: “من خلال وضع هذه الميزة في بيئات التعلم لدينا ، يمكن أن يعطي بسهولة للمدرسين انطباعًا بأنه تم فحصها من قبل الحرم الجامعي لدينا”. “هذا ليس هو الحال – لم يتم منح الخصوصية والأمان وإمكانية الوصول والفرق الأخرى في الحرم الجامعي لدينا أي فرصة لمراجعة الميزة الجديدة كما نفعل مع أي خدمة جديدة لتكنولوجيا المعلومات.”

نشر مخاوفه على Canvas R1 Peers Listserv ، وهو منتدى عبر الإنترنت لمسؤولي خدمات المعلومات في جامعات الأبحاث في جميع أنحاء البلاد ، وقال إن العديد من زملائه رددوا مخاوفه.

قال متحدث باسم Turnitin إنه على الرغم من “عدم وجود خيار لإيقاف تشغيل الميزة” للغالبية العظمى من المستخدمين ، إلا أن الشركة قد استثنت “عددًا محددًا من العملاء ذوي الاحتياجات أو الظروف الفريدة”.

قال ميندزاك إن صعود الذكاء الاصطناعي التوليدي قد خلق جنونًا بجنون العظمة في التعليم العالي كان قطاع التكنولوجيا حريصًا على الانقضاض عليه. إنه يعتقد أن طرح Originality السريع لا يكون مدفوعًا بالرغبة في تقديم حل في الوقت المناسب لمشكلة ملحة ولكن بدلاً من ذلك من خلال رغبة الشركة في تلبية الطلب المتزايد في السوق قبل أن يتغلب عليها أي منافسين محتملين.

قال “الانتهازية في تكنولوجيا التعليم هي جزء كبير من هذا”. “تبحث هذه الشركات دائمًا عن طرق في المؤسسات وخلق أسواق جديدة.”

قال راهول كومار ، وهو أيضًا أستاذ مساعد في قسم الدراسات التربوية في جامعة بروك ، إنه قلق من أن اقتناص Turnitin لحصة السوق يمكن أن يكون له تأثير سلبي على قدرة التعليم العالي على التعامل بشكل مدروس مع المشكلات التي يثيرها الذكاء الاصطناعي التوليدي ، خاصةً لأعضاء هيئة التدريس غير المألوفين. مع التكنولوجيا وحريصًا على حل بسيط.

“الخوف هو أن الأساتذة الذين يعارضون أجهزة الكشف عن الذكاء الاصطناعي أيديولوجياً سوف يرفعون أيديهم ولا يستخدمون Turnitin على الإطلاق ، وبعد ذلك سيقول الآخرون فقط ،” لا داعي للقلق بشأن ذلك لأن Turnitin قال إنه جيد أم لا قال كومار ، الذي عمل أيضًا كمطور برمجيات ومسؤول أنظمة. “لا أعتقد أنه سيساعد عمليًا ، لكنه سيوفر قدرًا كبيرًا من الراحة للجامعات والراحة لبعض المعلمين. وهذا قد يستبق أي ابتكار في المناهج الدراسية لمعالجة مشكلة الذكاء الاصطناعي “.

أعرب ويليامز عن مخاوف مماثلة ، مستشهدا بخطط Turnitin لجعل الأصالة متاحة فقط للعملاء الذين لديهم اشتراك محدد بعد عام من التجربة المجانية المتاحة على نطاق واسع للمشتركين الذين يدفعون.

“يبدو أن محاولة إنشاء طلب مدرب حول هذه الميزة الآن ، مع اقتراب نظام حظر الاشتراك غير المدفوع في الأفق في أقل من عام للعديد من المؤسسات ، هو جهد غير مناسب لتسويق هذه الوظيفة للمعلمين وإنشاء الطلب الذي يجب معالجته من خلال العقود المؤسسية الموسعة ، ” هو كتب.

لم يؤكد المتحدث باسم Turnitin الجدول الزمني للإصدار الكامل لـ Originality ، لكن ويليامز قال إن الخطة الأصلية كانت للفترة التجريبية لتنتهي في يناير 2024.

الوثوق بـ “الصندوق الأسود” من Turnitin

يؤكد Turnitin أن Originality يمكنها اكتشاف 97 بالمائة من الكتابات التي تم إنشاؤها بواسطة ChatGPT و GPT-3. تقول الشركة أيضًا أن أداتها لديها معدل إيجابي كاذب منخفض جدًا – قال إريك وانج ، نائب رئيس منظمة العفو الدولية في Turnitin ، Market Insider أنه كان حوالي 1 في المائة.

كتب المتحدث باسم Turnitin: “يستخدم الذكاء الاصطناعي التوليدي نموذجًا رياضيًا لتحديد أنماط البيانات وتشفيرها ثم التنبؤ بالكلمة التي يجب أن تأتي بعد ذلك”. وهذا أيضًا سبب نجاح عملية الكشف ، لأن هذا النموذج يخلق توقيعًا إحصائيًا مميزًا يبدو مختلفًا تمامًا عما يميل البشر إلى إنشائه في كتاباتهم. يمكننا اكتشاف هذا الاختلاف “.

قال كومار إنه لا يثق تمامًا في مزاعم دقة Turnitin. بعد كل شيء ، كما قال ، لا يوجد بحث تمت مراجعته من قِبل الأقران متاحًا للجمهور حول الأصالة ، ولا توجد نظرة ثاقبة حول مدى دقته عند مواجهة ذكاء اصطناعي أكثر تعقيدًا مما تم تدريبه عليه. وفي الوقت نفسه ، حدد GPTZero – وهو كاشف آخر للذكاء الاصطناعي – مؤخرًا أن أجزاء كبيرة من دستور الولايات المتحدة تمت كتابتها على الأرجح بواسطة الذكاء الاصطناعي ، وهو أمر إيجابي كاذب واضح.

قال ويليامز إن هناك مشكلة أخرى لديه مع Originality وهي أنه على عكس أداة Turnitin الرئيسية لاكتشاف الانتحال ، فإنه لا يقدم أي دليل موضوعي على نتائجه ، فقط الاحتمالات الإحصائية. قد تدعي الأصالة أن هناك احتمالية بنسبة 95 في المائة أن يكون النص قد تم إنشاؤه بواسطة الذكاء الاصطناعي ، على سبيل المثال ، لكن مصادر تلك الخوارزمية لن تكون متاحة للجمهور ، بينما يعرض كاشف السرقة الأدبية في Turnitin المصادر التي وجد فيها أوجه تشابه مع نص الطالب.

قال ويليامز إن هذا الافتقار إلى الشفافية له آثار على استخدام الأصالة في الفصل الدراسي. وقال إنه بدون دليل موضوعي أو وصول الطلاب ، تخاطر الأداة بتمكين ثقافة عقابية تستند إلى خوارزميات مضاربة ، وهو خروج عن رسائل الشركة حول كاشف السرقة الأدبية.

“تاريخيًا ، دعم Turnitin رسالة مفادها أنه لا يجب تفسير هذه المقاطع المطابقة على الفور على أنها انتحال من قبل المعلم … [and] كتب ويليامز أن هذه الرسالة ساعدت في بناء علاقة ثقة. “طبيعة ميزة اكتشاف الذكاء الاصطناعي الجديدة تعطل هذه العلاقة.”

قال متحدث باسم Turnitin إنه لا ينبغي استخدام الأصالة بشكل عقابي وشدد على أن الأداة تهدف فقط إلى “مساعدة المعلمين” في تحديد النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو في تطوير الدروس المتعلقة به.

كتب المتحدث: “تم تصميم جميع حلول النزاهة من Turnitin لتسليط الضوء على العمل الأكاديمي الذي قد يقرر المعلم مزايا التحدث عنه مع طلابه”. “لا ينبغي أبدًا استخدام أي حل للنزاهة الأكاديمية لاتخاذ قرار فردي بشأن مسائل سوء السلوك.”

قالت آنا ميلز ، معلمة اللغة الإنجليزية في كلية مارين والتي تصف نفسها بأنها “داعية لمحو الأمية الحاسمة في مجال الذكاء الاصطناعي” ، إن وضع سياسات لكيفية التعامل مع الذكاء الاصطناعي التوليدي يعد خطوة أولى مهمة يجب على أعضاء هيئة التدريس اتخاذها قبل اعتماد أدوات اكتشاف الذكاء الاصطناعي مثل الأصالة. . لكن معظم أعضاء هيئة التدريس لم يتخذوا هذه الخطوة بعد ، وفقًا لمسح حديث أجرته مجموعة الأبحاث الأولية.

قال ميلز: “لهذا السبب يجب أن يكون حقًا شيئًا يجب عليك الاشتراك فيه”. “أعضاء هيئة التدريس الذين لا يعرفون حقًا ما هو الذكاء الاصطناعي أو لم يتحدثوا إلى فصولهم الدراسية حول هذا الموضوع – لا أعتقد أنهم مستعدون لاستخدام هذا النوع من الأدوات في تصنيف الطلاب.”

وأضافت أنه من المهم بشكل خاص إشراك الطلاب في عملية صنع السياسات ، كما فعل أحد الأساتذة في جامعة بوسطن مع فصل البيانات والمجتمع والأخلاق. السياسة التي صمموها معًا هي الآن معيار القسم ؛ قال ميلز إن هذا النوع من النهج التعاوني يمكن أن يحمي من العقاب التعسفي ويحافظ على الثقة في الفصل الدراسي.

يعتقد Mindzak أن الحل المثالي ، والأكثر حصانة من التقادم ، هو أن تكون تناظريًا تمامًا – مجرد قلم وورقة ، بالطريقة القديمة. وقال إن عدم وجود إنترنت في الفصل وعدم وجود أجهزة كمبيوتر محمولة يعني عدم استخدام الذكاء الاصطناعي أو أجهزة الكشف الخاصة به.

“هل يحتاج التعليم العالي حتى إلى تقنية التعليم؟ سأجادل لا ؛ قد أقول حتى أننا سنكون أفضل بدونه ، “قال. “لكنني أعلم أن هذا غير محتمل … إنه نوع من القطار السريع في هذه المرحلة. ربما ينبغي علينا أن نبطئ ونعود خطوة إلى الوراء ، لكن من الصعب إيقاف الجمود “.

قالت ميلز إن الذكاء الاصطناعي التوليدي لم يصنع لها حتى الآن Luddite ؛ إنها تعتقد أن أجهزة الكشف عن الذكاء الاصطناعي يمكن أن تخدم الكثير من الوظائف الخيرية ، ليس فقط لضمان النزاهة الأكاديمية ولكن أيضًا كوسيلة مساعدة لدمج الذكاء الاصطناعي في المناهج الدراسية. وأضافت أنه خارج الفصل الدراسي ، يمكن أن يكون لديهم فوائد أكثر أهمية ، مثل تحديد المعلومات المضللة الناتجة عن الذكاء الاصطناعي.

قالت: “المحادثة في الأوساط الأكاديمية تركز بشكل ضيق للغاية على عدم الأمانة الأكاديمية وعدم ربطها بالأسباب المجتمعية الأكبر التي تفسر سبب حاجتنا إلى هذا النوع من البرامج”. “بدلاً من القتال حول ما إذا كنا ندعم Turnitin ، يجب أن نركز على الحاجة المجتمعية الأوسع لتحديد نص الذكاء الاصطناعي وأهمية إنشاء معيار الشفافية هذا.”

يأمل ميلز أن تكون النسخة النهائية من الأصالة فعالة وشفافة. ما قد يعنيه ذلك بالنسبة لها هو أنه يمكن للطلاب اختبار نتائجهم الخاصة قبل التقديم ، وسيتم إجراء بحث راجعه النظراء على مدى دقته ، والأهم من ذلك ، أنه سيتم إتاحة مزيد من الوقت لأعضاء هيئة التدريس لمناقشة المشكلة بعناية مع الطلاب.

لكن في الوقت الحالي ، تفضل الانسحاب.