يعمل الأكاديميون على اكتشاف ChatGPT وكتابات الذكاء الاصطناعي الأخرى

عندما يكتب البشر ، فإنهم يتركون توقيعات خفية تشير إلى أصول النثر الجسدية والعقلانية. تكون اختياراتهم للكلمات والعبارات أكثر تنوعًا من تلك التي تختارها الآلات التي تكتب. يستمد الكتاب البشريون أيضًا من الذكريات قصيرة وطويلة المدى التي تستدعي مجموعة من التجارب الحية وتعلم أساليب الكتابة الشخصية. وعلى عكس الآلات ، يكون الأشخاص عرضة لإدخال أخطاء إملائية بسيطة ، مثل وضع فاصلة في غير مكانها أو كلمة بها أخطاء إملائية. هذه الصفات تخون إنسانية النص.

لهذه الأسباب ، غالبًا ما يتم تصميم أدوات الكشف عن الكتابة بالذكاء الاصطناعي “للبحث” عن التوقيعات البشرية المختبئة في النثر. لكن صيد التوقيعات يمثل معضلة بالنسبة للمحققين الذين يحاولون التمييز بين النثر المكتوب بواسطة الإنسان والآلة.

قال ديي يانغ ، الأستاذ المساعد لعلوم الكمبيوتر في جامعة ستانفورد: “إذا كنت ذكيًا للغاية في مجال الذكاء الاصطناعي وأريد تجاوز اكتشافك ، فيمكنني إدخال أخطاء مطبعية في كتاباتي عن قصد”.

في لعبة القط والفأر هذه ، يعمل بعض علماء الكمبيوتر على جعل كتاب الذكاء الاصطناعي أكثر شبهاً بالإنسان ، بينما يعمل آخرون على تحسين أدوات الكشف. المجالات الأكاديمية تحقق تقدمًا بهذه الطريقة. لكن البعض على مسرح الذكاء الاصطناعي العالمي يقولون إن نتيجة هذه اللعبة أمر مفروغ منه.

“على المدى الطويل ، من شبه المؤكد أنه سيكون لدينا أنظمة ذكاء اصطناعي ستنتج نصًا لا يمكن تمييزه تقريبًا عن النص المكتوب بواسطة الإنسان” ، يوشوا بنجيو ، “الأب الروحي للذكاء الاصطناعي” والحائز على جائزة تورينج ، والذي غالبًا ما يشار إليه كحائز على جائزة نوبل في علوم الكمبيوتر داخل التعليم العالي في تبادل البريد الإلكتروني. بنجيو أستاذ علوم الكمبيوتر بجامعة مونتريال.

ومع ذلك ، لم يتخل المجتمع العلمي والتعليم العالي عن جهود الكشف عن الكتابة بالذكاء الاصطناعي – ويرى بنجيو أن هذه الجهود جديرة بالاهتمام. يتحفز البعض لاكتشاف عدم الأمانة في المساعي الأكاديمية. يسعى آخرون إلى حماية الخطاب العام من الاستخدامات الخبيثة لمولدات النصوص التي يمكن أن تقوض الديمقراطيات. (قد يكون لدى الرؤساء التنفيذيين لشركات التكنولوجيا التعليمية علامات الدولار في أعينهم). ولا يزال البعض الآخر مدفوعًا بأسئلة فلسفية تتعلق بما يجعل النثر بشريًا. مهما كان الدافع ، يجب على الجميع التعامل مع حقيقة واحدة:

قال يانغ: “من الصعب حقًا اكتشاف النص الذي تم إنشاؤه بواسطة الآلة أو الذكاء الاصطناعي ، خاصةً مع ChatGPT”.

“انفجار” النثر البشري

خلال العطلة الأخيرة ، توجه إدوارد تيان ، طالب في جامعة برينستون ، إلى مقهى محلي. هناك ، طور GPTZero ، وهو تطبيق يسعى إلى اكتشاف ما إذا كان قد تمت كتابة جزء من الكتابة بواسطة إنسان أو ChatGPT – وهو روبوت دردشة مدعوم بالذكاء الاصطناعي ويتفاعل مع المستخدمين بطريقة محادثة ، بما في ذلك عن طريق الإجابة على الأسئلة ، والاعتراف بأخطائه ، والتحدي الأكاذيب ورفض الطلبات غير اللائقة. استغرق جهد تيان بضعة أيام فقط ولكنه استند إلى سنوات من البحث.

يعتمد تطبيقه على سمتين للكتابة: “الحيرة” و “الاندفاع”. يقيس الارتباك درجة إرباك النثر في ChatGPT ؛ تشير درجة الحيرة العالية إلى أن ChatGPT ربما لم ينتج الكلمات. الاندفاع هو مؤشر الصورة الكبيرة الذي يرسم الحيرة بمرور الوقت.

“بالنسبة للإنسان ، يبدو الانفجار وكأنه ينتشر في كل مكان. قال تيان: “لديها طفرات مفاجئة وانفجارات مفاجئة”. “مقابل مقال كمبيوتر أو آلة ، سيبدو هذا الرسم البياني مملًا جدًا وثابتًا بمرور الوقت.”

يفترض تيان وأساتذته أن انفجار النثر المكتوب من قبل الإنسان قد يكون نتيجة للإبداع البشري والذكريات قصيرة المدى. أي أن البشر لديهم اندفاعات مفاجئة من الإبداع ، تتبعها أحيانًا فترات هدوء. في غضون ذلك ، قال تيان إن الآلات التي يمكنها الوصول إلى معلومات الإنترنت “تعرف كل شيء” أو “نوع من الثبات”.

عند إطلاق GPTZero للجمهور في 2 يناير ، توقع تيان أن يقوم بضع عشرات من الأشخاص باختباره. لكن التطبيق انتشر بسرعة. منذ صدوره ، استخدم التطبيق مئات الآلاف من الأشخاص من معظم الولايات الأمريكية وأكثر من 30 دولة.

قال تيان: “لقد كان جنونيًا تمامًا” ، مضيفًا أن العديد من أصحاب رؤوس الأموال قد تواصلوا لمناقشة تطبيقه. “الذكاء الاصطناعي التوليدي وتقنية ChatGPT مبتكرة ببراعة. في الوقت نفسه ، يشبه الأمر فتح صندوق Pandora … علينا أن نبني إجراءات وقائية حتى يتم اعتماد هذه التقنيات بمسؤولية “.

لا يريد تيان أن يستخدم المعلمون تطبيقه كأداة لفرض الصدق الأكاديمي. بدلاً من ذلك ، فهو مدفوع برغبة في فهم ما يجعل النثر البشري فريدًا.

قال تيان ، وهو معجب بكتاب مثل جون ماكفي وآني ديلارد: “هناك شيء جميل ضمنيًا في الكتابة البشرية”. “أجهزة الكمبيوتر لا تبتكر أي شيء أصلي. إنهم في الأساس يستوعبون أجزاء هائلة من الإنترنت ويقذفون الأنماط “.

كاشفات بدون عقوبات

مثل الكثير من أدوات التنبؤ بالطقس ، تقدم أدوات الكشف عن الكتابة بالذكاء الاصطناعي الحالية أحكامًا في الاحتمالات. على هذا النحو ، حتى درجات الاحتمالية العالية قد لا تنبئ بما إذا كان المؤلف واعيًا أم لا.

قالت آنا ميلز ، معلمة اللغة الإنجليزية في كلية مارين ، عن التكنولوجيا الناشئة: “إن الشاغل الأكبر هو أن يستخدم المعلم الكاشف ثم يصيب الطالب بصدمة من خلال اتهامه ، وتبين أنه نتيجة إيجابية خاطئة”.

لكن قد يقدم الأساتذة أدوات الكشف عن الكتابة بالذكاء الاصطناعي لطلابهم لأسباب أخرى غير إنفاذ قانون الشرف. علي سبيل المثال، يرى نيستور بيريرا ، نائب عميد التقنيات الأكاديمية والتعليمية في كلية ميامي داد ، أن أدوات الكشف عن الكتابة بالذكاء الاصطناعي هي “نقطة انطلاق للمحادثات مع الطلاب”. وهذا يعني أن الطلاب الذين يميلون إلى استخدام أدوات الكتابة بالذكاء الاصطناعي لتحريف كتاباتهم أو استبدالها قد يعيدون النظر في وجود مثل هذه الأدوات ، وفقًا لما ذكره بيريرا.

لهذا السبب ، تستخدم Miami Dade منصة برمجية تجارية – وهي منصة تزود الطلاب بالتعليقات سطرًا بسطر حول كتاباتهم وتدير مناقشات الطلاب – والتي تضمنت مؤخرًا اكتشاف الكتابة بالذكاء الاصطناعي. صادق بيريرا على المنتج في بيان صحفي صادر عن الشركة ، على الرغم من أنه أكد أنه لم يتلق هو ولا مؤسسته مدفوعات أو هدايا للتأييد. ومع ذلك ، فقد أقر بأن تأييده له حدود.

قال بيريرا: “نحن قلقون بالتأكيد بشأن الإيجابيات الخاطئة” داخل التعليم العالي. “أنا قلق أيضًا بشأن السلبيات الكاذبة.”

إلى جانب المناقشات حول النزاهة الأكاديمية ، يتحدث أعضاء هيئة التدريس مع الطلاب حول دور أدوات الكشف عن الكتابة بالذكاء الاصطناعي في المجتمع. يرى البعض أن هذه المحادثات ضرورية ، خاصة وأن أدوات الكتابة بالذكاء الاصطناعي من المتوقع أن تكون متاحة على نطاق واسع في العديد من وظائف ما بعد الكلية للطلاب.

قال ميلز: “لن تكون هذه الأدوات مثالية ، لكن … إذا لم نستخدمها لأغراض مسدودة ، فلا داعي لأن تكون مثالية”. “يمكننا استخدامها كأداة للتعلم.” يمكن للأساتذة استخدام التكنولوجيا الجديدة لتشجيع الطلاب على الانخراط في مجموعة من أنشطة ChatGPT المنتجة ، بما في ذلك التفكير وطرح الأسئلة والمناقشة وتحديد أوجه القصور والتجريب.

أيضًا ، على المستوى المجتمعي ، قد تساعد أدوات الكشف الجهود المبذولة لحماية الخطاب العام من الاستخدامات الضارة لمولدات النصوص ، وفقًا لميلز.. على سبيل المثال ، يمكن لمنصات الوسائط الاجتماعية ، التي تستخدم بالفعل الخوارزميات لاتخاذ قرارات بشأن المحتوى الذي يجب تعزيزه ، استخدام الأدوات للحماية من العناصر السيئة. في مثل هذه الحالات ، قد تعمل الاحتمالات بشكل جيد.

قال ميلز: “علينا أن نكافح من أجل الحفاظ على إنسانية التواصل هذه”.

تحدي طويل الأمد

في حقبة سابقة ، ربما شعرت الأم المولودة التي وضعت طفلًا مع أبوين بالتبني بشكل مجهول بمساعدة وكالة تبني حسنة السمعة بالثقة في أن أبويها لن يتم الكشف عنها أبدًا. كل ذلك تغير عندما أدى اختبار الحمض النووي السريع الذي يمكن الوصول إليه من شركات مثل 23andMe إلى تمكين المتبنين من الوصول إلى معلومات حول تراثهم الجيني.

على الرغم من أن أدوات الكشف عن الكتابة بالذكاء الاصطناعي اليوم غير مثالية في أحسن الأحوال ، فإن أي كاتب يأمل في تمرير نص كاتب ذكاء اصطناعي على أنه نص خاص به يمكن أن يتم طرحه في المستقبل ، عندما تتحسن أدوات الكشف.

قال ميلز: “نحن بحاجة إلى التعود على فكرة أنه إذا كنت تستخدم منشئ نصوص ، فلن تتمكن من الحفاظ على هذا الأمر سراً”. “يحتاج الناس إلى معرفة متى تكون هذه العملية الميكانيكية هي التي تعتمد على كل هذه المصادر الأخرى وتتضمن التحيز الذي يضع الكلمات معًا في تشكيل التفكير.”

GPTZero من Tian ليس التطبيق الأول لاكتشاف الكتابة بالذكاء الاصطناعي ، وليس من المحتمل أن يكون الأخير.

يعتبر OpenAI – مطور ChatGPT – جهود الكشف “تحديًا طويل المدى”. يشير بحثهم الذي تم إجراؤه على النص الذي تم إنشاؤه بواسطة GPT-2 إلى أن أداة الكشف تعمل تقريبًا بنسبة 95 بالمائة من الوقت ، وهي “ليست عالية الدقة بدرجة كافية للكشف المستقل ويجب إقرانها بالنُهج القائمة على البيانات الوصفية ، والحكم البشري ، والتعليم العام من أجل أن تكون أكثر فاعلية “، وفقًا لـ OpenAI. تعتمد دقة الكشف بشكل كبير على طرق التدريب والاختبار لأخذ العينات وما إذا كان التدريب يشمل مجموعة من تقنيات أخذ العينات ، وفقًا للدراسة.

يعد اكتشاف ما بعد الحقيقة نهجًا واحدًا فقط لمشكلة التمييز بين النص المكتوب بواسطة الإنسان والنص المكتوب بواسطة الكمبيوتر. يحاول OpenAI وضع علامة مائية على نص ChatGPT. يمكن أن تتضمن مثل هذه التوقيعات الرقمية “إشارة سرية غير ملحوظة” تشير إلى أن النص تم إنشاؤه بواسطة ChatGPT. يمكن اكتشاف مثل هذه الإشارة فقط من قبل أولئك الذين لديهم “مفتاح” لوظيفة تشفير – وهي تقنية رياضية للاتصال الآمن. العمل قريب ، لكن بعض الباحثين وخبراء الصناعة أعربوا بالفعل عن شكوكهم بشأن إمكانات العلامة المائية ، مشيرين إلى مخاوف من أن الحلول قد تكون تافهة.

أعلنت Turnitin أن لديها أداة اكتشاف الكتابة بالذكاء الاصطناعي قيد التطوير ، والتي دربتها على “الكتابة الأكاديمية التي يتم الحصول عليها من قاعدة بيانات شاملة ، بدلاً من المحتوى المتاح للجمهور فقط”. لكن بعض الأكاديميين حذرون من المنتجات التجارية لاكتشاف الذكاء الاصطناعي.

“لا أعتقد [AI-writing detectors] قال ميلز.

التعليم العالي يتكيف (مرة أخرى)

قال جوزيف هيلبل ، رئيس جامعة ليهاي: “فكر فيما نريد رعايته”. “في عصور ما قبل الإنترنت وما قبل التوليد ، كان الذكاء الاصطناعي يدور حول إتقان المحتوى. الآن ، يحتاج الطلاب إلى فهم المحتوى ، ولكن الأمر يتعلق أكثر بكثير بإتقان تفسير المحتوى واستخدامه “.

قال هيلبل إن ChatGPT يدعو التعليم العالي إلى إعادة التفكير في أفضل السبل لتعليم الطلاب. وروى قصة أستاذ هندسة كان يعرفه قبل سنوات قام بتقييم الطلاب من خلال إجراء امتحانات شفوية. تم توسيع نطاق الاختبارات مع الطالب في الوقت الفعلي ، لذلك كان كل طالب قادرًا على إظهار شيء ما. كما قام الأستاذ بتكييف الأسئلة أثناء إجراء الاختبار ، مما سبر حدود معرفة الطلاب وفهمهم. في ذلك الوقت ، اعتبر هيلبل النهج “راديكاليًا” ويقر بأنه ، حتى الآن ، سيكون من الصعب على الأساتذة تنفيذه. “لكن الفكرة أن [a student] سيُظهر القدرة على أبعاد متعددة من خلال الخروج وكتابة ورقة بحثية مكونة من 30 صفحة – وهذا الجزء يتعين علينا إعادة التفكير فيه بالكامل. “

هيلبل ليس الأكاديمي الوحيد الذي طرح فكرة استبدال بعض مهام الكتابة بالامتحانات الشفوية. اتضح أن الذكاء الاصطناعي قد يساعد في التغلب على قيود الوقت المحتملة في إجراء الاختبارات الشفوية.

يجب أن يتكيف نظام التعليم [to ChatGPT’s presence] من خلال التركيز بشكل أكبر على الفهم والإبداع واستخدام التقييمات الشفوية الأكثر تكلفة ، مثل الامتحانات الشفوية ، أو الاختبارات دون إذن لاستخدام التكنولوجيا ، “قال بينجيو ، مضيفًا أن الاختبارات الشفوية لا يلزم إجراؤها كثيرًا. “عندما نصل إلى تلك النقطة حيث لا يمكننا اكتشاف ما إذا كان النص مكتوبًا بواسطة آلة أم لا ، يجب أن تكون هذه الأجهزة جيدة بما يكفي لتشغيل [oral] الاختبارات نفسها ، على الأقل بالنسبة للتقييمات الأكثر تكرارًا خلال الفصل الدراسي “.