دراسة: أدوات كشف النصوص المولّدة بالذكاء الاصطناعي ليست دقيقة

كشف باحثون من جامعة بنسلفانيا أن أدوات الكشف عن النصوص المولّدة بواسطة الذكاء الاصطناعي ليست موثوقة كما يعتقد البعض. تُستخدم هذه الأدوات في تحليل النصوص لمعرفة ما إذا كانت قد كُتبت بواسطة الذكاء الاصطناعي أم لا، إلا أن هذه الأدوات تعتمد على علامات محددة قد تظهر في النصوص التي يكتبها الإنسان أيضًا.

في بعض الأحيان، تستطيع أدوات الكشف تحديد النصوص المولّدة بالذكاء الاصطناعي بسهولة، لكنها تواجه صعوبة في التعامل مع بعض النصوص مثل المقالات الإخبارية.

بل إن بعض هذه الأدوات تصنف نصوصًا كتبها البشر على أنها مولّدة بالذكاء الاصطناعي.

واقترح الباحثون في دراستهم نهجًا جديدًا لتعميم النصوص المولّدة بواسطة الذكاء الاصطناعي، وذلك من خلال تزويد أدوات الكشف بمجموعة بيانات ضخمة تضم 10 ملايين وثيقة متنوعة تشمل المقالات الإخبارية والمدونات والوصفات.

بعد ذلك، سيتم تصنيف أدوات الكشف في قائمة عامة وفقًا لأدائها بناءً على تلك البيانات. وأوضح الباحثون أنهم يسعون إلى وضع معايير جديدة لأدوات الكشف بحيث يمكن التحقق من أن النص مكتوب بالفعل من قبل الإنسان.

منذ إطلاق GPT-2 في عام 2019 وGPT-3 في عام 2022، ظهرت العديد من المشاكل المتعلقة بالنصوص التي يولّدها الذكاء الاصطناعي.

وأعرب العديد من المعلمين عن قلقهم من استخدام الطلاب لهذه النماذج في كتابة الواجبات الدراسية والأبحاث الأكاديمية.

تدّعي بعض أدوات الكشف أنها تتمتع بدقة تصل إلى 99%، وهو أمر يصعب تصديقه. ويذهب البعض إلى القول إن اكتشاف النصوص المولّدة بالذكاء الاصطناعي أصبح معقدًا.