ابداع ابزاری که متون علمی تهیه شده با هوش مصنوعی را شناسایی می کند

به گزارش گروه علم و آموزش ایرنا از «تک‌اکسپلور»، در زمانه‌ای که نگرانی‌ها در محافل دانشگاهی در ارتباط با مقالات تولید شده با هوش مصنوعی افزایش یافته ، خبرهای امیدوارکننده‌ای از دانشگاه «کانزاس» (آمریکا) منتشر شده است.

محققان این دانشگاه یک آشکارساز (ردیاب) متن تولیدی هوش مصنوعی برای مقالات علمی ابداع کرده‌اند که تقریبا در ۱۰۰ درصد موارد می‌تواند محتوای نوشته شده توسط انسان را از محتوای تولیدی با هوش مصنوعی متمایز کند.

پروفسور «هیتر دسایر» در مطالعه‌ای که روز ۶ نوامبر در نشریه «علوم فیزیکی گزارشهای سلولی» منتشر شده، خاطرنشان کرد که هر چند در حال حاضر چندین تشخیص‌دهنده هوش مصنوعی برای محتوای عام در دسترس قرار دارد اما هیچکدام از اینها بطور خاص مناسب کاربرد برای مقالات علمی نیستند.

دسایر خاطرنشان کرد: در بخش زیادی از کارهای مربوط به تحلیل متن واقعا به یک آشکارساز عام مورد نیاز است که در مورد هر گونه متنی کار کند.

این تیم تحقیقاتی با این وجود تمرکز کار خود را بر روی تشخیص مقالات نوشته شده برای نشریات علمی در موضوع شیمی قرار داد. این محققان آشکارساز خود را در مورد نشریات منتشر شده توسط «انجمن شیمی آمریکا» مورد استفاده قرار دادند. آنها ۱۰۰ بخش مقدماتی نوشته شده توسط متخصصان را انتخاب کردند و سپس «چت جی‌پی‌تی» را برنامه‌ریزی کردند تا بر اساس چکیده نشریات یا صرفا بر اساس عناوین مقالات، مقدمه‌هایی را بنویسد.

زمانی که آشکارساز «چت جی‌پی‌تی» سه دسته مقالات را اسکن کرد ، با درستی در ۱۰۰ درصد موارد بخش‌های نوشته شده توسط انسان را شناسایی کرد. یک طبقه‌بندی کننده رقیب مانند «زیرو جی‌پی‌تی» (ZeroGPT) که ادعای صحت ۹۸ درصدی در مورد شناسایی مقالات نوشته شده توسط هوش مصنوعی را دارد، در مورد مقالات مرتبط با شیمی عملکرد ضعیفی داشت و در مورد همان مقالات بررسی شده تنها در حد ۳۷ درصد موفق به شناسایی شد.

یک رقیب دیگر با نام «اوپن ای.آی» (OpenAI) عملکردی حتی از این هم بدتر داشت و بطور میانگین در ۸۰ درصد از موارد موفق به تشخیص منشاء تولید مقالات نشد.

دسایر در همین ارتباط خاطرنشان کرد: ناشران دانشگاهی با مساله استفاده روز افزون از تولیدکنندگان متن هوش مصنوعی دست به گریبان هستند. این آشکارساز جدید به جامعه علمی اجازه خواهد داد تا نفوذ «چت جی‌پی‌تی» در نشریات شیمی را ارزیابی کرده و همچنین پیامدهای استفاده از آن را شناسایی کرده و به سرعت استراتژی‌هایی برای کاهش مشکلات ارائه دهد.

این درحالی است که نشریات علمی در حال بازنویسی مقررات خود در ارتباط با ارائه و پذیرش مقالات هستند و اکثرا مقالات تولید شده با هوش مصنوعی را منع کرده و خواستار افشای هرگونه فرایند هوش مصنوعی مورد استفاده در نوشتن مقالات می‌شوند.

دسایر چندین خطر و نگرانی را در ارتباط با نفوذ محتوای تولیدی هوش مصنوعی در نشریات علمی برشمرد و گفت: چنین استفاده‌هایی ممکن است موجب موجی از نوشته‌های با ارزش حاشیه‌ای و همچنین استفاده بیش از حد از مقالات با ارجاع بالا و نادیده گرفته شدن مقالاتی با موضوعات جدید و ناشناخته شود.

وی خاطرنشان کرد مساله نگران‌کننده‌تر تمایل این ابزارها (تولید متن با هوش مصنوعی) به «وهم و خیال» و جعل حقایقی است که حقیقت ندارند.