درهم شدن دوغ و دوشاب در صنعت مقاله‌سازی با هوش مصنوعی

لیزنا؛ سید ابراهیم عمرانی، سردبیر : داستان مقاله سازان و کارخانه‌های مقاله سازی بعد از در دسترس قرار گرفتن ChatBot ها خیلی داغ شده و همانقدر که این ابزارها می توانند به تسریع فرایندهای کار علمی کمک موثری کنند، برای کسانی که انگیزه‌ای برای کار علمی واقعی ندارند، ابزار موثری برای تقلب و مقاله سازی شده است. این واقعیت که اکنون ده‌ها ابزار بازنویسی وجود دارد که می‌تواند به کاربران کمک کند تا کل مقالات را در عرض چند ثانیه بازنویسی کنند، زمینه‌های بیشتری را برای بازیگران نقش منفی صحنه تولید علم فراهم کرده است که به دنبال سرقت ادبی و دست‌نوشته‌های تقلبی با سرعت بیشتری هستند.

من خود دسترسی به ChatGPT نداشته‌ام که بتوانم آزمایش کنم، لیکن از دوستی که دانشجوی دکتری در آلمان است (اکنون برای تعطیلات در ایران است)، و این آزمون را انجام داده نقل می‌کنم که مشخصات مقاله‌ای را که می‌خواهی می‌دهی و برایت در کسری از دقیقه می‌نویسد، با همه جداول و نمودارها. متن را می‌گیری و به نرم افزاری مانند QuillBot که، متن ترا اصلاح گرامری و املایی و در واقع "دگرنویسی" (Paraphrase) می‌کند می‌دهید؛ این ابزار آن را تغییر می‌دهد؛ آن را از اینجا تحویل می‌گیری و دوباره آن را به ChatGPT می‌دهی و می‌گویی می‌خواهم سطح علمی زبان مقاله را بهتر یا تخصصی‌کنی و در چند ثانیه انجام می‌شود، و دیگر هیچ جوری قابل تشخیص با نرم افزارهای همانند جویی نیست.

این اتفاق با علم چکار خواهد کرد؟  هر یک از ChatBot ها با سلسله ای از اطلاعات و دانشهای تاکنون موجود که در شبکه یافت می‌شود آموزش داده شده‌اند، با بدترین تخمینها، هنوز 95% اطلاعات، تحقیق شده در اختیار ChatBot‌ قرار می‌گیرد و می‌توان از آن در آزمایشهای بعدی و در تولید استفاده کرد. ولی هرچه زمان بگذرد، و مقاله‌های ساخته هوش مصنوعی در شبکه بیشتر شود، درصد صداقت و صحت کاهش پیدا خواهد کرد، چون اطلاعات تازه‌ای که به اطلاعات کنونی افزوده می‌شوند، میزان درستی‌اش تامل برانگیز است.

کتابداران این بار نگاهشان به دو سوی است. خود نمی‌توانند برای این راستی‌آزمائیها سرمایه‌گذاری کنند. دوگروه دیگر باید این کار را انجام دهند یا داده باشند. یکی جامعه دانشگاهی، برای اطمینان از صحت و صداقت علمی مقاله‌‌ها و کتابها و دیگری ناشران علمی دانشگاهی، که اگر نتوانند تقلبهای مبتنی بر هوش مصنوعی و سایر تکنیک‌های مقاله‌سازی را تشخیص دهند، این صنعت و  حتی دانشگاهها اعتبار خود را از دست می‌دهند.

هر سه گروه (دانشگاهیان، ناشران و کتابداران) نگران این هستند که اینگونه تولیدات غیر علمی، چگونه می‌تواند بر کسب‌وکار، آموزش، خروجی خلاق پژوهش و موارد دیگر تأثیر بگذارد. اشتراک نظر روزافزونی وجود دارد که ChatGPT به خودی خود یک ابزار "حل همه چیز" نخواهد بود، یا دست کم در آینده نزدیکی نخواهد بود. ولی اگر چاره‌ای اندیشیده نشود، هرج و مرجی بزرگ دامنگیر علم، ‌نشر علمی و خدمات علمی خواهد گردید، که در سومی، یعنی خدمات علمی،  ما کتابداران هم شریک هستیم.

نکته مهم این است که  افزایش استفاده از هوش مصنوعی در مقاله سازی محدود به برنامه هایی که در ChatGPT API   نبوده است. استفاده از اپلیکیشن‌های مستقل مبتنی بر هوش مصنوعی، مانند Paperpal، Scite  و Scholarcy  نیز افزایش زیادی نشان میدهند. به عنوان مثال، هم اکنون Paperpal[1] 200.000  کاربر و   scite[2]  بیش از 150000 هزار کاربر دارند و  Scholarcy[3] نیز رشد بسیاری داشته و اینهمه نشان از اهمیت  عظیمی است که آنها در دوران پس از ChatGPT پیدا کرده‌اند.

با افزایش استفاده از "ابزارهای هوش مصنوعی مولد"[4]، پیچیدگی ها چند برابر می شود و راه‌های جدیدتری برای تولید سریع محتوای بیشتر و در عین حال دوری از چشم بهترین ابزارهای تشخیص وجود خواهد داشت که منجر به چالش های متعدد در صنایع و شاید در پزشکی و سلامت انسان شود.

سال گذشته، ژوئن ،2022 "کمیته اخلاق نشر COPE"[5] و "انجمن بین الملی ناشران علمی، فنی، پزشکیSTM "[6] پیش از اعلام وجود ChatGPT  گزارش مشترکی درباره "کارخانه های مقاله‌سازی[7]" منتشر کردند که در آن با تا;ید بر اینکه کارخانه های مقاله سازی به شدت مشغول هستند و مقاله های زیادی را وارد سامانه های علمی کرده‌اند و باز هم خواهندکرد، همیاری نه فقط ناشران،‌ کمک همه دست‌اندرکاران دانشگاهی تولید علم را خواستار شدند"[8]. لیکن و با ورود هوش مصنوعی به کارخانه‌ةای مقاله سازی، نگرانیها هردم بیشتر شده است.

در شبکه به دنبال راه‌حلهایی برای کنترل و تشخیص مقاله هایی که با هوش مصنوعی ساخته می‌شوند می‌گشتم و می‌خواستم ببینم دانشگاهها چه می‌کنند و با کلیدواژه های مختلف موضوع را دنبال کردم که به مجله معروف و قدیمی British Medical Journal (BMJ) که از قدیم آن را به عنوان یکی از معتبرترین مجلات پزشکی می‌شناختم برخوردم که در سالهای اخیر تبدیل به ناشری با 64 عنوان مجله معتبر پزشکی[9] است و در سایت ایشان خبر پیوستن ایشان به "کانون صداقت پژوهشی” [10] در  "انجمن بین الملی ناشران علمی، فنی، پزشکی برخوردم:

"BMJ  با خوشحالی اعلام می کند که یکی از اعضای رسمی شرکت کننده در  "کانون صداقت پژوهشی " است، یک پلتفرم بالقوه قدرتمند که برای شناسایی مشکلات صداقت پژوهشی در "نسخه‌های اولیه مقاله‌های ارسال شده برای انتشار"[11] در مجلات علمی ساخته شده است …..  "کانون صداقت پژوهشی  STM "  از طریق ترکیبی از داده‌ها و تجربیات مشترک و بهره‌گیری از نوآوری‌های فناوری، رویکردی جامع برای شناسایی نسخه‌های اولیه ارسالی ارائه می‌دهد که اصول یکپارچگی تحقیقات را نقض می‌کنند. این یک محیط یکسان برای ناشران فراهم می‌کند تا مقالات ارسال شده را برای مسائل مربوط به صداقت تحقیق بررسی کنند، این فناوری توسط بهترین شیوه‌های فعلی صنعت پشتیبانی می‌شود و کاملاً به قوانین و اخلاقیات حریم خصوصی داده‌ها و قوانین رقابت احترام می‌گذارد[12]". به علاوه BMJ اظهار خوشحالی می‌کند که:" نمایندگان BMJ در حال حاضر بخشی از گروه همکاری هستند که به تشخیص دستکاری تصویر می پردازند و نقش کلیدی در هیئت مدیره پروژه دارند."[13]

وبگاه کانون به معرفی اعضا و ویژگیهای این سامانه اشاره کرده و ماموریت خود را : " تجهیز جامعه ارتباطات علمی به داده ها، اطلاعات و فناوری برای محافظت از صداقت و درستی تحقیقات" معرفی می‌نماید.  همانطور که در بالا گفته شد، ‌در صورتی که هوش مصنوعی غیر قابل شناسایی شود، به صنعت نشر حتما ضربه می‌خورد، کما اینکه  و از آن مهمتر نتایج دروغینی که قرار است در صنعت بکار گرفته شود، حتما ضایعات عظیمی به بار خواهد آورد.

در حال حاضر بزرگترین ناشران بین المللی که خوداعضای فعال انجمن ناشران علمی STM هستند، در این پروژه مشارکت دارند، ناشرانی چون الزویر، تیلر اند فرانسیس، وایلی، اشپرینگر-نیچر، آی او پی، سیج، بی ام جی، جاما، انجمن شیمی امریکا، انشتارات دانشگاه آکسفورد، کلاریویت آنالیتیکس، آی تریپل ای، انتشارات  دانشگاه کمبریج، انتشارات انجمن سلطنتی بریتانیا و بیش از 15 ناشر دیگر (که در ایران کمتر شناخته شده هستند)، و ناشر مهم دسترسی آزاد  پی او ال اس.

به نوبه خود و به عنوان یک کتابدار آرزو دارم،‌ که انجمن های علمی دانشگاهی دیگر هم به این اقدام بپیوندند و از ادغام دانش‌های دروغین و غلط با دانش‌هایی که تا کنون تولید شده‌اند هر چه زودتر جلوگیری شود، چون اگر کارخانه‌های مقاله‌سازی به ویژه با استفاده از ابزارهای هوش مصنوعی گسترش بیشتری پیدا کنند و مقاله‌های تقلبی بیشتری به سامانه‌های دانش و علم جهان وارد کنند، در آینده نزدیکی چنان دوغ و دوشاب در هم می‌شوند،‌که تشخیص سره از ناسره، خود هزینه‌های زیادی خواهد داشت، و صنایع مجبور خواهند شد،‌ دست از علم دانشگاهی بکشند و هر یک برای خود مجموعه‌های وسیع تحقیق و توسعه راه اندازی کنند و هزینه‌های ایشان چند برابر خواهد شد. و صد البته که در پزشکی امکان از دست رفتن جانهای بسیاری وجود خواهد داشت. و تحلیل‌های علوم اجتماعی هم برای تصمیم‌سازان، جای سوال بسیار خواهد داشت. داده‌های کشاورزی هم زیر سوال خواهد رفت و دانشمندان حوزه‌های پژوهشی علوم انسانی و هنر هم نمی‌توانند متکی به دانش پیشینیان خود باشند.

 عمرانی ، سید ابراهیم .« تدبیر ناشران بین المللی علمی- دانشگاهی برای مقابله: درهم شدن دوغ و دوشاب  در صنعت مقاله سازی با هوش مصنوعی ». سخن هفته لیزنا، شماره 658، 13 شهریورماه ۱۴۰۲.

 ----------------------------------------------

[1] . https://www.paperpal.com/blog/press-release/paperpal-surpasses-200000-users-worldwide/

[2] . https://scite.ai/

[3] . https://www.scholarcy.com/

[4] . AI Generative Tools

[5] . Committee on Publication Ethics

[6] . STM (International Association of Scientific, Technical and Medical Publishers)

[7] . Paper Mills عبارتی استعاری است که برای مقاله سازان یا به تعبیر من کارخانه های مقاله سازی بکار برده می‌شود.  

[8] . Paper Mills: Research report from COPE & STM. COPE & STM. Paper Mills — Research report from COPE & STM — English. https://doi.org/10.24318/jtbG8IHL ©2022 Committee on Publication Ethics (CC BY-NC-ND 4.0) Ž Version 1: June 2022 . https://publicationethics.org/sites/default/files/paper-mills-cope-stm-research-report.pdf

[9] .مجله مادر BMJ  با ضریب تاثیر 105.2 در بین مجلات پزشکی عمومی General Medicine در  سال 2022 از پر استنادترین مجلات جهان بوده است.

[10] . Research Integrity

[11] > Manuscripts submitted for publication

[12] . BMJ joins STM Integrity Hub, an industry initiative to protect research integrity   https://www.bmj.com/company/newsroom/stm_integrity_hub/

[13] . همان