لیزنا؛ سید ابراهیم عمرانی، سردبیر: نوشته سودمند و درخور توجه جناب آقای دکتر خسروی را در شماره پیشین سخن هفته دیدیم و خواندیم. در بخشی از سخنان ایشان به رزومه‌سازی[1] بجای رزومه‌نگاری[2] اشاراتی داشتند که «طامات‌بافی» را در ذهن تداعی می‌کرد و برای من جذاب شد در ادامه این مطلب، چیزی بیفزایم. درباره گزارش‌های علمی منتشر شده برای سامانه آزمایشی آمازون برای غربالگری رزومه‌ها آمده است که نوعی سوگیری‌های جنسیتی (برای رزومه‌های مردان نسبت به زنان) و «گذشته نابرابر بازار کار» برای استخدام وجود داشته است. اما نکته مهم‌تر که به سامانه‌های هوشمند ارتباط کمتری دارد، قصد و نیتی است که از قِبَلِ استفاده از این ابزارهای هوش مصنوعی می‌تواند گریبان جامعه علمی را بگیرد. برای نمونه، گزارشی کوتاه از یک مقاله در مجله نِیچر که از سوی «دفتر حمایت و پشتیبانی وزارت عتف» برای موسسه‌های آموزشی و پژوهشی کشور ارسال شده بود همراه با تجربه‌ای از یک ارزیابی رزومه، مرا واداشت مطلبی کوتاه در این زمینه بنویسم.

در مطلب ارجاع شده درباره «انفجار در ارجاعات جعلی در مقالات علمی؛ علوم اجتماعی با اختلاف زیاد در صدر» اینگونه آمده  است که: «گزارش تازه‌ای که در تاریخ 1۵ می 2026 در مجله علمی نیچر[3] منتشر شده، نشان می‌دهد که تنها در سال ۲۰۲۵ بیش از ۱۴۶ هزار ارجاع جعلی در میان مقالات و پیش‌چاپ‌های علمی شناسایی شده است». در بخش دیگری از گزارش آمده است که: «نتایج نشان داد که ارجاعات جعلی اکنون به بخشی محسوس از ادبیات علمی تبدیل شده‌اند و رشد آنها با گسترش استفاده از ابزارهای مبتنی بر هوش مصنوعی همزمان بوده است». برای این‌که بدانیم یک بررسی، ارزش علمی دارد یا خیر، توجه به بخش روش‌شناسی آن کمک می‌کند تا بفهمیم آیا شیوه مناسبی برای دستیابی به نتایج به‌کار گرفته شده است یا خیر. در بخش روش‌شناسی این مقاله این‌گونه آمده است که: «هر ارجاعی که در این پایگاه‌ها[4] یافت نمی‌شد و همزمان از سوی یک مدل زبانی بزرگ[5] به عنوان منابع دانشگاهی قلمداد می‌شدند، به عنوان «استناد جعلی» علامتگذاری شد. از آنجا که خطاهای کتابشناختی همواره در مقالات علمی وجود داشته‌اند، پژوهشگران فقط آثاری را بررسی کردند که پس از سال 2022 و همزمان با ظهور عمومی نخستین مدل زبانی بزرگ (هوش مصنوعی ChatGPT) منتشر شده بودند».

یکی از نکته‌های مهمی که در این گزارش منتشر شده بود این نکته بود که «برخی متخصصان معتقدند که ماهیت متنی و روایت‌محور پژوهش‌های علوم اجتماعی، استفاده از ابزارهای هوش مصنوعی را در این حوزه آسانتر کرده است» و این نکته که پژوهشگران این حوزه موضوعی «بیشتر از هوش مصنوعی برای نگارش مقدمه، مرور ادبیات، بحث و حتی تولید منابع استفاده می‌کنند و همین مسئله احتمال ایجاد ارجاعات جعلی را افزایش می‌دهد». از سوی دیگر، در این گزارش به تلاش پایگاه‌های علمی و ناشران برای مقابله با موج محتوای تولیدشده توسط هوش مصنوعی اشاره می‌کند. در این گزارش آمده است که: آرزیو[6] «سیاست تأیید هویت نویسندگان را سختگیرانه‌تر» کرده و بایو‌آرزیو[7] «از فرآیند غربالگری تخصصی برای بررسی مقالات» استفاده می‌کند و اِس‌اِس‌آر‌اِن^[8] «از نویسندگان می‌خواهد هرگونه استفاده از هوش مصنوعی را به‌طور رسمی اعلام کنند».

به‌نظر می‌رسد این‌گونه تلاش‌ها نمی‌تواند قصدها و نیت‌های نامناسبی که به سبب استفاده از این ابزارهای هوشمند برای رزومه‌سازی (نه رزومه‌نگاری) را از بین ببرد. در یکی از طرح‌های پژوهشی که در ایرانداک توسط دکتر شریف‌زاده (1404) این مسئله طرح شده به‌کارگیری ال‌ال‌ام‌ باعث شده تحولی اساسی در سازوکار پژوهش ایجاد شود و این کاربست را در چارچوب نگارش، تجزیه و تحلیل، پیشنهاد،‌ طراحی، ویرایش و آماده‌سازی،‌ ترجمه و داوری و بازخورد معرفی و مزایایی از جمله کاهش هزینه، رفع مانع زبانی، صرفه‌جویی در زمان،‌ افزایش کیفیت نگارش، کمک به افراد دارای شرایط خاص، و ترویج راحت‌تر دانش را مطرح کرده است. افزون بر این‌، چالش‌هایی همچون سوگیری، مشابه‌نویسی، امنیت داده و البته «توهم‌زایی[9] در کیفیت تولیدی در متن» بوجود آورده است. این بخش از یافته این پژوهش برای این موضوع در نوشته من اهمیت پیدا می‌کند که گویا این توهم‌زایی که از قضا در گزارشی که اشاره کردم با همین عنوان مطرح شده بود[10] گویا خاصیت عاملیت[11] نیز به استفاده‌کننده از این ابزارها می‌بخشد و تصور می‌کند نیت پشت استفاده از یک سامانه می‌تواند به توانمندی شبه‌پژوهشگری[12] در تولید برونداد تبدیل شود.

اگر از جنبه تجربه‌نگاری به این پدیده وارد شوم، یک تجربه واقعی از یکی از مصاحبه‌شوندگان مصاحبه در یکی از سازمان‌ها دارم که عجیب و غریب بود! به گفته خودِ او، در سال جاری بیش از 20 عنوان کتاب منتشر کرده بود! جالب اینجا بود که با بررسی و صحت‌سنجی در سامانه کتابخانه ملی،‌ همه این کتاب‌ها فهرست‌نویسی پیش از انتشار (فیپا) داشتند! اینکه به دو زبان فارسی و انگلیسی بودند و دایره موضوعی آنها از زرتشت‌پژوهی تا علم آزاد را شامل می‌شد تنها یک جنبه از جنبه‌های اعجاب‌انگیزی بود که انگشتِ حیرت را به دهان ما نقش بست و لاف بزرگی را پیش چشم ما روشن کرد! حتی در پاسخ به این پرسش که «به‌نظر شما استفاده اینگونه از این دست ابزارها،‌ اخلاقیه!» هم نتوانست ایشان را به فکر فرو ببرد و در دَم پاسخ «چه اشکالی داره!» را دریافت کردیم. تجربه حضور در یکی از کارگاه‌های بین‌المللی که در آن به‌عنوان یک دانش‌پذیر مشارکت داشتم، به گفته یکی از سخنرانان، آمار عجیب 98 درصدی استفاده از ابزارهای هوش مصنوعی در پژوهش، مرا به این فکر واداشت که آن 2 درصد چه حوزه‌ موضوعی‌ای را در بر می‌گرفت که نمی‌توانستند از این ابزارها استفاده کنند! شوربختانه، مستندی برای این بخش پیدا نکردم تا بیاورم و این هم بخشی از تجربه‌نگاری من است.

اما چیزی که از نظر من نگران کننده است، پذیرش عاملیت هوش مصنوعی (چه مولد چه غیرمولد) است و خطرناک‌تر اینکه این عاملیت برای انجام امور پژوهش به مسئولیت‌پذیری با واسطه[13] از سوی پژوهشگر منجر شود. به بیان دیگر، خواه در مراحل ساده‌تر پژوهش همچون گردآوری داده و خواه در مراحل پیچیده‌تر، ‌انتزاعی‌تر و ذهنی‌تر پژوهش همچون تجزیه و تحلیل و جمع‌بندی، پژوهشگر مسئولیت‌پذیری خود را به یک ابزار تفویض کند. نتیجه این می‌شود که این توهم به پژوهشگر،‌ فرصت و توانایی بیشتری می‌دهد تا بتواند سرعت تولید علم را به‌گونه‌ای بالا ببرد که جدا کردن سره از ناسره و درست از نادرست در کوتاه‌مدت یا بلندمدت نشدنی باشد به‌گونه‌ای که کشف آلودگی اطلاعات با وجود ابزارهای نوظهور، کار بسیار دشواری باشد. به‌نظر می‌رسد توصیه‌ای که در گزارش یاد شده راهکار خوبی باشد:‌ « نوآوری فناورانه، نظارت انسانی و تدوین مقررات شفاف برای استفاده مسئولانه از هوش مصنوعی».

عمرانی، سید ابراهیم  (۱۴۰۵). «یکی از عقل می‌لافد: اگر به داده‌های هوش مصنوعی به‌طور کامل اعتماد کنیم!». سخن هفته لیزنا، شماره 796، 1 تیرماه ۱۴۰۵

منابع:

 توسلیان، فرما. «انفجار در ارجاعات جعلی در مقالات علمی؛ علوم اجتماعی با اختلاف زیاد در صدر». گزارش‌های علمی تهیه شده (مجموعه پنجم). شماره 18/3/58479. تاریخ 20/03/1405

شریف‌زاده، رحمان. 1404. تحلیل و بررسی سویه‌های اخلاقی تأثیر مدل‌های زبانی بزرگ (ال‌ال‌ام‌ها) روی امر پژوهش، و ارائه رهنمودهای اخلاقی. پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک).

[1] Resume building

[2] Resume writing

[3] https://www.nature.com/articles/d41586-026-01545-1

[4] Google scholar, OpenAe and Semantics scholar

[5] LLM

[6] arXiv

[7] bioRxiv

[8] SSRN

[9] Hallucination

[10] Hallucinated citations highest in social sciences preprints site

[11] Agency

[12] Pseudo-researching

[13] Mediated accountability