داخلی
»سخن هفته
هوش مصنوعی محققی ماهر، اما نه همیشه صادق


لیزنا؛ ابراهیم عمرانی، سردبیر: صداقت در پژوهش مستلزم انجام پژوهش به شیوهای قابل اعتماد، اخلاقی و مسئولانه است. این امر به عواملی اشاره دارد که زیربنای شیوههای پژوهشی خوب و ارتقای اعتماد و اطمینان به روشهای مورد استفاده و یافتهها در نتایج هستند. صداقت در پژوهش در کل چرخه حیات پژوهش، از ایده اولیه و طراحی یک پروژه تحقیقاتی تا انجام پژوهش و انتشار و توزیع یافتهها، اعمال میشود. برای دستیابی به صداقت در پژوهش، محیطها و سیستمهای پژوهش (که اغلب به عنوان «فرهنگ پژوهش» توصیف میشوند) باید شیوههای پژوهشی خوب را حفظ و تقویت کنند، نه اینکه مانع آن شوند(کمیته صداقت در پژوهش بریتانیا) .[1]
در سطح جهانی، دولتها، تأمینکنندگان مالی، دانشگاهها و محققان به طور فزایندهای در حال سرمایهگذاری در تأثیر اجتماعی تحقیقات هستند و آن را به عنوان یک کالای بیچون و چرا میبینند [2]بنابراین فشار هنجاری فزایندهای برای نشان دادن تأثیر تحقیقات به عنوان یک ارزش سرمایهگذاریهای تحقیقاتی با بودجه عمومی وجود دارد[3] (Oancea، 2019 همچنین اجماع فزایندهای وجود دارد که اطمینان حاصل شود که مزایای تحقیق با همه اقشار جامعه به اشتراک گذاشته میشود، نه فقط با تعداد کمی از افراد ممتاز. به عنوان مثال، این بخشی از چارچوب حقوق بشر سازمان ملل متحد است و به طور خاص در توصیه اخیر یونسکو در مورد علم و محققان علمی برجسته شده است[4]. افزون بر اینها استدلال میشود که کسانی که در تحقیقات مشارکت میکنند، چه مستقیم (مثلاً به عنوان شرکتکننده) و چه غیرمستقیم (مثلاً به عنوان مالیاتدهنده)، حق دارند به نحوی ملموس از کاری که انجام میشود بهرهمند شوند.[5] اگرچه ممکن است انتظار تأثیر، حداقل در کوتاهمدت تا میانمدت، از تحقیقات غیرکاربردی واقعبینانه نباشد، اما تأمینکنندگان مالی و دولتها به طور فزایندهای از محققان انتظار دارند که برای تأثیرگذاری برنامهریزی کنند و نمونههایی از مزایای ناشی از حداقل برخی از تحقیقاتی که تأمین مالی میشوند را ارائه دهند (به عنوان مثال، از طریق مطالعات موردی تأثیر در ارزیابیهایی مانند “چارچوب تعالی تحقیقات (REF)انگلستان”[6]، "برنامه ارزیابی تحقیقات هنگکنگ و چین”[7]، و تمرکز بر تأثیرات گستردهتر در بودجه بنیاد ملی علوم ایالات متحده .[8] از سویی در همه جهان پیامدهای منفی ناخواسته ناشی از تحقیق ، تأثیرات ارزیابیهای تحقیق بر رفتار پژوهشگران (آئین نامه ارتقاء و غیره) کاملا ملموس است و نگرانیهای فزایندهای را دامن زده است. (در این مورد خاص هر کس شک دارد از اعضای هیات علمی موسسات آموزش عالی کنونی ایران بپرسد، به ویژه در دانشگاههای بزرگ کشور). این امر بار مسئولیت اخلاقی بزرگتری بر دوش محققان میگذارد و بنابراین بسیار مهم است که محققان باید رفتاری علمی از خود بروز دهند که تأمینکنندگان مالی، دولتها و سایر بازیگران اجتماعی، در مورد آنچه که فرآیندها و نتایج تأثیر تحقیقات اخلاقی یا غیراخلاقی را تشکیل میدهد، شفاف باشند و ادامه فعالیتهای پژوهشی که آرزوی همه پژوهشگران است را میسر کنند، البته با کاستن منطقی فشارهایی که روی پژوهشگران واقعی وجود دارد.
پرانتز باز: با عذرخواهی از جدا کردن پژوهشگران واقعی از غیر واقعی که خود امری واقعی شده. عدهای با جدیت دارند تحقیق میکنند و عدهای از برکت وجود کارخانههای مقاله سازی، و در دو سه سال اخیر هوش مصنوعی، روند ارتقاء را خیلی سریعتر از محققان اصیل و واقعی طی میکنند و متاسفانه آنقدر اعتماد به سقف دارند و آنقدر خود را تحویل میگیرند که پستهای کلیدی را اشغال میکنند و اسباب زحمت بسیار برای محققان واقعی به وجود آوردهاند.
قوانین اجرایی مختلفی در سطح جهانی برای مدیریت رفتار مسئولانه پژوهش تدوین شدهاند این قوانین، اصول متعددی را برای تضمین اعتبار و تکرارپذیری یافتههای پژوهشی برجسته میکنند و بستری را تشکیل میدهند که اعتماد عمومی به پژوهش بر آن بنا شده است. در چارچوب مورد بحث ما، کنوانسیون حمایت از صداقت در پژوهش بریتانیا UKRIO آییننامه اجرایی پژوهش خود را مانند برخی کشورهایی که در این زمینه مسئولیتپذیرتر هستند، منتشر کرده و در آن از محققان، خوانندگان، سازمانهای تحقیقاتی، تأمینکنندگان مالی و ناشران میخواهد که در یک سیستم تحقیقاتی که نحوه اعمال این اصول گسترده برای مدیریت تحقیقات مرتبط با GenAI را در آن شرح داده است، مشارکت کنند. نمونههایی از سوالات مهم عبارتند از:
در کنار نهادهایی که برای حفظ اصالت پژوهش، و تکرار پذیری یافتهها که اصل بسیار بسیار مهم پژوهش علمی است و جلوگیری از دادهسازی تلاش می کنند، متاسفانه شاهد، گسترش وسیع بیصداقتی در پژوهش و تقلب علمی هستیم. کشورهای صنعتی پیشرفته، که میدانند، تحقیقات دروغین و نتایج خدعه آمیز چه تاثیر زیانباری میتواند بر تولیدات صنعتی آنها بگذارد پیش قدم صداقت پژوهشی هستند. صحبتم را با صنعت شروع کردم، چرا که مثل همیشه صنعت و پزشکی ملموسترند که یکی با سرمایهها و اقتصاد کلان یک کشور ارتباط تنگاتنگ دارد و دومی با جان انسانها مرتبط است، و بنابراین هر دو قابل لمس هستند، تا مثالهایی که بخواهیم از علوم اجتماعی، علوم انسانی و هنر بزنیم، گرچه نیک میدانیم که فاجعه در این بخش ویرانکنندهتر است، ولی چون تاثیرش و تخریب و ویرانی آن مانند مزایایش دیربازدهتر است، کمتر مورد دقت قرار میگیرد.
اگر قرار است یک جامعه رشد کند و توسعه یابد، یا کشوری صنعتی موقعیت تجاری خود در دنیا را حفظ کند، حتما صنعتش و کشاورزیش و .... با تحقیقات دقیق علمی - دانشگاهی حرکت میکند و در غیر اینصورت با چند خطای صنعتی ناشی از استفاده از تحقیقات دروغین، منزلت خود و به دنبال آن ثروت خود را از دست میدهد، پس میبینیم که روی حفظ جامعه پژوهش خود وسواس گونه عمل میکنند.
نزدیک به 25 سال از آغاز جنبش دسترسی آزاد Open Access میگذرد و میبینیم که دولتها برای حفظ صنعت نشر خود، با چه احتیاطی به سمت دسترسی آزاد حرکت میکنند. دلیل آن روش و مبرهن است، چه کسی باید دروازهبان نشر علمیِ دقیق و صادقانه باشد؟ اگر بررسی همتا[10] را از تحقیق بردارند، هر کسی هر خزعبلاتی را به عنوان نشر علمی منتشر میکند و پایگاهها پر میشود از مقالههایی که نمیتوان بر اساس آنها سرمایه گذاری کرد و هر کارخانهای باید خودش گروه تحقیق بسیار بزرگی، بزرگتر از دانشگاهها تاسیس کند و همه امور مربوط به تحقیقش را خودش انجام دهد که مستلزم سرمایه گذاری بیشتر و از دست دادن زمان است که در رقابتهای تجاری بسیار کلیدی است.
مدیریت این بررسی همتا در جامعه بر عهده کیست؟ چه کسانی باید صداقت در تحقیق را کنترل کنند؟ نهادهایی مانند UKCORI (بالا) می توانند اصول و مبانی و رهنمود تولید کنند ولی ناشر است که با نگاه به دستورالعملهای منتشر شده، بررسی همتا را مدیریت میکند، تا علم ناب تحویل جامعه شود.
ورود هوش مصنوعی اکنون در همه دنیا و به ویژه در کشورهایی همطراز ایران آشفته بازاری پدید آورده که برای جدا سازی دوغ از دوشاب، باید به اندازه خود تحقیق بودجه و وقت صرف کرد. به ویژه پس از آنکه نیهار شاه، دانشمند هوش مصنوعی در دانشگاه کارنگی ملون و همکارانش، "دو ابزار برجسته – “آزمایشگاه عامل” (Agent Laboratory) و “دانشمند هوش مصنوعی” نسخه 2 Scientist) v2 (AIرا بررسی کردند که هر دو اخیراً برای کمک به دانشمندان کامپیوتر در انجام آزمایشها در حوزه یادگیری ماشین توسعه یافتهاند. ابزار AI Scientist اوایل امسال با تبدیل شدن به اولین سیستم هوش مصنوعی که یک مقاله تحقیقاتی اصلی آن توسط بررسی همتا پذیرفته شد، خبرساز شد". [11]
اما نیهارشاه در ارائهای در ۶ مه در "نهمین کنفرانس جهانی صداقت در تحقیق"، [12]گزارش داد که "هر دو سیستم درگیر اعمالی هستند که در تحقیقات قابل قبول نیستند، از جمله " دادهسازی" و "هک کردن دادهها [13]P-Hacking (باتکرار چندین بار یک آزمایش تا زمان رسیدن به بهترین نتیجه و اما فقط گزارش بهترین نتیجه. ( نتایج کار این تیم قبلاً به عنوان پیشچاپ در arXiv منتشر شده بود . این سوءرفتارها آشکار نبودند و نیاز به ردیابی زیادی داشتند، که نشان میدهد مطالعات مبتنی بر هوش مصنوعی ممکن است بدون اطلاع نویسندگانشان قربانی چنین مشکلاتی شوند. ساموئل اشمیدگال، دانشمند کامپیوتر که در زمان حضورش در دانشگاه جانز هاپکینز در توسعه برنامه "آزمایشگاه عامل" (Agent Laboratory) مشارکت داشته، میگوید: «یافتههای اصلی آنها ارزش جدی گرفتن را دارد". او میگوید: "کارهایی مانند کار نیهارشاه برای متقاعد کردن محققان در مورد راههایی که هوش مصنوعی میتواند مسائل را به بیراهه بکشاند، مهم است. او میافزاید، دانشمندان هوش مصنوعی در حال حاضر با سلب مسئولیتهای زیادی روبرو هستند که تأکید میکنند نظارت انسانی در هر مرحله ضروری است. جف کلون، دانشمند کامپیوتر در دانشگاه بریتیش کلمبیا، که از توسعهدهندگان همکار دانشمند هوش مصنوعی است، موافق است. “ما طرفدار این نیستیم که مردم صرفاً از این سیستمها برای تولید علم و انتشار خروجیها به همان صورت استفاده کنند ... داشمند هوش مصنوعی یک واترمارک دیجیتالی به مقالاتی که تولید میکند اضافه میکند تا منشأ آنها را نشان دهد"[14].
"نگرانکننده این است که هر دو سیستم گاهی اوقات مجموعه دادههایی را اختراع میکردند، مثلاً زمانی که دادهها به نحوی گم شده بودند، زیرا بخشهای مختلف عامل هوش مصنوعی وظایف خود را انجام میدادند و آنها را به بخش بعدی منتقل میکردند. نیهارشاه میگوید: "این برای ما کاملاً غیرمنتظره بود؛ ما بسیار شگفتزده شدیم[15]."
"چیزی که اوضاع را بدتر میکرد، این بود که هوش مصنوعی در مورد آن رک و راست نبود. تیم فقط زمانی این رفتار را کشف کرد که آزمایشی طراحی کرد تا ببیند آیا هوش مصنوعیها، که گاهی اوقات عملکردهای فوقالعاده خوبی را گزارش میکردند، با نگاه کردن مخفیانه به دادههای آزمایشی در طول آموزش، تقلب میکنند یا خیر. بررسی کد ردیابی - سابقه بسیار طولانی و کامل از آنچه هوش مصنوعیها انجام دادند - نشان داد که ، هوش مصنوعیها گاهی اوقات دادهها را از خودشان میساختند. در کد ردیابی، هوش مصنوعیها بهانههایی آوردند، مانند اینکه: دادهها را برای آموزش سریعتر ایجاد کردهاند. شاه میگوید: « واقعاً نگرانکننده است.» هر دو سیستم همچنین در استفاده از روشهایی مشابه در هک کردن کامپیوتر مقصر بودند. شاه میگوید: «شما دادهها را آنقدر تکهتکه میکنید تا به نتیجهی قابل توجهی برسید."[16]
اکثر ناشران در حال حاضر افشای استفاده از هوش مصنوعی در مقالات تحقیقاتی را الزامی میدانند، اما یافتهها نشان میدهد که این ممکن است کافی نباشد. رنه هوچ، رئیس اخلاق انتشاراتی "کتابخانه عمومی علوم"[17] ، میگوید: «واقعاً جالب است که این سیستمها به این شیوهها تمایل دارند…… «پیشبینی اینکه به چه محافظهایی نیاز داریم دشوار خواهد بود، زیرا هزاران دلیل وجود دارد که میتواند به اشتباه بینجامد.» از قضا، هوش مصنوعی ممکن است بخشی از راهحل برای تشخیص تخلفات پنهان باشد. این تیم نمیتوانست تنها با تکیه بر مقالات تحقیقاتی نهایی تشخیص دهد که چه مشکلاتی در پشت پرده وجود دارد. اما وقتی یک مدل زبانی بزرگ، هم مقالات نهایی و هم کد ردیابی کامل را که برای یک داور انسانی بسیار طولانی بود، خواند، توانست مشکلات مربوط به یکپارچگی تحقیق را با دقت حدود ۸۰٪ تشخیص دهد. نیهارشاه معتقد است که مجلات باید هنگام بررسی مقالات تولید شده با استفاده از عوامل هوش مصنوعی، کد ردیابی کامل را درخواست کنند. اشمیدگال موافق است. او میگوید: «الگوی بررسی فقط مقاله برای کارهای تولید شده توسط هوش مصنوعی کافی نیست.» نیهارشاه میگوید این نتایج همچنین به این معنی است که خروجی سیستمهای عامل هوش مصنوعی باید با احتیاط فراوان مدیریت شود. من واقعاً در مورد استفاده از هوش مصنوعی در علم خوشبین هستم - فکر میکنم پتانسیل زیادی دارد.» اما او اضافه میکند: «در حال حاضر، ما به محققانی نیاز داریم که از این روش استفاده میکنند تا بسیار محتاطتر باشند.[18]»
نیکلای جونز در خبر دیگری در مجله خبری Science Adviser (متعلق به انجمن علم امریکا و منتشر کننده مجله معنبر “Science” ) با عنوان: " در حالی که محققان به دنبال دستورالعملهای افشای جهانی هوش صنوعی هستند، جزئیات مبهم است"[19] اشاره کوتاهی به چندسخنرانی از سخنرانیهای شرکت کنندگان دارد که این ابهام و آشفتگی، حتی در تصمیمگیری بین موافقان افشا و مخالفان و اخلاق گرایان را به خوبی نشان میدهد.
جونز مینویسد: "عوامل هوش مصنوعی ممکن است محققان ماهری باشند اما همیشه محققان صادقی نیستند. دو ابزار مشهور(گفته شده در همین یادداشت) نشان دادهاند که دادهها را جعل میکنند و نتایج آنها را "p-hack" میکنند[20]".
جونز در ادامه می«ویسد: "طرحی روی صفحه نمایش اتاق کنفرانس نمایش داده میشود: «محققان باید ایدهپردازی هوش مصنوعی را اعلام کنند، حتی زمانی که هیچ یک از این ایدهها در نهایت در نسخه نهایی مقاله گنجانده نشده باشند.» دهها نفر از شرکتکنندگان به سمت تابلویی با عنوان «کاملاً مخالفم» میروند؛ چند نفر زیر تابلوی «کاملاً موافقم» محکم ایستادهاند. خندهای ناخوشایند اتاق را فرا میگیرد[21]".
"این صحنهای بود که در کنفرانس جهانی صداقت در پژوهش (WCRI) در ۴ مه، در جلسهای که محققان، ناشران، اخلاقگرایان و دیگران در حال بررسی یک استاندارد جهانی برای زمان و چگونگی افشای استفاده محققان از هوش مصنوعی (AI) بودند، رخ داد. این بحثها به دستورالعملهایی منجر خواهد شد که برت سگرز، یکی از رهبران پروژه - ریاضیدان و رئیس کمیسیون فلاندری برای صداقت در پژوهش در بلژیک - امیدوار است تا پایان امسال منتشر شود. با این حال، بحثها نشان داد که تدوین این دستورالعملها آسان نخواهد بود[22]".
اولین موضوع کلیدی برای این گروه آستانهها بود: چه سطحی از استفاده از هوش مصنوعی باید افشا شود و با چه سطحی از جزئیات؟ بسیاری از دانشمندان گزارش میدهند که از هوش مصنوعی برای اصلاح یا ویرایش نوشتههای خود استفاده میکنند. بحث در اتاق بررسی کرد که آیا این باید به عنوان یک سهم اساسیتر در رشتههایی مانند فلسفه، که در آن خود نوشته، معنای اثر را در بر میگیرد، نسبت به رشتههای دادهمحورتر مانند شیمی، در نظر گرفته شود. برخی احساس میکردند که استفاده از هوش مصنوعی برای علامتگذاری اشتباهات احتمالی قبل از ارسال مقاله، شاید میتوانست بدون ذکر باشد، در حالی که بهکارگیری آن در تحقیقات خودکار کاملاً عاملمحور، موضوع کاملاً متفاوتی بود.
برخی از محققان قویاً معتقدند که مقالات باید همیشه شامل افشای کامل مدل هوش مصنوعی مورد استفاده، در کدام روز، و همچنین سوابق کامل درخواستها و پاسخها باشند (به کادر زیر مراجعه کنید). برخی دیگر از الزامات افشای سنگین یا طولانی، همراه با نگرانی از اینکه کار با کمک هوش مصنوعی بدنام شود، میترسند و این امر باعث میشود که گزارشهای کمتری ارائه شود. برخی از آستانه بسیار بالایی حمایت میکنند و افشای اطلاعات را فقط در صورتی لازم میدانند که هوش مصنوعی به سطح مشارکت نویسنده برسد. اولاوو آمارال، دانشمند علوم فراشناختی در دانشگاه فدرال ریودوژانیرو، میگوید: مشارکتهای کوچکتر «آنقدر فراگیر خواهند شد که افشای کامل بیمعنی خواهد بود[23]».
آمارها نیز نشان از سردرگمی دارد، ولی همانطور که نوشتم، دولتها و صنایع بزرگ و جامعه پزشکی به شدت نگران میزان و نحوة استفاده از هوش مصنوعی در تولیدات علمی هستند. جونز مقاله دوم خود (8 ماه مه 2026) را به فرازی از مقاله محمد حسینی دانشمند و پژوهشگر دانشگاه نورث وسترن به پایان میرساند: " محمد حسینی، متخصص اخلاق در دانشگاه نورث وسترن که در مورد افشای اطلاعات هوش مصنوعی نوشته است، در مورد کل این تلاش تردید دارد. او میگوید اگرچه این بحثها برای «تعامل با جامعه» مفید هستند، اما با توجه به سرعت تغییرات فناوری و تنوع هنجارها بین رشتهها، ایجاد دستورالعملهای جهانی کاربردی ممکن است. غیرممکن باشد. «این یک هدف متحرک است. من شک دارم که هر چیزی که در اینجا توسعه یافته است، بتواند عملیاتی شود[24]".
خوب است که مسئولین ایرانی مقالههای این کنفرانس و نگرانیهای مطرح شده در کنفرانس را بخوانند و نهادی را برای حراست از دادههای پژوهشی ایران تقویت کنند و این مهم را برعهده آن نهاد بگذارند. انشاءالله تعالی.
عمرانی، سید ابراهیم (۱۴۰۵). « به مناسبت نهمین کنفرانس جهانی صداقت در پژوهش، ونکوور – کانادا. ۳ تا ۶ مه ۲۰۲۶: هوش مصنوعی محققی ماهر، اما نه همیشه صادق». سخن هفته لیزنا، شماره 795، 18 خرداد ماه ۱۴۰۵
----------------------------
[1] . کمیته صداقت در پژوهش بریتانیا UK Committee for Research Integrity . https://ukcori.org/wp-content/uploads/2025/05/Research-Integrity-in-the-Era-of-Generative-AI-%E2%80%93-A-Perspective.pdf
[2] . Chubb J, Watermeyer R: Articulating impact: the role of public engagement in the REF.Palgrave Communications,2017;3: 17057.
[3] Oancea A: Research governance and the ethics of impact. In: L. McNay, (ed.), Governance of educational research in higher education. Routledge,2019;74–92
[4] . Jensen EA: Why impact evaluation matters in science communication: or, advancing the science of science communication.In: P. Weingart, et al. (Eds.), Science communication in South Africa: reflections on current issues.African Minds,2020;213–228. 10.5281
[5] . Antoni S, Beer J: Ethics of care: research impact through empathetic engagement. J Appl Ethics. 2019;45(2):123–135
[6] . UK Research Excellence Framework (REF)
[7] . Hong Kong and China Research Assessment Exercise
[8] . Bornmann L, Haunschild R: Bibliometrics in research evaluation: a comprehensive overview.Springer,2019
[9] . Ogunniye, Gideon. Research Integrity in the Era of Generative AI – A Perspective. Gideon Ogunniye, Amaya Hana, https://ukcori.org/wp-content/uploads/2025/05/Research-Integrity-in-the-Era-of-Generative-AI-%E2%80%93-A-Perspective.pdf.
[10] . Peer Review
[11] . Jones, Nikola. AI scientists are violating rules on research integrity . Science. 2026 May 7;392(6798):569. https://pubmed.ncbi.nlm.nih.gov/42096563/
[12] . 9th World Conference on Research Integrity. May 3 – 6, 2026
[13] . هک کردن دادهها (P-hacking) همچنین به عنوان لایروبی دادهها (data dredging)، ماهیگیری دادهها (data fishing) و جاسوسی دادهها (data snooping) شناخته میشود. هک کردن دادهها (P hacking) دستکاری تجزیه و تحلیل دادهها تا زمانی است که نتایج آماری معناداری ارائه دهد و صحت یافتهها را به خطر بیندازد. این عمل مشکلساز، یکپارچگی تحقیقات علمی را تضعیف میکند.
[14] . همان
[15] همان.
[16] .همان
[17] Public Library of Science (PLO)
[18] . Jones, Nicola. AI agents may be skilled researchers but not always honest one : Two high-profile tools have been shown to make up data and “p-hack” their results .Science Adviser. May,6. https://www.science.org/content/article/ai-agents-may-be-skilled-researchers-not-always-honest-ones
[19] . Jones, Nicola. As Researcher aim for universal ai disclosure guideleines, the devil is in the details. Science Adviser. May,8. 2026. https://www.science.org/content/article/researchers-aim-universal-ai-disclosure-guidelines-devil-details
[20] . Jones. همان
[21] همان.
[22] همان.
[23] همان.
[24] همان.

نهاد کتابخانه های عمومی کشور به بهانه #کوچک_سازی_دولت نیروهای با سابقه (پیمانی و...) را تنزل درجه داده و یا حذف میکند و بجای آن نیروهای جدید با قرارداد ساعتی جایگزین میکند!
نهاد کتابخانه های عمومی کشور اگر قصد کوچک سازی ستاد دارد و جای نیروی پیمانی ۱۳سال سابقه آنجا نیست، موظفند تمام نیروهای ساعتی که یک سال و نیم اخیر وارد کرده اند، فورا اخراج کنند.
#عدالت #آزاده_نظربلند