گزارش جامع از راهنمای استفاده از هوش مصنوعی در پژوهش + لینک

به گزارش خبرنگار سرویس فرهنگی اجتماعی خبرگزاری رسا، وزارت علوم، تحقیقات و فناوری با همکاری وزارت تعلیم و تربیت، نخستین ویرایش «راهنمای استفاده از ابزارهای هوش مصنوعی در پژوهش» را در آبان‌ماه ۱۴۰۴ منتشر کرد. این سند که توسط مؤسسه تحقیقات سیاست علمی کشور و با نظارت دفتر سیاست‌گذاری و برنامه‌ریزی امور پژوهشی تدوین شده، به منظور ایجاد چارچوبی اخلاقی، حقوقی و فنی برای بهره‌گیری از فناوری‌های هوش مصنوعی در فعالیت‌های علمی، آموزشی و پژوهشی ابلاغ گردیده است.

بخش اول: تعاریف و واژگان تخصصی

در این راهنما، ۲۵ اصطلاح کلیدی تعریف شده است که از جمله می‌توان به هوش مصنوعی، یادگیری ماشین، یادگیری عمیق، پردازش زبان طبیعی، ابزار تشخیص هوش مصنوعی، ارزیابی خودکار نوشتار، تولید محتوا، اخالق هوش مصنوعی، الگوریتم، خودگردانی، سوگیری، توهم (Hallucination)، دستور (Prompt) و داده‌های مصنوعی (Synthetic Data) اشاره کرد. بر اساس این تعاریف، داده‌های مصنوعی به داده‌هایی گفته می‌شود که به‌صورت الگوریتمی تولید می‌شوند و برای آموزش مدل‌ها بدون نیاز به داده‌های واقعی و حساس کاربرد دارند.

بخش دوم: الزامات اخلاقی در استفاده از هوش مصنوعی

راهنما بر رعایت ۱۰ اصل اخلاقی تأکید دارد که مهم‌ترین آنها عبارتند از:

• انسان‌محوری و شفافیت: هوش مصنوعی باید در خدمت نیازهای انسانی باشد و پژوهشگران موظف‌اند هرگونه استفاده از این ابزارها را در مراحل تهیه یا تحلیل محتوای علمی، به‌صراحت اعلام کنند.

• مسئولیت‌پذیری: پژوهشگر مسئولیت کامل محتوای تولیدشده را بر عهده دارد و نمی‌تواند خطاهای خروجی را به گردن ابزار بیندازد.

• انصاف و پرهیز از سوگیری: پژوهشگر باید با دید نقادانه، خروجی را بررسی کرده و از ورود هرگونه سوگیری جنسیتی، قومی، سیاسی یا طبقاتی به محتوای علمی جلوگیری کند. پالایش سوگیری‌های احتمالی بر عهدهٔ پژوهشگر است.

• پایداری محیط‌زیستی: کاربران باید تأثیرات محیط‌زیستی مدل‌ها را لحاظ کرده و تا حد امکان از مدل‌های کوچک‌تر، کم‌مصرف و محلی استفاده کنند.

• رعایت دستورالعمل ناشران: پژوهشگران موظف‌اند پیش از ارسال اثر، سیاست‌های ناشر را مطالعه کنند و ناآگاهی از این دستورالعمل‌ها، رافع مسئولیت نیست.

• پایبندی به مالکیت فکری و قانون مقابله با تقلب: رعایت قوانین مصوب مجلس و وزارت علوم در حوزه مالکیت فکری و پیشگیری از تقلب در آثار علمی، الزامی است.

بخش سوم: طبقه‌بندی داده‌ها و تدارکات امنیتی

داده‌های پژوهشی به چهار سطح «عمومی»، «حساب»، «محرمانه» و «سری» تقسیم می‌شوند. استفاده از داده‌های محرمانه (مانند اطلاعات هویتی، کد ملی، داده‌های پزشکی و قراردادهای مالی) در ابزارهای عمومی ممنوع بوده و صرفاً با سیستم‌های ایزوله و آفلاین و تأیید واحد فناوری اطلاعات مجاز است. استفاده از داده‌های سری (که به امنیت ملی یا سازمانی آسیب می‌زند) در هر گونه ابزار هوش مصنوعی، مطلقاً ممنوع اعلام شده است. همچنین هر گونه خرید یا توسعهٔ نرم‌افزار باید از مراجع ذی‌صلاح و پس از ارزیابی امنیتی انجام شود.

بخش چهارم: ممنوعیت تصمیم‌گیری‌های حساس و عدالت آموزشی

بر اساس این راهنما، استفاده از هوش مصنوعی برای تصمیم‌گیری‌های حساس و پرخطر همچون ارزیابی و پذیرش دانشجو، ارزیابی عملکرد آموزشی اساتید و قضاوت‌های انضباطی، بدون تأیید رسمی کمیته‌های ذی‌صلاح ممنوع است. در عین حال، تأکید شده که باید از این ابزارها برای کمک به یادگیرندگان دارای نیازهای خاص، معلولیت‌ها یا زبان‌های مختلف استفاده شود و هم‌زمان از تشدید سوگیری‌های جنسیتی، نژادی یا طبقاتی جلوگیری به عمل آید.

بخش پنجم و ششم: مصادیق مجاز و غیرمجاز

استفاده‌های مجاز شامل ترجمه و ویرایش زبانی، ایده‌پردازی اولیه (طوفان فکری)، مرور و خلاصه‌سازی منابع، تولید پیش‌نویس کدهای ساده و جداول، و نیز تولید تصاویر و نمودارها با ذکر صریح منبع و نام ابزار است.

استفاده‌های غیرمجاز عبارتند از: تولید داده‌ها و نتایج ساختگی در بخش‌های اصلی پژوهش، جعل و تحریف منابع، سپردن کامل نگارش مقاله به هوش مصنوعی بدون بازنگری انسانی، انجام پنهانی تکالیف دانشجویی بدون تأیید استاد، نقض حقوق مالکیت فکری، و بازنویسی آثار دیگران بدون ارجاع مناسب.

در بخش آموزشی، مثال‌های روشنی از مرز استفاده مجاز و غیرمجاز ذکر شده است؛ به‌عنوان مثال، خلاصه‌سازی یک مقاله با هوش مصنوعی یا مشورت برای دریافت ایده‌های اولیه مجاز است، اما کپی مستقیم پاسخ تحلیلی، ویرایش جزئی متن تولیدشده توسط هوش مصنوعی و ارائه آن به‌عنوان کار خود، و نیز استفاده از هوش مصنوعی برای تولید کد برنامه‌نویسی پروژه درسی بدون درک عملکرد آن، تخلف محسوب می‌شود.

بخش هفتم: الزامات استناد و ارجاع

شفاف‌سازی کامل در استفاده از ابزارها در بخش «بیانیه استفاده از هوش مصنوعی» یا «روش‌شناسی» الزامی است. راهنما الگوهای استاندارد ارجاع بر اساس سبک‌های APA، MLA، شیکاگو و هاروارد را ارائه کرده و برای تصاویر و شکل‌های تولیدشده (مانند DALL-E) نیز نمونه ارجاع جداگانه‌ای تعیین نموده است. همچنین با استناد به سیاست ناشران معتبر (نیچر، الزویر، تیلور و فرانسیس، سیج و اشپرینگر) تأکید شده که هوش مصنوعی فاقد صلاحیت اخلاقی و حقوقی برای نویسندگی است و نباید به‌عنوان نویسنده ذکر شود.

بخش هشتم: ثبت سوابق و بازتولیدپذیری

پژوهشگران موظف‌اند نقش دقیق ابزار را در مراحل مختلف شرح دهند. از آنجا که خروجی مدل‌های ابری ممکن است تکرارپذیر (Replicable) نباشد، پژوهشگران باید این محدودیت را در بخش روش‌شناسی گزارش کنند و در صورت امکان، از مدل‌های محلی یا متن‌باز استفاده نمایند. ارائهٔ کامل تعاملات با ابزار الزامی نیست، مگر اینکه استاد راهنما آن را ضروری بداند.

بخش نهم و دهم: سیاست‌های ناشران در فرآیند داوری و وظایف ویراستاران

راهنما برای داوران و ویراستاران علمی نیز تکالیف مشخصی تعیین کرده است:

• شفافیت: ویراستاران در صورت استفاده از هوش مصنوعی برای خلاصه‌سازی یا بررسی زبانی، موظف به افشای آن هستند.

• عدم واگذاری مسئولیت: تهیهٔ پیش‌نویس مقاله، تصمیم‌گیری نهایی در پذیرش یا رد، و تحلیل علمی به‌هیچ‌وجه نباید به هوش مصنوعی سپرده شود.

• حفاظت از محرمانگی: ویراستاران اجازه ندارند محتوای محرمانهٔ مقالات ارسالی را در پلتفرم‌های هوش مصنوعی بارگذاری کنند.

• مسئولیت کامل: مسئولیت اخلاقی، حقوقی و علمیِ تصمیمات بر عهدهٔ ویراستار انسانی است و نمی‌توان آن را به ابزار نسبت داد.

بخش یازدهم: استانداردهای اختصاصی در حوزه‌های هفت‌گانهٔ علمی

راهنما برای هر حوزه، استانداردهای جداگانه‌ای وضع کرده است:

• علوم انسانی: استفاده در تحلیل متون، خلاصه‌سازی و ترجمه مجاز است، اما در حوزه‌هایی چون ادبیات، فلسفه و زبان‌شناسی، هوش مصنوعی نباید جایگزین تفسیر و نقد انسانی شود. تولید آثار خلاقانه (نثر و شعر) بدون ذکر ابزار، تخلف است.

• علوم اجتماعی: استفاده در داده‌کاوی شبکه‌های اجتماعی، تحلیل گفتمان و شبیه‌سازی مجاز است، اما باید از سوگیری‌های طبقاتی و نژادی پرهیز شده، تفسیر انسانی بر اساس نظریه‌های معتبر انجام شود. تولید پاسخ‌های ساختگی پرسش‌نامه یا جعل داده‌های میدانی ممنوع است.

• علوم پایه: استفاده در تحلیل داده‌های آزمایشگاهی، مدل‌سازی عددی و شبیه‌سازی‌ها با شفافیت کامل روش و قابلیت بازتولید مجاز است. تولید داده‌های جعلی و تحریف نتایج تجربی ممنوع است.

• کشاورزی و منابع طبیعی: کاربرد در مدل‌سازی اقلیمی، پیش‌بینی محصول و تحلیل تصاویر ماهواره‌ای با تأکید بر آموزش مدل‌ها بر اساس داده‌های بومی و ارزیابی توسط متخصص، مجاز است. تغییر مصنوعی داده‌های محیط‌زیستی تخلف است.

• فنی و مهندسی: استفاده برای بهینه‌سازی فرآیندها، پیش‌بینی عملکرد و تحلیل کلان‌داده‌ها مجاز است، اما کاربرد در طراحی مدار، تولید کد یا کنترل صنعتی بدون بازبینی انسانی ممنوع است. کدها و طراحی‌های مولد باید با ذکر ابزار گزارش شوند.

• هنر، طراحی و معماری: استفاده از ابزارهایی چون Midjourney، DALL-E، Stable Diffusion و Runway ML برای خلق آثار بصری و معماری با تأکید بر اصالت هنری، شفافیت و رعایت مالکیت فکری مجاز است. هنرمند موظف است بخش یا کل اثر تولیدشده با هوش مصنوعی را اعلام کند.

• علوم پزشکی و سلامت: استفاده از هوش مصنوعی در تحلیل تصاویر پزشکی، شناسایی الگوهای بیماری و طراحی درمان، صرفاً با اعتبارسنجی مدل و تأیید متخصص مرتبط مجاز است. نگارش مقالات با داده‌های ساختگی ممنوع بوده و رعایت حریم خصوصی بیماران و ناشناس‌سازی اطلاعات از الزامات اصلی است.

بخش دوازدهم: سواد و آموزش هوش مصنوعی

راهنما بر توسعهٔ «سواد هوش مصنوعی» به‌عنوان توانایی درک، ارزیابی و مشارکت انتقادی با این فناوری تأکید دارد. مؤسسات آموزشی موظف‌اند دوره‌های منظمی برای اعضای هیأت علمی، دانشجویان و کارکنان در زمینهٔ ارزیابی انتقادی خروجی‌ها، تشخیص سوگیری و آشنایی با قوانین حریم خصوصی برگزار کنند.

بخش سیزدهم: فرآیندهای نظارتی و ارزیابی تخلفات

برای حفظ صداقت علمی، مؤسسات موظف به تشکیل کمیته‌های تخصصی ذیل کارگروه اخلاق در پژوهش، تدوین فرم‌های خوداظهاری، استفاده از ابزارهای فنی تشخیص متون تولیدشده و راه‌اندازی سامانه‌های رصد و گزارش‌دهی هستند. نکته حائز اهمیت این است که خروجی نرم‌افزارهای تشخیص هوش مصنوعی به‌تنهایی مبنای قطعی اثبات تخلف نیست؛ چرا که ممکن است با خطا همراه باشند. کمیته‌های رسیدگی موظف‌اند تمام شواهد را جامع بررسی کنند و فرصت کافی برای دفاع و ارائه توضیحات به دانشجو یا عضو هیأت علمی بدهند.

سخن پایانی

این راهنما با این لینک به‌عنوان سندی پویا معرفی شده است که به‌صورت دوره‌ای توسط کمیته تخصصی بازنگری و به‌روزرسانی می‌شود تا با آخرین پیشرفت‌های فناوری و چالش‌های اخلاقی همگام باشد و نسخه‌های جدید آن پس از تصویب در کارگروه وزارتی اخلاق در پژوهش، ابلاغ خواهد شد.