این سایت در حال حاضر پشتیبانی نمی شود و امکان دارد داده های نشریات بروز نباشند
مجله علمی دانشگاه علوم پزشکی رفسنجان، جلد ۲۴، شماره ۹، صفحات ۷۷۳-۷۷۴
عنوان فارسی محدودیت‌های استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی
چکیده فارسی مقاله
Editorial
مجله دانشگاه علوم پزشکی رفسنجان
دوره 24، آذر 1404، 774-773




محدودیت‌های استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی


Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts

محسن رضائیان[1]

Mohsen Rezaeian


سخن سردبیری شماره شهریورماه سال‌جاری به رهیافت مجله دانشگاه در مورد چگونگی استفاده از ابزار هوش مصنوعی مولد اختصاص داده شده بود. همان جا اشاره کردیم که استفاده از این ابزار دارای نکات مثبت و محدودیت‌های متعددی می‌باشد. با این وجود، به نظر می‌رسد که در حال حاضر محدودیت‌های استفاده از هوش مصنوعی در نگارش مقالات سلامت آن قدر زیاد است که باید با دقت هر چه تمام‌تر این ابزار را به کار گرفت. ما در همان سخن سردبیری به یکی از این محدودیت‌ها اشاره کردیم. آن محدودیت این بود که اگر از ابزار هوش مصنوعی مولد بخواهیم بخش‌هایی از مقاله نظیر مقدمه را برایمان بنوسید، ممکن است که از منابعی استفاده نماید که خود تولید کرده و این منابع وجود خارجی نداشته باشند (1). چنین منابع جعلی (Fake) را حاصل توهم (Hallucination) هوش مصنوعی، قلمداد کرده‌اند (2).
Hua و همکاران از دو نسخه قدیمی و جدیدتر یک ابزار هوش مصنوعی مولد درخواست کردند که خلاصه‌های علمی همراه با ده منبع برای سؤالات تحقیقات بالینی در هفت رشته‌ی تخصصی چشم‌پزشکی را برایشان تهیه کند. آن‌ها نشان دادند که سی و سه درصد از منابع تولید شده توسط نسخه اولیه و بیست و نه درصد از منابع تولید شده توسط نسخه به روز شده، منابع جعلی بوده است که توسط هوش مصنوعی تولید شده است (2). از آنجایی‌که استفاده از منابع جعلی به بنیاد علم لطمه‌های جبران‌ناپذیری وارد می‌کند، بنابراین، محققین به خصوص محققین جوان، باید استفاده از این ابزار را با آگاهی هر چه تمام‌تر از این محدودیت انجام دهند (1).
افزون بر این، Cohen و Moher در مقاله خود به یکی از محدودیت‌های دیگر ابزار هوش مصنوعی مولد در نگارش مقالات علمی اشاره کرده‌اند. آنها به این نکته اشاره می‌کنند که ابزارهای هوش مصنوعی مولد، برای تولید متن با بهره‌گیری از مدل‌های زبانی بزرگ (Large language models) طراحی شده‌اند. برای این منظور و به طور بهینه، مدل‌های زبانی بزرگ بر روی مجموعه داده‌های وسیعی که مشتمل بر محتوای متنی متنوع بوده و با در نظر گرفتن میلیاردها پارامتر آموزش داده می‌شوند (4).
با این که منابع دقیق داده‌های آموزشی برای اغلب مدل‌های زبانی بزرگ گزارش نشده و یا نامشخص می‌باشند، این احتمال قوی وجود دارد که اغلب آن‌ها به طور نامتناسبی به زبان انگلیسی بوده و تولید شده توسط مؤسسات موجود از کشورهای غربی با درآمد بالا ‌باشند. چون، مؤسسات موجود در کشورهای شرقی و با درآمد پایین، به طور تاریخی چنین داده‌هایی را یا تولید نکرده و یا با کیفیت پایین تولید می‌نمایند. از همین رو، متونی که در حال حاضر توسط ابزارها هوش مصنوعی مولد تولید می‌گردند، بیشتر در برگیرنده شرایط و مقتضای کشورهای غربی با درآمد بالا بوده و همین امر می‌تواند به شکاف موجود در این زمینه، بیشتر از بیش دامن بزند (4).
 
[1]- استاد گروه آموزشی اپیدمیولوژی و آمار زیستی، دانشکده بهداشت، مرکز تحقیقات محیط کار، دانشگاه علوم پزشکی رفسنجان، رفسنجان، ایران
  کد پستی: 7718175911، تلفن: 31315243-034، پست الکترونیکی: moeygmr2@yahoo.co.uk، ارکید: 0000-0003-3070-0166
کلیدواژه‌های فارسی مقاله هوش مصنوعی مولد
عنوان انگلیسی Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts
چکیده انگلیسی مقاله سخن سردبیر
Editorial
مجله دانشگاه علوم پزشکی رفسنجان
دوره 24، آذر 1404، 774-773




محدودیت‌های استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی


Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts

محسن رضائیان[1]

Mohsen Rezaeian


سخن سردبیری شماره شهریورماه سال‌جاری به رهیافت مجله دانشگاه در مورد چگونگی استفاده از ابزار هوش مصنوعی مولد اختصاص داده شده بود. همان جا اشاره کردیم که استفاده از این ابزار دارای نکات مثبت و محدودیت‌های متعددی می‌باشد. با این وجود، به نظر می‌رسد که در حال حاضر محدودیت‌های استفاده از هوش مصنوعی در نگارش مقالات سلامت آن قدر زیاد است که باید با دقت هر چه تمام‌تر این ابزار را به کار گرفت. ما در همان سخن سردبیری به یکی از این محدودیت‌ها اشاره کردیم. آن محدودیت این بود که اگر از ابزار هوش مصنوعی مولد بخواهیم بخش‌هایی از مقاله نظیر مقدمه را برایمان بنوسید، ممکن است که از منابعی استفاده نماید که خود تولید کرده و این منابع وجود خارجی نداشته باشند (1). چنین منابع جعلی (Fake) را حاصل توهم (Hallucination) هوش مصنوعی، قلمداد کرده‌اند (2).
Hua و همکاران از دو نسخه قدیمی و جدیدتر یک ابزار هوش مصنوعی مولد درخواست کردند که خلاصه‌های علمی همراه با ده منبع برای سؤالات تحقیقات بالینی در هفت رشته‌ی تخصصی چشم‌پزشکی را برایشان تهیه کند. آن‌ها نشان دادند که سی و سه درصد از منابع تولید شده توسط نسخه اولیه و بیست و نه درصد از منابع تولید شده توسط نسخه به روز شده، منابع جعلی بوده است که توسط هوش مصنوعی تولید شده است (2). از آنجایی‌که استفاده از منابع جعلی به بنیاد علم لطمه‌های جبران‌ناپذیری وارد می‌کند، بنابراین، محققین به خصوص محققین جوان، باید استفاده از این ابزار را با آگاهی هر چه تمام‌تر از این محدودیت انجام دهند (1).
افزون بر این، Cohen و Moher در مقاله خود به یکی از محدودیت‌های دیگر ابزار هوش مصنوعی مولد در نگارش مقالات علمی اشاره کرده‌اند. آنها به این نکته اشاره می‌کنند که ابزارهای هوش مصنوعی مولد، برای تولید متن با بهره‌گیری از مدل‌های زبانی بزرگ (Large language models) طراحی شده‌اند. برای این منظور و به طور بهینه، مدل‌های زبانی بزرگ بر روی مجموعه داده‌های وسیعی که مشتمل بر محتوای متنی متنوع بوده و با در نظر گرفتن میلیاردها پارامتر آموزش داده می‌شوند (4).
با این که منابع دقیق داده‌های آموزشی برای اغلب مدل‌های زبانی بزرگ گزارش نشده و یا نامشخص می‌باشند، این احتمال قوی وجود دارد که اغلب آن‌ها به طور نامتناسبی به زبان انگلیسی بوده و تولید شده توسط مؤسسات موجود از کشورهای غربی با درآمد بالا ‌باشند. چون، مؤسسات موجود در کشورهای شرقی و با درآمد پایین، به طور تاریخی چنین داده‌هایی را یا تولید نکرده و یا با کیفیت پایین تولید می‌نمایند. از همین رو، متونی که در حال حاضر توسط ابزارها هوش مصنوعی مولد تولید می‌گردند، بیشتر در برگیرنده شرایط و مقتضای کشورهای غربی با درآمد بالا بوده و همین امر می‌تواند به شکاف موجود در این زمینه، بیشتر از بیش دامن بزند (4).
 
[1]- استاد گروه آموزشی اپیدمیولوژی و آمار زیستی، دانشکده بهداشت، مرکز تحقیقات محیط کار، دانشگاه علوم پزشکی رفسنجان، رفسنجان، ایران
  کد پستی: 7718175911، تلفن: 31315243-034، پست الکترونیکی: moeygmr2@yahoo.co.uk، ارکید: 0000-0003-3070-0166
کلیدواژه‌های انگلیسی مقاله Generative Artificial Intelligence
نویسندگان مقاله محسن رضائیان | Mohsen Rezaeian
دانشگاه علوم پزشکی رفسنجان

نشانی اینترنتی http://journal.rums.ac.ir/browse.php?a_code=A-10-280-182&slc_lang=other&sid=1
فایل مقاله فایلی برای مقاله ذخیره نشده است
کد مقاله (doi)
زبان مقاله منتشر شده other
موضوعات مقاله منتشر شده آموزش پزشکی
نوع مقاله منتشر شده پژوهشی
برگشت به: صفحه اول پایگاه   |   نسخه مرتبط   |   نشریه مرتبط   |   فهرست نشریات