FDA چگونه می‌خواهد هوش مصنوعی مولد را در تجهیزات پزشکی ارزیابی کند؟
FDA برای بررسی شیوه نظارت بر تجهیزات پزشکی دارای هوش مصنوعی مولد، چارچوب‌های احتمالی ارزیابی خطر، آزمون صلاحیت بالینی و پایش مستمر عملکرد را مطرح کرده است. این سند هنوز مقررات رسمی محسوب نمی‌شود.
FDA چگونه می‌خواهد هوش مصنوعی مولد را در تجهیزات پزشکی ارزیابی کند؟
هوش مصنوعی مولد به‌تدریج وارد ابزارهایی می‌شود که قرار است به پزشکان در تحلیل اطلاعات، تشخیص بیماری و تصمیم‌گیری بالینی کمک کنند. اما ارزیابی این سامانه‌ها با نرم‌افزارهای پزشکی متداول یک تفاوت مهم دارد: خروجی آن‌ها همیشه ثابت و از پیش قابل پیش‌بینی نیست.
ممکن است یک مدل در پاسخ به پرسش‌های مشابه، توضیحات متفاوتی ارائه دهد یا طی یک گفت‌وگوی طولانی، از ارائه اطلاعات عمومی به پیشنهاد یک اقدام پزشکی برسد. همین ویژگی‌ها باعث شده‌اند روش‌های معمول آزمون نرم‌افزار برای بعضی کاربردهای هوش مصنوعی مولد کافی نباشند.
سازمان غذا و داروی آمریکا (FDA) در ۱۸ اوت ۲۰۲۶ سندی با عنوان «ملاحظات تنظیم‌گری تجهیزات پزشکی مجهز به هوش مصنوعی مولد» منتشر کرد تا دیدگاه پژوهشگران، پزشکان، تولیدکنندگان تجهیزات و دیگر ذی‌نفعان را درباره شیوه ارزیابی این فناوری گردآوری کند.
این سند در مرحله بحث و دریافت نظر منتشر شده و به معنای تصویب مقررات جدید نیست.
چرا ارزیابی هوش مصنوعی مولد دشوارتر است؟
نرم‌افزارهای پزشکی متداول معمولاً برای عملکردهایی با ورودی و خروجی نسبتاً مشخص طراحی می‌شوند. اما سامانه‌های مبتنی بر مدل‌های زبانی و هوش مصنوعی مولد می‌توانند اطلاعات مختلف را دریافت کنند، چند وظیفه را پشت سر بگذارند و پاسخ‌هایی تولید کنند که از نظر محتوا و شکل یکسان نیستند.
یکی از نگرانی‌ها، تولید اطلاعات نادرست اما ظاهراً معتبر است؛ پدیده‌ای که با عنوان «توهم هوش مصنوعی» شناخته می‌شود.
نگرانی دیگر، تغییر عملکرد سامانه پس از به‌روزرسانی مدل، اصلاح پرامپت‌ها، تغییر منابع بازیابی اطلاعات یا تغییر در ابزارهای متصل به مدل است.
این تغییرات ممکن است بدون آنکه ظاهر نرم‌افزار تفاوت زیادی پیدا کند، بر رفتار و ایمنی آن تأثیر بگذارند.
پیشنهاد نخست: خطر فقط به نوع پاسخ وابسته نیست
FDA در این سند یک چارچوب احتمالی دومحوره را برای بررسی خطر مطرح کرده است.
محور نخست به میزان استقلال عملکرد سامانه مربوط می‌شود؛ از ابزاری که صرفاً اطلاعات ارائه می‌کند تا سامانه‌ای که می‌تواند اقدامی را پیشنهاد دهد یا مستقلاً انجام دهد.
محور دوم، شدت پیامد احتمالی یک پاسخ یا اقدام اشتباه است.
برای مثال، پاسخ نادرست یک ابزار آموزشی عمومی با تصمیم اشتباه سامانه‌ای که در فرایند درمان نقش مستقیم دارد، پیامد یکسانی نخواهد داشت.
این موضوع در هوش مصنوعی عامل‌محور اهمیت بیشتری پیدا می‌کند؛ زیرا چنین سامانه‌هایی ممکن است چند مرحله را برنامه‌ریزی کنند، از ابزارهای دیگر استفاده کنند و اقداماتی را با استقلال بیشتر انجام دهند.
FDA در حال بررسی این پرسش است که میزان اختیار سامانه و شدت آسیب احتمالی چگونه باید در تعیین سطح ارزیابی آن دخالت داده شوند.
پیشنهاد دوم: فقط نمره بنچمارک کافی نیست
یکی از بخش‌های مهم سند، بررسی رویکردی مبتنی بر ارزیابی شایستگی سامانه است.
بر اساس این رویکرد احتمالی، عملکرد یک تجهیز پزشکی مبتنی بر هوش مصنوعی مولد می‌تواند در دو سطح بررسی شود.
سطح اول: آزمون‌های ساختاریافته
سامانه از نظر دانش بالینی، تحلیل اطلاعات، تشخیص موقعیت‌های خطرناک، پایبندی به محدوده کاربرد، کیفیت ارتباط با کاربر و پایداری عملکرد بررسی می‌شود.
برای ابزارهای عامل‌محور، توانایی اجرای ایمن وظایف چندمرحله‌ای نیز می‌تواند بخشی از ارزیابی باشد.
سطح دوم: تأیید عملکرد در شرایط بالینی
عملکرد سامانه باید در شرایط واقعی یا شرایطی که نماینده محیط واقعی درمان هستند نیز بررسی شود.
در سند FDA روش‌های احتمالی مختلفی مطرح شده‌اند؛ از بررسی گذشته‌نگر پرونده‌های واقعی و اجرای آزمایشی بدون اثر بر درمان بیمار تا داوری متخصصان مستقل و مطالعات بالینی آینده‌نگر.
نکته مهم این است که FDA انجام کارآزمایی آینده‌نگر را برای تک‌تک کاربردها الزامی اعلام نکرده است. نوع شواهد موردنیاز می‌تواند متناسب با خطر و کاربرد موردنظر متفاوت باشد.
همچنین تأکید شده که ارزیابی باید روی محصول نهایی، با تنظیمات واقعی استفاده، انجام شود؛ نه صرفاً روی مدل زبانی پایه.
پیشنهاد سوم: نظارت نباید پس از عرضه متوقف شود
هوش مصنوعی مولد ممکن است پس از استقرار نیز تغییر کند. نسخه مدل، داده‌های ورودی، ابزارهای متصل یا شرایط استفاده می‌توانند بر عملکرد آن اثر بگذارند.
به همین دلیل، FDA چند شیوه احتمالی برای پایش پس از عرضه مطرح کرده است:
آزمون دوره‌ای سامانه با معیارهای مشخص
بررسی نمونه‌هایی از خروجی‌های واقعی توسط متخصصان مستقل
شناسایی افت عملکرد در طول زمان
ارزیابی مجدد پس از تغییرات مهم نرم‌افزار یا مدل زیربنایی
در این بخش، مسئولیت تولیدکننده و نقش مراکز درمانی، پزشکان و سایر ذی‌نفعان نیز مورد بحث قرار گرفته است.
جایگاه مدل‌های پایه و هوش مصنوعی عامل‌محور
بسیاری از محصولات پزشکی مولد، بر مدل‌هایی تکیه دارند که توسط شرکت دیگری ساخته شده‌اند. در این شرایط، توسعه‌دهنده محصول پزشکی لزوماً به تمام جزئیات داده‌های آموزشی یا تغییرات داخلی مدل دسترسی ندارد.
FDA به همین دلیل ایده استفاده داوطلبانه از پرونده‌های اطلاعاتی مدل پایه را مطرح کرده است. چنین پرونده‌هایی می‌توانند اطلاعات فنی و شواهد مربوط به مدل زیربنایی را برای بررسی تجهیزات مبتنی بر آن فراهم کنند.
بااین‌حال، ارائه این اطلاعات به معنای تأیید خودکار مدل پایه یا محصول پزشکی ساخته‌شده بر اساس آن نیست.
سند همچنین درباره سامانه‌های عامل‌محور پرسش‌هایی مطرح می‌کند: اگر یک عامل هوش مصنوعی بتواند ابزار اجرا کند، چند تصمیم متوالی بگیرد یا بدون بررسی انسانی اقدام کند، چه آزمون‌های ایمنی دیگری لازم خواهد بود؟
آیا FDA مقررات تازه‌ای تصویب کرده است؟
خیر.
FDA صریحاً اعلام کرده این سند نه راهنمای پیشنهادی رسمی است و نه راهنمای نهایی. همچنین هدف آن اعلام الزامات جدید برای تولیدکنندگان نیست.
مهلت اعلام‌شده برای دریافت نظرات عمومی، ۱۹ اکتبر ۲۰۲۶ بوده است. انتشار سند و گردآوری نظرها را نباید با نهایی‌شدن یک چارچوب تنظیم‌گری اشتباه گرفت.
نکته دیگر اینکه FDA خودِ هوش مصنوعی را به‌عنوان یک فناوری عمومی تنظیم‌گری نمی‌کند؛ نظارت این نهاد بر محصولاتی اعمال می‌شود که تحت قوانین مربوط به تجهیزات پزشکی قرار می‌گیرند.
بنابراین هر چت‌بات یا نرم‌افزار دارای هوش مصنوعی، صرفاً به‌دلیل استفاده در حوزه سلامت، الزاماً یک تجهیز پزشکی تحت نظارت FDA نیست.
اهمیت این سند برای توسعه‌دهندگان ایرانی
سند FDA می‌تواند برای شرکت‌های فناوری سلامت و مراکز پژوهشی ایران یک منبع مطالعاتی مفید باشد؛ به‌ویژه هنگام طراحی سامانه‌های تصمیم‌یار، ابزارهای مبتنی بر مدل‌های زبانی و عامل‌های هوش مصنوعی پزشکی.
یکی از مهم‌ترین پیام‌های این سند آن است که ارزیابی یک سامانه پزشکی باید فراتر از محاسبه دقت پاسخ‌ها باشد.
پیش از استقرار چنین سامانه‌هایی لازم است محدوده مجاز عملکرد، پیامد خطا، عملکرد در گروه‌های مختلف بیماران، توانایی تشخیص شرایط پرخطر و روش نظارت پس از به‌روزرسانی مشخص شود.
برای توسعه یک چارچوب بومی ارزیابی هوش مصنوعی پزشکی نیز می‌توان از ساختار پرسش‌های این سند الهام گرفت؛ اما کاربرد قانونی آن در ایران به قوانین، سیاست‌ها و نهادهای مسئول داخلی وابسته است.
جمع‌بندی
سند FDA نشان‌دهنده تلاش برای طراحی شیوه‌های ارزیابی متناسب با ویژگی‌های هوش مصنوعی مولد است؛ فناوری‌ای که ممکن است پاسخ‌های متغیر تولید کند، در طول زمان تغییر یابد یا وظایف چندمرحله‌ای انجام دهد.
در این نگاه، عملکرد خوب یک مدل در آزمون‌های رایج پایان ارزیابی نیست. باید روشن شود که محصول نهایی در کاربرد مشخص خود چه خطراتی دارد، در شرایط بالینی چگونه عمل می‌کند و پس از استقرار چگونه پایش خواهد شد.
این موارد هنوز در قالب موضوعات پیشنهادی برای بحث مطرح شده‌اند، نه الزامات قانونی جدید.
شناسنامه منبع
عنوان اصلی: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback
نهاد منتشرکننده: U.S. Food and Drug Administration (FDA)
واحد مسئول: Digital Health Center of Excellence، زیرمجموعه Center for Devices and Radiological Health
تاریخ انتشار: ۱۸ اوت ۲۰۲۶
نوع سند: مقاله بحث و درخواست بازخورد عمومی
وضعیت: غیرالزام‌آور؛ نه راهنمای پیش‌نویس رسمی و نه راهنمای نهایی
مهلت اعلام‌شده برای ارائه نظر: ۱۹ اکتبر ۲۰۲۶
شناسه پرونده دریافت نظرات: FDA-2026-N-7874
فایل کامل سند:
https://www.fda.gov/media/194242/download
اطلاعیه رسمی انتشار:
https://www.fda.gov/news-events/press-announcements/fda-seeks-public-feedback-inform-regulatory-approach-generative-ai-enabled-medical-devices
نکتهٔ کلیدی
سند FDA می‌تواند برای شرکت‌های فناوری سلامت و مراکز پژوهشی ایران یک منبع مطالعاتی مفید باشد؛ به‌ویژه هنگام طراحی سامانه‌های تصمیم‌یار، ابزارهای مبتنی بر مدل‌های زبانی و عامل‌های هوش مصنوعی پزشکی. یکی از مهم‌ترین پیام‌های این سند آن است که ارزیابی یک سامانه پزشکی باید فراتر از محاسبه دقت پاسخ‌ها باشد. پیش از استقرار چنین سامانه‌هایی لازم است محدوده مجاز عملکرد، پیامد خطا، عملکرد در گروه‌های مختلف بیماران، توانایی تشخیص شرایط پرخطر و روش نظارت پس از به‌روزرسانی مشخص شود. برای توسعه یک چارچوب بومی ارزیابی هوش مصنوعی پزشکی نیز می‌توان از ساختار پرسش‌های این سند الهام گرفت؛ اما کاربرد قانونی آن در ایران به قوانین، سیاست‌ها و نهادهای مسئول داخلی وابسته است.