پیامد‌های قانون هوش مصنوعی اروپا بر شرکت‌های فناوری پزشکی

قانون هوش مصنوعی بر توسعه، استقرار و استفاده از سیستم‌های هوش مصنوعی در اتحادیه اروپا نظارت می‌کند و هدف آن، ایجاد یک محیط نظارتی ساختاریافته و سازگار برای سیستم‌های هوش مصنوعی است.

قابل ذکر است، قانون هوش مصنوعی اروپا اولین مقررات جهانی است که به طور خاص هوش مصنوعی را هدف قرار می‌دهد و بستر مناسبی را برای حاکمیت بین‌المللی هوش مصنوعی ایجاد می‌کند. 

در این مقاله، پیامد‌های قانون هوش مصنوعی را برای بخش Medtech یا همان فناوری پزشکی تجزیه و تحلیل می‌کنیم و به برخی چالش‌های کلیدی تولیدکنندگان دستگاه‌های پزشکی و شرکای آنها در مسیر انطباق محصولاتشان با قانون هوش مصنوعی می‌پردازیم.

پیشینه قانون هوش مصنوعی

قانون هوش مصنوعی که کمیسیون اروپا آن را در آوریل ۲۰۲۱ (فروردین-اردیبهشت ۱۴۰۰) پیشنهاد کرد، پس از چندین دور مذاکرات فشرده در ۱۳ مارس ۲۰۲۴ (۲۳ اسفند ۱۴۰۲) توسط پارلمان اروپا و در ۲۱ مه ۲۰۲۴ (اول خرداد) توسط شورای اتحادیه اروپا تصویب شد.

در ۱۲ ژوئیه ۲۰۲۴ (۲۳ خرداد) اتحادیه اروپا متن نهایی قانون هوش مصنوعی را در مجله رسمی اتحادیه اروپا (OJEU) منتشر کرد.

قانون هوش مصنوعی ۲۰ روز بعد لازم‌الاجرا شد. این قانون دو سال بعد یعنی در ۲ اوت ۲۰۲۶ (۱۱ مرداد ۱۴۰۵) به استثنای برخی الزاماتش که مشمول دوره‌های انتقالی طولانی‌تری هستند، به طور کامل قابل اجرا خواهد بود.

محدوده قانون هوش مصنوعی

قانون هوش مصنوعی به گونه‌ای طراحی شده که در طیف وسیعی از جمله مراقبت‌های بهداشتی، فناوری پزشکی، خدمات مالی و محصولات مصرف‌کننده اعمال شود.

این نه تنها در مورد نهاد‌های مستقر در اتحادیه اروپا اعمال می‌شود، بلکه دامنه فراسرزمینی نیز دارد و بر نهاد‌های غیر اتحادیه اروپا که سیستم‌ها یا محصولات هوش مصنوعی را در اتحادیه اروپا بازاریابی، استقرار یا استفاده می‌کنند، تأثیر می‌گذارد.

همچنین برای طیف گسترده‌ای از اپراتور‌های اقتصادی فعال در زنجیره تأمین هوش مصنوعی، از جمله ارائه‌دهندگان، واردکنندگان، توزیع‌کنندگان و نیز تولیدکنندگان محصولات هوش مصنوعی اعمال می‌شود.

هر یک از این فعالان اقتصادی بر اساس قانون هوش مصنوعی در زنجیره تأمین وظایفی خواهند داشت. تولیدکنندگان دستگاه‌های پزشکی ممکن است بر اساس قانون هوش مصنوعی، ارائه‌دهندگان سیستم‌های هوش مصنوعی شوند. اگر یک دستگاه پزشکی مشمول قانون هوش مصنوعی باشد، همه شرکای زنجیره تأمین آن باید با الزامات قانون هوش مصنوعی جدید مطابقت داشته باشند.

رویکرد و جدول زمانی مبتنی بر ریسک

قانون هوش مصنوعی یک رویکرد مبتنی بر ریسک را برای مقررات هوش مصنوعی اتخاذ و سیستم‌ها را به غیرقابل قبول، بالا، متوسط و کم‌خطر دسته‌بندی می‌کند.

سیستم‌هایی که ریسک غیرقابل قبولی دارند، ممنوع هستند، در حالی که سیستم‌هایی که در رده‌های پرخطر، متوسط و کم‌خطر قرار می‌گیرند، مشمول مقررات با سخت‌گیری‌های متفاوت، متناسب با خطری هستند که ارائه می‌کنند.

تعهدات برای اپراتور‌های اقتصادی با توجه به سطح ریسک سیستم هوش مصنوعی متفاوت است. هدف از این تعهدات، ایجاد تعادل بین نیاز به نوآوری و ضرورت محافظت از کاربران در برابر آسیب‌های احتمالی مرتبط با هوش مصنوعی است.

اگر سیستم هوش مصنوعی به عنوان جزء ایمنی یک محصول استفاده شود یا سیستم هوش مصنوعی خود یک محصول باشد، در صورتی که تحت پوشش قانون هماهنگ‌سازی اتحادیه قرار گیرد، دستگاه‌های پزشکی مجهز به هوش مصنوعی می‌توانند در تعریف سیستم هوش مصنوعی پرخطر قرار گیرند. 

در این صورت، دستگاه پزشکی هوش مصنوعی در محدوده قانون AI و همچنین MDR (مقررات تجهیزات پزشکی) یا IVDR (مقررات تجهیزات پزشکی تشخیصی آزمایشگاهی) قرار می‌گیرد.

جدول زمانی برای اعمال قانون هوش مصنوعی در دستگاه‌های پزشکی: ۲ اوت ۲۰۲۷ (۱۱ مرداد ۱۴۰۶)

همانطور که در بالا ذکر شد، قانون هوش مصنوعی در ۱۲ ژوئیه ۲۰۲۴ در OJEU منتشر شد، در ۲ اوت ۲۰۲۴ لازم الاجرا خواهد شد و از ۲ اوت ۲۰۲۶ به طور کامل قابل اجرا خواهد بود.

سیستم‌ها یا روش‌های ممنوعه هوش مصنوعی باید تا ۲ فوریه ۲۰۲۵ (۱۴ بهمن ۱۴۰۳) از بازار حذف شوند.

دفتر هوش مصنوعی موظف است کد‌های عملی را حداکثر تا ۲ می ۲۰۲۵ (۱۲ اردیبهشت ۱۴۰۴) ایجاد کند تا ارائه‌دهندگان سیستم‌های هوش مصنوعی بتوانند مطابقت با الزامات قابل اجرا مقرر در قانون هوش مصنوعی عمل کنند.

دستگاه‌های پزشکی که واجد شرایط سیستم‌های هوش مصنوعی پرخطر هستند، یک سال اضافی (تا ۲ اوت ۲۰۲۷) برای مطابقت با الزامات قابل‌اجرا برای سیستم‌های پرخطر فرصت خواهند داشت. 

آمادگی تولیدکنندگان با توجه به جدول زمانی کلیدی خواهد بود. تولیدکنندگان دستگاه‌های پزشکی باید اکنون ارزیابی کنند که آیا قانون هوش مصنوعی در خصوص آنها اعمال می‌شود یا خیر.

۲ آگوست ۲۰۲۷ (۱۱ مرداد ۱۴۰۶) زمان دوری به نظر می‌رسد، اما تجربه نشان می‌دهد که آماده‌شدن برای قوانین جدید به زمان و منابع متعددی برای تغییر در سیستم مدیریت کیفیت، تغییر در سیستم مدیریت ریسک، آموزش، افزودن پرسنل جدید و … نیاز دارد.

به عنوان مثال، ماده ۱۰ قانون هوش مصنوعی مستلزم توسعه سیستم‌های هوش مصنوعی با استفاده از مجموعه داده‌های با کیفیت بالا برای آموزش، اعتبارسنجی و آزمایش است.

چنین الزامی باید امروز مورد توجه قرار گیرد تا از عدم انطباق عمده سازمان‌های اطلاع‌رسانی سازندگان در حدود سه سال آینده جلوگیری شود.

ارزیابی انطباق

برای جلوگیری از تکرار، قانون هوش مصنوعی اروپا امکان ارزیابی انطباق واحد را تحت MDR یا IVDR ممکن می‌کند. این خبر خوبی است و معنایش این است که شرکت‌های فناوری پزشکی می‌توانند اسناد فنی و سیستم مدیریت کیفیت خود را توسط سازمان اطلاع‌رسانی خود تحت هر دو قانون AI و MDR یا IVDR بررسی کنند.

با این حال، چنین ارزیابی انطباق ترکیبی ممکن است همیشه در عمل امکان‌پذیر نباشد:

تعیین بر اساس قانون هوش مصنوعی: سازمان‌های اطلاع‌رسانی شده MDR/IVDR برای اینکه بتوانند این ارزیابی انطباق ترکیبی را ارائه دهند، باید تحت قانون هوش مصنوعی تعیین شوند.

ممکن است همه سازمان‌های اطلاع‌رسانی مایل نباشند که بر اساس قانون هوش مصنوعی تعیین شوند چرا که اگر چنین کاری کنند، ممکن است روند به سرعت پیش‌بینی‌شده پیش نرود.

همچنین ممکن است یکی از تولیدکنندگان مجبور شود با یک سازمان تحت قوانین MDR/IVDR و دیگری برای قانون هوش مصنوعی اروپا کار کند. این به معنای دو ارزیابی انطباق با دو سازمان مختلف است.

پرسنل هوش مصنوعی: ماده ۴۳ قانون هوش مصنوعی به سازمان‌های اطلاع‌رسانی شده MDR/IVDR اجازه می‌دهد در صورت داشتن شرایط خاص، مانند استقلال و یکپارچگی حرفه‌ای، بر ارزیابی‌های انطباق هوش مصنوعی نظارت کنند. این الزامات قبلاً برای تعیین MDR/IVDR آنها ارزیابی شده بود و بنابراین باید برای آنها به راحتی تکمیل شود.

با این حال، آنها همچنین باید پرسنل اداری، فنی، حقوقی و علمی داشته باشند که دارای تجربه و دانش مربوط به انواع سیستم‌های هوش مصنوعی برای انجام ارزیابی‌های انطباق است.

با توجه به این واقعیت که همه سازمان‌ها و تولیدکنندگان به طور همزمان به دنبال افرادی با تخصص هوش مصنوعی خواهند بود، روند استخدام ممکن است پیچیده باشد. مجدداً، اگر نهاد‌های آگاه نتوانند سریعاً پرسنل مناسب را استخدام کنند، تعیین آنها بر اساس قانون هوش مصنوعی ممکن است به تعویق بیفتد.

مدت‌زمان ارزیابی انطباق: امروزه ارزیابی انطباق دستگاه‌های پزشکی تحت MDR یا IVDR می‌تواند یک فرآیند طولانی و پرهزینه باشد. 

در حالی که صنعت به دنبال تنظیم‌کننده‌های اتحادیه اروپاست تا راه‌حل‌هایی برای کارآمدتر کردن فرآیند نشان‌گذاری CE کنونی بیابد، نگرانی‌هایی وجود دارد که اعمال قانون هوش مصنوعی بار اضافی را به بررسی توسط سازمان‌های اطلاع‌رسانی اضافه کند و بر جدول زمانی لازم تأثیر منفی بگذارد. 

با توجه به حجم کاری فعلی برخی از سازمان‌های اطلاع‌رسانی MDR/IVDR، چنین خطر بالقوه‌ای را نمی‌توان نادیده گرفت.

توصیه‌های ما

برای آماده‌شدن در اجرای قانون هوش مصنوعی، توصیه می‌کنیم که سازندگان دستگاه‌های پزشکی مراحل ضروری زیر را در نظر بگیرند:

تعیین قابلیت اعمال قانون هوش مصنوعی: شرکت‌های فناوری پزشکی باید تعیین کنند که آیا قانون هوش مصنوعی در مورد دستگاه‌های پزشکی آنها اعمال می‌شود یا نه. 

شرکت‌ها همچنین باید نقش نظارتی را که تحت قانون هوش مصنوعی (ارائه‌دهنده، توزیع‌کننده یا واردکننده) و تعهدات مرتبط با آنها ایفا می‌کنند، ارزیابی کنند.

انجام یک ارزیابی: تعدادی از تعهدات تحت قانون هوش مصنوعی در حال حاضر برای شرکت‌های فناوری پزشکی اعمال می‌شود با این حال، برخی الزامات تحت قانون هوش مصنوعی برای بخش فناوری پزشکی کاملاً جدید هستند. برای شناسایی نیازمندی‌های جدید و شکاف‌های موجود در راستای رفع نیازها، مقایسه دقیق الزامات قانون هوش مصنوعی در مقابل موارد موجود در MDR/IVDR ضروری است.

به‌روزرسانی رویه‌های داخلی و اسناد فنی: در صورت نیاز، شرکت‌های فناوری پزشکی باید اقداماتی را برای بازنگری و به‌روزرسانی سیستم مدیریت کیفیت، اسناد فنی و رویه‌های نظارت پس از بازار انجام دهند تا با الزامات قانون هوش مصنوعی مطابقت داشته باشند.

اطمینان حاصل کنید که پرسنل مناسب در سازمان خود دارید. در غیر این صورت، استخدام هدفمند افراد با تخصص هوش مصنوعی باید در نظر گرفته شود. آموزش پرسنل نیز مهم خواهد بود.

دسترسی و استفاده از مجموعه داده‌های قابل اعتماد مطابق با قانون هوش مصنوعی: دسترسی به این مجموعه داده‌ها ممکن است توسط سازمان‌های آگاه در طول ارزیابی انطباق دستگاه‌های پزشکی مجهز به هوش مصنوعی مورد نیاز باشد؛ بنابراین ضروری است که شرکت‌های فناوری پزشکی که برای آموزش، تأیید و آزمایش دستگاه‌های پزشکی مجهز به هوش مصنوعی برنامه‌ریزی دارند، با در نظر گرفتن الزامات حاکمیت داده قانون هوش مصنوعی باید این کار را انجام دهند.

تحولات جدید شرکت‌های فناوری پزشکی باید بر اساس پیشرفت‌های کمیسیون اروپا یا دفتر جدید هوش مصنوعی اتحادیه اروپا مورد نظارت قرار گیرند.