ההתקדמות הטכנולוגית המהירה בתעשיית המכשור הרפואי הביאה את הבינה המלאכותית (AI) ואת הבינה המלאכותית הגנרטיבית (GAI) לחזית. טכנולוגיות חדשניות אלה טומנות בחובן, ללא ספק, הבטחה למהפכה בכל הענפים וגם בעולם הבריאות. יחד עם זאת, השימוש בהן כרוך בסיכונים והאחריות על ניהול הסיכונים האלה היא עלינו המשתמשים.

השילוב של GAI עם עוצמות העיבוד הזמינות היום בענן, מאפשר לחברות לרתום לטובתן את יתרונות המהפכה ובכך להשיג יתרון תחרותי משמעותי. אין שום סיבה שחברות מכשור רפואי ותוכנה רפואית לא יהנו מאותם יתרונות, תוך אימוץ תהליכי ניהול סיכונים ראויים.

מודעות לסיכונים

שימוש בכלי AI ו-GAI עלול לחשוף את המשתמשים לסיכונים בתחומים שונים:

• פרטיות המידע והגנה עליו
• הפרות קניין רוחני
• דילמות אתיות, כגון הטיות / אפליות פוטנציאליות במודלים של AI
• אתגרי עמידה ברגולציה
• מידע שגוי
• מודעות לסיכונים אלה היא הצעד הראשון בהבטחה שהמכשירים הרפואיים ישארו בטוחים, יעילים וימשיכו לעמוד בתקנות.
  
  

ניהול סיכונים

NIST פירסמו הנחיות לניהול AI. להלן תקצירן:

השלב הראשון הוא לנהל וליישם אסטרטגיית שימוש ב GAI הכוללת ניהול סיכונים המתייחס לכמה תחומים –

1. עמידה בחקיקה והנחיות AI מתפתחות במהירות. אלה נעים מעקרונות ותקנים כגון מסגרת ניהול סיכוני AI של NIST האמריקאי ומסמכי הנחיה שונים שפורסמו על ידי רגולטורים, ועד חקיקה נוקשה כמו חוק ה-AI האירופי הקרוב. חברות מכשור רפואי צריכות לזהות את אותן המסגרות שחלות עליהן או שיחולו עליהן, לשקול את השימוש המיועד שלהן ב-GAI ולפתח את נוהל השימוש בהתאם.

2. החלטה אילו סוגי GAI לאשר לשימוש – באופן רחב, מערכות GAI מתחלקות לשתי קטגוריות: מערכות “פתוחות” ו”סגורות”. מערכת GAI פתוחה או ציבורית בדרך כלל מאפשרת לכל נתון קלט להיכנס לשימוש לאימון אלגוריתם GAI. חברות מכשור רפואי הבוחרות במודל רישוי זה צריכות להתקין מעקבים קפדניים סביב הסוגים של נתונים שמותר לעובדים להכניס. חברות מכשור רפואי יכולות בנוסף או לחלופין לבחור ברישיון של מערכת “סגורה” שבה אף נתון קלט שמוכנס על ידי החברה אינו מתפרסם לציבור, ואלגוריתם ה-GAI יאומן רק על נתוני החברה. הסיכונים יכולים להשתנות בהתאם למודל שאומץ.

3. יש לזהות ולתעד שימוש בכלי GAI. מיפוי פעילויות ספציפיות שעבורן השימוש ב-GAI מותר, אסור ומוגבל, בהתאם לפרט אותם במדיניות פנימית של החברה.

מדיניות כזו תכלול –

(א) מיפוי מערכות ה-GAI המותרות לשימוש

(ב) זיהוי סוגי הנתונים שניתן להזין ואת מקורות הנתונים המאושרים

(ג) הנחיה באיזה צמתי עבודה נדרשת בקרה אנושית ובאיזה אופן תתבצע.

(ד) הערכת הסיכונים הנלווים לכל אחד מהשימושים שהוגדרו

(ה) נוהל פנימי לשימוש בכלי GAI, כולל התייחסות לסוגי התכנים, הסיכונים וההגבלות.

(ו) הכשרת והדרכת עובדים להכרת הסיכונים וההגבלות.

4. הערכה וטיפול בהטיות במודלים של AI, שקילת השפעות קיימות, ואימוץ כלים כמו כרטיסי מודל לשיפור השקיפות.

5. היוועצות עם בעלי עניין על השימוש ב-GAI. מומלץ להקים צוות רב-תחומי המורכב מיועץ רגולציה, אבטחת מידע ופרטיות. שקלו למנות יועץ AI של החברה.

מקור מידע נוסף הוא הדו”ח שהוציא הארגון הארופאי ENISA העוסק בסייבר. הדו”ח כולל סקירה כללית של תקנים (קיימים, בניסוח, בבחינה ומתוכננים) הקשורים ל- Cyber Security of AI, במטרה להעריך את הכיסוי שלהם ולזהות פערים בסטנדרטיזציה.

אנחנו ב-MedDev Soft יודעים שההתאקלמות אל תוך עולמות הבינה המלאכותית מורכבת עבור חברות שעוסקות בפתוח מכשור רפואי ותוכנה רפואית. אבל אנחנו גם מבינים שקפיצת המדרגה הזו חשובה, אפילו הכרחית, וכנראה בלתי נמנעת, כדי לשמור על היתרון התחרותי בתחום. לכן, הכנו עבורכם נוהל עבודה מקצועי שיעזור לכם לשלב כלי בינה מלאכותית (AI) וג’נרטיבית (GAI) בתהליכי הפיתוח ובתהליכי העבודה שלכם, מבלי לפגוע באיכות המוצר או בעמידתו בדרישות הרגולציה.

לקבלת הנוהל במתנה מאיתנו – הירשמו לרשימת התפוצה שלנו. 
אנחנו שולחים מידע עדכני וחידושים בתחום כדי שתמיד תישארו מעודכנים. 

בשורה התחתונה

על מנת ליהנות מהפוטנציאל האדיר של מהפכת הבינה המלאכותית, אנחנו זקוקים לידע וכלים שיסייעו בשילוב הכלים החדשים בתהליכי העבודה. או במילים אחרות – אנחנו זקוקים לאנשים מוכשרים, עם בינה אנושית ומקצועית מפותחת, עם ידע וניסיון מגוונים בעולמות המדיקל, הטכנולוגיה והרגולציה. וזה בדיוק מה שאנחנו מציעים לכם ב-Meddev Soft.

היועצים שלנו ישמחו ללוות אתכם בתהליכי ההסתגלות אל העתיד שכבר כאן. השאירו פרטים וניצור קשר בהקדם.