האם הבינה המלאכותית היא כלי עזר לרופא - או תחליף מסוכן? ועדת הבריאות של הכנסת קיימה (6.5.25) דיון על השימוש ההולך ומתרחב בטכנולוגיית בינה מלאכותית, ובפרט בצ'אט GPT, במערכת הבריאות. בעקבות הדיון, התבקש משרד הבריאות לערוך סקר בקרב רופאים בקופות ובבתי החולים, ולברר האם הכלי משולב בהחלטות רפואיות - והאם המטופלים מקבלים על כך גילוי.
היוזמה לדיון נולדה בעקבות פנייה של ח"כ מתן כהנא, שהתריע בפני יו"ר הוועדה, ח"כ יונתן משריקי, על פרצות חמורות בשימוש הבלתי מבוקר בבינה מלאכותית: "מחובתנו לפקח על כך שהשימוש בבינה בעולמות הרפואה יביא לייעול ולא חלילה להפך. התחום פרוץ - ויפה שעה אחת קודם".
במהלך הדיון, הדגיש ממלא-מקום יו"ר הוועדה, ח"כ רון כץ, כי "הטכנולוגיה פרצה במהירות לחיינו, אך חובה לעצור ולוודא שהבריאות שלנו לא נפגעת מהמרוץ אחרי החדשנות". גם ח"כ יעקב אשר (יהדות התורה) הזהיר מפני הכנסת טכנולוגיות ללא כלים מבוקרים: "הבינה נועדה לשרת את שיקול הדעת הרפואי - לא להחליפו. הכנסת טכנולוגיה בלי אסדרה עלולה להוביל לפגיעות חמורות בבריאות הציבור".
"הבינה המציאה תקדימים רפואיים שלא היו ולא נבראו"
הפרופסור יוסף פרס, לשעבר מנהל מרכז שניידר ונשיא ארגון "למענכם", הזהיר בדיון כי "ב-20% מהמקרים שנבדקו, הבינה המלאכותית הציעה טיפול טוב יותר מהרופא – אך במקרים אחרים, היא כשלה בגלל נתונים חסרים". לדבריו, מערכת רפואית שאינה כוללת את גיל, מין, משקל, היסטוריה רפואית ומצב המחלה – לא תוכל לספק מענה אמין.
הד"ר גדי נוימן, סגן מנהל בית החולים בילינסון לשעבר, הוסיף: "הבינה ממציאה תקדימים שלא היו ולא נבראו, פעם אחר פעם. היא גם לא יודעת לנמק את עצמה – וזה פוגע ביכולת להמשיך את הטיפול ולבחור תרופה מתאימה". לדבריו, מחקר שנערך לאחרונה העלה כי 66% מהרופאים לא הצליחו לזהות טעויות קריטיות – ואף מסכנות חיים – שהופקו על-ידי מערכות בינה מלאכותית.
"בינה רפואית ייעודית – לא צ'אט גנרי"
הפרופסור דן זלצר מאוניברסיטת תל אביב, חוקר טכנולוגיה רפואית ומומחה לכלכלת בריאות, הגיש לוועדה חוות דעת ובה הבחנה ברורה: "יש להבדיל בין מערכות בינה מלאכותית ייעודיות שפותחו והותאמו על בסיס מידע רפואי מהימן – לבין בוטים גנריים כמו צ'אט GPT שיכולים לייצר 'הזיות' מסוכנות". לדבריו, מחקרים מצביעים על שיפור באיכות ובמהירות ההמלצות הקליניות – אך רק כאשר נעשה שימוש נכון בכלי המותאם לרפואה.
זלצר הדגיש את החשיבות של התאמה מקומית למאפייני האוכלוסייה בישראל: "מערכות שלא עברו כיול נכון עלולות להפלות קבוצות מסוימות או להשמיט גורמים קריטיים. פיתוח אחראי מחייב בדיקות קפדניות להיעדר הטיה".
פיקוח, אתיקה וגילוי נאות – אלו הקווים המנחים החדשים
הד"ר לילך צולר, ראש אגף טכנולוגיות רפואיות בשירותי בריאות כללית, הסבירה כי הרופאים עוברים הכשרה שמדגישה את החשיבות של שיפוט עצמאי מול המלצות ממוחשבות: "כלי הבינה לא משוחררים לשימוש חופשי – הם כפופים לאישור ועדת הלסינקי, והדרכות הרופאים כוללות הסברים על מגבלותיהם".
גם הד"ר יוסף ולפיש, יו"ר הלשכה לאתיקה של ההסתדרות הרפואית, הדגיש את החובה המוסרית ליידע את המטופל שהתשובה מבוססת על בינה מלאכותית: "יש לאזן בין הרצון להתייעל לבין החשש מטעות – והמטופל זכאי לדעת ממה נובעת ההמלצה שניתנה לו".
משרד הבריאות: אין מקרים חריגים – אך נדרשת בקרה
לירון זוהר, סגנית ראש חטיבת הטכנולוגיות במשרד הבריאות, הדגישה בדיון כי לפי שעה "אין במשרד מידע על תקלות חריגות כתוצאה משימוש בבינה מלאכותית, אך התחום מתפתח במהירות – וחובה עלינו ללוות אותו תוך כדי בקרה מתמשכת".
בסיום הדיון הוחלט כי משרד הבריאות יקדם הקמת צוות עבודה עם הלשכה לאתיקה ורופאים מבתי החולים וקופות החולים, שיגבש קווים מנחים לשימוש אחראי בכלי בינה מלאכותית וכן ימליץ על צעדים אסדרתיים לפי הצורך. במקביל, כאמור, ייערך סקר בעילום שם שיבדוק כמה מהרופאים אכן משתמשים בצ'אט GPT והאם הם משתפים את המטופלים בכך.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה