AI בתעשייה: Shadow AI, נוהל ו-ISO 42001
פורסם
מה הכלי הפיק
עובד במפעל מצלם מד לחץ ושואל כלי בינה מלאכותית מה הקריאה. הכלי עונה במספר, ביחידות, בניסוח בטוח. העובד מעתיק אותו לדוח.
הכלי קורא ספרות ותוויות היטב. הוא טועה במיקום המחוג. זה כשל G2, מד אנלוגי.
הקריאה נכנסת לדוח חתום. אף אחד לא ביקש שיבדקו אותה, כי אף אחד לא ידע שהכלי היה בחדר.
הראיה לכשל הזה חלשה מהאחרות. היא מבוססת על עבודה שעדיין בשיפוט, ואנחנו מצטטים את הדפוס ולא את המספרים, כדי לא לטעון יותר ממה שנמדד. מדד לקריאת מדידה חזותית מצא שמודלים מובילים מתקשים בקריאת מדידות באופן כללי.
מה זה Shadow AI
עובדים במפעלים כבר משתמשים בכלים האלה, והפלט נראה נכון גם כשהוא לא. כשאין נוהל, השימוש קורה בכל זאת. הוא פשוט לא מתועד.
אפשר לקרוא לזה Shadow AI: שימוש בכלי בינה מלאכותית שהארגון לא תייג, לא אישר ולא בודק. השם בא מהשוק. הבעיה הנדסית.
בלי תיוג, אין תשובה לשאלת המבקר: מי אישר את זה ועל סמך מה.
למה זה נראה נכון
הקריאה נראית כמו כל קריאה אחרת. אין בפלט שום סימן חיצוני לשגיאה. זו תכונה משותפת לכל שבעת סוגי הכשל.
לכן אי אפשר להסתמך על חשד של העובד. הבדיקה צריכה לרוץ על כל פריט ולהשאיר רשומה, גם כשהעובד בטוח.
איך המהנדס תופס את זה
הפתרון הארגוני הוא נוהל שאומר שלושה דברים: מה מותר, מה אסור, ומי בודק. הסולם בן חמש רמות. מסמך כזה נקרא נוהל שימוש ב-AI. בארגונים רבים קוראים לו מדיניות AI, או מדיניות שימוש בבינה מלאכותית.
- רמה אפס, ללא כלי.
- רמה אחת, רעיונות בלבד. כל התוכן נכתב ידנית.
- רמה שתיים, עריכה של טקסט שנכתב ידנית.
- רמה שלוש, טיוטה מאומתת. כל פריט עובר את השער.
- רמה ארבע, שימוש מלא, רק באישור כתוב של הממונה.
הרמה נקבעת לפי ההשלכה של טעות ולא לפי הקושי. משימה שלא תויגה היא רמה אפס. ארגון רשאי להקשיח רמה. הוא אינו רשאי להרפות רמה מעבר למה שהשיטה מתירה.
לכל הגשה ולכל תוצר ארגוני מצורפת הצהרת שימוש בשבעה שדות. היא כוללת את הכלים שנעשה בהם שימוש, את החלקים שנגעו בהם, את הפריטים שאומתו ואת הרמה בסולם. בסוף באים חתימה ותאריך.
קריאת מד לדוח חתום היא דוגמה לרמה אפס. הקריאה הישירה של אדם, או מדידה ישירה, היא המקור.
הבדיקה להריץ
מפעל יכול לבדוק את עצמו בחמישה צעדים, בסדר קבוע.
- מיפוי: אילו תוצרים נחתמים או מובילים להתחייבות, ומי חותם.
- תיוג: כל תוצר מקבל רמה בכתב, עם נימוק ומאשר.
- הטמעה: השדות נכנסים לתבניות הקיימות, בלי טופס חדש.
- הכשרה: סדנה על התוצרים של המפעל עצמו, שמסתיימת בבוחן בלי כלי. בבוחן שישה פלטים עם שגיאה אחת בכל אחד, והנבחן מזהה אותה ומסווג אותה.
- מדידה: אחת לרבעון, אילו סוגי כשל חוזרים ובאילו תוצרים.
במיפוי רושמים גם אילו מסמכים אסור להעלות לכלי ענן: סודיות, סיווג וקניין רוחני. התוצר של צעד זה הוא שתי רשימות: תוצרים, ומסמכים אסורים לענן. התוצר של צעד המדידה הוא דוח רבעוני ותיוג מעודכן.
הבדיקה עצמה נרשמת ביומן בן 13 שדות קבועים. בפקודת עבודה אפשר להסתפק בשלושה, כדי שלא לבקש מהטכנאים עוד טופס.
כל צעד דורש את הקודם לו. הכשרה בלי מיפוי ותיוג אינה מחליפה נוהל.
איפה ISO 42001 נכנס
ISO 42001 הוא תקן לניהול מערכות בינה מלאכותית בארגון. בישראל קיים גוף שמבצע ביקורות הסמכה לתקן הזה, בשני שלבים.
אנחנו לא טוענים מעבר לכך. הבדיקה שתיארנו אינה הסמכה ואינה מחליפה אותה. היא נוהל עבודה ברמת הפריט הבודד.
התקן והנוהל פועלים בשכבות שונות. התקן עוסק בניהול המערכת בארגון. הנוהל עוסק בשאלה אם המספר הזה נבדק לפני שנחתם.
מה הנוהל לא עושה
הנוהל לא מזהה הזיות, לא מדרג כלים ולא מבטיח שהפלט נכון. הוא מבטיח שכל פריט בתוצר מקושר למקור מוסמך, או חסום.
מסמך העבודה שמאחורי השיטה לא עבר שיפוט עמיתים. הראיות בו מודדות את הכשלים, ולא את השיטה.
בדיקה עצמית
- האם יש במפעל רשימה של תוצרים שנחתמים?
- האם לכל תוצר כזה יש רמת שימוש בכלי, בכתב?
- האם משימה שלא תויגה מטופלת כרמה אפס?
- האם קריאת מד בדוח חתום נבדקה מול מדידה ישירה?
- האם יש מאשר כתוב לשימוש ברמה ארבע?
- האם אחת לרבעון נבדק אילו סוגי כשל חוזרים?
רוצים לבדוק איפה AI כבר נכנס לעבודה אצלכם? צרו קשר.