חדשות ופרסומים

עו״ד יוסף גדליהו, מנהל תחום בכיר רגולציה ואתיקה לבינה מלאכותית במשרד החדשנות, המדע והטכנולוגיה התייחס למדיניות הרגולציה של ישראל בתחום ה- AI שאימצה גישה סקטוריאלית זהירה מבחינת ההתערבות הממשלתית. עוד עדכן כי בימים אלה ממש מוקם מרכז ידע ממשלתי בתחום בינה מלאכותית, אשר יסייע לרגולטורים להסדיר בינה מלאכותית בתחומם, יתאם בין הרגולטורים השונים, ובינם לבין התעשייה.

עו"ד ורד זליכה, שותפה וראשת תחום סייבר ובינה מלאכותית במשרד ליפא מאיר ושות', ציינה כי גם בהיעדר רגולציה ספציפית של -AI בישראל, הרגולציה הקיימת, למשל חוקי הגנת הפרטיות או חקיקה האוסרת על אפליה, הינם רלוונטיים וצריכים להיות מיושמים גם כאשר ארגונים עושים שימוש בטכנולוגיות AI. עוד ציינה כי ה- EU AI ACTעשוי להיות רלוונטי לכל חברה ישראלית שמוכרת מוצר AI או אף פלט שמתבסס על מערכות AI ולכן כדאי שארגונים יבחנו את השלכותיו לפי פעילותם. כן הדגישה כי חשוב שחברות ישראליות ייערכו לגיבוש מדיניות, המתבססת על מיפוי של טכנולוגיית ה – AI המיושמת בחברה (או צפויה להיות מיושמת בה), תוך ניתוח הסיכונים מהפן המשפטי וליבון הרגולציה החלה על החברה.

פרופ' יניב קנט-מימון מביה"ס לפסיכולוגיה באוניברסיטת רייכמן ושותף מייסד ב- ACUMENAI ציין כי אנחנו נמצאים בתחילתו של עידן חדש שבו מכונות יקבלו יותר ויותר החלטות עבורנו. 83% מהחברות מטמיעות היום כלי AI, להם השפעה הולכת וגדלה על החיים שלנו. כיום אין צורך בהתמחות טכנולוגית מעמיקה כדי לבצע הונאות. כל משתמש פוטנציאלי עלול "לכופף" את המודל ולרמות אותו כדי לקבל הטבה או הנחה. וכן להערים על המודל באמצעות הנדסת פרומפטים ולחדור את מערכת ההגנה של המודל ע"מ לקבל מידע אסור.

יואב אבנשטיין, יועץ ומומחה בינלאומי לבינה מלאכותית ציין כי לשימוש בלתי מבוקר בטכנולוגיית AI עלולות להיות תוצאות הרסניות, כמו לדוגמה הטיה גזענית שנוצרה במודל בינה מלאכותית כיוון שהדאטה שהוזן למודל שיקף הטיה מובנית שקיימת במציאות. לכן, חשוב לפתח כלים ודרכים לרגולציה ובדיקה של המודלים הללו על מנת להימנע מהשלכות בעייתיות ומזיקות."