ESET מצטרפת ל-Agentic AI Foundation לקידום מערכות AI אוטונומיות בטוחות ומבוקרות

ESET הודיעה על הצטרפותה ל-Agentic AI Foundation כחברת Silver Member, במהלך שמחזק את מחויבות החברה לקידום מערכות AI אוטונומיות בטוחות, מבוקרות ומובלות על ידי אדם. במסגרת החברות בקרן, ESET תתרום מומחיות סייבר עצמאית ומבוססת מחקר, במטרה לסייע בפיתוח פרוטוקולים פתוחים, תאימות בין מערכות וסטנדרטים מוכנים לשימוש עבור מערכות AI אוטונומיות.

ההצטרפות מגיעה בתקופה שבה מערכות AI אוטונומיות עוברות במהירות משלב הניסוי לשימוש ממשי בארגונים. אם בעבר מערכות בינה מלאכותית שימשו בעיקר ליצירת טקסט, ניתוח מידע או סיוע נקודתי לעובדים, הרי שכעת הן מתחילות לבצע משימות מורכבות יותר. הן יכולות להתחבר לכלים, לגשת לשירותים, להפעיל תהליכים, לעבוד מול מערכות עסקיות ולבצע פעולות בשם המשתמש או הארגון.

היכולת הזו יוצרת ערך עסקי משמעותי, אך גם דורשת חשיבה מחודשת על אבטחת מידע. כאשר מערכת AI אינה רק עונה לשאלה אלא גם מבצעת פעולה, היא הופכת לחלק מהסביבה הדיגיטלית הפעילה של הארגון. לכן נדרשים סטנדרטים ברורים, פיקוח אנושי, בקרה על הרשאות ותכנון אבטחתי כבר מהשלב הראשון.

למה מערכות AI אוטונומיות דורשות חשיבה חדשה באבטחת מידע?

מערכות AI אוטונומיות הן מערכות בינה מלאכותית שמסוגלות לבצע משימות באופן עצמאי יחסית. הן יכולות לקבל מטרה, לפרק אותה לשלבים, להשתמש בכלים שונים, להפעיל שירותים חיצוניים ולעבוד מול מערכות מידע קיימות.

בארגון, המשמעות יכולה להיות רחבה מאוד. מערכת AI אוטונומית עשויה לסייע לצוות תמיכה, לבצע ניתוח נתונים, לעבוד מול מערכת CRM, לחפש מידע במסמכים פנימיים, לפתוח קריאות שירות או להפעיל תהליכים תפעוליים. ככל שהיכולות מתקדמות יותר, כך גם רמת הסיכון עולה.

הסיכון אינו נובע מעצם השימוש ב-AI, אלא מהחיבור שלו למידע, להרשאות ולתהליכים עסקיים. אם מערכת AI אוטונומית מקבלת גישה רחבה מדי, פועלת ללא בקרה, או מתחברת לשירותים חיצוניים ללא מדיניות ברורה, היא עלולה להפוך לנקודת חולשה חדשה בארגון.

מהי Agentic AI Foundation?

Agentic AI Foundation היא קרן פתוחה וניטרלית הפועלת תחת Linux Foundation. מטרתה היא לקדם בנייה של תשתית פתוחה וסטנדרטית לעולם מערכות ה-AI האוטונומיות, כולל פרוטוקולים, תאימות בין מערכות וסטנדרטים שיאפשרו למערכות כאלה לפעול בצורה בטוחה, אמינה ומבוקרת בסביבות אמיתיות.

הצטרפות ESET לקרן מציבה אותה כחברה ייעודית מתחום הסייבר בתוך יוזמה רחבה יותר, לצד חברות טכנולוגיה מובילות כמו OpenAI, Anthropic, Amazon ו-Microsoft. המשמעות היא ש-ESET לא רק עוקבת אחרי ההתפתחות של AI אוטונומי, אלא משתתפת בעיצוב התשתית שתאפשר להשתמש בו בצורה בטוחה יותר.

הקרן מתמקדת בצורך הולך וגובר בסטנדרטים משותפים. ככל שמערכות AI אוטונומיות מתחברות ליותר כלים ושירותים, כך גדלה החשיבות של שפה טכנולוגית משותפת, פרוטוקולים ברורים ומנגנוני אמון שניתן ליישם בסביבות ייצור אמיתיות.

למה סטנדרטים פתוחים חשובים בעולם ה-AI האוטונומי?

כאשר כל מערכת פועלת בצורה אחרת, ארגונים מתקשים להבין כיצד היא מתחברת לסביבה שלהם, איזה מידע היא מעבירה, אילו פעולות היא מבצעת ואיך אפשר לפקח עליה. בעולם שבו מערכות AI מסוגלות לפעול מול שירותים שונים, חוסר אחידות עלול להפוך במהירות לבעיה אבטחתית.

סטנדרטים פתוחים מאפשרים לארגונים לנהל טוב יותר את האינטראקציה בין מערכות AI, אפליקציות עסקיות, שירותי ענן וכלי אבטחה. הם עוזרים להגדיר כיצד מערכות מתקשרות, כיצד בודקים הרשאות, איך מגבילים פעולות, ואיך מזהים התנהגות חריגה.

עבור צוותי אבטחת מידע, המשמעות היא יכולת טובה יותר לשאול שאלות קריטיות:

• איפה מערכת ה-AI פועלת?
• לאילו מערכות היא מחוברת?
• איזה מידע היא רשאית לקרוא או לשנות?
• מי מאשר את הפעולות שהיא מבצעת?
• כיצד מתעדים ומנטרים את הפעילות שלה?

השאלות האלה הופכות חשובות במיוחד כאשר AI אוטונומי מתחיל להשתלב בתהליכים עסקיים ולא נשאר רק כלי עזר נקודתי.

AI אוטונומי הופך לגבול דיגיטלי חדש

יוראי ינושיק, סמנכ״ל הבינה המלאכותית של ESET, תיאר את התחום כגבול דיגיטלי חדש. לדבריו, עיצוב התחום דורש מטרה ברורה, הנדסה מוקפדת וגישה שמציבה את האבטחה במרכז כבר מתחילת הדרך.

האמירה הזו חשובה משום שהיא מחדדת את השינוי שעובר על ארגונים. בעבר, גבולות האבטחה היו ברורים יותר: תחנות קצה, שרתים, רשת, משתמשים ויישומים. כעת, מערכות AI אוטונומיות מתחילות לפעול בין כל השכבות האלה. הן לא יושבות במקום אחד בלבד, אלא מחברות בין שירותים, מידע ופעולות.

לכן, אבטחת AI אוטונומי אינה יכולה להסתפק בבדיקת הכלי עצמו. היא צריכה לבחון את ההקשר שבו הוא פועל, את ההרשאות שלו, את סוג המידע שאליו הוא נחשף, את השירותים שאליהם הוא מתחבר ואת רמת הפיקוח האנושי שמלווה אותו.

מה המשמעות עבור ארגונים בישראל?

ארגונים בישראל מאמצים כלי AI בקצב מהיר. בחלק מהמקרים מדובר ביוזמות מסודרות של מחלקות IT וחדשנות, ובמקרים אחרים מדובר בשימוש שמתחיל אצל עובדים או מחלקות עסקיות ורק לאחר מכן מגיע לידיעת צוותי האבטחה.

האתגר מתחיל כאשר כלי AI מתחברים למידע רגיש, למסמכים פנימיים, למערכות לקוחות, לתיבות דואר, לתהליכי שירות או למערכות תפעול. בשלב הזה כבר לא מדובר בכלי חיצוני בלבד, אלא ברכיב שמשפיע על סביבת העבודה הארגונית.

לכן ארגונים צריכים לעבור מחשיבה של “איזה כלי AI נוח לנו להשתמש בו” לחשיבה של “איך אנחנו מנהלים AI כחלק ממערך הסיכונים הארגוני”. זה כולל מדיניות שימוש, בקרת הרשאות, ניטור, בחינת ספקים, תיעוד פעולות ויכולת לעצור פעילות חריגה בזמן.

כיצד ארגון יכול להיערך לשימוש בטוח במערכות AI אוטונומיות?

היערכות נכונה מתחילה במיפוי. לפני שמחברים מערכות AI לתהליכים עסקיים, הארגון צריך לדעת אילו כלים נמצאים בשימוש, מי משתמש בהם, לאילו מערכות הם מתחברים ואיזה מידע עובר דרכם.

לאחר מכן, חשוב להגדיר מדיניות ברורה. מדיניות כזו צריכה לקבוע אילו סוגי מידע מותר להזין לכלי AI, אילו חיבורים דורשים אישור, מי מוסמך להפעיל מערכות AI אוטונומיות, ואילו פעולות חייבות להישאר תחת אישור אנושי.

בשלב מתקדם יותר, יש צורך ביכולת ניטור. מערכת AI שפועלת בצורה לא צפויה, ניגשת למידע שאינו תואם את תפקידה, מפעילה פעולה חריגה או מתקשרת עם שירות לא מוכר, צריכה להיבחן כאירוע אבטחה אפשרי.

המשמעות היא שאבטחת AI אינה רק אחריות של צוותי החדשנות. היא צריכה להיות חלק מעבודת אבטחת המידע, ניהול הסיכונים, המשפטים וההנהלה.

חדשנות אחראית מתחילה באבטחה מובנית

הצטרפות ESET ל-Agentic AI Foundation מבטאת גישה ברורה: פיתוח AI מתקדם חייב להגיע יחד עם אחריות, שקיפות ואבטחה מובנית. מערכות AI אוטונומיות יכולות לשפר תהליכים, לחסוך זמן וליצור ערך עסקי, אך רק אם הן פועלות בסביבה שבה הגבולות מוגדרים היטב.

Security by Design אינה סיסמה טכנולוגית. במקרה של AI אוטונומי, זו דרישה מעשית. ככל שמערכת מקבלת יותר יכולת פעולה, כך צריך להגדיר טוב יותר מה מותר לה לעשות, מה אסור לה לעשות, מי מפקח עליה ואיך מזהים חריגה.

זו בדיוק הסיבה שסטנדרטים פתוחים ופרוטוקולים מאובטחים חשובים כל כך. הם מאפשרים לתעשייה להתקדם יחד, במקום שכל ארגון יצטרך להתמודד לבד עם שאלות מורכבות של אמון, תאימות ובקרה.

שאלות נפוצות

מה זה AI אוטונומי?

AI אוטונומי הוא בינה מלאכותית שמסוגלת לבצע משימות ולא רק להגיב לשאלות. מערכת כזו יכולה להשתמש בכלים, להתחבר לשירותים, להפעיל תהליכים ולפעול באופן עצמאי יחסית במסגרת שהוגדרה לה.

למה AI אוטונומי עלול להרחיב את משטח התקיפה?

מפני שהוא עשוי לקבל גישה למידע, למערכות ולפעולות עסקיות. כאשר הגישה הזו אינה מנוהלת היטב, היא עלולה ליצור נקודות חולשה חדשות.

מה תפקידה של ESET ב-Agentic AI Foundation?

ESET מצטרפת כחברת Silver Member ותתרום מומחיות סייבר עצמאית ומבוססת מחקר לפיתוח סטנדרטים פתוחים, פרוטוקולים מאובטחים ותאימות בין מערכות AI אוטונומיות.

העתיד של AI ארגוני חייב להיות בטוח, פתוח ומפוקח

הצטרפות ESET ל-Agentic AI Foundation מדגישה מגמה חשובה: מערכות AI אוטונומיות לא יימדדו רק לפי היכולת שלהן לבצע משימות, אלא גם לפי היכולת להפעיל אותן בצורה בטוחה, שקופה ומבוקרת.

ככל שמערכות AI מקבלות תפקיד פעיל יותר בארגון, כך עולה הצורך בסטנדרטים משותפים, בפרוטוקולים מאובטחים ובפיקוח אנושי ברור. הטכנולוגיה יכולה להיות מנוע משמעותי של יעילות וחדשנות, אך רק כאשר היא נבנית על בסיס אמין.

ESET ממשיכה לחבר בין מחקר איומים, מומחיות סייבר ופיתוח אחראי של בינה מלאכותית. עבור ארגונים, המסר ברור: אימוץ AI אינו רק החלטה טכנולוגית. הוא חלק מאסטרטגיית אבטחת המידע, ניהול הסיכונים והאמון הדיגיטלי של הארגון.