פורטל הסטודנטים

הקורס יתמקד בתאוריה ובאספקטים המעשיים של התקפות עוינות (ADVERSARIAL) על מודלי למידה עמוקה, ומערכות אבטחה. בצד התאורטי, הקורס יתמקד בסוגים השונים של ההתקפות, ונדון במאמרים המנסים להסביר את הצלחתם בשיבוש פעולתם התקינה של מודלים ומערכות. נדון בגישות התקפיות כגון התקפות על מודלים ידועים ולא ידועים (WHITE-BOX AND BLACK-BOX ATTACKS), התקפות אוניברסליות, התקפות מבוזרות, התקפות מבוססות טלאי, והתקפות על מודלי אפיון לעומת מודלי רגרסיה. הקורס ידון גם בהגנות מפני התקפות עוינות (ADVERSARIAL DEFENSES) הנועדו להפחית את השפעתם של ההתקפות. נדון בגישות הגנתיות כגון אימון עם התקפות (ADVERSARIAL TRAINING), הגנות מוכחות, החלקת מודלים לטובת הגנה אמפירית ותיקונים של קלט עוין. בנוסף נדון גם בשימושים אחרים של התקפות עוינות, כגון התקפות אל-עוינות (UN-ADVERSARIAL PERTURBATIONS) וטכניקות לגילוי המבנה והפרמטרים של מודלים מותקפים. במסגרת התרגול של הקורס, נדון כיצד ניתן להשתמש בטכניקות התקפה והגנה ידועות, כיצד לפתח התקפות והגנות חדשות וכיצד להעריך את מידת ההצלחה של התקפות למול הגנות. תוצאות למידה: בסיום הקורס הסטודנטיות והסטודנטים יהיו מסוגלים: 1. להבין את הגישות התאורטיות המסבירות את הצלחתם של התקפות עוינות בשיבוש פעולתם התקינה של מודלים ומערכות. 2. להבין את הגישות המתודיות והעקרונות התיאורטיים שעליהם מבוססים התקפות והגנות קיימות. 3. לפתח התקפות חדשות ולהעריך את מידת הצלחתן. 4. לפתח הגנות חדשות ולהעריך את מידת הצלחתן למול התקפות שונות. 5. לנצל את התופעה של התקפות עוינות לצורך מטרות שונות, ובפרט עבור שיפור הביצועים של מודלים על קלט נקי.

פקולטה: מדעי המחשב
|תארים מתקדמים

מקצועות קדם

46211 - למידה עמוקה או 97200 - למידה עמוקה או 236781 - למידה עמוקה על מאיצים חישוביים