עדכן את '*var' לפי אלגוריתם RMSProp הממורכז.
אלגוריתם ה-RMSProp הממורכז משתמש באומדן של הרגע השני הממורכז (כלומר השונות) לנורמליזציה, בניגוד ל-RMSProp הרגיל, המשתמש ברגע השני (הלא ממורכז). לעתים קרובות זה עוזר באימון, אבל הוא מעט יקר יותר מבחינת חישוב וזיכרון.
שימו לב שביישום צפוף של אלגוריתם זה, mg, ms ו-mom יתעדכנו גם אם הגראד הוא אפס, אבל ביישום הדליל הזה, mg, ms ו-mom לא יתעדכנו באיטרציות שבמהלכן הגראד הוא אפס.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 mean_grad = decay * mean_grad + (1-decay) * gradient Delta = learning_rate * gradient / sqrt(mean_square + epsilon - mean_grad ** 2)
$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$
כיתות מקוננות
| מַחלָקָה | SparseApplyCenteredRmsProp.Options | תכונות אופציונליות עבור SparseApplyCenteredRmsProp | |
קבועים
| חוּט | OP_NAME | השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow |
שיטות ציבוריות
| פלט <T> | asOutput () מחזירה את הידית הסמלית של הטנזור. |
| סטטי <T מרחיב את TType > SparseApplyCenteredRmsProp <T> | create ( scope scope, Operand <T> var, Operand <T> mg, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T> מומנטום, Operand <T > epsilon, Operand <T> grad, Operand < מרחיב את המדדים של Tnumber , Options... options) שיטת מפעל ליצירת מחלקה העוטפת פעולת SparseApplyCenteredRmsProp חדשה. |
| פלט <T> | החוצה () זהה ל-"var". |
| סטטי SparseApplyCenteredRmsProp.Options | useLocking (useLocking בוליאני) |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית OP_NAME
השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow
שיטות ציבוריות
פלט ציבורי <T> asOutput ()
מחזירה את הידית הסמלית של הטנזור.
כניסות לפעולות TensorFlow הן יציאות של פעולת TensorFlow אחרת. שיטה זו משמשת להשגת ידית סמלית המייצגת את חישוב הקלט.
public static SparseApplyCenteredRmsProp <T> create ( Scope scope, Operand <T> var, Operand <T> mg, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T > מומנטום, Operand <T> epsilon , Operand <T> grad, Operand < ?
שיטת מפעל ליצירת מחלקה העוטפת פעולת SparseApplyCenteredRmsProp חדשה.
פרמטרים
| תְחוּם | ההיקף הנוכחי |
|---|---|
| var | צריך להיות ממשתנה(). |
| מ"ג | צריך להיות ממשתנה(). |
| גְבֶרֶת | צריך להיות ממשתנה(). |
| אִמָא | צריך להיות ממשתנה(). |
| lr | גורם קנה מידה. חייב להיות סקלר. |
| rho | קצב דעיכה. חייב להיות סקלר. |
| אפסילון | מונח רכס. חייב להיות סקלר. |
| גראד | השיפוע. |
| מדדים | וקטור של מדדים למימד הראשון של var, ms ו-mom. |
| אפשרויות | נושא ערכי תכונות אופציונליות |
מחזיר
- מופע חדש של SparseApplyCenteredRmsProp
סטטי ציבורי SparseApplyCenteredRmsProp.Options useLocking (שימוש בוליאני)
פרמטרים
| השתמש בנעילה | אם 'נכון', עדכון הטנזורים var, mg, ms ו-mom מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת. |
|---|