עדכן את '*var' לפי אלגוריתם RMSProp הממורכז.
אלגוריתם ה-RMSProp הממורכז משתמש באומדן של הרגע השני הממורכז (כלומר השונות) לנורמליזציה, בניגוד ל-RMSProp הרגיל, המשתמש ברגע השני (הלא ממורכז). לעתים קרובות זה עוזר באימון, אבל הוא מעט יקר יותר מבחינת חישוב וזיכרון.
שימו לב שביישום צפוף של אלגוריתם זה, mg, ms ו-mom יתעדכנו גם אם הגראד הוא אפס, אבל ביישום הדליל הזה, mg, ms ו-mom לא יתעדכנו באיטרציות שבמהלכן הגראד הוא אפס.
mean_square = decay * mean_square + (1-decay) * gradient ** 2 mean_grad = decay * mean_grad + (1-decay) * gradient Delta = learning_rate * gradient / sqrt(mean_square + epsilon - mean_grad ** 2)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
כיתות מקוננות
| מעמד | ResourceSparseApplyCenteredRmsProp.Options | תכונות אופציונליות עבור ResourceSparseApplyCenteredRmsProp | |
קבועים
| חוּט | OP_NAME | השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow |
שיטות ציבוריות
| static <T מרחיב את TType > ResourceSparseApplyCenteredRmsProp | create ( Scope scope, Operand <?> var, Operand <?> mg, Operand <?> ms, Operand <?> mom, Operand <T> lr, Operand <T> rho, Operand <T> מומנטום, Operand <T > epsilon, Operand <T> grad, Operand <? מרחיב את TNummer > מדדים, אפשרויות... אפשרויות) שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceSparseApplyCenteredRmsProp חדשה. |
| static ResourceSparseApplyCenteredRmsProp.Options | useLocking (useLocking בוליאני) |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית OP_NAME
השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow
שיטות ציבוריות
public static ResourceSparseApplyCenteredRmsProp create ( scope scope, Operand <?> var, Operand <?> mg, Operand <?> ms, Operand <?> mom, Operand <T> lr, Operand <T> rho, Operand <T> מומנטום, Operand <T> epsilon, Operand <T> grad, Operand <? מרחיב את Tnumber > מדדים, אפשרויות... אפשרויות)
שיטת מפעל ליצירת מחלקה העוטפת פעולת ResourceSparseApplyCenteredRmsProp חדשה.
פרמטרים
| תְחוּם | ההיקף הנוכחי |
|---|---|
| var | צריך להיות ממשתנה(). |
| מ"ג | צריך להיות ממשתנה(). |
| גברת | צריך להיות ממשתנה(). |
| אִמָא | צריך להיות ממשתנה(). |
| lr | גורם קנה מידה. חייב להיות סקלר. |
| rho | קצב דעיכה. חייב להיות סקלר. |
| אפסילון | מונח רכס. חייב להיות סקלר. |
| גראד | השיפוע. |
| מדדים | וקטור של מדדים למימד הראשון של var, ms ו-mom. |
| אפשרויות | נושא ערכי תכונות אופציונליות |
החזרות
- מופע חדש של ResourceSparseApplyCenteredRmsProp
public static ResourceSparseApplyCenteredRmsProp.Options useLocking (שימוש בוליאני נעילה)
פרמטרים
| השתמש בנעילה | אם 'נכון', עדכון הטנזורים var, mg, ms ו-mom מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת. |
|---|