![\"\u0645\u0639\u0631\u0641\u06cc](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D9%85%D8%B9%D8%B1%D9%81%DB%8C-%D8%B4%D8%A8%DA%A9%D9%87-%D9%87%D8%A7%DB%8C-%D8%B9%D8%B5%D8%A8%DB%8C-%D8%A8%D8%A7%D8%B2%DA%AF%D8%B4%D8%AA%DB%8C.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0686\u06cc\u0633\u062a\u061f<\/strong><\/h2>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0646\u0648\u0639\u06cc \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0627\u0633\u062a \u06a9\u0647 \u062f\u0631 \u0622\u0646 \u06cc\u06a9 \u0627\u0631\u062a\u0628\u0627\u0637 \u0628\u06cc\u0646 \u06af\u0631\u0647 \u0647\u0627 \u0637\u06cc \u06cc\u06a9 \u062a\u0648\u0627\u0644\u06cc \u0632\u0645\u0627\u0646\u06cc \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f. \u0627\u06cc\u0646 \u0627\u0631\u062a\u0628\u0627\u0637 \u060c \u06cc\u06a9 \u06af\u0631\u0627\u0641 \u062c\u0647\u062a \u062f\u0627\u0631 \u0627\u0633\u062a. \u0645\u0646\u0638\u0648\u0631 \u0627\u0632 \u062a\u0648\u0627\u0644\u06cc \u0632\u0645\u0627\u0646\u06cc \u060c \u062f\u0627\u062f\u0647 \u0647\u0627\u06cc\u06cc \u0627\u0633\u062a \u06a9\u0647 \u0628\u0627 \u06af\u0630\u0631 \u0632\u0645\u0627\u0646 \u0627\u0646\u062a\u0642\u0627\u0644 \u0645\u06cc \u06cc\u0627\u0628\u0646\u062f.<\/p>\n\n\n\n
\u0645\u062b\u0627\u0644 <\/strong>RNN<\/strong> : \u062f\u0627\u062f\u0647 \u0647\u0627\u06cc \u0633\u0631\u06cc \u0632\u0645\u0627\u0646\u06cc \u060c \u0634\u0627\u0645\u0644 \u0642\u06cc\u0645\u062a \u0633\u0647\u0627\u0645 \u0647\u0627 \u06a9\u0647 \u0628\u0627 \u062a\u063a\u06cc\u06cc\u0631 \u0632\u0645\u0627\u0646 \u060c \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u062b\u0628\u062a \u0634\u062f\u0647 \u0627\u0632 \u062d\u0633\u06af\u0631 \u0647\u0627 \u060c \u0633\u0648\u0627\u0628\u0642 \u067e\u0632\u0634\u06a9\u06cc \u0648 \u063a\u06cc\u0631\u0647 \u062a\u063a\u06cc\u06cc\u0631 \u0645\u06cc \u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0632 \u062d\u0627\u0644\u062a \u062f\u0627\u062e\u0644\u06cc \u06cc\u0627 \u062d\u0627\u0641\u0638\u0647 \u062e\u0648\u062f \u0628\u0631\u0627\u06cc \u067e\u0631\u062f\u0627\u0632\u0634 \u062f\u0646\u0628\u0627\u0644\u0647 \u062f\u0627\u062f\u0647 \u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u0642\u0628\u06cc\u0644 \u0648\u0631\u0648\u062f\u06cc \u0647\u0627 \u0628\u0647 \u0648\u0631\u0648\u062f\u06cc \u0642\u0628\u0644\u06cc \u0648\u0627\u0628\u0633\u062a\u0647 \u0647\u0633\u062a\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646\u060c \u06cc\u06a9 \u0627\u0631\u062a\u0628\u0627\u0637 \u0628\u06cc\u0646 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f. \u0644\u0630\u0627 \u0627\u0632 \u0622\u0646 \u0647\u0627 \u062f\u0631 \u062d\u0648\u0632\u0647 \u0647\u0627\u06cc\u06cc \u0645\u0627\u0646\u0646\u062f \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646 \u0637\u0628\u06cc\u0639\u06cc<\/a> \u0648 \u062a\u0634\u062e\u06cc\u0635 \u06af\u0641\u062a\u0627\u0631 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645.<\/p>\n\n\n\n\u0686\u0631\u0627 <\/strong>RNN<\/strong> \u061f<\/strong><\/h3>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0642\u062f\u06cc\u0645\u06cc \u060c \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u067e\u0631\u062f\u0627\u062e\u062a\u0646 \u0628\u0647 \u0648\u0631\u0648\u062f\u06cc \u0647\u0627\u06cc \u0628\u0639\u062f\u06cc \u0628\u0631\u0627\u0633\u0627\u0633 \u0645\u0648\u0627\u0631\u062f \u0642\u0628\u0644\u06cc \u0631\u0627 \u0646\u062f\u0627\u0631\u0646\u062f. \u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0645\u0639\u0645\u0648\u0644\u06cc \u0646\u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0628\u0631 \u0627\u0633\u0627\u0633 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u060c \u06a9\u0644\u0645\u0647 \u0628\u0639\u062f\u06cc \u0631\u0627 \u062f\u0631 \u062f\u0646\u0628\u0627\u0644\u0647 \u067e\u06cc\u0634 \u0628\u06cc\u0646\u06cc \u06a9\u0646\u062f. \u062f\u0631 \u062d\u0627\u0644\u06cc\u06a9\u0647 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc ( RNN ) \u0642\u0637\u0639\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0631\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u062f.<\/p>\n\n\n\n
\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u060c \u0647\u0645\u0627\u0646\u0637\u0648\u0631 \u06a9\u0647 \u0627\u0632 \u0646\u0627\u0645\u0634 \u067e\u06cc\u062f\u0627\u0633\u062a \u060c \u062a\u06a9\u0631\u0627\u0631\u0634\u0648\u0646\u062f\u0647 \u0627\u0633\u062a. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u0628\u0647 \u0635\u0648\u0631\u062a \u062d\u0644\u0642\u0647 \u0647\u0627\u06cc\u06cc \u0627\u062c\u0631\u0627 \u0645\u06cc \u0634\u0648\u0646\u062f \u06a9\u0647 \u0628\u0627\u0639\u062b \u0645\u0627\u0646\u062f\u06af\u0627\u0631\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0645\u06cc \u0634\u0648\u062f.<\/p>\n\n\n\n
![\"\u0634\u0628\u06a9\u0647](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D8%B4%D8%A8%DA%A9%D9%87-%D8%B9%D8%B5%D8%A8%DB%8C-%D8%A8%D8%A7%D8%B2%DA%AF%D8%B4%D8%AA%DB%8C-%DA%86%DB%8C%D8%B3%D8%AA.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u062f\u0631 \u0646\u0645\u0648\u062f\u0627\u0631 \u0641\u0648\u0642 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u062f\u0627\u0631\u06cc\u0645 \u06a9\u0647 \u0648\u0631\u0648\u062f\u06cc xt<\/sub> \u0631\u0627 \u06af\u0631\u0641\u062a\u0647 \u0648 \u0627\u0632 \u062e\u0631\u0648\u062c\u06cc ht<\/sub> \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646\u060c \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0627\u0632 \u06cc\u06a9 \u0645\u0631\u062d\u0644\u0647 \u0628\u0647 \u0645\u0631\u062d\u0644\u0647 \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u0634\u0648\u062f. \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u060c \u062f\u0631 \u062d\u06cc\u0646 \u0637\u06cc \u06a9\u0631\u062f\u0646 \u0631\u0648\u0646\u062f \u062a\u06a9\u0627\u0645\u0644\u06cc \u060c \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0646\u0633\u062e\u0647 \u0647\u0627\u06cc\u06cc \u0627\u0632 \u0647\u0645\u0627\u0646 \u0634\u0628\u06a9\u0647 \u0627\u06cc \u0628\u0627\u0634\u062f \u06a9\u0647 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0631\u0627 \u0628\u0647 \u062d\u0627\u0644\u062a \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u06a9\u0646\u062f.<\/p>\n\n\n\nRNN \u0647\u0627 \u0628\u0647 \u0645\u0627 \u0627\u06cc\u0646 \u0627\u0645\u06a9\u0627\u0646 \u0631\u0627 \u0645\u06cc \u062f\u0647\u0646\u062f \u06a9\u0647 \u0645\u062f\u0644\u0633\u0627\u0632\u06cc \u0631\u0627 \u0628\u0631 \u0631\u0648\u06cc \u06cc\u06a9 \u062f\u0646\u0628\u0627\u0644\u0647 \u06cc\u0627 \u0632\u0646\u062c\u06cc\u0631\u0647 \u0627\u06cc \u0627\u0632 \u0628\u0631\u062f\u0627\u0631 \u0647\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u06cc\u0645. \u0627\u06cc\u0646 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0648\u0631\u0648\u062f\u06cc \u060c \u062e\u0631\u0648\u062c\u06cc \u0648 \u06cc\u0627 \u0647\u0631 \u062f\u0648 \u0628\u0627\u0634\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0645\u06cc \u062a\u0648\u0627\u0646 \u0646\u062a\u06cc\u062c\u0647 \u06af\u0631\u0641\u062a \u06a9\u0647 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u060c \u0628\u0627 \u0644\u06cc\u0633\u062a \u0647\u0627 \u06cc\u0627 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u0631\u062a\u0628\u0637 \u0647\u0633\u062a\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0647\u0631 \u0648\u0642\u062a \u062f\u0627\u062f\u0647 \u0627\u06cc \u0628\u0627 \u0645\u0627\u0647\u06cc\u062a \u062a\u0631\u062a\u06cc\u0628\u06cc \u062f\u0627\u0634\u062a\u06cc\u062f\u060c \u0628\u0627\u06cc\u062f \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f.<\/p>\n\n\n\n
\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0686\u06af\u0648\u0646\u0647 \u06a9\u0627\u0631 \u0645\u06cc \u06a9\u0646\u0646\u062f\u061f<\/strong><\/h2>\n\n\n\n\u062f\u0631 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0642\u062f\u06cc\u0645\u06cc \u060c \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc \u0628\u0627 \u0645\u062c\u0645\u0648\u0639\u0647 \u0627\u06cc \u0627\u0632 \u0648\u0632\u0646 \u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0647\u0627\u06cc \u0645\u062e\u0635\u0648\u0635 \u0628\u0647 \u062e\u0648\u062f \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f. \u0628\u06af\u0630\u0627\u0631\u06cc\u062f \u0627\u06cc\u0646 \u0648\u0632\u0646 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0631\u0627 \u0628\u0647 \u062a\u0631\u062a\u06cc\u0628 \u0628\u0631\u0627\u06cc \u0648\u0632\u0646 \u06f1 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u06f1 \u060c w1 \u0648 b1 \u0641\u0631\u0636 \u06a9\u0646\u06cc\u0645. \u0628\u0647 \u0647\u0645\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628 w2 \u060c b2 \u0648 w3 \u060c b3 \u0631\u0627 \u0628\u0631\u0627\u06cc \u0644\u0627\u06cc\u0647 \u0647\u0627\u06cc \u062f\u0648\u0645 \u0648 \u0633\u0648\u0645 \u062e\u0648\u0627\u0647\u06cc\u0645 \u062f\u0627\u0634\u062a. \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0647\u0627 \u0647\u0645\u0686\u0646\u06cc\u0646 \u0627\u0632 \u06cc\u06a9\u062f\u06cc\u06af\u0631 \u0645\u0633\u062a\u0642\u0644 \u0647\u0633\u062a\u0646\u062f \u060c \u0628\u0647 \u0627\u06cc\u0646 \u0645\u0639\u0646\u06cc \u06a9\u0647 \u0622\u0646 \u0647\u0627 \u062e\u0631\u0648\u062c\u06cc \u0642\u0628\u0644\u06cc \u0631\u0627 \u0646\u0645\u06cc \u062f\u0627\u0646\u0646\u062f.<\/p>\n\n\n\n
\u0641\u0631\u0636 \u06a9\u0646\u06cc\u062f \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0645\u06cc\u0642 \u062a\u0631 \u0628\u0627 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0648\u0631\u0648\u062f\u06cc\u060c \u0633\u0647 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc\u060c \u0648 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u06cc\u0645.<\/p>\n\n\n\n
![\"\u0634\u0628\u06a9\u0647](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D8%B4%D8%A8%DA%A9%D9%87-%D8%B9%D8%B5%D8%A8%DB%8C-%D8%A8%D8%A7%D8%B2%DA%AF%D8%B4%D8%AA%DB%8C-%DA%86%DA%AF%D9%88%D9%86%D9%87-%DA%A9%D8%A7%D8%B1-%D9%85%DB%8C-%DA%A9%D9%86%D8%AF.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0628\u0635\u0648\u0631\u062a \u0632\u06cc\u0631 \u0627\u062c\u0631\u0627 \u0645\u06cc \u0634\u0648\u062f :<\/p>\n\n\n\n
- \u0634\u0628\u06a9\u0647 \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0628\u062a\u062f\u0627 \u0641\u0639\u0627\u0644\u0633\u0627\u0632 \u0647\u0627\u06cc \u0645\u0633\u062a\u0642\u0644 \u0631\u0627 \u0628\u0647 \u0648\u0627\u0628\u0633\u062a\u0647 \u062a\u0628\u062f\u06cc\u0644 \u0645\u06cc \u06a9\u0646\u062f. \u0647\u0645\u0686\u0646\u06cc\u0646 \u0628\u0647 \u0647\u0645\u0647 \u0644\u0627\u06cc\u0647 \u0647\u0627 \u060c \u0648\u0632\u0646 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u06cc\u06a9\u0633\u0627\u0646\u06cc \u0627\u062e\u062a\u0635\u0627\u0635 \u0645\u06cc \u062f\u0647\u062f \u06a9\u0647 \u067e\u06cc\u0686\u06cc\u062f\u06af\u06cc \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0647\u0627\u06cc RNN \u0631\u0627 \u06a9\u0627\u0647\u0634 \u0645\u06cc \u062f\u0647\u062f \u0648 \u0628\u0627 \u0627\u0631\u0627\u0626\u0647 \u062e\u0631\u0648\u062c\u06cc \u0642\u0628\u0644\u06cc \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u0648\u0631\u0648\u062f\u06cc \u0644\u0627\u06cc\u0647 \u0628\u0639\u062f\u06cc \u060c \u06cc\u06a9 \u067e\u0644\u062a\u0641\u0631\u0645 \u0627\u0633\u062a\u0627\u0646\u062f\u0627\u0631\u062f \u0628\u0631\u0627\u06cc \u062d\u0641\u0638 \u06a9\u0631\u062f\u0646 \u062e\u0631\u0648\u062c\u06cc \u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc \u06a9\u0646\u062f.<\/li>
- \u0627\u06cc\u0646 \u0633\u0647 \u0644\u0627\u06cc\u0647 \u062f\u0627\u0631\u0627\u06cc \u0648\u0632\u0646 \u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0647\u0627\u06cc \u06cc\u06a9\u0633\u0627\u0646 \u060c \u062f\u0631 \u06cc\u06a9 \u0648\u0627\u062d\u062f \u0628\u0627\u0632\u06af\u0634\u062a \u0628\u0627 \u0647\u0645 \u062a\u0631\u06a9\u06cc\u0628 \u0645\u06cc \u0634\u0648\u0646\u062f.<\/li><\/ul>\n\n\n\n
![\"\u0646\u062d\u0648\u0647](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D9%86%D8%AD%D9%88%D9%87-%DA%A9%D8%A7%D8%B1-%D8%B4%D8%A8%DA%A9%D9%87-%D9%87%D8%A7%DB%8C-%D8%B9%D8%B5%D8%A8%DB%8C-%D8%A8%D8%A7%D8%B2%DA%AF%D8%B4%D8%AA%DB%8C.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u0628\u0631\u0627\u06cc \u0645\u062d\u0627\u0633\u0628\u0647 \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc <\/strong>\u2013<\/strong><\/p>\n\n\n\nht<\/sub> = f ( ht-1 <\/sub>, xt <\/sub>)<\/strong><\/h3>\n\n\n\n- ht<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc<\/strong><\/li>
- ht-1<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0642\u0628\u0644\u06cc<\/strong><\/li>
- xt<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0648\u0631\u0648\u062f\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0628\u0647 \u0645\u0646\u0638\u0648\u0631 \u0627\u0639\u0645\u0627\u0644 \u062a\u0627\u0628\u0639 \u0641\u0639\u0627\u0644\u0633\u0627\u0632 tanh\u060c \u062f\u0627\u0631\u06cc\u0645:<\/p>\n\n\n\n
ht<\/sub> = tanh ( Whh<\/sub> ht-1 <\/sub>+ Wxh<\/sub> xt <\/sub>)<\/strong><\/h3>\n\n\n\n\u06a9\u0647 \u062f\u0631 \u0622\u0646:<\/p>\n\n\n\n
- Whh<\/sub><\/strong> : \u0648\u0632\u0646 \u0646\u0648\u0631\u0648\u0646 \u0641\u0639\u0644\u06cc<\/strong><\/li>
- Wxh<\/sub><\/strong> : \u0648\u0632\u0646 \u0646\u0648\u0631\u0648\u0646 \u0648\u0631\u0648\u062f\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0641\u0631\u0645\u0648\u0644 \u0645\u062d\u0627\u0633\u0628\u0647 \u062e\u0631\u0648\u062c\u06cc:<\/p>\n\n\n\n
yt<\/sub> = Why<\/sub> ht<\/sub><\/strong><\/h3>\n\n\n\n- yt<\/sub><\/strong> : \u062e\u0631\u0648\u062c\u06cc<\/strong><\/li>
- Why<\/sub><\/strong> : \u0648\u0632\u0646 \u062f\u0631 \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0622\u0645\u0648\u0632\u0634 \u0627\u0632 \u0637\u0631\u06cc\u0642 <\/strong>RNN<\/strong> :<\/strong><\/h3>\n\n\n\n- \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u06cc\u06a9 \u0648\u0627\u062d\u062f \u06af\u0627\u0645 \u0632\u0645\u0627\u0646\u06cc \u0627\u0632 \u0648\u0631\u0648\u062f\u06cc \u0645\u06cc \u06af\u06cc\u0631\u062f.<\/li>
- \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc \u0631\u0627 \u0627\u0632 \u0637\u0631\u06cc\u0642 \u0648\u0631\u0648\u062f\u06cc \u0641\u0639\u0644\u06cc \u0648 \u062d\u0627\u0644\u062a \u0642\u0628\u0644\u06cc \u0645\u062d\u0627\u0633\u0628\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645.<\/li>
- \u062d\u0627\u0644\u0627 \u062e\u0631\u0648\u062c\u06cc \u062d\u0627\u0644\u062a ht<\/sub><\/strong> \u062a\u0628\u062f\u06cc\u0644 \u0628\u0647 \u0648\u0631\u0648\u062f\u06cc \u062d\u0627\u0644\u062a ht-1<\/sub><\/strong> \u0645\u06cc \u06af\u0631\u062f\u062f.<\/li>
- \u0627\u06cc\u0646 \u0627\u062a\u0641\u0627\u0642 \u0628\u0631\u0627\u06cc n<\/strong> \u06af\u0627\u0645 \u0645\u062e\u062a\u0644\u0641 \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0627\u062a\u0641\u0627\u0642 \u0628\u06cc\u0641\u062a\u062f \u0648 \u062f\u0631 \u0627\u0646\u062a\u0647\u0627\u060c \u062a\u0645\u0627\u0645 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0628\u0647 \u0647\u0645 \u0645\u062a\u0635\u0644 \u0645\u06cc \u0634\u0648\u062f.<\/li>
- \u067e\u0633 \u0627\u0632 \u062a\u06a9\u0645\u06cc\u0644 \u062a\u0645\u0627\u0645 \u0645\u0631\u0627\u062d\u0644 \u060c \u0645\u0631\u062d\u0644\u0647 \u0622\u062e\u0631 \u0645\u062d\u0627\u0633\u0628\u0647 \u062e\u0631\u0648\u062c\u06cc \u0627\u0633\u062a.<\/li>
- \u062f\u0631 \u0622\u062e\u0631 \u060c \u0628\u0627 \u0645\u062d\u0627\u0633\u0628\u0647 \u0627\u062e\u062a\u0644\u0627\u0641 \u0628\u06cc\u0646 \u062e\u0631\u0648\u062c\u06cc \u0648\u0627\u0642\u0639\u06cc \u0648 \u062e\u0631\u0648\u062c\u06cc \u067e\u06cc\u0634 \u0628\u06cc\u0646\u06cc \u0634\u062f\u0647 \u060c \u062e\u0637\u0627 \u0631\u0627 \u0645\u062d\u0627\u0633\u0628\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645.<\/li>
- \u062e\u0637\u0627 \u0628\u0631\u0627\u06cc \u062a\u0646\u0638\u06cc\u0645 \u0648\u0632\u0646 \u0647\u0627 \u0648 \u062a\u0648\u0644\u06cc\u062f \u06cc\u06a9 \u0646\u062a\u06cc\u062c\u0647 \u0628\u0647\u062a\u0631 \u0628\u0647 \u0634\u0628\u06a9\u0647 \u0628\u0631\u06af\u0634\u062a \u062f\u0627\u062f\u0647 \u0645\u06cc \u0634\u0648\u062f.<\/li><\/ul>\n\n\n\n
\u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc<\/strong><\/h2>\n\n\n\n\u0627\u06cc\u0646 \u062c\u0627\u0644\u0628 \u062a\u0631\u06cc\u0646 \u0628\u062e\u0634 \u0627\u0632 \u0622\u0645\u0648\u0632\u0634 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u0627\u0633\u062a. \u062f\u0631 \u0627\u062f\u0627\u0645\u0647 \u0628\u0631\u062e\u06cc \u0627\u0632 \u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0641\u0648\u0642 \u0627\u0644\u0639\u0627\u062f\u0647 RNN \u0631\u0627 \u0645\u0634\u0627\u0647\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u062f :<\/p>\n\n\n\n
\u06f1- \u062a\u0631\u062c\u0645\u0647 \u0645\u0627\u0634\u06cc\u0646\u06cc<\/strong><\/h3>\n\n\n\n\u0645\u0627 \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062f\u0631 \u0645\u0648\u062a\u0648\u0631\u0647\u0627\u06cc \u062a\u0631\u062c\u0645\u0647 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645 \u062a\u0627 \u0645\u062a\u0646 \u0631\u0627 \u0627\u0632 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0647 \u0632\u0628\u0627\u0646 \u062f\u06cc\u06af\u0631 \u062a\u0631\u062c\u0645\u0647 \u06a9\u0646\u06cc\u0645. \u0622\u0646 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0631\u0627 \u0628\u0627 \u062a\u0631\u06a9\u06cc\u0628\u06cc \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u062f\u06cc\u06af\u0631 \u0645\u0627\u0646\u0646\u062f \u062d\u0627\u0641\u0638\u0647 \u0637\u0648\u0644\u0627\u0646\u06cc \u06a9\u0648\u062a\u0627\u0647 \u0645\u062f\u062a<\/a> ( LSTM ) \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u0646\u062f.<\/p>\n\n\n\n![\"\u062a\u0631\u062c\u0645\u0647](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D8%AA%D8%B1%D8%AC%D9%85%D9%87-%D9%85%D8%A7%D8%B4%DB%8C%D9%86%DB%8C-%D8%A8%D8%A7-%D8%B4%D8%A8%DA%A9%D9%87-%D9%87%D8%A7%DB%8C-%D8%B9%D8%B5%D8%A8%DB%8C-%D8%A8%D8%A7%D8%B2%DA%AF%D8%B4%D8%AA%DB%8C.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u06f2- \u062a\u0634\u062e\u06cc\u0635 \u06af\u0641\u062a\u0627\u0631<\/strong><\/h3>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062c\u0627\u06cc\u06af\u0632\u06cc\u0646 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06af\u0641\u062a\u0627\u0631 \u0642\u062f\u06cc\u0645\u06cc \u0634\u062f\u0647 \u0627\u0646\u062f \u06a9\u0647 \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0645\u062e\u0641\u06cc \u0645\u0627\u0631\u06a9\u0648\u0641 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0631\u062f\u0646\u062f. \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0647 \u0647\u0645\u0631\u0627\u0647 LSTM \u0647\u0627 \u060c \u06af\u0641\u062a\u0627\u0631 \u0631\u0627 \u0628\u0647\u062a\u0631 \u0637\u0628\u0642\u0647 \u0628\u0646\u062f\u06cc \u06a9\u0646\u0646\u062f \u0648 \u0628\u062f\u0648\u0646 \u0627\u0632 \u062f\u0633\u062a \u062f\u0627\u062f\u0646 \u0645\u0641\u0647\u0648\u0645 \u060c \u0622\u0646 \u0647\u0627 \u0631\u0627 \u0628\u0647 \u0645\u062a\u0646 \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0646\u0646\u062f.<\/p>\n\n\n\n
![\"\u062a\u0634\u062e\u06cc\u0635](\"https:\/\/shahaab-co.ir\/mag\/wp-content\/uploads\/2020\/08\/%D8%AA%D8%B4%D8%AE%DB%8C%D8%B5-%DA%AF%D9%81%D8%AA%D8%A7%D8%B1-%D8%A8%D8%A7-%D8%B4%D8%A8%DA%A9%D9%87-%D9%87%D8%A7%DB%8C-%D8%B9%D8%B5%D8%A8%DB%8C.jpg\")
<\/a><\/figure><\/div>\n\n\n\n\u06f3- \u0628\u0631\u0686\u0633\u0628 \u0632\u0646\u06cc \u062e\u0648\u062f\u06a9\u0627\u0631 \u062a\u0635\u0648\u06cc\u0631<\/strong><\/h3>\n\n\n\nRNN \u0647\u0627 \u0647\u0645\u0631\u0627\u0647 \u0628\u0627 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc\u00a0\u0639\u0635\u0628\u06cc \u06a9\u0627\u0646\u0648\u0644\u0648\u0634\u0646\u06cc\u00a0\u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u062a\u0635\u0627\u0648\u06cc\u0631 \u0631\u0627 \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06a9\u0631\u062f\u0647 \u0648 \u062a\u0648\u0635\u06cc\u0641 \u0622\u0646 \u0647\u0627 \u0631\u0627 \u062f\u0631 \u0642\u0627\u0644\u0628 \u0628\u0631\u0686\u0633\u0628 \u0647\u0627 \u0627\u0631\u0627\u0626\u0647 \u062f\u0647\u0646\u062f. \u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644\u060c \u062a\u0635\u0648\u06cc\u0631 \u0631\u0648\u0628\u0627\u0647\u06cc \u06a9\u0647 \u0627\u0632 \u0631\u0648\u06cc \u067e\u0631\u0686\u06cc\u0646 \u0645\u06cc \u067e\u0631\u062f \u060c \u0628\u0647\u062a\u0631 \u0627\u0633\u062a \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 RNN \u0647\u0627 \u062a\u0648\u0635\u06cc\u0641 \u0634\u0648\u062f.<\/p>\n\n\n\n
\u0686\u0631\u0627 <\/strong>RNN<\/strong> \u061f<\/strong><\/h3>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0642\u062f\u06cc\u0645\u06cc \u060c \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u067e\u0631\u062f\u0627\u062e\u062a\u0646 \u0628\u0647 \u0648\u0631\u0648\u062f\u06cc \u0647\u0627\u06cc \u0628\u0639\u062f\u06cc \u0628\u0631\u0627\u0633\u0627\u0633 \u0645\u0648\u0627\u0631\u062f \u0642\u0628\u0644\u06cc \u0631\u0627 \u0646\u062f\u0627\u0631\u0646\u062f. \u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0645\u0639\u0645\u0648\u0644\u06cc \u0646\u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0628\u0631 \u0627\u0633\u0627\u0633 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u060c \u06a9\u0644\u0645\u0647 \u0628\u0639\u062f\u06cc \u0631\u0627 \u062f\u0631 \u062f\u0646\u0628\u0627\u0644\u0647 \u067e\u06cc\u0634 \u0628\u06cc\u0646\u06cc \u06a9\u0646\u062f. \u062f\u0631 \u062d\u0627\u0644\u06cc\u06a9\u0647 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc ( RNN ) \u0642\u0637\u0639\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0631\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u062f.<\/p>\n\n\n\n
\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u060c \u0647\u0645\u0627\u0646\u0637\u0648\u0631 \u06a9\u0647 \u0627\u0632 \u0646\u0627\u0645\u0634 \u067e\u06cc\u062f\u0627\u0633\u062a \u060c \u062a\u06a9\u0631\u0627\u0631\u0634\u0648\u0646\u062f\u0647 \u0627\u0633\u062a. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u0628\u0647 \u0635\u0648\u0631\u062a \u062d\u0644\u0642\u0647 \u0647\u0627\u06cc\u06cc \u0627\u062c\u0631\u0627 \u0645\u06cc \u0634\u0648\u0646\u062f \u06a9\u0647 \u0628\u0627\u0639\u062b \u0645\u0627\u0646\u062f\u06af\u0627\u0631\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0645\u06cc \u0634\u0648\u062f.<\/p>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u062f\u0631 \u0646\u0645\u0648\u062f\u0627\u0631 \u0641\u0648\u0642 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u062f\u0627\u0631\u06cc\u0645 \u06a9\u0647 \u0648\u0631\u0648\u062f\u06cc xt<\/sub> \u0631\u0627 \u06af\u0631\u0641\u062a\u0647 \u0648 \u0627\u0632 \u062e\u0631\u0648\u062c\u06cc ht<\/sub> \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646\u060c \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0627\u0632 \u06cc\u06a9 \u0645\u0631\u062d\u0644\u0647 \u0628\u0647 \u0645\u0631\u062d\u0644\u0647 \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u0634\u0648\u062f. \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u060c \u062f\u0631 \u062d\u06cc\u0646 \u0637\u06cc \u06a9\u0631\u062f\u0646 \u0631\u0648\u0646\u062f \u062a\u06a9\u0627\u0645\u0644\u06cc \u060c \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0646\u0633\u062e\u0647 \u0647\u0627\u06cc\u06cc \u0627\u0632 \u0647\u0645\u0627\u0646 \u0634\u0628\u06a9\u0647 \u0627\u06cc \u0628\u0627\u0634\u062f \u06a9\u0647 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0631\u0627 \u0628\u0647 \u062d\u0627\u0644\u062a \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u06a9\u0646\u062f.<\/p>\n\n\n\nRNN \u0647\u0627 \u0628\u0647 \u0645\u0627 \u0627\u06cc\u0646 \u0627\u0645\u06a9\u0627\u0646 \u0631\u0627 \u0645\u06cc \u062f\u0647\u0646\u062f \u06a9\u0647 \u0645\u062f\u0644\u0633\u0627\u0632\u06cc \u0631\u0627 \u0628\u0631 \u0631\u0648\u06cc \u06cc\u06a9 \u062f\u0646\u0628\u0627\u0644\u0647 \u06cc\u0627 \u0632\u0646\u062c\u06cc\u0631\u0647 \u0627\u06cc \u0627\u0632 \u0628\u0631\u062f\u0627\u0631 \u0647\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u06cc\u0645. \u0627\u06cc\u0646 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0648\u0631\u0648\u062f\u06cc \u060c \u062e\u0631\u0648\u062c\u06cc \u0648 \u06cc\u0627 \u0647\u0631 \u062f\u0648 \u0628\u0627\u0634\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0645\u06cc \u062a\u0648\u0627\u0646 \u0646\u062a\u06cc\u062c\u0647 \u06af\u0631\u0641\u062a \u06a9\u0647 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u060c \u0628\u0627 \u0644\u06cc\u0633\u062a \u0647\u0627 \u06cc\u0627 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u0631\u062a\u0628\u0637 \u0647\u0633\u062a\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0647\u0631 \u0648\u0642\u062a \u062f\u0627\u062f\u0647 \u0627\u06cc \u0628\u0627 \u0645\u0627\u0647\u06cc\u062a \u062a\u0631\u062a\u06cc\u0628\u06cc \u062f\u0627\u0634\u062a\u06cc\u062f\u060c \u0628\u0627\u06cc\u062f \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f.<\/p>\n\n\n\n
\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0686\u06af\u0648\u0646\u0647 \u06a9\u0627\u0631 \u0645\u06cc \u06a9\u0646\u0646\u062f\u061f<\/strong><\/h2>\n\n\n\n\u062f\u0631 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0642\u062f\u06cc\u0645\u06cc \u060c \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc \u0628\u0627 \u0645\u062c\u0645\u0648\u0639\u0647 \u0627\u06cc \u0627\u0632 \u0648\u0632\u0646 \u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0647\u0627\u06cc \u0645\u062e\u0635\u0648\u0635 \u0628\u0647 \u062e\u0648\u062f \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f. \u0628\u06af\u0630\u0627\u0631\u06cc\u062f \u0627\u06cc\u0646 \u0648\u0632\u0646 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0631\u0627 \u0628\u0647 \u062a\u0631\u062a\u06cc\u0628 \u0628\u0631\u0627\u06cc \u0648\u0632\u0646 \u06f1 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u06f1 \u060c w1 \u0648 b1 \u0641\u0631\u0636 \u06a9\u0646\u06cc\u0645. \u0628\u0647 \u0647\u0645\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628 w2 \u060c b2 \u0648 w3 \u060c b3 \u0631\u0627 \u0628\u0631\u0627\u06cc \u0644\u0627\u06cc\u0647 \u0647\u0627\u06cc \u062f\u0648\u0645 \u0648 \u0633\u0648\u0645 \u062e\u0648\u0627\u0647\u06cc\u0645 \u062f\u0627\u0634\u062a. \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0647\u0627 \u0647\u0645\u0686\u0646\u06cc\u0646 \u0627\u0632 \u06cc\u06a9\u062f\u06cc\u06af\u0631 \u0645\u0633\u062a\u0642\u0644 \u0647\u0633\u062a\u0646\u062f \u060c \u0628\u0647 \u0627\u06cc\u0646 \u0645\u0639\u0646\u06cc \u06a9\u0647 \u0622\u0646 \u0647\u0627 \u062e\u0631\u0648\u062c\u06cc \u0642\u0628\u0644\u06cc \u0631\u0627 \u0646\u0645\u06cc \u062f\u0627\u0646\u0646\u062f.<\/p>\n\n\n\n
\u0641\u0631\u0636 \u06a9\u0646\u06cc\u062f \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0645\u06cc\u0642 \u062a\u0631 \u0628\u0627 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0648\u0631\u0648\u062f\u06cc\u060c \u0633\u0647 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc\u060c \u0648 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u06cc\u0645.<\/p>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0628\u0635\u0648\u0631\u062a \u0632\u06cc\u0631 \u0627\u062c\u0631\u0627 \u0645\u06cc \u0634\u0648\u062f :<\/p>\n\n\n\n
- \u0634\u0628\u06a9\u0647 \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0628\u062a\u062f\u0627 \u0641\u0639\u0627\u0644\u0633\u0627\u0632 \u0647\u0627\u06cc \u0645\u0633\u062a\u0642\u0644 \u0631\u0627 \u0628\u0647 \u0648\u0627\u0628\u0633\u062a\u0647 \u062a\u0628\u062f\u06cc\u0644 \u0645\u06cc \u06a9\u0646\u062f. \u0647\u0645\u0686\u0646\u06cc\u0646 \u0628\u0647 \u0647\u0645\u0647 \u0644\u0627\u06cc\u0647 \u0647\u0627 \u060c \u0648\u0632\u0646 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u06cc\u06a9\u0633\u0627\u0646\u06cc \u0627\u062e\u062a\u0635\u0627\u0635 \u0645\u06cc \u062f\u0647\u062f \u06a9\u0647 \u067e\u06cc\u0686\u06cc\u062f\u06af\u06cc \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0647\u0627\u06cc RNN \u0631\u0627 \u06a9\u0627\u0647\u0634 \u0645\u06cc \u062f\u0647\u062f \u0648 \u0628\u0627 \u0627\u0631\u0627\u0626\u0647 \u062e\u0631\u0648\u062c\u06cc \u0642\u0628\u0644\u06cc \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u0648\u0631\u0648\u062f\u06cc \u0644\u0627\u06cc\u0647 \u0628\u0639\u062f\u06cc \u060c \u06cc\u06a9 \u067e\u0644\u062a\u0641\u0631\u0645 \u0627\u0633\u062a\u0627\u0646\u062f\u0627\u0631\u062f \u0628\u0631\u0627\u06cc \u062d\u0641\u0638 \u06a9\u0631\u062f\u0646 \u062e\u0631\u0648\u062c\u06cc \u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc \u06a9\u0646\u062f.<\/li>
- \u0627\u06cc\u0646 \u0633\u0647 \u0644\u0627\u06cc\u0647 \u062f\u0627\u0631\u0627\u06cc \u0648\u0632\u0646 \u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0647\u0627\u06cc \u06cc\u06a9\u0633\u0627\u0646 \u060c \u062f\u0631 \u06cc\u06a9 \u0648\u0627\u062d\u062f \u0628\u0627\u0632\u06af\u0634\u062a \u0628\u0627 \u0647\u0645 \u062a\u0631\u06a9\u06cc\u0628 \u0645\u06cc \u0634\u0648\u0646\u062f.<\/li><\/ul>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u0628\u0631\u0627\u06cc \u0645\u062d\u0627\u0633\u0628\u0647 \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc <\/strong>\u2013<\/strong><\/p>\n\n\n\nht<\/sub> = f ( ht-1 <\/sub>, xt <\/sub>)<\/strong><\/h3>\n\n\n\n- ht<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc<\/strong><\/li>
- ht-1<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0642\u0628\u0644\u06cc<\/strong><\/li>
- xt<\/sub><\/strong> : \u062d\u0627\u0644\u062a \u0648\u0631\u0648\u062f\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0628\u0647 \u0645\u0646\u0638\u0648\u0631 \u0627\u0639\u0645\u0627\u0644 \u062a\u0627\u0628\u0639 \u0641\u0639\u0627\u0644\u0633\u0627\u0632 tanh\u060c \u062f\u0627\u0631\u06cc\u0645:<\/p>\n\n\n\n
ht<\/sub> = tanh ( Whh<\/sub> ht-1 <\/sub>+ Wxh<\/sub> xt <\/sub>)<\/strong><\/h3>\n\n\n\n\u06a9\u0647 \u062f\u0631 \u0622\u0646:<\/p>\n\n\n\n
- Whh<\/sub><\/strong> : \u0648\u0632\u0646 \u0646\u0648\u0631\u0648\u0646 \u0641\u0639\u0644\u06cc<\/strong><\/li>
- Wxh<\/sub><\/strong> : \u0648\u0632\u0646 \u0646\u0648\u0631\u0648\u0646 \u0648\u0631\u0648\u062f\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0641\u0631\u0645\u0648\u0644 \u0645\u062d\u0627\u0633\u0628\u0647 \u062e\u0631\u0648\u062c\u06cc:<\/p>\n\n\n\n
yt<\/sub> = Why<\/sub> ht<\/sub><\/strong><\/h3>\n\n\n\n- yt<\/sub><\/strong> : \u062e\u0631\u0648\u062c\u06cc<\/strong><\/li>
- Why<\/sub><\/strong> : \u0648\u0632\u0646 \u062f\u0631 \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc<\/strong><\/li><\/ul>\n\n\n\n
\u0622\u0645\u0648\u0632\u0634 \u0627\u0632 \u0637\u0631\u06cc\u0642 <\/strong>RNN<\/strong> :<\/strong><\/h3>\n\n\n\n- \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u06cc\u06a9 \u0648\u0627\u062d\u062f \u06af\u0627\u0645 \u0632\u0645\u0627\u0646\u06cc \u0627\u0632 \u0648\u0631\u0648\u062f\u06cc \u0645\u06cc \u06af\u06cc\u0631\u062f.<\/li>
- \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc \u0631\u0627 \u0627\u0632 \u0637\u0631\u06cc\u0642 \u0648\u0631\u0648\u062f\u06cc \u0641\u0639\u0644\u06cc \u0648 \u062d\u0627\u0644\u062a \u0642\u0628\u0644\u06cc \u0645\u062d\u0627\u0633\u0628\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645.<\/li>
- \u062d\u0627\u0644\u0627 \u062e\u0631\u0648\u062c\u06cc \u062d\u0627\u0644\u062a ht<\/sub><\/strong> \u062a\u0628\u062f\u06cc\u0644 \u0628\u0647 \u0648\u0631\u0648\u062f\u06cc \u062d\u0627\u0644\u062a ht-1<\/sub><\/strong> \u0645\u06cc \u06af\u0631\u062f\u062f.<\/li>
- \u0627\u06cc\u0646 \u0627\u062a\u0641\u0627\u0642 \u0628\u0631\u0627\u06cc n<\/strong> \u06af\u0627\u0645 \u0645\u062e\u062a\u0644\u0641 \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0627\u062a\u0641\u0627\u0642 \u0628\u06cc\u0641\u062a\u062f \u0648 \u062f\u0631 \u0627\u0646\u062a\u0647\u0627\u060c \u062a\u0645\u0627\u0645 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0628\u0647 \u0647\u0645 \u0645\u062a\u0635\u0644 \u0645\u06cc \u0634\u0648\u062f.<\/li>
- \u067e\u0633 \u0627\u0632 \u062a\u06a9\u0645\u06cc\u0644 \u062a\u0645\u0627\u0645 \u0645\u0631\u0627\u062d\u0644 \u060c \u0645\u0631\u062d\u0644\u0647 \u0622\u062e\u0631 \u0645\u062d\u0627\u0633\u0628\u0647 \u062e\u0631\u0648\u062c\u06cc \u0627\u0633\u062a.<\/li>
- \u062f\u0631 \u0622\u062e\u0631 \u060c \u0628\u0627 \u0645\u062d\u0627\u0633\u0628\u0647 \u0627\u062e\u062a\u0644\u0627\u0641 \u0628\u06cc\u0646 \u062e\u0631\u0648\u062c\u06cc \u0648\u0627\u0642\u0639\u06cc \u0648 \u062e\u0631\u0648\u062c\u06cc \u067e\u06cc\u0634 \u0628\u06cc\u0646\u06cc \u0634\u062f\u0647 \u060c \u062e\u0637\u0627 \u0631\u0627 \u0645\u062d\u0627\u0633\u0628\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645.<\/li>
- \u062e\u0637\u0627 \u0628\u0631\u0627\u06cc \u062a\u0646\u0638\u06cc\u0645 \u0648\u0632\u0646 \u0647\u0627 \u0648 \u062a\u0648\u0644\u06cc\u062f \u06cc\u06a9 \u0646\u062a\u06cc\u062c\u0647 \u0628\u0647\u062a\u0631 \u0628\u0647 \u0634\u0628\u06a9\u0647 \u0628\u0631\u06af\u0634\u062a \u062f\u0627\u062f\u0647 \u0645\u06cc \u0634\u0648\u062f.<\/li><\/ul>\n\n\n\n
\u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc<\/strong><\/h2>\n\n\n\n\u0627\u06cc\u0646 \u062c\u0627\u0644\u0628 \u062a\u0631\u06cc\u0646 \u0628\u062e\u0634 \u0627\u0632 \u0622\u0645\u0648\u0632\u0634 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u0627\u0633\u062a. \u062f\u0631 \u0627\u062f\u0627\u0645\u0647 \u0628\u0631\u062e\u06cc \u0627\u0632 \u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0641\u0648\u0642 \u0627\u0644\u0639\u0627\u062f\u0647 RNN \u0631\u0627 \u0645\u0634\u0627\u0647\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u062f :<\/p>\n\n\n\n
\u06f1- \u062a\u0631\u062c\u0645\u0647 \u0645\u0627\u0634\u06cc\u0646\u06cc<\/strong><\/h3>\n\n\n\n\u0645\u0627 \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062f\u0631 \u0645\u0648\u062a\u0648\u0631\u0647\u0627\u06cc \u062a\u0631\u062c\u0645\u0647 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645 \u062a\u0627 \u0645\u062a\u0646 \u0631\u0627 \u0627\u0632 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0647 \u0632\u0628\u0627\u0646 \u062f\u06cc\u06af\u0631 \u062a\u0631\u062c\u0645\u0647 \u06a9\u0646\u06cc\u0645. \u0622\u0646 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0631\u0627 \u0628\u0627 \u062a\u0631\u06a9\u06cc\u0628\u06cc \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u062f\u06cc\u06af\u0631 \u0645\u0627\u0646\u0646\u062f \u062d\u0627\u0641\u0638\u0647 \u0637\u0648\u0644\u0627\u0646\u06cc \u06a9\u0648\u062a\u0627\u0647 \u0645\u062f\u062a<\/a> ( LSTM ) \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u0646\u062f.<\/p>\n\n\n\n<\/a><\/figure><\/div>\n\n\n\n\u06f2- \u062a\u0634\u062e\u06cc\u0635 \u06af\u0641\u062a\u0627\u0631<\/strong><\/h3>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062c\u0627\u06cc\u06af\u0632\u06cc\u0646 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06af\u0641\u062a\u0627\u0631 \u0642\u062f\u06cc\u0645\u06cc \u0634\u062f\u0647 \u0627\u0646\u062f \u06a9\u0647 \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0645\u062e\u0641\u06cc \u0645\u0627\u0631\u06a9\u0648\u0641 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0631\u062f\u0646\u062f. \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0647 \u0647\u0645\u0631\u0627\u0647 LSTM \u0647\u0627 \u060c \u06af\u0641\u062a\u0627\u0631 \u0631\u0627 \u0628\u0647\u062a\u0631 \u0637\u0628\u0642\u0647 \u0628\u0646\u062f\u06cc \u06a9\u0646\u0646\u062f \u0648 \u0628\u062f\u0648\u0646 \u0627\u0632 \u062f\u0633\u062a \u062f\u0627\u062f\u0646 \u0645\u0641\u0647\u0648\u0645 \u060c \u0622\u0646 \u0647\u0627 \u0631\u0627 \u0628\u0647 \u0645\u062a\u0646 \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0646\u0646\u062f.<\/p>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u06f3- \u0628\u0631\u0686\u0633\u0628 \u0632\u0646\u06cc \u062e\u0648\u062f\u06a9\u0627\u0631 \u062a\u0635\u0648\u06cc\u0631<\/strong><\/h3>\n\n\n\nRNN \u0647\u0627 \u0647\u0645\u0631\u0627\u0647 \u0628\u0627 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc\u00a0\u0639\u0635\u0628\u06cc \u06a9\u0627\u0646\u0648\u0644\u0648\u0634\u0646\u06cc\u00a0\u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u062a\u0635\u0627\u0648\u06cc\u0631 \u0631\u0627 \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06a9\u0631\u062f\u0647 \u0648 \u062a\u0648\u0635\u06cc\u0641 \u0622\u0646 \u0647\u0627 \u0631\u0627 \u062f\u0631 \u0642\u0627\u0644\u0628 \u0628\u0631\u0686\u0633\u0628 \u0647\u0627 \u0627\u0631\u0627\u0626\u0647 \u062f\u0647\u0646\u062f. \u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644\u060c \u062a\u0635\u0648\u06cc\u0631 \u0631\u0648\u0628\u0627\u0647\u06cc \u06a9\u0647 \u0627\u0632 \u0631\u0648\u06cc \u067e\u0631\u0686\u06cc\u0646 \u0645\u06cc \u067e\u0631\u062f \u060c \u0628\u0647\u062a\u0631 \u0627\u0633\u062a \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 RNN \u0647\u0627 \u062a\u0648\u0635\u06cc\u0641 \u0634\u0648\u062f.<\/p>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u062f\u0631 \u0646\u0645\u0648\u062f\u0627\u0631 \u0641\u0648\u0642 \u060c \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u062f\u0627\u0631\u06cc\u0645 \u06a9\u0647 \u0648\u0631\u0648\u062f\u06cc xt<\/sub> \u0631\u0627 \u06af\u0631\u0641\u062a\u0647 \u0648 \u0627\u0632 \u062e\u0631\u0648\u062c\u06cc ht<\/sub> \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646\u060c \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0627\u0632 \u06cc\u06a9 \u0645\u0631\u062d\u0644\u0647 \u0628\u0647 \u0645\u0631\u062d\u0644\u0647 \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u0634\u0648\u062f. \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u060c \u062f\u0631 \u062d\u06cc\u0646 \u0637\u06cc \u06a9\u0631\u062f\u0646 \u0631\u0648\u0646\u062f \u062a\u06a9\u0627\u0645\u0644\u06cc \u060c \u0645\u06cc \u062a\u0648\u0627\u0646\u062f \u0646\u0633\u062e\u0647 \u0647\u0627\u06cc\u06cc \u0627\u0632 \u0647\u0645\u0627\u0646 \u0634\u0628\u06a9\u0647 \u0627\u06cc \u0628\u0627\u0634\u062f \u06a9\u0647 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0631\u0627 \u0628\u0647 \u062d\u0627\u0644\u062a \u0628\u0639\u062f\u06cc \u0645\u0646\u062a\u0642\u0644 \u0645\u06cc \u06a9\u0646\u062f.<\/p>\n\n\n\n RNN \u0647\u0627 \u0628\u0647 \u0645\u0627 \u0627\u06cc\u0646 \u0627\u0645\u06a9\u0627\u0646 \u0631\u0627 \u0645\u06cc \u062f\u0647\u0646\u062f \u06a9\u0647 \u0645\u062f\u0644\u0633\u0627\u0632\u06cc \u0631\u0627 \u0628\u0631 \u0631\u0648\u06cc \u06cc\u06a9 \u062f\u0646\u0628\u0627\u0644\u0647 \u06cc\u0627 \u0632\u0646\u062c\u06cc\u0631\u0647 \u0627\u06cc \u0627\u0632 \u0628\u0631\u062f\u0627\u0631 \u0647\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u06cc\u0645. \u0627\u06cc\u0646 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0648\u0631\u0648\u062f\u06cc \u060c \u062e\u0631\u0648\u062c\u06cc \u0648 \u06cc\u0627 \u0647\u0631 \u062f\u0648 \u0628\u0627\u0634\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0645\u06cc \u062a\u0648\u0627\u0646 \u0646\u062a\u06cc\u062c\u0647 \u06af\u0631\u0641\u062a \u06a9\u0647 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u060c \u0628\u0627 \u0644\u06cc\u0633\u062a \u0647\u0627 \u06cc\u0627 \u062f\u0646\u0628\u0627\u0644\u0647 \u0647\u0627 \u0645\u0631\u062a\u0628\u0637 \u0647\u0633\u062a\u0646\u062f. \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u060c \u0647\u0631 \u0648\u0642\u062a \u062f\u0627\u062f\u0647 \u0627\u06cc \u0628\u0627 \u0645\u0627\u0647\u06cc\u062a \u062a\u0631\u062a\u06cc\u0628\u06cc \u062f\u0627\u0634\u062a\u06cc\u062f\u060c \u0628\u0627\u06cc\u062f \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f.<\/p>\n\n\n\n \u062f\u0631 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0642\u062f\u06cc\u0645\u06cc \u060c \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc \u0628\u0627 \u0645\u062c\u0645\u0648\u0639\u0647 \u0627\u06cc \u0627\u0632 \u0648\u0632\u0646 \u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0647\u0627\u06cc \u0645\u062e\u0635\u0648\u0635 \u0628\u0647 \u062e\u0648\u062f \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f. \u0628\u06af\u0630\u0627\u0631\u06cc\u062f \u0627\u06cc\u0646 \u0648\u0632\u0646 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u0631\u0627 \u0628\u0647 \u062a\u0631\u062a\u06cc\u0628 \u0628\u0631\u0627\u06cc \u0648\u0632\u0646 \u06f1 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u06f1 \u060c w1 \u0648 b1 \u0641\u0631\u0636 \u06a9\u0646\u06cc\u0645. \u0628\u0647 \u0647\u0645\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628 w2 \u060c b2 \u0648 w3 \u060c b3 \u0631\u0627 \u0628\u0631\u0627\u06cc \u0644\u0627\u06cc\u0647 \u0647\u0627\u06cc \u062f\u0648\u0645 \u0648 \u0633\u0648\u0645 \u062e\u0648\u0627\u0647\u06cc\u0645 \u062f\u0627\u0634\u062a. \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0647\u0627 \u0647\u0645\u0686\u0646\u06cc\u0646 \u0627\u0632 \u06cc\u06a9\u062f\u06cc\u06af\u0631 \u0645\u0633\u062a\u0642\u0644 \u0647\u0633\u062a\u0646\u062f \u060c \u0628\u0647 \u0627\u06cc\u0646 \u0645\u0639\u0646\u06cc \u06a9\u0647 \u0622\u0646 \u0647\u0627 \u062e\u0631\u0648\u062c\u06cc \u0642\u0628\u0644\u06cc \u0631\u0627 \u0646\u0645\u06cc \u062f\u0627\u0646\u0646\u062f.<\/p>\n\n\n\n \u0641\u0631\u0636 \u06a9\u0646\u06cc\u062f \u06cc\u06a9 \u0634\u0628\u06a9\u0647 \u0639\u0645\u06cc\u0642 \u062a\u0631 \u0628\u0627 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u0648\u0631\u0648\u062f\u06cc\u060c \u0633\u0647 \u0644\u0627\u06cc\u0647 \u0645\u062e\u0641\u06cc\u060c \u0648 \u06cc\u06a9 \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u06cc\u0645.<\/p>\n\n\n\n \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0628\u0635\u0648\u0631\u062a \u0632\u06cc\u0631 \u0627\u062c\u0631\u0627 \u0645\u06cc \u0634\u0648\u062f :<\/p>\n\n\n\n \u0628\u0631\u0627\u06cc \u0645\u062d\u0627\u0633\u0628\u0647 \u062d\u0627\u0644\u062a \u0641\u0639\u0644\u06cc <\/strong>\u2013<\/strong><\/p>\n\n\n\n \u0628\u0647 \u0645\u0646\u0638\u0648\u0631 \u0627\u0639\u0645\u0627\u0644 \u062a\u0627\u0628\u0639 \u0641\u0639\u0627\u0644\u0633\u0627\u0632 tanh\u060c \u062f\u0627\u0631\u06cc\u0645:<\/p>\n\n\n\n \u06a9\u0647 \u062f\u0631 \u0622\u0646:<\/p>\n\n\n\n \u0641\u0631\u0645\u0648\u0644 \u0645\u062d\u0627\u0633\u0628\u0647 \u062e\u0631\u0648\u062c\u06cc:<\/p>\n\n\n\n \u0627\u06cc\u0646 \u062c\u0627\u0644\u0628 \u062a\u0631\u06cc\u0646 \u0628\u062e\u0634 \u0627\u0632 \u0622\u0645\u0648\u0632\u0634 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u0627\u0633\u062a. \u062f\u0631 \u0627\u062f\u0627\u0645\u0647 \u0628\u0631\u062e\u06cc \u0627\u0632 \u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0641\u0648\u0642 \u0627\u0644\u0639\u0627\u062f\u0647 RNN \u0631\u0627 \u0645\u0634\u0627\u0647\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u062f :<\/p>\n\n\n\n \u0645\u0627 \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062f\u0631 \u0645\u0648\u062a\u0648\u0631\u0647\u0627\u06cc \u062a\u0631\u062c\u0645\u0647 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0646\u06cc\u0645 \u062a\u0627 \u0645\u062a\u0646 \u0631\u0627 \u0627\u0632 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0647 \u0632\u0628\u0627\u0646 \u062f\u06cc\u06af\u0631 \u062a\u0631\u062c\u0645\u0647 \u06a9\u0646\u06cc\u0645. \u0622\u0646 \u0647\u0627 \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0631\u0627 \u0628\u0627 \u062a\u0631\u06a9\u06cc\u0628\u06cc \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u062f\u06cc\u06af\u0631 \u0645\u0627\u0646\u0646\u062f \u062d\u0627\u0641\u0638\u0647 \u0637\u0648\u0644\u0627\u0646\u06cc \u06a9\u0648\u062a\u0627\u0647 \u0645\u062f\u062a<\/a> ( LSTM ) \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u0646\u062f.<\/p>\n\n\n\n \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u062c\u0627\u06cc\u06af\u0632\u06cc\u0646 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06af\u0641\u062a\u0627\u0631 \u0642\u062f\u06cc\u0645\u06cc \u0634\u062f\u0647 \u0627\u0646\u062f \u06a9\u0647 \u0627\u0632 \u0645\u062f\u0644 \u0647\u0627\u06cc \u0645\u062e\u0641\u06cc \u0645\u0627\u0631\u06a9\u0648\u0641 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc \u06a9\u0631\u062f\u0646\u062f. \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0647 \u0647\u0645\u0631\u0627\u0647 LSTM \u0647\u0627 \u060c \u06af\u0641\u062a\u0627\u0631 \u0631\u0627 \u0628\u0647\u062a\u0631 \u0637\u0628\u0642\u0647 \u0628\u0646\u062f\u06cc \u06a9\u0646\u0646\u062f \u0648 \u0628\u062f\u0648\u0646 \u0627\u0632 \u062f\u0633\u062a \u062f\u0627\u062f\u0646 \u0645\u0641\u0647\u0648\u0645 \u060c \u0622\u0646 \u0647\u0627 \u0631\u0627 \u0628\u0647 \u0645\u062a\u0646 \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0646\u0646\u062f.<\/p>\n\n\n\n RNN \u0647\u0627 \u0647\u0645\u0631\u0627\u0647 \u0628\u0627 \u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc\u00a0\u0639\u0635\u0628\u06cc \u06a9\u0627\u0646\u0648\u0644\u0648\u0634\u0646\u06cc\u00a0\u0645\u06cc \u062a\u0648\u0627\u0646\u0646\u062f \u062a\u0635\u0627\u0648\u06cc\u0631 \u0631\u0627 \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u06a9\u0631\u062f\u0647 \u0648 \u062a\u0648\u0635\u06cc\u0641 \u0622\u0646 \u0647\u0627 \u0631\u0627 \u062f\u0631 \u0642\u0627\u0644\u0628 \u0628\u0631\u0686\u0633\u0628 \u0647\u0627 \u0627\u0631\u0627\u0626\u0647 \u062f\u0647\u0646\u062f. \u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644\u060c \u062a\u0635\u0648\u06cc\u0631 \u0631\u0648\u0628\u0627\u0647\u06cc \u06a9\u0647 \u0627\u0632 \u0631\u0648\u06cc \u067e\u0631\u0686\u06cc\u0646 \u0645\u06cc \u067e\u0631\u062f \u060c \u0628\u0647\u062a\u0631 \u0627\u0633\u062a \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 RNN \u0647\u0627 \u062a\u0648\u0635\u06cc\u0641 \u0634\u0648\u062f.<\/p>\n\n\n\n\u0634\u0628\u06a9\u0647 \u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc \u0686\u06af\u0648\u0646\u0647 \u06a9\u0627\u0631 \u0645\u06cc \u06a9\u0646\u0646\u062f\u061f<\/strong><\/h2>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n<\/a><\/figure><\/div>\n\n\n\nht<\/sub> = f ( ht-1 <\/sub>, xt <\/sub>)<\/strong><\/h3>\n\n\n\n
ht<\/sub> = tanh ( Whh<\/sub> ht-1 <\/sub>+ Wxh<\/sub> xt <\/sub>)<\/strong><\/h3>\n\n\n\n
yt<\/sub> = Why<\/sub> ht<\/sub><\/strong><\/h3>\n\n\n\n
\u0622\u0645\u0648\u0632\u0634 \u0627\u0632 \u0637\u0631\u06cc\u0642 <\/strong>RNN<\/strong> :<\/strong><\/h3>\n\n\n\n
\u06a9\u0627\u0631\u0628\u0631\u062f \u0647\u0627\u06cc \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0627\u0632\u06af\u0634\u062a\u06cc<\/strong><\/h2>\n\n\n\n
\u06f1- \u062a\u0631\u062c\u0645\u0647 \u0645\u0627\u0634\u06cc\u0646\u06cc<\/strong><\/h3>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u06f2- \u062a\u0634\u062e\u06cc\u0635 \u06af\u0641\u062a\u0627\u0631<\/strong><\/h3>\n\n\n\n
<\/a><\/figure><\/div>\n\n\n\n\u06f3- \u0628\u0631\u0686\u0633\u0628 \u0632\u0646\u06cc \u062e\u0648\u062f\u06a9\u0627\u0631 \u062a\u0635\u0648\u06cc\u0631<\/strong><\/h3>\n\n\n\n