شنبه, ۲۸ تیر ۱۳۹۹، ۰۴:۵۹ ب.ظ
الگوریتم برت
نمایندگی های رمزگذار Bidirectional از ترانسفورماتورها (BERT) یک تکنیک برای پیش آموزش NLP (پردازش زبان طبیعی) است که توسط گوگل ساخته شده است. BERT در سال 2018 توسط Jacob Devlin و همکارانش از Google ایجاد و منتشر شد. [1] [2] Google برای درک بهتر جستجوهای کاربر ، از BERT استفاده می کند. [3]
مدل اصلی انگلیسی زبان BERT از دو شرکت در پیش آموزش استفاده می کرد: BookCorpus و Wikipedia Wikipedia. [1]
