11天本節學習到BERT全稱是來自變換器的雙向編碼器表征量，它是Google于2018年末開發并發布的一種新型語言模型。BERT模型的主要創新點都在pre-train方法上，即用了Masked Language Model和Next Sentence Prediction兩種方法分別捕捉詞語和句子級別的representation。通過一個文本情感分類任務為例子來學習了BERT模型的整個應用過程。