博客配套視頻鏈接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看
配套 github 鏈接：https://github.com/nickchen121/Pre-training-language-model
配套博客鏈接：https://www.cnblogs.com/nickchen121/p/15105048.html
預訓練有什么用
機器學習：偏數學（《統計學習方法》-李航）
深度學習（人工智能）的項目：大數據支持（主流）
我們很多項目沒有大數據支持（小數據）
貓狗分類任務：100 張貓和狗的圖片 --》給你一張圖片，分出是貓還是狗（無法解決的一個問題，精度很低）
100000 張鵝和鴨的圖片（已知，有人做過的，通過這10w 張圖片做了一個模型 A）
![用友-NC-Cloud遠程代碼執行漏洞[2023-HW]](http://pic.xiahunao.cn/用友-NC-Cloud遠程代碼執行漏洞[2023-HW])
：張量并行版Embedding層及交叉熵的實現及測試)
