不過有一點需要注意:在上下文管理器內部生成的任何輸出,必然會采用該上下文管理器的數據類型。因此,之后我們必須將這些輸出轉換回FP32(例如,使用float()函數)。
with torch.autocast(device_type="cuda", dtype=torch.float16):
res16 = mixed32(torch.randn(1000
不過有一點需要注意:在上下文管理器內部生成的任何輸出,必然會采用該上下文管理器的數據類型。因此,之后我們必須將這些輸出轉換回FP32(例如,使用float()函數)。
with torch.autocast(device_type="cuda", dtype=torch.float16):
res16 = mixed32(torch.randn(1000
本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。 如若轉載,請注明出處:http://www.pswp.cn/web/93104.shtml 繁體地址,請注明出處:http://hk.pswp.cn/web/93104.shtml 英文地址,請注明出處:http://en.pswp.cn/web/93104.shtml
如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!