快速入門深度學習系列(2)----損失函數、邏輯回歸、向量化

針對深度學習入門新手目標不明確 知識體系雜亂的問題 擬開啟快速入門深度學習系列文章的創作

旨在幫助大家快速的入門深度學習

寫在前面:

本系列按照吳恩達系列課程順序發布(說明一下為什么不直接看原筆記 因為內容太多 沒有大量時間去閱讀 所有作者需要一次梳理清楚 并整理思路 方便后續學習

對于入門的建議就是 在看文章的時候 如果有不懂的概念及時的搜索一下

本人學識有限 以上內容均根據本人理解 如有不對的地方大家多多指正 歡迎交流

本系列吳恩達深度學習入門系列作為起點 可能會穿插代碼或者公式的推導

本系列也是對本人自2月25日以來學習深度學習內容的梳理與總結

希望我們都可以親手殺死曾經那個頹廢的自己!

---------------------------------------------------------------------------------------------------------------------------------

邏輯回歸用于二分類任務 本文也以這個例子進行說明

如圖 這是一個二分類任務 1代表貓 0代表狗

在計算機中 圖像的表示形式如下圖所示 這里有三個通道 紅綠藍 這里只是化了5*4個格子 代表像素 實際上 像素可以是64*64 或者更大

?

以64*64像素為例 在輸入之前 我們要把這些像素用特征向量來表示 對于本例 像素的大小就是64*64*3?

這里的維度 大家一定搞清楚 很重要 不理解的看下面的圖

解釋一下這張圖 首先y預測就是對y的估計 表示了y=1是一只貓的可能性 我們需要用w x b表示y預測 但是這樣是不行的 因為我們輸出的是概率 在0-1之間 所以要套上一層sigmoid激活函數

對于激活函數的定義 和曲線已經畫出 順便說一下 訓練的過程就是不斷學習w b的過程 以更好的預測y

損失函數

我們定義一個損失函數 通過讓損失函數更趨近于0來更新w b 來更加靠近真實的y

本例損失函數如下圖 已經解釋的很清楚了

代價函數

注意在表示第i個樣本時 括號在上面

梯度下降法

可以看出 梯度下降就是在不斷尋找J最小的點 并以此確定w b

計算圖

邏輯回歸中的梯度下降

對于M個樣本的邏輯回歸

下面寫的有點亂 維度可以看這張 對于W的維度 還是有一些不確定 希望大佬指正

?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/81175.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/81175.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/81175.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

KingBase問題篇

安裝環境 操作系統:CentOS7 CPU:X86_64架構 數據庫:KingbaseES_V008R006C009B0014_Lin64_install.iso 項目中遇到的問題 Q1. 執行sql中有字符串常量,且用雙引號包裹,執行報錯 A1. 默認KingBase不認雙引號&#xff0…

瀕危仙草的重生敘事:九仙尊米斛花節如何以雅集重構中醫藥文化IP

五月的霍山深處,層巒疊翠之間,中華仙草霍山米斛迎來一年一度的花期。九仙尊以“斛韻雅集,春野茶會”為主題,舉辦為期半月的米斛花文化節,融合中醫藥文化、東方美學與自然體驗,打造一場跨越古今的沉浸式文化盛宴。活動涵蓋古琴雅集、書法創作、茶道冥想、詩歌吟誦、民族歌舞等多…

LeetCode100.1 兩數之和

今天晚上看了許多關于未來計算機就業的視頻,有種正被販賣焦慮的感覺,翻來覆去下決定先做一遍leetcode100給自己降降溫,打算每周做四題,盡量嘗試不同的方法與不同的語言。 一開始想到的是暴力解法,兩層循環。數據量為1e…

python制造一個報錯

以下是用Python制造常見錯誤的示例及解析,涵蓋不同錯誤類型,便于理解調試原理: 一、語法錯誤 (SyntaxError) # 錯誤1:缺少冒號 if Trueprint("這行不會執行")# 錯誤2:縮進錯誤 def func(): print("未對…

idea整合maven環境配置

idea整合maven 提示:幫幫志會陸續更新非常多的IT技術知識,希望分享的內容對您有用。本章分享的是springboot的使用。前后每一小節的內容是存在的有:學習and理解的關聯性。【幫幫志系列文章】:每個知識點,都是寫出代碼…

Node.js中那些常用的進程通信方式

文章目錄 1 什么是子進程?2 核心方法詳解2.1 `child_process.spawn(command, [args], [options])`2.2 `child_process.exec(command, [options], callback)`2.3 `child_process.execFile(file, [args], [options], callback)`2.4 `child_process.fork(modulePath, [args], [op…

Vue3吸頂導航的實現

吸頂導航實現 【實現目標】: 在Layout頁面中,瀏覽器上下滾動時,距離頂部距離大于80px吸頂導航顯示,小于則隱藏。 【實現過程】: 通過layout接口獲取分類列表內容并使用categorystore進行狀態管理,獲取到…

雙向長短期記憶網絡-BiLSTM

5月14日復盤 二、BiLSTM 1. 概述 雙向長短期記憶網絡(Bi-directional Long Short-Term Memory,BiLSTM)是一種擴展自長短期記憶網絡(LSTM)的結構,旨在解決傳統 LSTM 模型只能考慮到過去信息的問題。BiLST…

2025年Flutter項目管理技能要求

在2025年,隨著Flutter技術的廣泛應用和項目復雜度的提升,項目管理的重要性愈發凸顯。Flutter項目管理不僅需要技術能力,還需要良好的溝通、協調、規劃和執行能力。本文將詳細探討2025年Flutter項目管理應具備的技能要求,幫助項目管…

OpenCV CUDA模塊中逐元素操作------數學函數

操作系統:ubuntu22.04 OpenCV版本:OpenCV4.9 IDE:Visual Studio Code 編程語言:C11 算法描述 在OpenCV的CUDA模塊中,確實存在一系列用于執行逐元素數學運算的函數,包括指數、對數、平方根等。這些函數對于高級圖像處…

PhpStudy | PhpStudy 工具安裝 —— Kali Linux 系統安裝 PhpStudy

🌟想了解這個工具的其它相關筆記?看看這個:[網安工具] 服務器環境配置工具 —— PhpStudy 使用手冊 筆者備注:演示雖然是 Kali Linux,但其實 Linux 系列都可以參考此流程完成安裝。 在前面的章節中,筆者簡…

第6講、全面拆解Encoder、Decoder內部模塊

全面拆解 Transformer 架構:Encoder、Decoder 內部模塊解析(附流程圖小測驗) 關鍵詞:Transformer、Encoder、Decoder、Self-Attention、Masked Attention、位置編碼、殘差連接、多頭注意力機制 Transformer 自 2017 年誕生以來&am…

游戲引擎學習第283天:“讓‘Standing-on’成為一個更嚴謹的概念

如果同時使用多個OpenGL上下文,并且它們都有工作負載,GPU或GPU驅動程序如何決定調度這些工作?我注意到Windows似乎優先處理活動窗口的OpenGL上下文(即活動窗口表現更好),挺有意思的…… 當多個OpenGL上下文…

深度學習讓魚與熊掌兼得

通常,一個大的復雜的模型的loss會低,但是擬合方面不夠,小的模型在擬合方面更好,但是loss高,我們可以通過深度學習來得到一個有著低loss的小模型 我們之前學過,peacewise linear可以用常數加上一堆這個階梯型函數得到,然后因為peacewise linear可以逼近任何function,所以理論上…

如何在 AWS 上構建支持 AVIF 的前端圖片優化方案

一、為什么使用 AVIF 圖片格式? 優勢點 說明 高壓縮率 在相似質量下,AVIF 文件比 JPEG/PNG/WebP 更小,能有效節省帶寬和存儲空間。 更高畫質 即使在低碼率下也能保持清晰細節,減少壓縮帶來的馬賽克或模糊問題。 支持透明度 …

C++中的std::allocator

C中的std::allocator 文章目錄 C中的std::allocator1.std::allocator1.1C中的placement new 和operator new1.2一個custom allocator的實現1.3使用std::allocator_traits實現allocator 1.std::allocator C中的std::allocator默默工作在CSTL中的所有容器的內存分配上&#xff0…

CodeBuddy編程新范式

不會寫?不想寫? 騰訊推出的CodeBuddy徹底解放雙手。 示例 以下是我對CodeBuddy的一個小體驗。 我只用一行文字對CodeBuddy說明了一下我的需求,剩下的全部就交給了CodeBuddy,我需要做的就是驗收結果即可。 1.首先CodeBuddy會對任…

QML學習01(設置寬度、高度、坐標點、標題,信號與槽,鍵盤事件)

QML學習 1、前言2、QML3、QML和QWidget的區別3、QtQuick下的Windows應用4、總結 1、前言 記錄一下QML學習的過程,方便自己日后回顧,也可以給有需要的人提供幫助。 2、QML QML是 Qt 框架中的一種聲明式編程語言,專門用于快速設計和開發用戶…

在VSCode中接入DeepSeek的指南

本文將介紹三種主流接入方式,涵蓋本地模型調用和云端API接入方案。 一、環境準備 1.1 基礎要求 VSCode 1.80+Node.js 16.x+Python 3.8+(本地部署場景)已部署的DeepSeek服務(本地或云端)1.2 安裝必備插件 # 打開VSCode插件面板(Ctrl+Shift+X) 搜索并安裝: - DeepSeek Of…

機器學習-計量經濟學

機器學習 不要事前決定變量關系,關鍵是誰也不知道啊,機器學習學習的模型(那也不是真實的關系啊) 這就是自然學科的好處:只要不斷的優化這個未知的東西(函數),然后在數據上&#xff…