一、前言說明
之前已經實現了Qt結合ffmpeg在安卓上運行,所有在win上的功能,在安卓上都已經實現,比如編碼保存到MP4文件,正常解碼音視頻文件播放等,唯獨還差一個功能,盡管用的不多,但是還是有一定需求的,那就是采集手機上的攝像頭。以前傻嗶嗶的以為和linux類似,去打開/dev/video0設備文件的方式去讀取,發現根本沒用,后面又懷疑過權限的問題,于是想盡了各種辦法把需要的權限全部加上了,還是沒用。后面通過閱讀ffmpeg的源碼,發現有個libavdevice/android_camera.c文件,看名字就知道,這就是采集安卓攝像頭的,意味著底層肯定是支持了,這下子信心大增,終于查到問題所在,原來是之前用的那個ffmpeg安卓庫,并沒有把avdevice模塊編譯進去,于是找到音視頻大佬王斌(QtAV/MDK的作者),讓他幫忙給編譯一個,替換后,果真可以了,前后拖了好幾年的疑難雜癥終于解決了。去樓下沙縣吃大餐必須加兩個蛋。
在查閱代碼過程中,發現ffmpeg模塊化設計的真的非常棒,盡管是C語言設計的框架,沒有C++的封裝集成多態特性,但是也實現了具體的不同的操作系統平臺對應不同的實現,尤其是avdevice模塊采集攝像頭這塊,在win上對應dshow.c,在linux上對應v4l2.c,在安卓上對應android_camera.c,做的非常好,然后在對應的具體代碼實現中可以找到對應的可以設置的鍵值,一般在代碼文件底部有個static const AVOption options[]存儲的,比如win和linux可以設置pixel_format,安卓是通過設置camera_index來實現前置后置攝像頭的選擇,安卓還可以設置input_queue_size來定義緩存幀隊列的大小。其實安卓上未必只有兩個攝像頭,有些開發板可能有四個設置更多,只要底層驅動支持就行,要打開哪個就設置camera_index即可。
能夠打開采集攝像頭后,其他的流程和之前的完全一樣,一行代碼都不用改,唯一就是增加了幾行代碼,用來設置camera_index,通過從url中取出來,比如video=0就是camera_index=0,編碼保存到MP4文件和編碼推流,都是全部通用的,唯一區別就是多了個旋轉角度,畢竟在手機上攝像頭是有旋轉角度的,一個是90度,一個是270度,采集后畫面必須按照這個角度旋轉才行,包括推流也是。
是不是所有安卓版本都支持,根據源碼文檔說明,要從api level 21也就是安卓5.0開始才支持,這個相信目前的設備肯定都能做到,幾乎沒有5以下的設備了,對ffmpeg版本有要求嗎?也有的,從ffmpeg4開始才有android_camera.c,盡管現在ffmpeg飆版本很厲害,目前看下來主流還是ffmpeg4版本用的多,從ffmpeg5.0開始到現在最新的ffmpeg8.0,內容沒有更新很多,版本號確加了很大,其實確切的說應該是ffmpeg4.6 4.7 4.8更合理一些。
二、效果圖
三、相關代碼
#include "ffmpegdevice.h"
#include "widgethead.h"QString FFmpegDevice::logType = QString();
QString FFmpegDevice::logFlag = QString();
QStringList FFmpegDevice::logResult = QStringList();void FFmpegDevice::logCallback(void *ptr, int level, const char *fmt, va_list vl)
{static QMutex mutex;QMutexLocker locker(&mutex);char buf[1024];vsprintf(buf, fmt, vl);QString line = buf;line = line.trimmed();line.replace("\r", "");line.replace("\n", "");line.replace("\"", "");//qDebug() << TIMEMS << line;//根據不同的類型解析不同的結果if (FFmpegDevice::logType == "list_devices") {FFmpegDevice::log_list_devices(line);} else if (FFmpegDevice::logType == "list_options") {FFmpegDevice::log_list_options(line);}
}void FFmpegDevice::log_list_devices(const QString &line)
{
#if (FFMPEG_VERSION_MAJOR < 5)//搞個標記記錄接下來是什么結果if (line.startsWith("DirectShow video devices")) {FFmpegDevice::logFlag = "video";} else if (line.startsWith("DirectShow audio devices")) {FFmpegDevice::logFlag = "audio";}//過濾一些不需要的結果if (line.startsWith("DirectShow") || line.startsWith("Alternative")) {return;}QString result = QString("%1|%2").arg(FFmpegDevice::logFlag).arg(line);if (!FFmpegDevice::logResult.contains(result)) {FFmpegDevice::logResult << result;}
#elseif (line.startsWith("(video") || line.startsWith("(audio")) {QString type = line.mid(1, line.length());QString result = QString("%1|%2").arg(type).arg(FFmpegDevice::logFlag);if (!FFmpegDevice::logResult.contains(result)) {FFmpegDevice::logResult << result;}} else {FFmpegDevice::logFlag = line;}
#endif
}void FFmpegDevice::log_list_options(const QString &line)
{//搞個標記記錄接下來是什么結果if (line.startsWith("vcodec=") || line.startsWith("pixel_format=")) {FFmpegDevice::logFlag = line;}if (line.startsWith("min s=") && !FFmpegDevice::logFlag.isEmpty()) {QString result = QString("%1 %2").arg(FFmpegDevice::logFlag).arg(line);if (!FFmpegDevice::logResult.contains(result)) {FFmpegDevice::logResult << result;}}//音頻設備參數if (line.contains("ch=")) {FFmpegDevice::logResult << line;}
}void FFmpegDevice::getInputDevices(bool video, QStringList &devices)
{QStringList names;//先用命令行獲取/ffmpeg5以上版本可以直接通過函數獲取
#if (FFMPEG_VERSION_MAJOR < 5)QStringList infos = FFmpegDevice::getInputDevices(video ? Device_Video : Device_Audio);foreach (QString info, infos) {QString name = info.split("|").last();if (video && info.startsWith("video")) {names << name;} else if (!video && info.startsWith("audio")) {names << name;}}
#endif//沒有獲取到再用函數獲取if (names.isEmpty()) {
#ifdef ffmpegdevicenames << FFmpegDevice::getInputDevices(video);
#endif}//去重復加入到集合//qDebug() << video << names;foreach (QString name, names) {if (!devices.contains(name)) {devices << name;}}
}//ffmpeg -f dshow -list_devices true -i dummy
QStringList FFmpegDevice::getInputDevices(const char *flag)
{FFmpegHelper::initLib();//啟用日志回調接收輸出信息av_log_set_callback(FFmpegDevice::logCallback);//設置相關參數以便記錄對應結果FFmpegDevice::logType = "list_devices";FFmpegDevice::logFlag.clear();FFmpegDevice::logResult.clear();AVFormatContext *ctx = avformat_alloc_context();AVInputFormatx *fmt = av_find_input_format(flag);AVDictionary *opts = NULL;av_dict_set(&opts, "list_devices", "true", 0);if (strcmp(flag, "vfwcap") == 0) {avformat_open_input(&ctx, "list", fmt, NULL);} else if (strcmp(flag, "dshow") == 0) {avformat_open_input(&ctx, "dummy", fmt, &opts);} else {avformat_open_input(&ctx, "", fmt, &opts);}//釋放資源av_dict_free(&opts);avformat_close_input(&ctx);//重新設置日志回調以便恢復原樣av_log_set_callback(av_log_default_callback);//取出日志結果return FFmpegDevice::logResult;
}QStringList FFmpegDevice::getDeviceOption(const QString &url)
{const char *flag = (url.startsWith("video=") ? Device_Video : Device_Audio);QString device = url;
#ifndef Q_OS_WINdevice.replace("video=", "");device.replace("audio=", "");
#endifreturn FFmpegDevice::getDeviceOption(flag, device);
}//ffmpeg -f dshow -list_options true -i video="Webcam"
QStringList FFmpegDevice::getDeviceOption(const char *flag, const QString &device)
{FFmpegHelper::initLib();//啟用日志回調接收輸出信息av_log_set_callback(FFmpegDevice::logCallback);//設置相關參數以便記錄對應結果FFmpegDevice::logType = "list_options";FFmpegDevice::logFlag.clear();FFmpegDevice::logResult.clear();AVFormatContext *ctx = avformat_alloc_context();AVInputFormatx *fmt = av_find_input_format(flag);AVDictionary *opts = NULL;av_dict_set(&opts, "list_options", "true", 0);avformat_open_input(&ctx, device.toUtf8().constData(), fmt, &opts);//釋放資源av_dict_free(&opts);avformat_close_input(&ctx);//重新設置日志回調以便恢復原樣av_log_set_callback(av_log_default_callback);//取出日志結果return FFmpegDevice::logResult;
}#ifdef ffmpegdevice
QStringList FFmpegDevice::getInputDevices(bool video)
{FFmpegHelper::initLib();//測試發現在windows上要ffmpeg5開始才能獲取到值/以前的版本內部沒有實現/linux上ffmpeg4也支持QStringList names;AVDeviceInfoList *devices = NULL;AVInputFormatx *fmt = NULL;fmt = av_find_input_format(video ? Device_Video : Device_Audio);if (fmt) {//下面這行代碼在部分環境中執行會崩潰/ffmpeg內部錯誤導致
#ifndef __arm__if (avdevice_list_input_sources(fmt, NULL, NULL, &devices) >= 0) {names = getDeviceNames(devices, video);}
#endif}return names;
}QStringList FFmpegDevice::getDeviceNames(bool input, bool video)
{FFmpegHelper::initLib();QStringList names;AVDeviceInfoList *devices = NULL;if (input) {AVInputFormatx *fmt = NULL;do {names.clear();fmt = (video ? av_input_video_device_next(fmt) : av_input_audio_device_next(fmt));if (fmt) {if (avdevice_list_input_sources(fmt, NULL, NULL, &devices) >= 0) {names = getDeviceNames(devices, video);}//qDebug() << "input" << fmt->name << names;}} while (fmt);} else {AVOutputFormatx *fmt = NULL;do {names.clear();fmt = (video ? av_output_video_device_next(fmt) : av_output_audio_device_next(fmt));if (fmt) {if (avdevice_list_output_sinks(fmt, NULL, NULL, &devices) >= 0) {names = getDeviceNames(devices, video);}//qDebug() << "output" << fmt->name << names;}} while (fmt);}return names;
}QStringList FFmpegDevice::getDeviceNames(AVDeviceInfoList *devices, bool video)
{QStringList names;int count = devices->nb_devices;for (int i = 0; i < count; ++i) {AVDeviceInfo *device = devices->devices[i];
#if (FFMPEG_VERSION_MAJOR > 4)if (device->nb_media_types > 0) {AVMediaType type = *device->media_types;if ((video && type != AVMEDIA_TYPE_VIDEO) || (!video && type != AVMEDIA_TYPE_AUDIO)) {continue;}}
#endif//在win上設備名傳描述符/linux是設備名
#ifdef Q_OS_WINnames << device->device_description;
#elsenames << device->device_name;
#endif}//釋放設備列表avdevice_free_list_devices(&devices);return names;
}
#endif
四、相關地址
- 國內站點:https://gitee.com/feiyangqingyun
- 國際站點:https://github.com/feiyangqingyun
- 個人作品:https://blog.csdn.net/feiyangqingyun/article/details/97565652
- 文件地址:https://pan.baidu.com/s/1d7TH_GEYl5nOecuNlWJJ7g 提取碼:01jf 文件名:bin_video_demo。
五、功能特點
5.1 基礎功能
- 支持各種音頻視頻文件格式,比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
- 支持本地攝像頭設備和本地桌面采集,支持多設備和多屏幕。
- 支持各種視頻流格式,比如rtp、rtsp、rtmp、http、udp等。
- 本地音視頻文件和網絡音視頻文件,自動識別文件長度、播放進度、音量大小、靜音狀態等。
- 文件可以指定播放位置、調節音量大小、設置靜音狀態等。
- 支持倍速播放文件,可選0.5倍、1.0倍、2.5倍、5.0倍等速度,相當于慢放和快放。
- 支持開始播放、停止播放、暫停播放、繼續播放。
- 支持抓拍截圖,可指定文件路徑,可選抓拍完成是否自動顯示預覽。
- 支持錄像存儲,手動開始錄像、停止錄像,部分內核支持暫停錄像后繼續錄像,跳過不需要錄像的部分。
- 支持無感知切換循環播放、自動重連等機制。
- 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態變化等信號。
- 多線程處理,一個解碼一個線程,不卡主界面。
5.2 特色功能
- 同時支持多種解碼內核,包括qmedia內核(Qt4/Qt5/Qt6)、ffmpeg內核(ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5/ffmpeg6)、vlc內核(vlc2/vlc3)、mpv內核(mpv1/mp2)、mdk內核、海康sdk、easyplayer內核等。
- 非常完善的多重基類設計,新增一種解碼內核只需要實現極少的代碼量,就可以應用整套機制,極易拓展。
- 同時支持多種畫面顯示策略,自動調整(原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示,否則等比縮放)、等比縮放(永遠等比縮放)、拉伸填充(永遠拉伸填充)。所有內核和所有視頻顯示模式下都支持三種畫面顯示策略。
- 同時支持多種視頻顯示模式,句柄模式(傳入控件句柄交給對方繪制控制)、繪制模式(回調拿到數據后轉成QImage用QPainter繪制)、GPU模式(回調拿到數據后轉成yuv用QOpenglWidget繪制)。
- 支持多種硬件加速類型,ffmpeg可選dxva2、d3d11va等,vlc可選any、dxva2、d3d11va,mpv可選auto、dxva2、d3d11va,mdk可選dxva2、d3d11va、cuda、mft等。不同的系統環境有不同的類型選擇,比如linux系統有vaapi、vdpau,macos系統有videotoolbox。
- 解碼線程和顯示窗體分離,可指定任意解碼內核掛載到任意顯示窗體,動態切換。
- 支持共享解碼線程,默認開啟并且自動處理,當識別到相同的視頻地址,共享一個解碼線程,在網絡視頻環境中可以大大節約網絡流量以及對方設備的推流壓力。國內頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
- 自動識別視頻旋轉角度并繪制,比如手機上拍攝的視頻一般是旋轉了90度的,播放的時候要自動旋轉處理,不然默認是倒著的。
- 自動識別視頻流播放過程中分辨率的變化,在視頻控件上自動調整尺寸。比如攝像機可以在使用過程中動態配置分辨率,當分辨率改動后對應視頻控件也要做出同步反應。
- 音視頻文件無感知自動切換循環播放,不會出現切換期間黑屏等肉眼可見的切換痕跡。
- 視頻控件同時支持任意解碼內核、任意畫面顯示策略、任意視頻顯示模式。
- 視頻控件懸浮條同時支持句柄、繪制、GPU三種模式,非絕對坐標移來移去。
- 本地攝像頭設備支持指定設備名稱、分辨率、幀率進行播放。
- 本地桌面采集支持設定采集區域、偏移值、指定桌面索引、幀率、多個桌面同時采集等。還支持指定窗口標題采集固定窗口。
- 錄像文件同時支持打開的視頻文件、本地攝像頭、本地桌面、網絡視頻流等。
- 瞬間響應打開和關閉,無論是打開不存在的視頻或者網絡流,探測設備是否存在,讀取中的超時等待,收到關閉指令立即中斷之前的操作并響應。
- 支持打開各種圖片文件,支持本地音視頻文件拖曳播放。
- 視頻流通信方式可選tcp/udp,有些設備可能只提供了某一種協議通信比如tcp,需要指定該種協議方式打開。
- 可設置連接超時時間(視頻流探測用的超時時間)、讀取超時時間(采集過程中的超時時間)。
- 支持逐幀播放,提供上一幀/下一幀函數接口,可以逐幀查閱采集到的圖像。
- 音頻文件自動提取專輯信息比如標題、藝術家、專輯、專輯封面,自動顯示專輯封面。
- 視頻響應極低延遲0.2s左右,極速響應打開視頻流0.5s左右,專門做了優化處理。
- 支持H264/H265編碼(現在越來越多的監控攝像頭是H265視頻流格式)生成視頻文件,內部自動識別切換編碼格式。
- 支持用戶信息中包含特殊字符(比如用戶信息中包含+#@等字符)的視頻流播放,內置解析轉義處理。
- 支持濾鏡,各種水印及圖形效果,支持多個水印和圖像,可以將OSD標簽信息和各種圖形信息寫入到MP4文件。
- 支持視頻流中的各種音頻格式,AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持,推薦選擇AAC兼容性跨平臺性最好。
- 內核ffmpeg采用純qt+ffmpeg解碼,非sdl等第三方繪制播放依賴,gpu繪制采用qopenglwidget,音頻播放采用qaudiooutput。
- 內核ffmpeg和內核mdk支持安卓,其中mdk支持安卓硬解碼,性能非常兇殘。
- 可以切換音視頻軌道,也就是節目通道,可能ts文件帶了多個音視頻節目流,可以分別設置要播放哪一個,可以播放前設置好和播放過程中動態設置。
- 可以設置視頻旋轉角度,可以播放前設置好和播放過程中動態改變。
- 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關閉視頻等功能。
- 音頻組件支持聲音波形值數據解析,可以根據該值繪制波形曲線和柱狀聲音條,默認提供了聲音振幅信號。
- 標簽和圖形信息支持三種繪制方式,繪制到遮罩層、繪制到圖片、源頭繪制(對應信息可以存儲到文件)。
- 通過傳入一個url地址,該地址可以帶上通信協議、分辨率、幀率等信息,無需其他設置。
- 保存視頻到文件支持三種策略,自動處理、僅限文件、全部轉碼,轉碼策略支持自動識別、轉264、轉265,編碼保存支持指定分辨率縮放或者等比例縮放。比如對保存文件體積有要求可以指定縮放后再存儲。
- 支持加密保存文件和解密播放文件,可以指定秘鑰文本。
- 提供的監控布局類支持64通道同時顯示,還支持各種異型布局,比如13通道,手機上6行2列布局。各種布局可以自由定義。
- 支持電子放大,在懸浮條切換到電子放大模式,在畫面上選擇需要放大的區域,選取完畢后自動放大,再次切換放大模式可以復位。
- 各組件中極其詳細的打印信息提示,尤其是報錯信息提示,封裝的統一打印格式。針對現場復雜的設備環境測試極其方便有用,相當于精確定位到具體哪個通道哪個步驟出錯。
- 同時提供了簡單示例、視頻播放器、多畫面視頻監控、監控回放、逐幀播放、多屏渲染等單獨窗體示例,專門演示對應功能如何使用。
- 監控回放可選不同廠家類型、回放時間段、用戶信息、指定通道。支持切換回放進度。
- 可以從聲卡設備下拉框選擇聲卡播放聲音,提供對應的切換聲卡函數接口。
- 支持編譯到手機app使用,提供了專門的手機app布局界面,可以作為手機上的視頻監控使用。
- 代碼框架和結構優化到最優,性能強悍,注釋詳細,持續迭代更新升級。
- 源碼支持windows、linux、mac、android等,支持各種國產linux系統,包括但不限于統信UOS/中標麒麟/銀河麒麟等。還支持嵌入式linux。
- 源碼支持Qt4、Qt5、Qt6,兼容所有版本。
5.3 視頻控件
- 可動態添加任意多個osd標簽信息,標簽信息包括名字、是否可見、字號大小、文本文字、文本顏色、背景顏色、標簽圖片、標簽坐標、標簽格式(文本、日期、時間、日期時間、圖片)、標簽位置(左上角、左下角、右上角、右下角、居中、自定義坐標)。
- 可動態添加任意多個圖形信息,比如人工智能算法解析后的圖形區域信息直接發給視頻控件即可。圖形信息支持任意形狀,直接繪制在原始圖片上,采用絕對坐標。
- 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區域、路徑集合、點坐標集合等。
- 每個圖形信息都可指定三種區域中的一種或者多種,指定了的都會繪制。
- 內置懸浮條控件,懸浮條位置支持頂部、底部、左側、右側。
- 懸浮條控件參數包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標代碼集合、按鈕名稱標識集合、按鈕提示信息集合。
- 懸浮條控件一排工具按鈕可自定義,通過結構體參數設置,圖標可選圖形字體還是自定義圖片。
- 懸浮條按鈕內部實現了錄像切換、抓拍截圖、靜音切換、關閉視頻等功能,也可以自行在源碼中增加自己對應的功能。
- 懸浮條按鈕對應實現了功能的按鈕,有對應圖標切換處理,比如錄像按鈕按下后會切換到正在錄像中的圖標,聲音按鈕切換后變成靜音圖標,再次切換還原。
- 懸浮條按鈕單擊后都用名稱唯一標識作為信號發出,可以自行關聯響應處理。
- 懸浮條空白區域可以顯示提示信息,默認顯示當前視頻分辨率大小,可以增加幀率、碼流大小等信息。
- 視頻控件參數包括邊框大小、邊框顏色、焦點顏色、背景顏色(默認透明)、文字顏色(默認全局文字顏色)、填充顏色(視頻外的空白處填充黑色)、背景文字、背景圖片(如果設置了圖片優先取圖片)、是否拷貝圖片、縮放顯示模式(自動調整、等比縮放、拉伸填充)、視頻顯示模式(句柄、繪制、GPU)、啟用懸浮條、懸浮條尺寸(橫向為高度、縱向為寬度)、懸浮條位置(頂部、底部、左側、右側)。