Qt音視頻開發(fā)之怎么用ffmpeg實現(xiàn)解碼本地攝像頭

這篇文章主要介紹了Qt音視頻開發(fā)之怎么用ffmpeg實現(xiàn)解碼本地攝像頭的相關(guān)知識，內(nèi)容詳細(xì)易懂，操作簡單快捷，具有一定借鑒價值，相信大家閱讀完這篇Qt音視頻開發(fā)之怎么用ffmpeg實現(xiàn)解碼本地攝像頭文章都會有所收獲，下面我們一起來看看吧。

相關(guān)代碼

void CameraThreadFFmpeg::initCamera()
{
    //https://blog.csdn.net/weixin_37921201/article/details/120357826
    //命令行打開 ffplay -f dshow -i video="USB Video Device" -s 1280x720 -framerate 30

    //啟動計時
    timer.restart();

    //參數(shù)字典
    AVDictionary *options = NULL;

    //設(shè)置分辨率
    QString size = QString("%1x%2").arg(videoWidth).arg(videoHeight);
    av_dict_set(&options, "video_size", size.toUtf8().constData(), 0);
    //設(shè)置幀率
    if (frameRate > 0) {
        av_dict_set(&options, "framerate", QString::number(frameRate).toUtf8().constData(), 0);
    }

    //設(shè)置輸入格式(前提是要對應(yīng)設(shè)備對應(yīng)平臺支持)
    //av_dict_set(&options, "input_format", "mjpeg", 0);

    //設(shè)置圖像格式(有些設(shè)備設(shè)置了格式后幀率上不去)
    //av_dict_set(&options, "pixel_format", "yuyv422", 0);

    //打印設(shè)備列表
    //FFmpegHelper::showDevice();
    //打印設(shè)備參數(shù)
    //FFmpegHelper::showOption(cameraName);

    //實例化格式處理上下文
    formatCtx = avformat_alloc_context();

    AVInputFormatx *ifmt = NULL;
    QByteArray url = cameraName.toUtf8();
#if defined(Q_OS_WIN)
    //ifmt = av_find_input_format("vfwcap");
    ifmt = av_find_input_format("dshow");
    url = QString("video=%1").arg(cameraName).toUtf8();
#elif defined(Q_OS_LINUX)
    //ifmt = av_find_input_format("v4l2");
    ifmt = av_find_input_format("video4linux2");
#elif defined(Q_OS_MAC)
    ifmt = av_find_input_format("avfoundation");
#endif

    int result = avformat_open_input(&formatCtx, url.data(), ifmt, &options);
    av_dict_free(&options);
    if (result < 0) {
        debug("打開地址", "錯誤: 打開出錯 " + FFmpegHelper::getError(result));
        return;
    }

    //獲取流信息
    result = avformat_find_stream_info(formatCtx, NULL);
    if (result < 0) {
        debug("打開地址", "錯誤: 找流失敗 " + FFmpegHelper::getError(result));
        return;
    }

    //獲取最佳流索引
    AVCodecx *videoCodec;
    videoIndex = av_find_best_stream(formatCtx, AVMEDIA_TYPE_VIDEO, -1, -1, NULL, 0);
    if (videoIndex < 0) {
        debug("打開地址", "錯誤: 未找到視頻流");
        return;
    }

    //獲取視頻流
    AVStream *videoStream = formatCtx->streams[videoIndex];

    //查找視頻解碼器(如果上面av_find_best_stream第五個參數(shù)傳了則這里不需要)
    AVCodecID codecID = FFmpegHelper::getCodecID(videoStream);
    videoCodec = avcodec_find_decoder(codecID);
    //videoCodec = avcodec_find_decoder_by_name("h364");
    if (!videoCodec) {
        debug("打開地址", "錯誤: 查找視頻解碼器失敗");
        return;
    }

    //創(chuàng)建視頻流解碼器上下文
    videoCodecCtx = avcodec_alloc_context3(videoCodec);
    if (!videoCodecCtx) {
        debug("打開地址", "錯誤: 創(chuàng)建視頻解碼器上下文失敗");
        return;
    }

    result = FFmpegHelper::copyContext(videoCodecCtx, videoStream, false);
    if (result < 0) {
        debug("打開地址", "錯誤: 設(shè)置視頻解碼器參數(shù)失敗");
        return;
    }

    //設(shè)置解碼器參數(shù)
    videoCodecCtx->flags |= AV_CODEC_FLAG_LOW_DELAY;
    videoCodecCtx->flags |= AV_CODEC_FLAG_GLOBAL_HEADER;
    videoCodecCtx->flags2 |= AV_CODEC_FLAG2_FAST;

    //打開視頻解碼器
    result = avcodec_open2(videoCodecCtx, videoCodec, NULL);
    if (result < 0) {
        debug("打開地址", "錯誤: 打開視頻解碼器失敗 " + FFmpegHelper::getError(result));
        return;
    }

    //獲取實際分辨率大小
    FFmpegHelper::getResolution(videoStream, videoWidth, videoHeight);
    //如果沒有獲取到寬高則返回
    if (videoWidth <= 0 || videoHeight <= 0) {
        debug("打開地址", "錯誤: 獲取寬度高度失敗");
        return;
    }

    //獲取最終真實的幀率
    frameRate = av_q2d(videoStream->r_frame_rate);
    QString msg = QString("索引: %1 解碼: %2 幀率: %3 寬高: %4x%5").arg(videoIndex).arg(videoCodec->name).arg(frameRate).arg(videoWidth).arg(videoHeight);
    debug("視頻信息", msg);
    openCamera();
}

bool CameraThreadFFmpeg::openCamera()
{
    //分配內(nèi)存
    packet = FFmpegHelper::creatPacket(NULL);
    videoFrame = av_frame_alloc();
    yuvFrame = av_frame_alloc();
    imageFrame = av_frame_alloc();

    //設(shè)置屬性以便該幀對象正常
    yuvFrame->format = AV_PIX_FMT_YUV420P;
    yuvFrame->width = videoWidth;
    yuvFrame->height = videoHeight;

    //定義及獲取像素格式
    AVPixelFormat srcFormat = AV_PIX_FMT_YUYV422;
    //通過解碼器獲取解碼格式
    srcFormat = videoCodecCtx->pix_fmt;
    //各種轉(zhuǎn)換速度比對 https://www.cnblogs.com/xumaojun/p/8541634.html
    int flags = SWS_FAST_BILINEAR;

    //分配視頻幀數(shù)據(jù)(轉(zhuǎn)yuv420)
    int yuvSize = av_image_get_buffer_size(AV_PIX_FMT_YUV420P, videoWidth, videoHeight, 1);
    yuvData = (quint8 *)av_malloc(yuvSize * sizeof(quint8));
    av_image_fill_arrays(yuvFrame->data, yuvFrame->linesize, yuvData, AV_PIX_FMT_YUV420P, videoWidth, videoHeight, 1);
    //視頻圖像轉(zhuǎn)換(轉(zhuǎn)yuv420)
    yuvSwsCtx = sws_getContext(videoWidth, videoHeight, srcFormat, videoWidth, videoHeight, AV_PIX_FMT_YUV420P, flags, NULL, NULL, NULL);

    //分配視頻幀數(shù)據(jù)(轉(zhuǎn)rgb)
    int imageSize = av_image_get_buffer_size(AV_PIX_FMT_RGB24, videoWidth, videoHeight, 1);
    imageData = (quint8 *)av_malloc(imageSize * sizeof(quint8));
    av_image_fill_arrays(imageFrame->data, imageFrame->linesize, imageData, AV_PIX_FMT_RGB24, videoWidth, videoHeight, 1);
    //視頻圖像轉(zhuǎn)換(轉(zhuǎn)rgb)
    imageSwsCtx = sws_getContext(videoWidth, videoHeight, AV_PIX_FMT_YUV420P, videoWidth, videoHeight, AV_PIX_FMT_RGB24, flags, NULL, NULL, NULL);

    //打印媒體信息
    //av_dump_format(formatCtx, 0, 0, 0);
    QString msg = QString("源頭: %1 目標(biāo): %2").arg(srcFormat).arg(videoMode == VideoMode_Painter ? AV_PIX_FMT_RGB24 : AV_PIX_FMT_YUV420P);
    debug("格式信息", msg);

    //初始化音頻播放
    this->initAudioPlayer();
    //初始化濾鏡
    this->initFilter();

    int time = timer.elapsed();
    debug("打開成功", QString("用時: %1 毫秒").arg(time));
    emit receivePlayStart(time);
    emit recorderStateChanged(RecorderState_Stopped, fileName);
    isOk = true;
    return isOk;
}

功能特點

1 基礎(chǔ)功能

• 支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。

• 支持本地攝像頭設(shè)備，可指定分辨率、幀率。

• 支持各種視頻流格式，比如rtp、rtsp、rtmp、http等。

• 本地音視頻文件和網(wǎng)絡(luò)音視頻文件，自動識別文件長度、播放進(jìn)度、音量大小、靜音狀態(tài)等。

• 文件可以指定播放位置、調(diào)節(jié)音量大小、設(shè)置靜音狀態(tài)等。

• 支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當(dāng)于慢放和快放。

• 支持開始播放、停止播放、暫停播放、繼續(xù)播放。

• 支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動顯示預(yù)覽。

• 支持錄像存儲，手動開始錄像、停止錄像，部分內(nèi)核支持暫停錄像后繼續(xù)錄像，跳過不需要錄像的部分。

• 支持無感知切換循環(huán)播放、自動重連等機(jī)制。

• 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號。

• 多線程處理，一個解碼一個線程，不卡主界面。

2 特色功能

• 同時支持多種解碼內(nèi)核，包括qmedia內(nèi)核（Qt4/Qt5/Qt6）、ffmpeg內(nèi)核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5）、vlc內(nèi)核（vlc2/vlc3）、mpv內(nèi)核（mpv1/mp2）、?？祍dk、easyplayer內(nèi)核等。

• 非常完善的多重基類設(shè)計，新增一種解碼內(nèi)核只需要實現(xiàn)極少的代碼量，就可以應(yīng)用整套機(jī)制。

• 同時支持多種畫面顯示策略，自動調(diào)整（原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示，否則等比例縮放）、等比例縮放（永遠(yuǎn)等比例縮放）、拉伸填充（永遠(yuǎn)拉伸填充）。所有內(nèi)核和所有視頻顯示模式下都支持三種畫面顯示策略。

• 同時支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對方繪制控制）、繪制模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成QImage用QPainter繪制）、GPU模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成yuv用QOpenglWidget繪制）。

• 支持多種硬件加速類型，ffmpeg可選dxva2、d3d11va等，mpv可選auto、dxva2、d3d11va，vlc可選any、dxva2、d3d11va。不同的系統(tǒng)環(huán)境有不同的類型選擇，比如linux系統(tǒng)有vaapi、vdpau，macos系統(tǒng)有videotoolbox。

• 解碼線程和顯示窗體分離，可指定任意解碼內(nèi)核掛載到任意顯示窗體，動態(tài)切換。

• 支持共享解碼線程，默認(rèn)開啟并且自動處理，當(dāng)識別到相同的視頻地址，共享一個解碼線程，在網(wǎng)絡(luò)視頻環(huán)境中可以大大節(jié)約網(wǎng)絡(luò)流量以及對方設(shè)備的推流壓力。國內(nèi)頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。

• 自動識別視頻旋轉(zhuǎn)角度并繪制，比如手機(jī)上拍攝的視頻一般是旋轉(zhuǎn)了90度的，播放的時候要自動旋轉(zhuǎn)處理，不然默認(rèn)是倒著的。

• 自動識別視頻流播放過程中分辨率的變化，在視頻控件上自動調(diào)整尺寸。比如攝像機(jī)可以在使用過程中動態(tài)配置分辨率，當(dāng)分辨率改動后對應(yīng)視頻控件也要做出同步反應(yīng)。

• 音視頻文件無感知自動切換循環(huán)播放，不會出現(xiàn)切換期間黑屏等肉眼可見的切換痕跡。

• 視頻控件同時支持任意解碼內(nèi)核、任意畫面顯示策略、任意視頻顯示模式。

• 視頻控件懸浮條同時支持句柄、繪制、GPU三種模式，非絕對坐標(biāo)移來移去。

• 本地攝像頭設(shè)備支持指定設(shè)備名稱、分辨率、幀率進(jìn)行播放。

• 錄像文件同時支持打開的視頻文件、本地攝像頭、網(wǎng)絡(luò)視頻流等。

• 瞬間響應(yīng)打開和關(guān)閉，無論是打開不存在的視頻或者網(wǎng)絡(luò)流，探測設(shè)備是否存在，讀取中的超時等待，收到關(guān)閉指令立即中斷之前的操作并響應(yīng)。

• 支持打開各種圖片文件，支持本地音視頻文件拖曳播放。

• 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關(guān)閉視頻等功能。

• 音頻組件支持聲音波形值數(shù)據(jù)解析，可以根據(jù)該值繪制波形曲線和柱狀聲音條，默認(rèn)提供了聲音振幅信號。

• 各組件中極其詳細(xì)的打印信息提示，尤其是報錯信息提示，封裝的統(tǒng)一打印格式。針對現(xiàn)場復(fù)雜的設(shè)備環(huán)境測試極其方便有用，相當(dāng)于精確定位到具體哪個通道哪個步驟出錯。

• 代碼框架和結(jié)構(gòu)優(yōu)化到最優(yōu)，性能強(qiáng)悍，持續(xù)迭代更新升級。

• 源碼支持Qt4、Qt5、Qt6，兼容所有版本。

3 視頻控件

• 可動態(tài)添加任意多個osd標(biāo)簽信息，標(biāo)簽信息包括名字、是否可見、字號大小、文本文字、文本顏色、標(biāo)簽圖片、標(biāo)簽坐標(biāo)、標(biāo)簽格式（文本、日期、時間、日期時間、圖片）、標(biāo)簽位置（左上角、左下角、右上角、右下角、居中、自定義坐標(biāo)）。

• 可動態(tài)添加任意多個圖形信息，這個非常有用，比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀，直接繪制在原始圖片上，采用絕對坐標(biāo)。

• 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點坐標(biāo)集合等。

• 每個圖形信息都可指定三種區(qū)域中的一種或者多種，指定了的都會繪制。

• 內(nèi)置懸浮條控件，懸浮條位置支持頂部、底部、左側(cè)、右側(cè)。

• 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標(biāo)代碼集合、按鈕名稱標(biāo)識集合、按鈕提示信息集合。

• 懸浮條控件一排工具按鈕可自定義，通過結(jié)構(gòu)體參數(shù)設(shè)置，圖標(biāo)可選圖形字體還是自定義圖片。

• 懸浮條按鈕內(nèi)部實現(xiàn)了錄像切換、抓拍截圖、靜音切換、關(guān)閉視頻等功能，也可以自行在源碼中增加自己對應(yīng)的功能。

• 懸浮條按鈕對應(yīng)實現(xiàn)了功能的按鈕，有對應(yīng)圖標(biāo)切換處理，比如錄像按鈕按下后會切換到正在錄像中的圖標(biāo)，聲音按鈕切換后變成靜音圖標(biāo)，再次切換還原。

• 懸浮條按鈕單擊后都用名稱唯一標(biāo)識作為信號發(fā)出，可以自行關(guān)聯(lián)響應(yīng)處理。

• 懸浮條空白區(qū)域可以顯示提示信息，默認(rèn)顯示當(dāng)前視頻分辨率大小，可以增加幀率、碼流大小等信息。

• 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點顏色、背景顏色（默認(rèn)透明）、文字顏色（默認(rèn)全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設(shè)置了圖片優(yōu)先取圖片）、是否拷貝圖片、縮放顯示模式（自動調(diào)整、等比例縮放、拉伸填充）、視頻顯示模式（句柄、繪制、GPU）、啟用懸浮條、懸浮條尺寸（橫向為高度、縱向為寬度）、懸浮條位置（頂部、底部、左側(cè)、右側(cè)）。

關(guān)于“Qt音視頻開發(fā)之怎么用ffmpeg實現(xiàn)解碼本地攝像頭”這篇文章的內(nèi)容就介紹到這里，感謝各位的閱讀！相信大家對“Qt音視頻開發(fā)之怎么用ffmpeg實現(xiàn)解碼本地攝像頭”知識都有一定的了解，大家如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道。