diff --git a/zh-cn/application-dev/media/audio-decoding.md b/zh-cn/application-dev/media/audio-decoding.md index f5c3041218e49e5ff33cbc7a2b941d633088f49c..042bb6269f08825be954d699eb3c5c872c21c196 100644 --- a/zh-cn/application-dev/media/audio-decoding.md +++ b/zh-cn/application-dev/media/audio-decoding.md @@ -31,40 +31,43 @@ 参考以下示例代码，完成音频解码的全流程，包括：创建解码器，设置解码参数（采样率/码率/声道数等），开始，刷新，重置，销毁资源。 在应用开发过程中，开发者应按一定顺序调用方法，执行对应操作，否则系统可能会抛出异常或生成其他未定义的行为。具体顺序可参考下列开发步骤及对应说明。 -完整代码请参考[示例程序](https://gitee.com/openharmony/multimedia_av_codec/blob/master/test/nativedemo/audio_demo/avcodec_audio_decoder_demo.cpp) +完整代码请参考[示例程序](https://gitee.com/openharmony/multimedia_av_codec/blob/master/test/nativedemo/audio_demo/avcodec_audio_decoder_demo.cpp)。 + +如下为音频解码调用关系图： +![Invoking relationship of audio decode stream](figures/audio-decode.png) 1. 创建解码器实例对象 -```cpp -//通过 codecname 创建解码器 -OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, false); -const char *name = OH_AVCapability_GetName(capability); -OH_AVCodec *audioDec = OH_AudioDecoder_CreateByName(name); -``` + ```cpp + //通过 codecname 创建解码器 + OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, false); + const char *name = OH_AVCapability_GetName(capability); + OH_AVCodec *audioDec = OH_AudioDecoder_CreateByName(name); + ``` -```cpp -//通过 Mimetype 创建解码器 -OH_AVCodec *audioDec = OH_AudioDecoder_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_MPEG); -``` + ```cpp + //通过 Mimetype 创建解码器 + OH_AVCodec *audioDec = OH_AudioDecoder_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_MPEG); + ``` -```cpp -// 初始化队列 -class ADecSignal { -public: - std::mutex inMutex_; - std::mutex outMutex_; - std::mutex startMutex_; - std::condition_variable inCond_; - std::condition_variable outCond_; - std::condition_variable startCond_; - std::queue inQueue_; - std::queue outQueue_; - std::queue inBufferQueue_; - std::queue outBufferQueue_; - std::queue attrQueue_; -}; -ADecSignal *signal_; -``` + ```cpp + // 初始化队列 + class ADecSignal { + public: + std::mutex inMutex_; + std::mutex outMutex_; + std::mutex startMutex_; + std::condition_variable inCond_; + std::condition_variable outCond_; + std::condition_variable startCond_; + std::queue inQueue_; + std::queue outQueue_; + std::queue inBufferQueue_; + std::queue outBufferQueue_; + std::queue attrQueue_; + }; + ADecSignal *signal_; + ``` 2. 调用OH_AudioDecoder_SetCallback()设置回调函数。 注册回调函数指针集合OH_AVCodecAsyncCallback，包括： @@ -75,211 +78,211 @@ ADecSignal *signal_; 开发者可以通过处理该回调报告的信息，确保解码器正常运转。 - ```cpp - // 设置 OnError 回调函数 - static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) - { - (void)codec; - (void)errorCode; - (void)userData; - } - // 设置 FormatChange 回调函数 - static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void*userData) - { - (void)codec; - (void)format; - (void)userData; - } - // 解码输入码流送入InputBuffer 队列 - static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory*data, void *userData) - { - (void)codec; - ADecSignal *signal = static_cast(userData); - unique_lock lock(signal->inMutex_); - signal->inQueue_.push(index); - signal->inBufferQueue_.push(data); - signal->inCond_.notify_all(); - // 解码输入码流送入InputBuffer 队列 - } - // 解码完成的PCM送入OutputBuffer队列 - static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory*data, OH_AVCodecBufferAttr *attr, - void *userData) - { - (void)codec; - ADecSignal *signal = static_cast(userData); - unique_lock lock(signal->outMutex_); - signal->outQueue_.push(index); - signal->outBufferQueue_.push(data); - if (attr) { - signal->attrQueue_.push(*attr); - } - signal->outCond_.notify_all(); - // 将对应输出buffer的 index 送入OutputQueue_队列 - // 将对应解码完成的数据data送入outBuffer队列 - } - signal_ = new ADecSignal(); - OH_AVCodecAsyncCallback cb = {&OnError, &OnOutputFormatChanged, OnInputBufferAvailable, &OnOutputBufferAvailable}; - // 配置异步回调 - int32_t ret = OH_AudioDecoder_SetCallback(audioDec, cb, signal_); - if (ret != AV_ERR_OK) { - // 异常处理 - } - ``` + ```cpp + // 设置 OnError 回调函数 + static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) + { + (void)codec; + (void)errorCode; + (void)userData; + } + // 设置 FormatChange 回调函数 + static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void*userData) + { + (void)codec; + (void)format; + (void)userData; + } + // 解码输入码流送入InputBuffer 队列 + static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory*data, void *userData) + { + (void)codec; + ADecSignal *signal = static_cast(userData); + unique_lock lock(signal->inMutex_); + signal->inQueue_.push(index); + signal->inBufferQueue_.push(data); + signal->inCond_.notify_all(); + // 解码输入码流送入InputBuffer 队列 + } + // 解码完成的PCM送入OutputBuffer队列 + static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory*data, OH_AVCodecBufferAttr *attr, + void *userData) + { + (void)codec; + ADecSignal *signal = static_cast(userData); + unique_lock lock(signal->outMutex_); + signal->outQueue_.push(index); + signal->outBufferQueue_.push(data); + if (attr) { + signal->attrQueue_.push(*attr); + } + signal->outCond_.notify_all(); + // 将对应输出buffer的 index 送入OutputQueue_队列 + // 将对应解码完成的数据data送入outBuffer队列 + } + signal_ = new ADecSignal(); + OH_AVCodecAsyncCallback cb = {&OnError, &OnOutputFormatChanged, OnInputBufferAvailable, &OnOutputBufferAvailable}; + // 配置异步回调 + int32_t ret = OH_AudioDecoder_SetCallback(audioDec, cb, signal_); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 3. 调用OH_AudioDecoder_Configure()配置解码器。 配置必选项：采样率、码率、声道数；可选项：最大输入长度。 - AAC解码 需要额外标识是否为adts类型否则会被认为是latm类型 - vorbis解码 需要额外标识ID Header和Setup Header数据 -```cpp -enum AudioFormatType : int32_t { - TYPE_AAC = 0, - TYPE_FLAC = 1, - TYPE_MP3 = 2, - TYPE_VORBIS = 3, -}; -// 设置解码分辨率 -int32_t ret; -// 配置音频采样率（必须） -constexpr uint32_t DEFAULT_SMAPLERATE = 44100; -// 配置音频码率（必须） -constexpr uint32_t DEFAULT_BITRATE = 32000; -// 配置音频声道数（必须） -constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2; -// 配置最大输入长度（可选） -constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1152; -OH_AVFormat *format = OH_AVFormat_Create(); -// 写入format -OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_SAMPLE_RATE.data(),DEFAULT_SMAPLERATE); -OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_BITRATE.data(),DEFAULT_BITRATE); -OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_CHANNEL_COUNT.data(),DEFAULT_CHANNEL_COUNT); -OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_MAX_INPUT_SIZE.data(),DEFAULT_MAX_INPUT_SIZE); -if (audioType == TYPE_AAC) { - OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_AAC_IS_ADTS.data(), DEFAULT_AAC_TYPE); -} -if (audioType == TYPE_VORBIS) { - OH_AVFormat_SetStringValue(format, MediaDescriptionKey::MD_KEY_IDENTIFICATION_HEADER.data(), DEFAULT_ID_HEADER); - OH_AVFormat_SetStringValue(format, MediaDescriptionKey::MD_KEY_SETUP_HEADER.data(), DEFAULT_SETUP_HEADER); -} -// 配置解码器 -ret = OH_AudioDecoder_Configure(audioDec, format); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```cpp + enum AudioFormatType : int32_t { + TYPE_AAC = 0, + TYPE_FLAC = 1, + TYPE_MP3 = 2, + TYPE_VORBIS = 3, + }; + // 设置解码分辨率 + int32_t ret; + // 配置音频采样率（必须） + constexpr uint32_t DEFAULT_SMAPLERATE = 44100; + // 配置音频码率（必须） + constexpr uint32_t DEFAULT_BITRATE = 32000; + // 配置音频声道数（必须） + constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2; + // 配置最大输入长度（可选） + constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1152; + OH_AVFormat *format = OH_AVFormat_Create(); + // 写入format + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_SAMPLE_RATE.data(),DEFAULT_SMAPLERATE); + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_BITRATE.data(),DEFAULT_BITRATE); + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_CHANNEL_COUNT.data(),DEFAULT_CHANNEL_COUNT); + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_MAX_INPUT_SIZE.data(),DEFAULT_MAX_INPUT_SIZE); + if (audioType == TYPE_AAC) { + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_AAC_IS_ADTS.data(), DEFAULT_AAC_TYPE); + } + if (audioType == TYPE_VORBIS) { + OH_AVFormat_SetStringValue(format, MediaDescriptionKey::MD_KEY_IDENTIFICATION_HEADER.data(), DEFAULT_ID_HEADER); + OH_AVFormat_SetStringValue(format, MediaDescriptionKey::MD_KEY_SETUP_HEADER.data(), DEFAULT_SETUP_HEADER); + } + // 配置解码器 + ret = OH_AudioDecoder_Configure(audioDec, format); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 4. 调用OH_AudioDecoder_Prepare()，解码器就绪。 -```cpp -ret = OH_AudioDecoder_Prepare(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```cpp + ret = OH_AudioDecoder_Prepare(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 5. 调用OH_AudioDecoder_Start()启动解码器，进入运行态。 -```c++ -inputFile_ = std::make_unique(); -// 打开待解码二进制文件路径 -inputFile_->open(inputFilePath.data(), std::ios::in | std::ios::binary); -//配置解码文件输出路径 -outFile_ = std::make_unique(); -outFile_->open(outputFilePath.data(), std::ios::out | std::ios::binary); -// 开始解码 -ret = OH_AudioDecoder_Start(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + inputFile_ = std::make_unique(); + // 打开待解码二进制文件路径 + inputFile_->open(inputFilePath.data(), std::ios::in | std::ios::binary); + //配置解码文件输出路径 + outFile_ = std::make_unique(); + outFile_->open(outputFilePath.data(), std::ios::out | std::ios::binary); + // 开始解码 + ret = OH_AudioDecoder_Start(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 6. 调用OH_AudioDecoder_PushInputData()，写入待解码的数据。 如果是结束，需要对flag标识成AVCODEC_BUFFER_FLAGS_EOS -```c++ -// 配置buffer info信息 -OH_AVCodecBufferAttr info; -// 设置输入pkt尺寸、偏移量、时间戳等信息 -info.size = pkt_->size; -info.offset = 0; -info.pts = pkt_->pts; -info.flags = AVCODEC_BUFFER_FLAGS_CODEC_DATA; -auto buffer = signal_->inBufferQueue_.front(); -if (inputFile_->eof()){ - info.size = 0; - info.flags = AVCODEC_BUFFER_FLAGS_EOS; -}else{ - inputFile_->read((char *)OH_AVMemory_GetAddr(buffer), INPUT_FRAME_BYTES); -} -uint32_t index = signal_->inQueue_.front(); -// 送入解码输入队列进行解码, index为对应队列下标 -int32_t ret = OH_AudioDecoder_PushInputData(audioDec, index, info); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + // 配置buffer info信息 + OH_AVCodecBufferAttr info; + // 设置输入pkt尺寸、偏移量、时间戳等信息 + info.size = pkt_->size; + info.offset = 0; + info.pts = pkt_->pts; + info.flags = AVCODEC_BUFFER_FLAGS_CODEC_DATA; + auto buffer = signal_->inBufferQueue_.front(); + if (inputFile_->eof()){ + info.size = 0; + info.flags = AVCODEC_BUFFER_FLAGS_EOS; + }else{ + inputFile_->read((char *)OH_AVMemory_GetAddr(buffer), INPUT_FRAME_BYTES); + } + uint32_t index = signal_->inQueue_.front(); + // 送入解码输入队列进行解码, index为对应队列下标 + int32_t ret = OH_AudioDecoder_PushInputData(audioDec, index, info); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 7. 调用OH_AudioDecoder_FreeOutputData()，输出解码后的PCM码流 -```c++ -OH_AVCodecBufferAttr attr = signal_->attrQueue_.front(); -OH_AVMemory *data = signal_->outBufferQueue_.front(); -uint32_t index = signal_->outQueue_.front(); -// 将解码完成数据data写入到对应输出文件中 -outFile_->write(reinterpret_cast(OH_AVMemory_GetAddr(data)), attr.size); -// buffer 模式, 释放已完成写入的数据 -ret = OH_AudioDecoder_FreeOutputData(audioDec, index); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + OH_AVCodecBufferAttr attr = signal_->attrQueue_.front(); + OH_AVMemory *data = signal_->outBufferQueue_.front(); + uint32_t index = signal_->outQueue_.front(); + // 将解码完成数据data写入到对应输出文件中 + outFile_->write(reinterpret_cast(OH_AVMemory_GetAddr(data)), attr.size); + // buffer 模式, 释放已完成写入的数据 + ret = OH_AudioDecoder_FreeOutputData(audioDec, index); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 8. （可选）调用OH_AudioDecoder_Flush()刷新解码器。 调用OH_AudioDecoder_Flush()后，解码器仍处于运行态，但会将当前队列清空，将已解码的数据释放。 此时需要调用OH_AudioDecoder_Start()重新开始解码。 使用情况： * 在文件EOS之后，需要调用刷新 * 在执行过程中遇到可继续执行的错误时（即OH_AudioDecoder_IsValid 为true）调用 -```c++ -// 刷新解码器 audioDec -ret = OH_AudioDecoder_Flush(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} -// 重新开始解码 -ret = OH_AudioDecoder_Start(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + // 刷新解码器 audioDec + ret = OH_AudioDecoder_Flush(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + // 重新开始解码 + ret = OH_AudioDecoder_Start(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 9. （可选）调用OH_AudioDecoder_Reset()重置解码器。 调用OH_AudioDecoder_Reset()后，解码器回到初始化的状态，需要调用OH_AudioDecoder_Configure()重新配置，然后调用OH_AudioDecoder_Start()重新开始解码。 -```c++ -// 重置解码器 audioDec -ret = OH_AudioDecoder_Reset(audioDec); -if (ret != AV_ERR_OK) { + ```c++ + // 重置解码器 audioDec + ret = OH_AudioDecoder_Reset(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + // 重新配置解码器参数 + ret = OH_AudioDecoder_Configure(audioDec, format); + if (ret != AV_ERR_OK) { // 异常处理 -} -// 重新配置解码器参数 -ret = OH_AudioDecoder_Configure(audioDec, format); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + } + ``` 10. 调用OH_AudioDecoder_Stop()停止解码器。 -```c++ -// 终止解码器 audioDec -ret = OH_AudioDecoder_Stop(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} -return ret; -``` + ```c++ + // 终止解码器 audioDec + ret = OH_AudioDecoder_Stop(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } + return ret; + ``` 11. 调用OH_AudioDecoder_Destroy()销毁解码器实例，释放资源。 **注意**：不要重复销毁解码器 -```c++ -// 调用OH_AudioDecoder_Destroy, 注销解码器 -ret = OH_AudioDecoder_Destroy(audioDec); -if (ret != AV_ERR_OK) { - // 异常处理 -} else { - audioDec = NULL; //不可重复destroy -} -return ret; -``` + ```c++ + // 调用OH_AudioDecoder_Destroy, 注销解码器 + ret = OH_AudioDecoder_Destroy(audioDec); + if (ret != AV_ERR_OK) { + // 异常处理 + } else { + audioDec = NULL; //不可重复destroy + } + return ret; + ``` diff --git a/zh-cn/application-dev/media/audio-encoding.md b/zh-cn/application-dev/media/audio-encoding.md index 5013faa5026f7507f2cecabe5d60aacfaefde9dc..caa37fdb5aab1f9ded5c8b482232b7629a438cb8 100644 --- a/zh-cn/application-dev/media/audio-encoding.md +++ b/zh-cn/application-dev/media/audio-encoding.md @@ -28,44 +28,47 @@ 参考以下示例代码，完成音频编码的全流程，包括：创建编码器，设置编码参数（采样率/码率/声道数等），开始，刷新，重置，销毁资源。 + 在应用开发过程中，开发者应按一定顺序调用方法，执行对应操作，否则系统可能会抛出异常或生成其他未定义的行为。具体顺序可参考下列开发步骤及对应说明。 +完整代码请参考[示例程序](https://gitee.com/openharmony/multimedia_av_codec/blob/master/test/nativedemo/audio_demo/avcodec_audio_aac_encoder_demo.cpp)。 -完整代码请参考[示例程序](https://gitee.com/openharmony/multimedia_av_codec/blob/master/test/nativedemo/audio_demo/avcodec_audio_aac_encoder_demo.cpp) +如下为音频编码调用关系图： +![Invoking relationship of audio encode stream](figures/audio-encode.png) 1. 创建编码器实例对象 应用可以通过名称或媒体类型创建编码器。 -```cpp -//通过 codecname 创建编码器 -OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_AAC, true); -const char *name = OH_AVCapability_GetName(capability); -OH_AVCodec *audioEnc = OH_AudioEncoder_CreateByName(name); -``` - -```cpp -//通过 codecname 创建编码器 -OH_AVCodec *audioEnc = OH_AudioEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_AAC); -``` - -```cpp -// 初始化队列 -class AEncSignal { -public: - std::mutex inMutex_; - std::mutex outMutex_; - std::mutex startMutex_; - std::condition_variable inCond_; - std::condition_variable outCond_; - std::condition_variable startCond_; - std::queue inQueue_; - std::queue outQueue_; - std::queue inBufferQueue_; - std::queue outBufferQueue_; - std::queue attrQueue_; -}; -AEncSignal *signal_ = new AEncSignal(); -``` + ```cpp + //通过 codecname 创建编码器 + OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_AAC, true); + const char *name = OH_AVCapability_GetName(capability); + OH_AVCodec *audioEnc = OH_AudioEncoder_CreateByName(name); + ``` + + ```cpp + //通过 codecname 创建编码器 + OH_AVCodec *audioEnc = OH_AudioEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_AAC); + ``` + + ```cpp + // 初始化队列 + class AEncSignal { + public: + std::mutex inMutex_; + std::mutex outMutex_; + std::mutex startMutex_; + std::condition_variable inCond_; + std::condition_variable outCond_; + std::condition_variable startCond_; + std::queue inQueue_; + std::queue outQueue_; + std::queue inBufferQueue_; + std::queue outBufferQueue_; + std::queue attrQueue_; + }; + AEncSignal *signal_ = new AEncSignal(); + ``` 2. 调用OH_AudioEncoder_SetCallback()设置回调函数。 @@ -78,124 +81,124 @@ AEncSignal *signal_ = new AEncSignal(); 开发者可以通过处理该回调报告的信息，确保编码器正常运转。 -```cpp -// 设置 OnError 回调函数 -static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) -{ - (void)codec; - (void)errorCode; - (void)userData; -} -// 设置 FormatChange 回调函数 -static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData) -{ - (void)codec; - (void)format; - (void)userData; -} -// 编码输入PCM送入InputBuffer 队列 -static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory *data, void *userData) -{ - (void)codec; - // 编码输入码流送入InputBuffer 队列 - AEncSignal *signal = static_cast(userData); - cout << "OnInputBufferAvailable received, index:" << index << endl; - unique_lock lock(signal->inMutex_); - signal->inQueue_.push(index); - signal->inBufferQueue_.push(data); - signal->inCond_.notify_all(); -} -// 编码完成的码流送入OutputBuffer队列 -static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory *data, OH_AVCodecBufferAttr *attr, - void *userData) -{ - (void)codec; - // 将对应输出buffer的 index 送入OutputQueue_队列 - // 将对应编码完成的数据data送入outBuffer队列 - AEncSignal *signal = static_cast(userData); - unique_lock lock(signal->outMutex_); - signal->outQueue_.push(index); - signal->outBufferQueue_.push(data); - if (attr) { - signal->attrQueue_.push(*attr); + ```cpp + // 设置 OnError 回调函数 + static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) + { + (void)codec; + (void)errorCode; + (void)userData; + } + // 设置 FormatChange 回调函数 + static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData) + { + (void)codec; + (void)format; + (void)userData; } -} -OH_AVCodecAsyncCallback cb = {&OnError, &OnOutputFormatChanged, &OnInputBufferAvailable, &OnOutputBufferAvailable}; -// 配置异步回调 -int32_t ret = OH_AudioEncoder_SetCallback(audioEnc, cb, userData); -``` + // 编码输入PCM送入InputBuffer 队列 + static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory *data, void *userData) + { + (void)codec; + // 编码输入码流送入InputBuffer 队列 + AEncSignal *signal = static_cast(userData); + cout << "OnInputBufferAvailable received, index:" << index << endl; + unique_lock lock(signal->inMutex_); + signal->inQueue_.push(index); + signal->inBufferQueue_.push(data); + signal->inCond_.notify_all(); + } + // 编码完成的码流送入OutputBuffer队列 + static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVMemory *data, OH_AVCodecBufferAttr *attr, + void *userData) + { + (void)codec; + // 将对应输出buffer的 index 送入OutputQueue_队列 + // 将对应编码完成的数据data送入outBuffer队列 + AEncSignal *signal = static_cast(userData); + unique_lock lock(signal->outMutex_); + signal->outQueue_.push(index); + signal->outBufferQueue_.push(data); + if (attr) { + signal->attrQueue_.push(*attr); + } + } + OH_AVCodecAsyncCallback cb = {&OnError, &OnOutputFormatChanged, &OnInputBufferAvailable, &OnOutputBufferAvailable}; + // 配置异步回调 + int32_t ret = OH_AudioEncoder_SetCallback(audioEnc, cb, userData); + ``` 3. 调用OH_AudioEncoder_Configure设置编码器 设置必选项：采样率，码率，以及声道数，声道类型、位深；可选项：最大输入长度 flac编码： 需要额外标识兼容性级别(Compliance Level)和采样精度 -```cpp -enum AudioFormatType : int32_t { - TYPE_AAC = 0, - TYPE_FLAC = 1, -}; -int32_t ret; -// 配置音频采样率（必须） -constexpr uint32_t DEFAULT_SMAPLERATE = 44100; -// 配置音频码率（必须） -constexpr uint32_t DEFAULT_BITRATE = 32000; -// 配置音频声道数（必须） -constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2; -// 配置音频声道类型（必须） -constexpr AudioChannelLayout CHANNEL_LAYOUT =AudioChannelLayout::STEREO; -// 配置音频位深（必须） flac 只有SAMPLE_S16LE和SAMPLE_S32LE -constexpr OH_BitsPerSample SAMPLE_FORMAT =OH_BitsPerSample::SAMPLE_S32LE; -// 配置音频位深（必须）aac只有SAMPLE_S32P -constexpr OH_BitsPerSample SAMPLE_AAC_FORMAT =OH_BitsPerSample::SAMPLE_S32P; -// 配置音频compliance level (默认值0，取值范围-2~2) -constexpr int32_t COMPLIANCE_LEVEL = 0; -// 配置音频精度（必须） SAMPLE_S16LE和SAMPLE_S24LE和SAMPLE_S32LE -constexpr BITS_PER_CODED_SAMPLE BITS_PER_CODED_SAMPLE =OH_BitsPerSample::SAMPLE_S24LE; -// 配置最大输入长度（可选） -constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1024*DEFAULT_CHANNEL_COUNT *sizeof(float);//aac -OH_AVFormat *format = OH_AVFormat_Create(); -// 写入format -OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_SAMPLE_RATE.data(),DEFAULT_SMAPLERATE); -OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_BITRATE.data(), DEFAULT_BITRATE); -OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_CHANNEL_COUNT.data(),DEFAULT_CHANNEL_COUNT); -OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_MAX_INPUT_SIZE.data(),DEFAULT_MAX_INPUT_SIZE); -OH_AVFormat_SetLongValue(format,MediaDescriptionKey::MD_KEY_CHANNEL_LAYOUT.data(),CHANNEL_LAYOUT); -OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_AUDIO_SAMPLE_FORMAT.data(),SAMPLE_FORMAT); -if(audioType == TYPE_AAC){ - OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_AUDIO_SAMPLE_FORMAT.data(), SAMPLE_AAC_FORMAT); -} -if (audioType == TYPE_FLAC) { - OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_BITS_PER_CODED_SAMPLE.data(), BITS_PER_CODED_SAMPLE); - OH_AVFormat_SetLongValue(format, MediaDescriptionKey::MD_KEY_COMPLIANCE_LEVEL.data(), COMPLIANCE_LEVEL); -} -// 配置编码器 -ret = OH_AudioEncoder_Configure(audioEnc, format); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```cpp + enum AudioFormatType : int32_t { + TYPE_AAC = 0, + TYPE_FLAC = 1, + }; + int32_t ret; + // 配置音频采样率（必须） + constexpr uint32_t DEFAULT_SMAPLERATE = 44100; + // 配置音频码率（必须） + constexpr uint32_t DEFAULT_BITRATE = 32000; + // 配置音频声道数（必须） + constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2; + // 配置音频声道类型（必须） + constexpr AudioChannelLayout CHANNEL_LAYOUT =AudioChannelLayout::STEREO; + // 配置音频位深（必须） flac 只有SAMPLE_S16LE和SAMPLE_S32LE + constexpr OH_BitsPerSample SAMPLE_FORMAT =OH_BitsPerSample::SAMPLE_S32LE; + // 配置音频位深（必须）aac只有SAMPLE_S32P + constexpr OH_BitsPerSample SAMPLE_AAC_FORMAT =OH_BitsPerSample::SAMPLE_S32P; + // 配置音频compliance level (默认值0，取值范围-2~2) + constexpr int32_t COMPLIANCE_LEVEL = 0; + // 配置音频精度（必须） SAMPLE_S16LE和SAMPLE_S24LE和SAMPLE_S32LE + constexpr BITS_PER_CODED_SAMPLE BITS_PER_CODED_SAMPLE =OH_BitsPerSample::SAMPLE_S24LE; + // 配置最大输入长度（可选） + constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1024*DEFAULT_CHANNEL_COUNT *sizeof(float);//aac + OH_AVFormat *format = OH_AVFormat_Create(); + // 写入format + OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_SAMPLE_RATE.data(),DEFAULT_SMAPLERATE); + OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_BITRATE.data(), DEFAULT_BITRATE); + OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_CHANNEL_COUNT.data(),DEFAULT_CHANNEL_COUNT); + OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_MAX_INPUT_SIZE.data(),DEFAULT_MAX_INPUT_SIZE); + OH_AVFormat_SetLongValue(format,MediaDescriptionKey::MD_KEY_CHANNEL_LAYOUT.data(),CHANNEL_LAYOUT); + OH_AVFormat_SetIntValue(format,MediaDescriptionKey::MD_KEY_AUDIO_SAMPLE_FORMAT.data(),SAMPLE_FORMAT); + if(audioType == TYPE_AAC){ + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_AUDIO_SAMPLE_FORMAT.data(), SAMPLE_AAC_FORMAT); + } + if (audioType == TYPE_FLAC) { + OH_AVFormat_SetIntValue(format, MediaDescriptionKey::MD_KEY_BITS_PER_CODED_SAMPLE.data(), BITS_PER_CODED_SAMPLE); + OH_AVFormat_SetLongValue(format, MediaDescriptionKey::MD_KEY_COMPLIANCE_LEVEL.data(), COMPLIANCE_LEVEL); + } + // 配置编码器 + ret = OH_AudioEncoder_Configure(audioEnc, format); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 4. 调用OH_AudioEncoder_Prepare()，编码器就绪。 -```c++ -OH_AudioEncoder_Prepare(audioEnc); -``` + ```c++ + OH_AudioEncoder_Prepare(audioEnc); + ``` 5. 调用OH_AudioEncoder_Start()启动编码器，进入运行态。 -```c++ -inputFile_ = std::make_unique(); -// 打开待编码二进制文件路径 -inputFile_->open(inputFilePath.data(), std::ios::in |std::ios::binary); -//配置编码文件输出路径 -outFile_ = std::make_unique(); -outFile_->open(outputFilePath.data(), std::ios::out |std::ios::binary); -// 开始编码 -ret = OH_AudioEncoder_Start(audioEnc); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + inputFile_ = std::make_unique(); + // 打开待编码二进制文件路径 + inputFile_->open(inputFilePath.data(), std::ios::in |std::ios::binary); + //配置编码文件输出路径 + outFile_ = std::make_unique(); + outFile_->open(outputFilePath.data(), std::ios::out |std::ios::binary); + // 开始编码 + ret = OH_AudioEncoder_Start(audioEnc); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 6. 调用OH_AudioEncoder_PushInputData()，写入待编码器的数据。 如果是结束，需要对flag标识成AVCODEC_BUFFER_FLAGS_EOS @@ -218,51 +221,51 @@ if (ret != AV_ERR_OK) { **注意**：aac的样点数固定为1024，其他值会直接返回错误码，flac的样点数建议根据采样率按照表格传入，大于这个值也会返回错误码，如果小于有可能出现编码文件损坏问题。 -```c++ -constexpr int32_t FRAME_SIZE = 1024; //aac -constexpr int32_t DEFAULT_CHANNEL_COUNT =2; -constexpr int32_t INPUT_FRAME_BYTES = DEFAULT_CHANNEL_COUNT * FRAME_SIZE * sizeof(float); //aac -// 配置buffer info信息 -OH_AVCodecBufferAttr info; -// 设置输入pkt尺寸、偏移量、时间戳等信息 -info.size = pkt_->size; -info.offset = 0; -info.pts = pkt_->pts; -info.flags = AVCODEC_BUFFER_FLAGS_CODEC_DATA; -auto buffer = signal_->inBufferQueue_.front(); -if (inputFile_->eof()){ - info.size = 0; - info.flags = AVCODEC_BUFFER_FLAGS_EOS; -}else{ - inputFile_->read((char *)OH_AVMemory_GetAddr(buffer), INPUT_FRAME_BYTES); -} -uint32_t index = signal_->inQueue_.front(); -// 送入编码输入队列进行编码, index为对应队列下标 -int32_t ret = OH_AudioEncoder_PushInputData(audioEnc, index,info); -if (ret != AV_ERR_OK) { - // 异常处理 -} -``` + ```c++ + constexpr int32_t FRAME_SIZE = 1024; //aac + constexpr int32_t DEFAULT_CHANNEL_COUNT =2; + constexpr int32_t INPUT_FRAME_BYTES = DEFAULT_CHANNEL_COUNT * FRAME_SIZE * sizeof(float); //aac + // 配置buffer info信息 + OH_AVCodecBufferAttr info; + // 设置输入pkt尺寸、偏移量、时间戳等信息 + info.size = pkt_->size; + info.offset = 0; + info.pts = pkt_->pts; + info.flags = AVCODEC_BUFFER_FLAGS_CODEC_DATA; + auto buffer = signal_->inBufferQueue_.front(); + if (inputFile_->eof()){ + info.size = 0; + info.flags = AVCODEC_BUFFER_FLAGS_EOS; + }else{ + inputFile_->read((char *)OH_AVMemory_GetAddr(buffer), INPUT_FRAME_BYTES); + } + uint32_t index = signal_->inQueue_.front(); + // 送入编码输入队列进行编码, index为对应队列下标 + int32_t ret = OH_AudioEncoder_PushInputData(audioEnc, index,info); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 7. 调用OH_AudioEncoder_FreeOutputData()，输出编码格式码流 -```c++ -OH_AVCodecBufferAttr attr = signal_->attrQueue_.front(); -OH_AVMemory *data = signal_->outBufferQueue_.front(); -uint32_t index = signal_->outQueue_.front(); -// 将编码完成数据data写入到对应输出文件中 -outFile_->write(reinterpret_cast(OH_AVMemory_GetAdd(data)), attr.size); -// 释放已完成写入的数据 -ret = OH_AudioEncoder_FreeOutputData(audioEnc, index); -if (ret != AV_ERR_OK) { - // 异常处理 -} -if (attr.flags == AVCODEC_BUFFER_FLAGS_EOS) { - cout << "decode eos" << endl; - isRunning_.store(false); - break; -} -``` + ```c++ + OH_AVCodecBufferAttr attr = signal_->attrQueue_.front(); + OH_AVMemory *data = signal_->outBufferQueue_.front(); + uint32_t index = signal_->outQueue_.front(); + // 将编码完成数据data写入到对应输出文件中 + outFile_->write(reinterpret_cast(OH_AVMemory_GetAdd(data)), attr.size); + // 释放已完成写入的数据 + ret = OH_AudioEncoder_FreeOutputData(audioEnc, index); + if (ret != AV_ERR_OK) { + // 异常处理 + } + if (attr.flags == AVCODEC_BUFFER_FLAGS_EOS) { + cout << "decode eos" << endl; + isRunning_.store(false); + break; + } + ``` 8. （可选）调用OH_AudioEncoder_Flush()刷新编码器。 调用OH_AudioEncoder_Flush()后，编码器处于Flush状态，会将当前编码队列清空。 @@ -271,18 +274,18 @@ if (attr.flags == AVCODEC_BUFFER_FLAGS_EOS) { * 在文件EOS之后，需要调用刷新 * 在执行过程中遇到可继续执行的错误时（即OH_AudioEncoder_IsValid 为true）可以调用，然后重新调用OH_AudioEncoder_Start -```c++ - // 刷新编码器 audioEnc - ret = OH_AudioEncoder_Flush(audioEnc); - if (ret != AV_ERR_OK) { - // 异常处理 - } - // 重新开始编码 - ret = OH_AudioEncoder_Start(audioEnc); - if (ret != AV_ERR_OK) { - // 异常处理 - } -``` + ```c++ + // 刷新编码器 audioEnc + ret = OH_AudioEncoder_Flush(audioEnc); + if (ret != AV_ERR_OK) { + // 异常处理 + } + // 重新开始编码 + ret = OH_AudioEncoder_Start(audioEnc); + if (ret != AV_ERR_OK) { + // 异常处理 + } + ``` 9. （可选）调用OH_AudioEncoder_Reset()重置编码器。 调用OH_AudioEncoder_Reset()后，编码器回到初始化的状态，需要调用OH_AudioEncoder_Configure()重新配置，然后调用OH_AudioEncoder_Start()重新开始编码。。 diff --git a/zh-cn/application-dev/media/figures/audio-decode.png b/zh-cn/application-dev/media/figures/audio-decode.png new file mode 100644 index 0000000000000000000000000000000000000000..5939eab18f50d89e3c4e0322452cd4083e2b9233 Binary files /dev/null and b/zh-cn/application-dev/media/figures/audio-decode.png differ diff --git a/zh-cn/application-dev/media/figures/audio-encode.png b/zh-cn/application-dev/media/figures/audio-encode.png new file mode 100644 index 0000000000000000000000000000000000000000..3962f0299bf5a198d41bd4322d7273979426b8c4 Binary files /dev/null and b/zh-cn/application-dev/media/figures/audio-encode.png differ