打印
[STM32]

适用于嵌入式MCU的差分升级的通用库+上位机软件教学

[复制链接]
13060|9
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
本帖最后由 791314247 于 2022-12-14 22:45 编辑

#每日话题# #技术资源# #申请原创#

@21小跑堂
1.什么是差分/增量升级?
  借用网上的介绍:适合嵌入式的差分升级又叫增量升级,顾名思义就是通过差分算法将源版本与目标版本之间差异的部分提取出来制作成差分包,然后在设备通过还原算法将差异部分在源版本上进行还原从而升级成目标版本的过程。 差分升级方案不仅可以节省MCU内部的资源空间、还可以节省下载流程及下载和升级过程中的功耗。
  也就是说,差分升级是拿以前旧设备内的bin,和当前新版本的bin用某种算法算出他们的差异部分,然后在借助压缩算法,生产一个极其小的差分包,然后将这个差分包下载到设备中,设备在根据解压算法、差分还原算法,生产一个完整的新版本bin,然后将这个新版本bin刷到执行区执行代码。
  差分升级一般来说,可以极大的减少下载量,特别是对于嵌入式STM32等单片机来说,可以极大的减少维护成本,因为嵌入式设备的升级维护一般都是空中ota升级,比如蓝牙、红外等,下载速度受到波特率、包长等限制,更新固件包非常的慢,而差分升级可以让下载的过程极大的缩小。正常的维护版本,即使改的再多,生成的差分包bin理论上在原bin的5%左右,比如一个300k的bin,改的很多的情况下差分包也不过15k左右,而我实际测试,版本维护平均都在5~10k左右。


2.差分升级实现原理
差分升级过程:
  • 使用旧版本bin文件和新版本bin文件制作差分包
  • 将差分包下载到设备内
  • 设备使用差分算法还原出新版本bin
  • 设备将新版本bin进行crc验证后刷到代码执行区
  • 设备重启并以新版本运行
在过程中有2个关键点:
第一:如何使用旧版本bin文件和新版本bin文件制作差分包?
  该过程我们使用稳定的开源差分算法bsdiff+lzma生成差分包,该算法被大量使用,稳定安全,并且我们已在项目中批量使用,经过长时间的验证无任何问题。一般来说,该过程都是使用上位机来完成,嵌入式设备无需关心,我们已经做好了上位机软件,可以供大家随意使用,稍后会进行介绍。
第二:设备收到差分包后如何还原出新版本的bin文件?
  该过程就是我们要讲解的重点过程,相对应的,嵌入式设备中,我们依然使用开源差分算法bsdiff+lzma来还原新版本文件,代码全开源,并且我已做成了库、抽象出了极简的接口,移植起来费不了多少功夫,基本是市场上所有的单片机如stm32、瑞萨、华大、复旦微等都可以使用,但是有内存限制,要求ram至少要10k以上,然后是该库本身的消耗大概是5k的rom。


3. 关键点一:差分包制作过程
对于差分包的制作,我已经开发好了上位机软件,界面如下图所示:

上位机这边主要实现使用开源算法bsdiff制作旧版本bin和新版本bin的差分包,然后在使用lzma压缩算法来压缩差分包,最终生成一个差分bin,使用方法上位机界面提示的很清楚,最终效果如下图所示:
下载链接:https://pan.baidu.com/s/1nBpftim8OCUI3i32sP3eOA?pwd=diff
链接:百度网盘
提取码:diff


4. 关键点二:嵌入式设备中差分算法库的移植(还原差分包)4.1. 移植开关算法库代码

代码已开源,地址:https://gitee.com/qq791314247/mcu_bsdiff_upgrade
整体代码如下图所示:
如上图所示,99%的代码用户都不用去关心,用户只需要提供一个flash写入接口即可,也就是该库给定用户flash地址、数据内容指针、数据内容长度,用户将该段数据写入到flash即可,移植起来特别简单,花不了几分钟的功夫,这也是我花大力气抽象接口的原因。


4.2. 使用该库的流程

4.2.1. 使用库的接口

对于整个库的代码,我们只需要关心一个接口iap_patch,iap_patch在文件”user_interface.h”中。
如下图所示:
该接口介绍也比较清晰,差分包的还原,只需要调用这一个接口即可。


  • /**
  • * @brief 用户使用差分升级时唯一需要关心的接口
  • *
  • * @param old 设备中执行区代码所在的地址,用户可指定flash执行区的地址,方便算法读出来当前
  • *            运行中的代码
  • * @param oldsize 设备中执行区代码的长度,用户可在差分包bin头获取
  • * @param patch 设备中已经下载的差分包所在的flash地址,或者ram地址,只要能让算法读出来即可
  • *              注意,下载的差分包自带image_header_t格式的文件头,真正的差分包需要偏
  • *              移sizeof(image_header_t)的长度
  • * @param patchsize 设备中已经下载的差分包的长度,用户可在差分包bin头获取
  • * @param newfile 新文件的大小,用户需填入新版本bin的长度,用户亦可以差分包bin头获取
  • * @return int 然后错误码,0成功,1失败
  • */
  • extern int iap_patch(const uint8_t* old, uint32_t oldsize, const uint8_t* patch,
  •                      uint32_t patchsize, uint32_t newfile);


另外,使用该接口还原时所需要的一些信息可以在差分包文件头中获取,上位机在制作差分包时,会自动在差分包的bin头加上64字节的文件头,以便于告诉嵌入式设备旧/新版本bin文件的CRC校验、长度等信息。所以用户在收到差分包头时,偏移掉这64个字节的文件头的地址才是需要给到iap_patch接口的真正的bin文件。文件头格式如下代码,用户只需要关心中文注释的部分,其余的都是预留的信息。


  • /* 差分包制作时自带的文件头信息,用户只需要关心中文注释的部分 */
  • typedef struct image_header
  • {
  •     uint32_t ih_magic;  /* Image Header Magic Number */
  •     uint32_t ih_hcrc;   /* Image Header CRC Checksum 差分包包头校验 */
  •     uint32_t ih_time;   /* Image Creation Timestamp */
  •     uint32_t ih_size;   /* Image Data Size 差分包的大小 */
  •     uint32_t ih_load;   /* Data Load Address 上一版本旧文件的大小 */
  •     uint32_t ih_ep;     /* Entry Point Address 要升级的新文件的大小 */
  •     uint32_t ih_dcrc;   /* Image Data CRC Checksum 新文件的CRC */
  •     uint8_t  ih_os;     /* Operating System */
  •     uint8_t  ih_arch;   /* CPU architecture */
  •     uint8_t  ih_type;   /* Image Type */
  •     uint8_t  ih_comp;   /* Compression Type */
  •     uint8_t  ih_name[IH_NMLEN]; /* Image Name */
  •     uint32_t ih_ocrc;   /* Old Image Data CRC Checksum 上一版本旧文件的CRC */
  • } image_header_t;
  • /* 差分包制作时自带的文件头信息,用户只需要关心中文注释的部分 */


4.2.2. 接口使用例子
我截取一段我工程中的代码来讲解如何使用该接口还原出新版本bin文件:


  • #ifdef BSDIFF_UPGRADE
  •         image_header_t recv_head;
  •         uint32_t recv_hcrc;  /* 接收到的文件头CRC */
  •         uint32_t calculation_crc;  /* 计算出来的文件头CRC */
  •         uint32_t spi_flash_addr = UPGRADE_PROGRAM_ADDR;
  •         memcpy(&recv_head, (uint8_t *)APPLICATION_A, sizeof(image_header_t));
  •         recv_hcrc = BigtoLittle32(recv_head.ih_hcrc);
  •         recv_head.ih_hcrc = 0;
  •         calculation_crc = crc32((uint8_t *)&recv_head, sizeof(image_header_t));
  •         if (recv_hcrc == calculation_crc)
  •         {
  •             recv_head.ih_hcrc = recv_hcrc;
  •             recv_head.ih_time = BigtoLittle32(recv_head.ih_time);
  •             recv_head.ih_size = BigtoLittle32(recv_head.ih_size);
  •             recv_head.ih_dcrc = BigtoLittle32(recv_head.ih_dcrc);
  •             recv_head.ih_ocrc = BigtoLittle32(recv_head.ih_ocrc);
  •             /* 差分升级包 */
  •             recv_head.ih_hcrc = calculation_crc;
  • #if(0) /* 调试使用 */
  •             APP_PRINT("ih_magic:  0X%08X", recv_head.ih_magic);
  •             APP_PRINT("ih_hcrc: 0X%08X", recv_head.ih_hcrc);
  •             APP_PRINT("ih_time: %lu", recv_head.ih_time);
  •             APP_PRINT("ih_size: %lu", recv_head.ih_size);
  •             APP_PRINT("ih_load: %lu", recv_head.ih_load);
  •             APP_PRINT("ih_ep: %lu", recv_head.ih_ep);
  •             APP_PRINT("ih_dcrc: 0X%08X", recv_head.ih_dcrc);
  •             APP_PRINT("ih_os: %lu", recv_head.ih_os);
  •             APP_PRINT("ih_arch: %lu", recv_head.ih_arch);
  •             APP_PRINT("ih_type: %lu", recv_head.ih_type);
  •             APP_PRINT("ih_comp: %lu", recv_head.ih_comp);
  •             APP_PRINT("ih_name: %s", recv_head.ih_name);
  •             APP_PRINT("ih_ocrc: 0X%08X", recv_head.ih_ocrc);
  • #endif
  •             if (crc32((uint8_t *)APPLICATION_RUN, recv_head.ih_load) != recv_head.ih_ocrc)
  •             {
  •                 APP_ERR_PRINT("file oldcrc err,calcrc:0X%08X, ih_oldbin_crc:0X%08X,", crc32((uint8_t *)APPLICATION_RUN, recv_head.ih_load),
  •                               recv_head.ih_ocrc);
  •                 goto bsdiff_out;
  •             }
  •             RTOS_LOCK();
  •             disable_task_monitoring(ALL_TASK_RUNFLAG_BIT, true);
  •             // flash_erase_sector(UPGRADE_PROGRAM_ADDR, UPGRADE_PROGRAM_PAGE);
  •             recv_hcrc = iap_patch((uint8_t *)APPLICATION_RUN, recv_head.ih_load, (uint8_t *)(APPLICATION_A + sizeof(image_header_t)),  recv_head.ih_size, UPGRADE_PROGRAM_ADDR);
  •             if (recv_hcrc != recv_head.ih_ep)
  •             {
  •                 APP_ERR_PRINT("iap_patch len err.");
  •                 APP_ERR_PRINT("iap_patch len: %lu, new_len: %lu", recv_hcrc, recv_head.ih_ep);
  •                 goto bsdiff_out;
  •             }
  •             if (erase_program(APPLICATION_A))
  •             {
  •                 APP_ERR_PRINT("I erase program failed.");
  •                 goto bsdiff_out;
  •             }
  •             current_flash_write_addr = APPLICATION_A;
  •             for (uint32_t i = 0; i < (recv_head.ih_ep / 1024); i++)
  •             {
  •                 xmq25qxx_read(spi_flash_addr, spi_read_cache, 1024);
  •                 if (xflash_write(current_flash_write_addr, spi_read_cache, 1024))
  •                 {
  •                     APP_ERR_PRINT("I write program failed.");
  •                     goto bsdiff_out;
  •                 }
  •                 spi_flash_addr += 1024;
  •                 current_flash_write_addr += 1024;
  •                 // APP_PRINT("current_flash_write_addr: 0X%08X", current_flash_write_addr);
  •             }
  •             if (recv_head.ih_ep % 1024 != 0)
  •             {
  •                 memset(spi_read_cache, 0XFF, 1024);
  •                 xmq25qxx_read(spi_flash_addr, spi_read_cache, recv_head.ih_ep % 1024);
  •                 if (xflash_write(current_flash_write_addr, spi_read_cache, 1024))
  •                 {
  •                     APP_ERR_PRINT("I write program failed.");
  •                     goto bsdiff_out;
  •                 }
  •                 // debug_array(spi_read_cache, 1024);
  •                 // debug_array((uint8_t *)current_flash_write_addr, 1024);
  •             }
  •             // debug_array((uint8_t *)APPLICATION_A, 1024);
  •             if (crc32((uint8_t *)APPLICATION_A, recv_head.ih_ep) != recv_head.ih_dcrc)
  •             {
  •                 APP_ERR_PRINT("file newcrc err,calcrc:0X%08X, newcrc:0X%08X, len: %lu", crc32((uint8_t *)APPLICATION_A, recv_head.ih_ep), recv_head.ih_load,
  •                               recv_head.ih_dcrc);
  •                 goto bsdiff_out;
  •             }
  •             /* 下载成功,开始升级 */
  •             if (check_bin_file((bin_info_t *)(APPLICATION_A + BIN_INFO_OFFSET))) /* bin文件非法 */
  •             {
  •                 APP_ERR_PRINT("check_bin_file err.");
  •                 goto bsdiff_out;
  •             }
  •             recv_head.ih_dcrc = CRT_CRC16_check(0, (uint8_t *)APPLICATION_A, recv_head.ih_ep);
  •             readwrite_app_run_bin_info(0, &recv_head.ih_ep, (uint16_t *)&recv_head.ih_dcrc);
  •             /* 整体校验成功,确认升级 */
  •             if (switch_program_stage(STAGE_1))
  •             {
  •                 APP_ERR_PRINT("I write switch_program_stage STAGE_0 failed.");  /* 置位升级标志写失败 */
  •                 goto bsdiff_out;
  •             }
  •             APP_PRINT("upgrade success.");
  • bsdiff_out:
  •             SYSTEM_RESET();
  •         }






  




使用特权

评论回复

相关帖子

沙发
21小跑堂| | 2022-12-8 17:09 | 只看该作者
halo,咱们论坛的原创申请是要本人原创并首次发表在21ic论坛的哟,欢迎详细了解一下https://bbs.21ic.com/icview-3202148-1-1.html

使用特权

评论回复
板凳
james03| | 2022-12-13 13:51 | 只看该作者
必须赞起来

使用特权

评论回复
地板
WoodData| | 2022-12-16 09:31 | 只看该作者
赞一个,学习

使用特权

评论回复
5
lk07828| | 2022-12-16 14:50 | 只看该作者
赞一个

使用特权

评论回复
6
wangjiahao88| | 2022-12-31 13:29 | 只看该作者
请问 详细的资料 是开源 可以下载的吗?

使用特权

评论回复
7
zhousun| | 2022-12-31 21:18 | 只看该作者
大块的代码改动好理解,如果几个字节变动,又分布在不同地址位置,差分包怎么处理?好像挺复杂的

使用特权

评论回复
评论
791314247 2023-1-15 12:49 回复TA
这套复杂的机制是开源算法已经帮我们弄好的,不需要我们关系,做这个的是国外的大牛,用的人挺多的,具体可以搜索bsdiff差分算法 
8
ayb_ice| | 2023-1-3 13:16 | 只看该作者
不知道有没有这个必要,区分这个差别难道很简单吗,说实话感觉很高级的样子.

使用特权

评论回复
9
791314247|  楼主 | 2023-1-15 12:48 | 只看该作者
wangjiahao88 发表于 2022-12-31 13:29
请问 详细的资料 是开源 可以下载的吗?

是的,代码和资料都是开源的上面有说开源地址哦

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

4

主题

22

帖子

0

粉丝