【转】STM32/GD32上内存堆栈溢出探测研究

只看该作者 · 2014-11-28 13:32

无数次遭受堆栈溢出折磨，随着系统变得复杂，故障点越来越难以查找！
主要溢出情况如下：
1，一般RAM最后两块空间是堆Heap和栈Stack，堆从下往上用，栈从上往下用，任意一个用完，都会进入对方的空间

只看该作者 · 2014-11-28 13:32

2，如果栈用完，进入堆的空间，这个时候系统是不会有任何异常的，也就是说，栈底没有什么意义。除非堆和栈指针重叠，否则大家相安无事，尽管栈用了堆的

只看该作者 · 2014-11-28 13:32

3，如果栈用完进入堆，并且还碰到了堆的空间，这个时候系统仍然没有异常，但是堆栈会相互修改数据。最悲剧的就是栈里面保存的然会地址lr，一旦被堆指针修改，返回的时候就会跳到别的地址空间去了。绝大多数时候是这种情况，并且大多数跳到无效空间去。你应该感谢它跳到无效空间，让你马上发现错误。否则堆栈互相穿透而不报错，然后系统工作出现数据错乱，到时候看你想撞头还是想跳楼！

只看该作者 · 2014-11-28 13:33

4，使用Keil的微库，malloc要用到堆空间，如果堆空间用完，再malloc的时候得到空指针，但是不会报错。然而，如果使用C++的new，这个时候会报错！

只看该作者 · 2014-11-28 13:33

因为主线程和中断处理的存在，随时可能分配释放内存，这就导致了问题随时可能发生！非常难检查问题所在！

因此，SmartOS v2.5增加了内存堆栈溢出探测模块
声明：

复制

#ifdef DEBUG



void* operator new(uint size);

void* operator new[](uint size);

void operator delete(void * p);

void operator delete [] (void * p);



#endif

只看该作者 · 2014-11-28 13:33

实现：

复制

extern uint __heap_base;

extern uint __heap_limit;



void* operator new(uint size)

{

    debug_printf(" new size: %d ", size);

    void * p = malloc(size);

    if(!p)

        debug_printf("malloc failed! size=%d ", size);

    else

    {

        debug_printf("0x%08x ", p);

        // 如果堆只剩下64字节，则报告失败，要求用户扩大堆空间以免不测

        uint end = (uint)&__heap_limit;

        if((uint)p + size + 0x40 >= end) debug_printf(" + %d near HeapEnd=0x%08x", size, end);

    }

    assert_param(p);

    return p;

}



void* operator new[](uint size)

{

    debug_printf(" new size[]: %d ", size);

    void * p = malloc(size);

    if(!p)

        debug_printf("malloc failed! size=%d ", size);

    else

    {

        debug_printf("0x%08x ", p);

        // 如果堆只剩下64字节，则报告失败，要求用户扩大堆空间以免不测

        uint end = (uint)&__heap_limit;

        if((uint)p + size + 0x40 >= end) debug_printf(" + %d near HeapEnd=0x%08x", size, end);

    }

    assert_param(p);

    return p;

}



void operator delete(void * p)

{

    debug_printf(" delete 0x%08x ", p);

    if(p) free(p);

}



void operator delete[](void * p)

{

    debug_printf(" delete[] 0x%08x ", p);

    if(p) free(p);

}

只看该作者 · 2014-11-28 13:34

通过重载new/delete实现，并且带有64字节提前预测功能！在堆即将用完之前预警！