admin管理员组

文章数量:1585963

float32, 二进制表示

  1. float32在内存中的表示
    float32转内存

  2. 在线进制转换

  3. arm,float16测试
    tx2上采用Cortex-A57 arm处理器,好像是支持float16的,这里简单测试一下

#include<iostream>
#include<limits.h>
#include<arm_neon.h>
#include<arm_fp16.h>

int main(void)
{
    __fp16 a = 3.1415;
    printf("a:%f \n", a);
    printf("unsigned int:%d \n", sizeof(__fp16));
}

输出

a:3.140625 
unsigned int:2 

解释

  • float16是2字节,16bit
  • 这里解释一下为什么float32的3.1415,自动转换到float16时就是3.140625了。
    这里float32,3.1415转 float16 的字节为0100001001001000,没有在线转换工具可以验证。。。

本文标签: 在线网站