SQLServer中bigint转int带符号时报错问题解决方法

作者:whsnow 时间:2024-01-16 00:13:01 

有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。

现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,

问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:

消息 8115,级别 16,状态 2,第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。

因为状态码中已经用到了 0x80000000, 出现了符号位的问题。
写了一个转换函数解决了。


CREATE FUNCTION [dbo].[BigintToInt]

(

@Value bigint

)

RETURNS int

AS

BEGIN

-- 是否有int符号位

IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000

-- 无符号位

RETURN @Value & 0xFFFFFFFF

END
标签:bigint,int,符号
0
投稿

猜你喜欢

  • vue element-ul实现展开和收起功能的实例代码

    2024-05-29 22:48:16
  • Go语言基础设计模式之策略模式示例详解

    2024-05-25 15:11:01
  • Python实现点阵字体读取与转换的方法

    2022-11-08 08:33:27
  • Python数据结构之双向链表的定义与使用方法示例

    2023-06-29 06:20:45
  • Javascript文本框脚本实现方法解析

    2024-04-25 10:36:22
  • python 实时调取摄像头的示例代码

    2021-10-17 06:07:52
  • pyftplib中文乱码问题解决方案

    2023-11-10 11:34:07
  • Python时间的精准正则匹配方法分析

    2022-12-10 12:59:28
  • 详解小程序循环require之坑

    2024-02-24 03:38:29
  • JSP 获取spring容器中bean的两种方法总结

    2023-06-15 07:27:46
  • 怎么才能限制SQL Server只能让指定的机器连接

    2010-07-30 13:30:00
  • Python使用scapy模块发包收包

    2021-04-26 16:32:12
  • python数据分析之线性回归选择基金

    2022-03-09 08:13:59
  • Python学习之书写格式及变量命名

    2023-08-23 14:53:08
  • Python基础之函数嵌套知识总结

    2021-12-07 18:54:09
  • prototype-1.4.0注释版源代码下载

    2007-09-30 14:06:00
  • Python正则表达式指南 推荐

    2021-10-18 22:04:30
  • Vuejs学习笔记之使用指令v-model完成表单的数据双向绑定

    2023-07-02 16:28:13
  • kill一条TCP连接实现方法详解

    2023-06-06 05:45:43
  • 在 Pycharm 安装使用black的方法详解

    2023-11-29 12:44:59
  • asp之家 网络编程 m.aspxhome.com