大数据之Hive函数大全

🔧 Hive函数大全

img
更多大数据学习资料请关注公众号“大数据领航员"免费领取

一、数学函数

1、取整函数: round

1.函数描述

返回值语法结构功能描述
doubleround(double a)返回double类型的整数值部分(遵循四舍五入)

2.例程

hive> select round(10.235);
#----
10.0
#----

2、指定精度取整函数: round

1.函数描述

返回值语法结构功能描述
doubleround(double a, int d)返回指定精度d的double类型

2.例程

hive> select round(3.141592,4);
#-----
3.1416
#-----

3、向下取整函数: floor

1.函数描述

返回值语法结构功能描述
bigintfloor(double a)返回等于或者小于该double变量的最大的整数

2.例程

hive> select floor(3.1415926);
#--
 3
#--
hive> select floor(-10.2);
#--
-11
#--

4、向上取整函数: ceil

1.函数描述

返回值语法结构功能描述
bigintceil(double a)返回等于或者大于该double变量的最小的整数

2.例程

hive> select ceil(10.1);
#--
11
#--

5、向上取整函数: ceiling

1.函数描述

返回值语法结构功能描述
bigintceiling(double a)返回等于或者大于该double变量的最小的整数

2.例程

hive> select ceiling(3.1415926);
#--
4
#--

6、取随机数函数: rand

1.函数描述

返回值语法结构功能描述
doublerand(),rand(int seed)返回一个double型0到1范围内的随机数。如果指定种子seed,则会等到一个稳定的随机数序列

2.例程

hive> select rand();
#-----------------
0.5577432776034763
#-----------------
hive> select rand();
#-----------------
0.6638336467363424
#-----------------
#当传入种子后,数据就固定了
hive> select rand(100);
#-----------------
0.7220096548596434
#-----------------
hive> select rand(100);
#-----------------
0.7220096548596434
#-----------------

7、自然指数函数: exp

1.函数描述

返回值语法结构功能描述
doubleexp(double a)返回自然对数e的a次方,a可为小数

2.例程

hive> select exp(3);
#-----------------
20.085536923187668
#-----------------

8、自然对数函数: ln

1.函数描述

返回值语法结构功能描述
doubleln(double a)返回a的自然对数,a可为小数

2.例程

hive> select ln(7.38905609893065);
#--
2.0
#--

9、以10为底对数函数: log10

1.函数描述

返回值语法结构功能描述
doublelog10(double a)返回以10为底的a的对数,a可为小数

2.例程

hive> select log10(100);
#--
2.0
#--

10、以2为底对数函数: log2

1.函数描述

返回值语法结构功能描述
doublelog2(double a)返回以2为底的a的对数,a可为小数

2.例程

hive> select log2(8);
#--
3.0
#--

11、对数函数: log

1.函数描述

返回值语法结构功能描述
doublelog(double base, double a)返回以base为底的a的对数,base 与 a都是double类型

2.例程

hive> select log(4,256);
#--
4.0
#--

12、幂运算函数: pow

1.函数描述

返回值语法结构功能描述
doublepow(double a, double p), power(double a, double p)返回a的p次幂

2.例程

hive> select pow(2,4);
#---
16.0
#---

13、开平方函数: sqrt

1.函数描述

返回值语法结构功能描述
doublesqrt(double a)返回a的平方根

2.例程

hive> select sqrt(16);
#--
4.0
#--

14、 二进制函数: bin

1.函数描述

返回值语法结构功能描述
stringbin(BIGINT a)返回a的二进制代码表示,,a为BIGINT类型

2.例程

hive> select bin(7);
#--
111
#--

15、十六进制函数: hex

1.函数描述

返回值语法结构功能描述
stringhex(BIGINT a),hex(string a)如果变量是int类型,那么返回a的十六进制表示;如果变量是string类型,则返回该字符串的十六进制表示

2.例程

hive> select hex(17);
#--
11
#--

hive> select hex(‘abc’);
#-----
616263
#-----

16、反转十六进制函数: unhex

1.函数描述

返回值语法结构功能描述
stringunhex(string a)返回该十六进制字符串所代码的字符串,hex的逆方法

2.例程

hive> select unhex(‘616263’);
#--
abc
#--

17、进制转换函数: conv

1.函数描述

返回值语法结构功能描述
stringconv(BIGINT num, int from_base, int to_base),conv(STRING num, int from_base, int to_base)将bigint/string数值num从from_base进制转化到to_base进制

2.例程

hive> select conv(17,10,16);
#--
11
#--

hive> select conv(17,10,2);
#----
10001
#----

18、绝对值函数: abs

1.函数描述

返回值语法描述功能描述
double or intabs(double a),abs(int a)返回数值a的绝对值

2.例程

hive> select abs(-3.9);
#--
3.9
#--

19、正取余函数: pmod

1.函数描述

返回值语法描述功能描述
int or doublepmod(int a, int b),pmod(double a, double b)返回正的a除以b的余数

2.例程

hive> select pmod(9,4);
#--
 1
#--

hive> select pmod(-9,4);
#--
 3
#--

20、正弦函数: sin

1.函数描述

返回值语法描述功能描述
doublesin(double a)返回a的正弦值

2.例程

hive> select sin(0.8);
#-----------------
0.7173560908995228
#-----------------

21、反正弦函数: asin

1.函数描述

返回值语法描述功能描述
doubleasin(double a)返回a的反正弦值

2.例程

hive> select asin(0.7173560908995228);
#--
0.8
#--

22、余弦函数: cos

1.函数描述

返回值语法描述功能描述
doublecos(double a)返回a的余弦值

2.例程

hive> select cos(0.9);
#-----------------
0.6216099682706644
#-----------------

23、反余弦函数: acos

1.函数描述

返回值语法描述功能描述
doubleacos(double a)返回a的反余弦值

2.例程

hive> select acos(0.6216099682706644);
#--
0.9
#--

24、正切函数:tan

1.函数描述

返回值语法描述功能描述
doubletan(double a)返回a的正切值

2.例程

hive> select tan(0.8);
#-----------------
1.0296385570503641
#-----------------

25、反正切函数:atan

1.函数描述

返回值语法描述功能描述
doubleatan(double a)返回a的反正切值

2.例程

hive> select atan(1.0296385570503641);
#--
0.8
#--

26、弧度值转换角度值:degrees

1.函数描述

返回值语法结构功能描述
doubledegrees(double a)返回a的角度值

2.例程

hive> select degrees(1);
#----------------
57.29577951308232
#----------------

27、角度值转换成弧度值:radians

1.函数描述

返回值语法结构功能描述
doubleradians(double a)返回a的弧度值

2.例程

hive> select radians(57.29577951308232);
#--
1.0
#--

28、positive函数: positive

1.函数描述

返回值语法结构功能描述
int or doublepositive(int a), positive(double a)返回a的正数

2.例程

hive> select positive(-10);
#---
 10
#---

29、negative函数: negative

1.函数描述

返回值语法结构功能描述
int or doublenegative(int a), negative(double a)返回a的负数

2.例程

hive> select negative(5);
#---
 -5
#---

30、判断正负函数:sign

1.函数描述

返回值语法结构功能描述
doublesign(double a)如果a是正数则返回1.0,是负数则返回-1.0,否则返回0.0

2.例程

hive> select sign(-4);
#---
-1.0
#---

31、数学e函数:e

1.函数描述

返回值语法结构功能描述
doublee()数学常数e

2.例程

hive> select e();
#----------------
2.718281828459045
#----------------

32、数学pi函数:pi

1.函数描述

返回值语法结构功能描述
doublepi()圆周率π

2.例程

hive> select pi();
#----------------
3.141592653589793
#----------------

33、阶乘函数:factorial

1.函数描述

返回值语法结构功能描述
bigintfactorial(int a)求a的阶乘

2.例程

hive> select factorial(5);
#----
120
#----

34、立方根函数:cbrt

1.函数描述

返回值语法结构功能描述
doublecbrt(double a)求a的立方根

2.例程

hive> select cbrt(27);
#--
 3
#--

35、左移函数:shiftleft

1.函数描述

返回值语法结构功能描述
int bigintshiftleft(BIGINT a, int b)按位左移

2.例程

hive> select shiftleft(4,2);
#--
 16
#--

36、右移函数:shiftright

1.函数描述

返回值语法结构功能描述
int bigintshiftright(BIGINT a, int b)按位右移

2.例程

hive> select shiftright(16,1);
#--
 8
#--

37、无符号按位右移函数:shiftrightunsigned

1.函数描述

返回值语法结构功能描述
int bigintshiftrightunsigned(BIGINT a, int b)无符号按位右移(<<<)

2.例程

hive> select shiftrightunsigned(32,2)
#--
 8
#--

38、求最大值函数:greatest

1.函数描述

返回值语法结构功能描述
Tgreatest(T v1, T v2, …)求最大值

2.例程

hive> select greatest(1,2,3);
#--
 3
#--

39、求最小值函数:least

1.函数描述

返回值语法结构功能描述
Tleast(T v1, T v2, …)求最小值

2.例程

hive> select least(1,2,3);
#--
 1
#--

40、银行家舍入法函数:bround

1.函数描述

返回值语法结构功能描述
doublebround(double a)银行家舍入法(1-4:舍,6-9:进,5->前位数是偶:舍,5->前位数是奇:进)

2.例程

hive> select bround(3.5)
#--
3.0
#--

41、银行家精确舍入法函数:bround

1.函数描述

返回值语法结构功能描述
doublebround(double a,int d)银行家舍入法,保留d位小数

2.例程

hive> select bround(3.15,1)
#---
3.1
#---
hive> select bround(3.25,1)
#---
3.3
#---

二、日期函数

1、UNIX时间戳转日期函数:from_unixtime

1.函数描述

返回值语法结构功能描述
stringfrom_unixtime(bigint unixtime[, string format])转化UNIX时间戳(从1970-01-01 00:00:00 UTC到指定时间的秒数)到当前时区的时间格式——format格式(format可为“yyyy-MM-dd hh:mm:ss”,“yyyy-MM-dd hh”,“yyyy-MM-dd hh:mm”等等)

2.例程

hive> select from_unixtime(1250111000,“yyyy-MM-dd”);
#---------
2022-01-06
#---------

2、获取当前UNIX时间戳函数:unix_timestamp

1.函数描述

返回值语法结构功能描述
bigintunix_timestamp()获得当前时区的UNIX时间戳

2.例程

hive> select unix_timestamp();
#---------
1594648263
#---------

3、日期转UNIX时间戳函数:unix_timestamp

1.函数描述

返回值语法结构功能描述
bigintunix_timestamp(string date)将格式为yyyy-MM-dd HH:mm:ss的时间字符串转换成时间戳。如果转化失败,则返回0。

2.例程

hive> select unix_timestamp(‘2000-1-1 8:8:8’);
#--------
946685288
#--------

4、指定格式日期转UNIX时间戳函数:unix_timestamp

1.函数描述

返回值语法结构功能描述
bigintunix_timestamp(string date, string pattern)将指定时间字符串格式字符串转换成Unix时间戳。如果转化失败,则返回0。

2.例程

hive> select unix_timestamp(‘2009-03-20’, ‘yyyy-MM-dd’);
#---------
1237478400
#---------

5、日期时间转日期函数:to_date

1.函数描述

返回值语法结构功能描述
stringto_date(string timestamp)返回日期时间字段中的日期部分

2.例程

hive> select to_date(‘1970-01-01 23:00:00’);
#---------
1970-01-01
#---------

6、日期转年函数: year

1.函数描述

返回值语法结构功能描述
intyear(string date)返回日期中的年

2.例程

hive> select year(“1970-01-01 00:00:00”);
#---
1970
#---

7、日期转月函数: month

1.函数描述

返回值语法结构功能描述
intmonth (string date)返回日期中的月份

2.例程

hive> select month(“1970-11-01”);
#--
 11
#--

8、日期转天函数: day

1.函数描述

返回值语法结构功能描述
intday (string date)返回日期中的天

2.例程

hive> select day(“1970-11-01”);
#--
 1
#--

9、日期转小时函数: hour

1.函数描述

返回值语法结构功能描述
inthour (string date)返回日期中的小时

2.例程

hive> select hour(‘2009-07-30 12:58:59’);
#--
 12
#--

10、日期转分钟函数: minute

1.函数描述

返回值语法结构功能描述
intminute (string date)返回日期中的分钟

2.例程

hive> select minute(‘2011-12-08 10:03:01’);
#--
 3
#--

11、日期转秒函数: second

1.函数描述

返回值语法结构功能描述
intsecond (string date)返回日期中的秒

2.例程

hive> select second(‘2011-12-08 10:03:01’);
#--
 1
#--

12、日期转周函数:weekofyear

1.函数描述

返回值语法结构功能描述
intweekofyear (string date)返回时间字符串位于一年中的第几个周内

2.例程

hive> select weekofyear(‘2011-12-08 10:03:01’);
#---
 49
#---

13、日期比较函数: datediff

1.函数描述

返回值语法结构功能描述
intdatediff(string enddate, string startdate)返回结束日期减去开始日期的天数

2.例程

hive> select datediff(‘2012-12-08’,‘2012-05-09’);
#--
213
#--

14、日期增加函数: date_add

1.函数描述

返回值语法结构功能描述
stringdate_add(string startdate, int days)返回开始日期startdate增加days天后的日期

2.例程

hive> select date_add(‘2012-12-08’,10);
#---------
2012-12-18
#---------

15、日期减少函数: date_sub

1.函数描述

返回值语法结构功能描述
stringdate_sub (string startdate, int days)返回开始日期startdate减少days天后的日期

2.例程

hive> select date_sub(‘2012-12-08’,10);
#---------
2012-11-28
#---------

16、转化成指定的时区下时间戳函数: from_utc_timestamp

1.函数描述

返回值语法结构功能描述
timestampfrom_utc_timestamp(timestamp, string timezone)如果给定的时间戳并非UTC,则将其转化成指定的时区下时间戳

2.例程

hive> select from_utc_timestamp(‘1970-01-01 08:00:00’,‘PST’);
#------------------
1970-01-01 00:00:00
#------------------

17、转化成UTC下的时间戳函数: to_utc_timestamp

1.函数描述

返回值语法结构功能描述
timestampto_utc_timestamp(timestamp, string timezone)如果给定的时间戳指定的时区下时间戳,则将其转化成UTC下的时间戳

2.例程

hive> select to_utc_timestamp(‘1970-01-01 00:00:00’,‘PST’);
#------------------
1970-01-01 08:00:00
#------------------

18、当前时间日期函数:current_date

1.函数描述

返回值语法结构功能描述
datecurrent_date()返回当前时间日期

2.例程

hive> select current_date;
#---------
2022-01-06
#---------

19、当前时间日期函数:current_timestamp

1.函数描述

返回值语法结构功能描述
timestampcurrent_timestamp()返回当前时间戳

2.例程

hive> select current_timestamp();
#----------------------
2022-01-06 22:52:11.309
#----------------------

20、月份增加函数:add_months

1.函数描述

返回值语法结构功能描述
stringadd_months(string start_date, int num_months)返回当前时间下再增加num_months个月的日期

2.例程

hive> select add_months(‘1996-10-21’,10);
#---------
1997-08-21
#---------

21、最后一天的日期函数:last_day

1.函数描述

返回值语法结构功能描述
stringlast_day(string date)返回这个月的最后一天的日期,忽略时分秒部分(HH:mm:ss)

2.例程

hive> select last_day(current_date());
#---------
2020-07-31
#---------

22、下一个星期X所对应的日期函数:next_day

1.函数描述

返回值语法结构功能描述
stringnext_day(string start_date, string day_of_week)返回当前时间的下一个星期X所对应的日期 如:next_day(‘2015-01-14’, ‘TU’) = 2015-01-20 以2015-01-14为开始时间,其下一个星期二所对应的日期为2015-01-20

2.例程

hive> select next_day(current_date(),‘su’);
#---------
2020-07-19
#---------

23、时间的最开始年份或月份函数:trunc

1.函数描述

返回值语法结构功能描述
stringtrunc(string date, string format)返回时间的最开始年份或月份 如trunc(“2016-06-26”,“MM”)=2016-06-01 trunc(“2016-06-26”,“YY”)=2016-01-01 注意所支持的格式为MONTH/MON/MM, YEAR/YYYY/YY

2.例程

hive> select trunc(current_date(),‘MM’);
#---------
2020-07-01
#---------

24、相差的月份函数:months_between

1.函数描述

返回值语法结构功能描述
doublemonths_between(date1, date2)返回date1与date2之间相差的月份,如date1>date2,则返回正,如果date1<date2,则返回负,否则返回0.0 如:months_between(‘1997-02-28 10:30:00’, ‘1996-10-30’) = 3.94959677 1997-02-28 10:30:00与1996-10-30相差3.94959677个月

2.例程

hive> select months_between(current_date(),‘2020-5-13’);
#--
2.0
#--

25、指定格式返回时间函数:date_format

1.函数描述

返回值语法结构功能描述
stringdate_format(date/timestamp/string ts, string fmt)按指定格式返回时间date 如:date_format(“2016-06-22”,“MM-dd”)=06-22

2.例程

hive> select date_format(current_date(),‘MM.dd’);
#----
07.13
#----

26、当前星期函数:dayofweek

1.函数描述

返回值语法结构功能描述
intdayofweek(date)返回日期那天的周几

2.例程

hive> select dayofweek(current_date());
#--
 2
#--

27、季节函数:quarter

1.函数描述

返回值语法结构功能描述
intquarter(date/timestamp/string)返回当前时间属性哪个季度 如quarter(‘2015-04-08’) = 2

三、条件函数

1、If函数: if

1.函数描述

返回值语法结构功能描述
Tif(boolean testCondition, T valueTrue, T valueFalseOrNull)当条件testCondition为TRUE时,返回valueTrue;否则返回valueFalseOrNull(valueTrue,valueFalseOrNull为泛型)

2.例程

hive> select if(1=1,100,200);
#---
 100
#---

2、空查找函数: nvl

1.函数描述

返回值语法结构功能描述
Tnvl(T value, T default_value)如果value值为NULL就返回default_value,否则返回value

2.例程

hive> select nvl(null,5);
#--
 5
#--

3、非空查找函数: COALESCE

1.函数描述

返回值语法结构功能描述
TCOALESCE(T v1, T v2,…)返回参数中的第一个非空值;如果所有值都为NULL,那么返回NULL

2.例程

hive> select COALESCE (NULL,44,55);
#--
 44
#--

4、条件判断函数:CASE

1.函数描述

返回值语法结构功能描述
TCASE a WHEN b THEN c [WHEN d THEN e]* [ELSE f] END如果a等于b,那么返回c;如果a等于d,那么返回e;否则返回f

2.例程

hive> select CASE 4 WHEN 5 THEN 5 WHEN 4 THEN 4 ELSE 3 END;
#--
 4
#--

5、条件判断函数:CASE

1.函数描述

返回值语法结构功能描述
TCASE WHEN a THEN b [WHEN c THEN d]* [ELSE e] END如果a为TRUE,则返回b;如果c为TRUE,则返回d;否则返回e

2.例程

hive> select CASE WHEN 5>0 THEN 5 WHEN 4>0 THEN 4 ELSE 0 END;
#--
 5
#--

6、空值判断函数:isnull

1.函数描述

返回值语法结构功能描述
booleanisnull( a )如果a为null就返回true,否则返回false

2.例程

hive> select isnull(5);
#----
false
#----

7、非空值判断函数:isnotnull

1.函数描述

返回值语法结构功能描述
booleanisnotnull ( a )如果a为非null就返回true,否则返回false

2.例程

hive> select isnotnull(5);
#---
true
#---

四、字符函数

1、首字符ascii函数:ascii

1.函数描述

返回值语法结构功能描述
intascii(string str)返回字符串str第一个字符的ascii码

2.例程

hive> select ascii(‘abcde’);
#---
 97
#---

2、转换成64位的字符串:base64

1.函数描述

返回值语法结构功能描述
stringbase64(binary bin)将二进制bin转换成64位的字符串

3、字符串连接函数:concat

1.函数描述

返回值语法结构功能描述
stringconcat(string A, string B…)返回输入字符串连接后的结果,支持任意个输入字符串

2.例程

hive> select concat(‘abc’,‘def’);
#-----
abcdef
#-----

4、字符串连接函数:context_ngrams

1.函数描述

返回值语法结构功能描述
array<struct<string,double>>context_ngrams(array, array, int K, int pf)与ngram类似,但context_ngram()允许你预算指定上下文(数组)来去查找子序列,具体看StatisticsAndDataMining(这里的解释更易懂)

5、带分隔符字符串连接函数:concat_ws

1.函数描述

返回值语法结构功能描述
stringconcat_ws(string SEP, string A, string B…) | concat_ws(string SEP, array)返回输入字符串连接后的结果,SEP表示各个字符串间的分隔符

2.例程

hive> select concat_ws(’,’,‘abc’,‘def’,‘gh’);
#---------
abc,def,gh
#---------

6、指定的字符集将二进制值bin解码成字符串:decode

1.函数描述

返回值语法结构功能描述
stringdecode(binary bin, string charset)使用指定的字符集charset将二进制值bin解码成字符串,支持的字符集有:‘US-ASCII’, ‘ISO-8859-1’, ‘UTF-8’, ‘UTF-16BE’, ‘UTF-16LE’, ‘UTF-16’,如果任意输入参数为NULL都将返回NULL

7、指定的字符集charset将字符串编码成二进制值:encode

1.函数描述

返回值语法结构功能描述
binaryencode(string src, string charset)使用指定的字符集charset将字符串编码成二进制值,支持的字符集有:‘US-ASCII’, ‘ISO-8859-1’, ‘UTF-8’, ‘UTF-16BE’, ‘UTF-16LE’, ‘UTF-16’,如果任一输入参数为NULL都将返回NULL

8、集合查找函数:find_in_set

1.函数描述

返回值语法结构功能描述
intfind_in_set(string str, string strList)返回str在strlist第一次出现的位置,strlist是用逗号分割的字符串。如果没有找该str字符,则返回0,如果任一参数为NULL将返回NULL

2.例程

hive> select find_in_set(‘ab’,‘ef,ab,de’);
#--
 2
#--

9、将数值X转换成"#,###,###.##"格式字符串:format_number

1.函数描述

返回值语法结构功能描述
stringformat_number(number x, int d)将数值X转换成"#,###,###.##"格式字符串,并保留d位小数,如果d为0,将进行四舍五入且不保留小数

2.例程

hive> select format_number(123345.65545,2);
#---------
123,345.66
#---------

10、json解析函数:get_json_object

1.函数描述

返回值语法结构功能描述
stringget_json_object(string json_string, string path)解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效,那么返回NULL。注意此路径上JSON字符串只能由数字 字母 下划线组成且不能有大写字母和特殊字符,且key不能由数字开头,这是由于Hive对列名的限制

2.例程

hive> select get_json_object(’{“store”:
> {“fruit”:[{“weight”:8,“type”:“apple”},{“weight”:9,“type”:“pear”}],
> “bicycle”:{“price”:19.95,“color”:“red”}
> },
> “email”:“amy@only_for_json_udf_test.net”,
> “owner”:“amy”
> }
> ‘,’$.owner’);
#---
 amy
#---

11、文件数据与字符串str匹配: in_file

1.函数描述

返回值语法结构功能描述
booleanin_file(string str, string filename)如果文件名为filename的文件中有一行数据与字符串str匹配成功就返回true

12、查找字符串str中子字符串substr出现的位置:instr

1.函数描述

返回值语法结构功能描述
intinstr(string str, string substr)查找字符串str中子字符串substr出现的位置,如果查找失败将返回0,如果任一参数为Null将返回null,注意位置为从1开始的

2.例程

hive> select instr(‘dvfgefggdgaa’,‘aa’);
#--
11
#--

13、字符串长度函数:length

1.函数描述

返回值语法结构功能描述
intlength(string A)返回字符串A的长度

2.例程

hive> select length(‘abcedfg’);
#--
 7
#--

14、第一次出现的位置:locate

1.函数描述

返回值语法结构功能描述
intlocate(string substr, string str[, int pos])查找字符串str中的pos位置后字符串substr第一次出现的位置

2.例程

hive> select locate(‘aa’,‘aabbedfaad’,2);
#--
 8
#--

15、字符串转小写函数:lower,lcase

1.函数描述

返回值语法结构功能描述
stringlower(string A) lcase(string A)返回字符串A的小写格式

2.例程

hive> select lower(‘abSEd’);
#----
absed
#----

16、左补足函数:lpad

1.函数描述

返回值语法结构功能描述
stringlpad(string str, int len, string pad)将str进行用pad进行左补足到len位,从左边开始对字符串str使用字符串pad填充,最终len长度为止,如果字符串str本身长度比len大的话,将去掉多余的部分

2.例程

hive> select lpad(‘abc’,10,‘td’);
#---------
tdtdtdtabc
#---------

注意:与GP,ORACLE不同,pad不能默认

17、左边去空格函数:ltrim

1.函数描述

返回值语法结构功能描述
stringltrim(string A)去掉字符串A前面的空格

2.例程

hive> select ltrim(’ abc fg ');
#-----
abc fg
#-----

18、返回出现次数TOP K的的子序列:ngrams

1.函数描述

返回值语法结构功能描述
array<struct<string,double>>ngrams(array, int N, int K, int pf)返回出现次数TOP K的的子序列,n表示子序列的长度,具体看StatisticsAndDataMining (这里的解释更易懂)

19、URL解析函数:parse_url

1.函数描述

返回值语法结构功能描述
stringparse_url(string urlString, string partToExtract [, stringkeyToExtract])返回从URL中抽取指定部分的内容,参数url是URL字符串,而参数partToExtract是要抽取的部分,这个参数包含(HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO,例如:parse_url(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1’, ‘HOST’) =‘facebook.com’,如果参数partToExtract值为QUERY则必须指定第三个参数key 如:parse_url(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1’, ‘QUERY’, ‘k1’) =‘v1’

2.例程

hive> select parse_url(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1’, ‘HOST’);
#-----------
facebook.com
#-----------
                       
hive> select parse_url(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1’, ‘QUERY’,‘k1’);
#--
 v1
#--

20、printf风格格式输出字符串:printf

1.函数描述

返回值语法结构功能描述
stringprintf(String format, Obj… args)按照printf风格格式输出字符串

2.例程

hive> select printf(‘abfhg’);
#----
abfhg
#----

21、正则表达式解析函数:regexp_extract

1.函数描述

返回值语法结构功能描述
stringregexp_extract(string subject, string pattern, int index)将字符串subject按照pattern正则表达式的规则拆分,返回index指定的字符。注意些预定义字符的使用,如第二个参数如果使用’\s’将被匹配到s,’\s’才是匹配空格

2.例程

hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2);
#---
bar
#---
hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0);
#--------
foothebar
#--------
hive> select regexp_extract(‘hello,world’,’^((\w+),(\w+))$’,2);
#----
hello
#----
hive> select regexp_extract(‘hello,world’,’(\w+),(\w+)’,2);
#----
world
#----

注意,在有些情况下要使用转义字符,下面的等号要用双竖线转义,这是java正则表达式的规则。

22、正则表达式替换函数:regexp_replace

1.函数描述

返回值语法结构功能描述
stringregexp_replace(string A, string B, string C)按照Java正则表达式PATTERN将字符串INTIAL_STRING中符合条件的部分成REPLACEMENT所指定的字符串,如里REPLACEMENT这空的话,抽符合正则的部分将被去掉 如:regexp_replace(“foobar”, “oo

2.例程

hive> select regexp_replace(‘hello,world’,‘o|l’,‘e’);
#----------
heeee,wered
#----------

23、重复字符串函数:repeat

1.函数描述

返回值语法结构功能描述
stringrepeat(string str, int n)返回重复n次后的str字符串

2.例程

hive> select repeat(‘abc’,5);
#--------------
abcabcabcabcabc
#--------------

24、字符串反转函数:reverse

1.函数描述

返回值语法结构功能描述
stringreverse(string A)返回字符串A的反转结果

2.例程

hive> select reverse(‘abc’);
#--
cba
#--

25、右补足函数:rpad

1.函数描述

返回值语法结构功能描述
stringrpad(string str, int len, string pad)从右边开始对字符串str使用字符串pad填充,最终len长度为止,如果字符串str本身长度比len大的话,将去掉多余的部分

2.例程

hive> select rpad(‘abc’,10,‘td’);
#---------
abctdtdtdt
#---------

26、右边去空格函数:rtrim

1.函数描述

返回值语法结构功能描述
stringrtrim(string A)去除字符串右边的空格

2.例程

hive> select rtrim(’ abc ');
#---
abc
#---

27、字符串str将被转换成单词数组:sentences

1.函数描述

返回值语法结构功能描述
arraysentences(string str, string lang, string locale)字符串str将被转换成单词数组,如:sentences(‘Hello there! How are you?’) =( (“Hello”, “there”), (“How”, “are”, “you”) )

2.例程

hive> select sentences(‘Hello there! How are you?’);
#--------------------------------------
[[“Hello”,“there”],[“How”,“are”,“you”]]
#--------------------------------------

28、空格字符串函数:space

1.函数描述

返回值语法结构功能描述
stringspace(int n)返回n个空格

2.例程

hive> select length(space(10));
#--
 10
#--

29、分割字符串函数: split

1.函数描述

返回值语法结构功能描述
arraysplit(string str, string pat)按照pat字符串分割str,会返回分割后的字符串数组

2.例程

hive> select split(‘abc|cde,def kyy’,’[\|, ]’);
#------------------------
[“abc”,“cde”,“def”,“kyy”]
#------------------------
hive> select split(‘abtcdtef’,‘t’);
#---------------
[“ab”,“cd”,“ef”]
#---------------

30、字符串str按照指定分隔符转换成Map: split

1.函数描述

返回值语法结构功能描述
map<string,string>str_to_map(text[, delimiter1, delimiter2])将字符串str按照指定分隔符转换成Map,第一个参数是需要转换字符串,第二个参数是键值对之间的分隔符,默认为逗号;第三个参数是键值之间的分隔符,默认为"="

31、字符串截取函数:substr,substring

1.函数描述

返回值语法结构功能描述
stringsubstr(string A, int start),substring(string A, int start)返回字符串A从start位置到结尾的字符串

2.例程

hive> select substr(‘abcde’,3);
#---
 cde
#---
hive> select substr(‘abcde’,-1); //(和ORACLE相同)
#--
 e
#--

32、字符串截取函数:substr,substring

1.函数描述

返回值语法结构功能描述
stringsubstr(string A, int start, int len),substring(string A, int start, int len)返回字符串A从start位置开始,长度为len的字符串

2.例程

hive> select substr(‘abcde’,3,2);
#--
 cd
#--

33、截取第count分隔符之前的字符串:substring_index

1.函数描述

返回值语法结构功能描述
stringsubstring_index(string A, string delim, int count)截取第count分隔符之前的字符串,如count为正则从左边开始截取,如果为负则从右边开始截取

34、字符串替换成to中的字符串:substring_index

1.函数描述

返回值语法结构功能描述
stringtranslate(string|char|varchar input, string|char|varchar from, string|char|varchar to)将input出现在from中的字符串替换成to中的字符串 如:translate(“MOBIN”,“BIN”,“M”)=“MOM”

2.例程

hive> select translate(“MOBIN”,“BIN”,“M”);
#---
MOM
#---

35、去空格函数:trim

1.函数描述

返回值语法结构功能描述
stringtrim(string A)去除字符串两边的空格

2.例程

hive> select trim(’ abc dce’);
#------
abc dce
#------

36、将64位的字符串转换二进制值:trim

1.函数描述

返回值语法结构功能描述
binaryunbase64(string str)将64位的字符串转换二进制值

37、字符串转大写函数:upper,ucase

1.函数描述

返回值语法结构功能描述
stringupper(string A) ucase(string A)将字符串A中的字母转换成大写字母

2.例程

hive> select upper(‘abSEd’);
#----
ABSED
#----

38、首字母大写函数:initcap

1.函数描述

返回值语法结构功能描述
stringinitcap(string A)将字符串A转换第一个字母大写其余字母的字符串

2.例程

hive> select initcap(‘abcd def’);
#-------
Abcd Def
#-------

39、两个字符串之间的差异大小: levenshtein

1.函数描述

返回值语法结构功能描述
intlevenshtein(string A, string B)计算两个字符串之间的差异大小 如:levenshtein(‘kitten’, ‘sitting’) = 3

2.例程

hive> select levenshtein(‘kitten’, ‘sitting’);
#---
 3
#---

40、字符串转换成soundex字符串:soundex

1.函数描述

返回值语法结构功能描述
stringsoundex(string A)将普通字符串转换成soundex字符串

五、聚合函数

1、个数统计函数: count

1.函数描述

返回值语法结构功能描述
bigintcount(*), count(expr), count(DISTINCT expr[, expr…])count(*)统计检索出的行的个数,包括NULL值的行;count(expr)返回指定字段的非空值的个数;count(DISTINCTexpr[, expr_.])统计提供非NULL且去重后的expr表达式值的行数

2、总和统计函数: sum

1.函数描述

返回值语法结构功能描述
doublesum(col), sum(DISTINCT col)sum(col)统计结果集中col的相加的结果;sum(DISTINCT col)统计结果中col不同值相加的结果

3、平均值统计函数: avg

1.函数描述

返回值语法结构功能描述
doubleavg(col), avg(DISTINCT col)avg(col)统计结果集中col的平均值;avg(DISTINCT col)统计结果中col不同值相加的平均值

4、最小值统计函数: min

1.函数描述

返回值语法结构功能描述
doublemin(col)统计结果集中col字段的最小值

5、最大值统计函数: max

1.函数描述

返回值语法结构功能描述
doublemax(col)统计结果集中col字段的最大值

6、非空集合总体变量函数:var_pop

1.函数描述

返回值语法结构功能描述
doublevariance(col), var_pop(col)统计结果集中col非空集合的总体变量(忽略null),(求指定列数值的方差)

7、非空集合样本变量函数:var_samp

1.函数描述

返回值语法结构功能描述
doublevar_samp (col)统计结果集中col非空集合的样本变量(忽略null)(求指定列数值的样本方差)

8、总体标准偏离函数:stddev_pop

1.函数描述

返回值语法结构功能描述
doublestddev_pop(col)该函数计算总体标准偏离,并返回总体变量的平方根,其返回值与VAR_POP函数的平方根相同(求指定列数值的标准偏差)

9、样本标准偏离函数:stddev_samp

1.函数描述

返回值语法结构功能描述
doublestddev_samp (col)该函数计算样本标准偏离,(求指定列数值的样本标准偏差)

10、协方差函数:covar_pop

1.函数描述

返回值语法结构功能描述
doublecovar_pop(col1, col2)求指定列数值的协方差

11、样本协方差函数:covar_samp

1.函数描述

返回值语法结构功能描述
doublecovar_samp(col1, col2)求指定列数值的样本协方差

12、相关系数函数:corr

1.函数描述

返回值语法结构功能描述
doublecorr(col1, col2)返回两列数值的相关系数

13、中位数函数:percentile

1.函数描述

返回值语法结构功能描述
doublepercentile(BIGINT col, p)求准确的第pth个百分位数,p必须介于0和1之间,但是col字段目前只支持整数,不支持浮点数类型

14、中位数函数:percentile

1.函数描述

返回值语法结构功能描述
arraypercentile(BIGINT col, array(p1 [, p2]…))功能和上述类似,之后后面可以输入多个百分位数,返回类型也为array,其中为对应的百分位数

2.例程

select percentile(score,<0.2,0.4>) from lxw_dual;取0.2,0.4位置的数据

15、近似中位数函数:percentile_approx

1.函数描述

返回值语法结构功能描述
doublepercentile_approx(DOUBLE col, p [, B])求近似的第pth个百分位数,p必须介于0和1之间,返回类型为double,但是col字段支持浮点类型。参数B控制内存消耗的近似精度,B越大,结果的准确度越高。默认为10,000。当col字段中的distinct值的个数小于B时,结果为准确的百分位数

16、近似中位数函数:percentile_approx

1.函数描述

返回值语法结构功能描述
arraypercentile_approx(DOUBLE col, array(p1 [, p2]…) [, B])功能和上述类似,之后后面可以输入多个百分位数,返回类型也为array,其中为对应的百分位数。

17、直方图:histogram_numeric

1.函数描述

返回值语法结构功能描述
array<struct {‘x’,‘y’}>histogram_numeric(col, b)以b为基准计算col的直方图信息
hive> select histogram_numeric(100,5) 、
#--------------------
[{“x”:100.0,“y”:1.0}]
#--------------------

六、表生成函数

1、explode

1.函数描述

返回值语法结构功能描述
Array Typeexplode(array a)对于a中的每个元素,将生成一行且包含该元素

2、explode

1.函数描述

返回值语法结构功能描述
N rowsexplode(ARRAY)每行对应数组中的一个元素

3、explode

1.函数描述

返回值语法结构功能描述
N rowsexplode(MAP)每行对应每个map键-值,其中一个字段是map的键,另一个字段是map的值

4、posexplode

1.函数描述

返回值语法结构功能描述
N rowsposexplode(ARRAY)与explode类似,不同的是还返回各元素在数组中的位置

5、posexplode

1.函数描述

返回值语法结构功能描述
N rowsstack(INT n, v_1, v_2, …, v_k)把M列转换成N行,每行有M/N个字段,其中n必须是个常数

6、posexplode

1.函数描述

返回值语法结构功能描述
tuplejson_tuple(jsonStr, k1, k2, …)从一个JSON字符串中获取多个键并作为一个元组返回,与get_json_object不同的是此函数能一次获取多个键值

7、parse_url_tuple

1.函数描述

返回值语法结构功能描述
tupleparse_url_tuple(url, p1, p2, …)返回从URL中抽取指定N部分的内容,参数url是URL字符串,而参数p1,p2,…是要抽取的部分,这个参数包含HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, USERINFO, QUERY:

8、parse_url_tuple

1.函数描述

返回值语法结构功能描述
tupleinline(ARRAY<STRUCT[,STRUCT]>)将结构体数组提取出来并插入到表中

七、类型转换函数

1、转换成二进制: binary

1.函数描述

返回值语法结构功能描述
binarybinary(string|binary)将输入的值转换成二进制

2、expr转换成type类型: cast

1.函数描述

返回值语法结构功能描述
Expected “=” to follow “type”cast(expr as )将expr转换成type类型 如:cast(“1” as BIGINT) 将字符串1转换成了BIGINT类型,如果转换失败将返回NULL

八、集合函数

1、Map类型长度函数: size(Map<K.V>)

1.函数描述

返回值语法结构功能描述
intsize(Map<K.V>)返回map类型的长度

2.例程

hive> select size(map(‘100’,‘tom’,‘101’,‘mary’));
#--
 2
#--

2、array类型长度函数: size(Array)

1.函数描述

返回值语法结构功能描述
intsize(Array)求数组的长度

2.例程

hive> select size(array(‘100’,‘101’,‘102’,‘103’));
#--
 4
#--

3、key函数

1.函数描述

返回值语法结构功能描述
arraymap_keys(Map<K.V>)返回map中的所有key

4、value函数

1.函数描述

返回值语法结构功能描述
arraymap_keys(Map<K.V>)返回map中的所有value

5、包含value函数

1.函数描述

返回值语法结构功能描述
booleanarray_contains(Array, value)如该数组Array包含value返回true。,否则返回false

6、排序函数

1.函数描述

返回值语法结构功能描述
arraysort_array(Array)按自然顺序对数组进行排序并返回

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/643753.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

DOS学习-目录与文件应用操作经典案例-copy

欢迎关注我&#x1f446;&#xff0c;收藏下次不迷路┗|&#xff40;O′|┛ 嗷~~ 目录 一.前言 二.使用 三.案例 一.前言 copy命令的功能是复制一个或多个已经存在的文件到新的位置&#xff0c;或者将多个文件的内容整合后保存为一个单独的文件&#xff0c;亦或者用于创建批…

SQL基础交互

第二章 检索数据 例如&#xff0c;我们从数据库表 products 中查询 prod_id 和 vend_id,各个列之间以逗号分隔&#xff0c;最后一列的后面不加逗号。 SELECT prod_id, vend_id FROM products; 我们还可以从数据库表中查询所有列。例如: SELECT prod_id, vend_id, prod_name, …

【openlayers系统学习】00官网的Workshop介绍

00Workshop介绍 官方文档&#xff1a;https://openlayers.org/workshop/en/ openlayers官网Workshop学习。 通过官网Workshop&#xff0c;系统学习openlayers的使用。 基本设置 这些说明假定您从最新Workshop版本的 openlayers-workshop-en.zip​ 文件开始。此外&#xff…

继“三级淋巴结”之后,再看看“单细胞”如何与AI结合【医学AI|顶刊速递|05-25】

小罗碎碎念 24-05-25文献速递 今天想和大家分享的是肿瘤治疗领域的另一个热点——单细胞技术&#xff0c;我们一起来看看&#xff0c;最新出炉的顶刊&#xff0c;是如何把AI与单细胞结合起来的。 另外&#xff0c;今天是周末&#xff0c;所以会有两篇文章——一篇文献速递&…

【LeetCode:2769. 找出最大的可达成数字 + 模拟】

&#x1f680; 算法题 &#x1f680; &#x1f332; 算法刷题专栏 | 面试必备算法 | 面试高频算法 &#x1f340; &#x1f332; 越难的东西,越要努力坚持&#xff0c;因为它具有很高的价值&#xff0c;算法就是这样✨ &#x1f332; 作者简介&#xff1a;硕风和炜&#xff0c;…

C++—数组

数组是由一批相同类型的元素&#xff08;element&#xff09;的集合所组成的数据结构&#xff0c;分配一块连续的内存来存储。 语法&#xff1a; <数据类型> <数组名>[<数组长度>]; 数据类型&#xff1a;数组内存放的数据类型&#xff0c;如int、char&…

高仿百度网页(附带源码)

高仿百度网页 效果图部分源码及素材领取源码下期更新预报 效果图 部分源码及素材 <script language"javascript">function show_date_time() {window.setTimeout("show_date_time()", 1000);BirthDay new Date("1/20/2023 16:52:21");//…

Mongodb分布式id

1、分布式id使用场景 分布式ID是指在分布式系统中用于唯一标识每个元素的数字或字符串。在分布式系统中&#xff0c;各个节点或服务可能独立运行在不同的服务器、数据中心或地理位置&#xff0c;因此需要一种机制来确保每个生成的ID都是全局唯一的&#xff0c;以避免ID冲突。 …

FreeRTOS 源码概述

FreeRTOS 目录结构 使用 STM32CubeMX 创建的 FreeRTOS 工程中&#xff0c;FreeRTOS 相关的源码如下: 主要涉及2个目录&#xff1a; Core Inc 目录下的 FreeRTOSConfig.h 是配置文件 Src 目录下的 freertos.c 是 STM32CubeMX 创建的默认任务 Middlewares\Third_Party…

FreeRTOS任务间通信“IPC”

---------------信号量--------------- 信号量的定义&#xff1a; 操作系统中一种解决问题的机制&#xff0c;可以实现 “共享资源的访问” 信号&#xff1a;起通知作用量&#xff1a;还可以用来表示资源的数量当"量"没有限制时&#xff0c;它就是"计数型信…

Java 登录错误次数限制,用户禁登1小时

手机号验证码登录&#xff0c;验证码输入错误次数超5次封禁 Overridepublic boolean checkCaptcha(String phoneNum, String captcha) {String codeNum (String) redisTemplate.opsForValue().get(UserCacheNames.USER_CAPTCHA phoneNum);if (codeNum null) {throw new Wan…

[数据集][目标检测]风力涡轮机缺陷检测数据集VOC+YOLO格式2992张2类别

数据集格式&#xff1a;Pascal VOC格式YOLO格式(不包含分割路径的txt文件&#xff0c;仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)&#xff1a;2992 标注数量(xml文件个数)&#xff1a;2992 标注数量(txt文件个数)&#xff1a;2992 标注…

利用Axure模板快速设计,可视化大屏信息大屏,含近200例资源和各类部件

模板类别&#xff1a; **通用模板&#xff1a;**提供基础的布局和设计元素&#xff0c;适用于各种场景。 **行业特定模板&#xff1a;**如农业、医院、销售、能源、物流、政府机关等&#xff0c;针对不同行业提供专业模板。 **数据展示模板&#xff1a;**包括大数据驾驶舱、统…

【Vue】computed 和 methods 的区别

概述 在使用时&#xff0c;computed 当做属性使用&#xff0c;而 methods 则当做方法调用computed 可以具有 getter 和 setter&#xff0c;因此可以赋值&#xff0c;而 methods 不行computed 无法接收多个参数&#xff0c;而 methods 可以computed 具有缓存&#xff0c;而 met…

makefile 编写规则

1.概念 1.1 什么是makefile Makefile 是一种文本文件&#xff0c;用于描述软件项目的构建规则和依赖关系&#xff0c;通常用于自动化软件构建过程。它包含了一系列规则和指令&#xff0c;告诉构建系统如何编译和链接源代码文件以生成最终的可执行文件、库文件或者其他目标文件…

I.MX6ULL Linux C语言开发环境搭建(点灯实验)

系列文章目录 I.MX6ULL Linux C语言开发 I.MX6ULL Linux C语言开发 系列文章目录一、前言二、硬件原理分析三、构建步骤一、 C语言运行环境构建二、软件编写三、链接脚本 四、实验程序编写五、编译下载验证 一、前言 汇编语言编写 LED 灯实验&#xff0c;但是实际开发过程中汇…

二叉排序树的创建

二叉排序树就是节点经过排序构建起的二叉树&#xff0c;其有以下性质&#xff1a; 1. 若它的左子树不为空&#xff0c;则左子树上所有节点的值均小于它的根节点的值。 2. 若它的右子树不为空&#xff0c;则右子树上所有节点的值均大于它的根节点的值。 3. 它的左、右子树也分…

Golang并发编程-协程goroutine任务取消(Context)

文章目录 前言一、单个任务的取消二、 所有任务取消三、Context的出现Context的定义Context使用 总结 前言 在实际的业务种&#xff0c;我们可能会有这么一种场景&#xff1a;需要我们主动的通知某一个goroutine结束。比如我们开启一个后台goroutine一直做事情&#xff0c;比如…

探索Python编程乐趣:制作气泡反弹小游戏

新书上架~&#x1f447;全国包邮奥~ python实用小工具开发教程http://pythontoolsteach.com/3 欢迎关注我&#x1f446;&#xff0c;收藏下次不迷路┗|&#xff40;O′|┛ 嗷~~ 目录 一、引言&#xff1a;Python编程的轻松入门 二、游戏实现原理&#xff1a;气泡反弹的逻辑 …

Linux|如何在 awk 中使用流控制语句

引言 当您从 Awk 系列一开始回顾我们迄今为止介绍的所有 Awk 示例时&#xff0c;您会注意到各个示例中的所有命令都是按顺序执行的&#xff0c;即一个接一个。但在某些情况下&#xff0c;我们可能希望根据某些条件运行一些文本过滤操作&#xff0c;这就是流程控制语句的方法。 …