网站统计中的数据收集原理及实现

网站数据统计分析工具是网站站长和运营人员经常使用的一种工具，比较常用的有谷歌分析、百度统计和腾讯分析等等。所有这些统计分析工具的第一步都是网站访问数据的收集。目前主流的数据收集方式基本都是基于javascript的。本文将简要分析这种数据收集的原理，并一步一步实际搭建一个实际的数据收集系统。

数据收集原理分析

简单来说，网站统计分析工具需要收集到用户浏览目标网站的行为（如打开某网页、点击某按钮、将商品加入购物车等）及行为附加数据（如某下单行为产生的订单金额等）。早期的网站统计往往只收集一种用户行为：页面的打开。而后用户在页面中的行为均无法收集。这种收集策略能满足基本的流量分析、来源分析、内容分析及访客属性等常用分析视角，但是，随着ajax技术的广泛使用及电子商务网站对于电子商务目标的统计分析的需求越来越强烈，这种传统的收集策略已经显得力不能及。

后来，Google在其产品谷歌分析中创新性的引入了可定制的数据收集脚本，用户通过谷歌分析定义好的可扩展接口，只需编写少量的javascript代码就可以实现自定义事件和自定义指标的跟踪和分析。目前百度统计、搜狗分析等产品均照搬了谷歌分析的模式。

其实说起来两种数据收集模式的基本原理和流程是一致的，只是后一种通过javascript收集到了更多的信息。下面看一下现在各种网站统计工具的数据收集基本原理。

流程概览

首先通过一幅图总体看一下数据收集的基本流程。

图片

图1. 网站统计数据收集基本流程

首先，用户的行为会触发浏览器对被统计页面的一个http请求，这里姑且先认为行为就是打开网页。当网页被打开，页面中的埋点javascript片段会被执行，用过相关工具的朋友应该知道，一般网站统计工具都会要求用户在网页中加入一小段javascript代码，这个代码片段一般会动态创建一个script标签，并将src指向一个单独的js文件，此时这个单独的js文件（图1中绿色节点）会被浏览器请求到并执行，这个js往往就是真正的数据收集脚本。数据收集完成后，js会请求一个后端的数据收集脚本（图1中的backend），这个脚本一般是一个伪装成图片的动态脚本程序，可能由php、python或其它服务端语言编写，js会将收集到的数据通过http参数的方式传递给后端脚本，后端脚本解析参数并按固定格式记录到访问日志，同时可能会在http响应中给客户端种植一些用于追踪的cookie。

上面是一个数据收集的大概流程，下面以谷歌分析为例，对每一个阶段进行一个相对详细的分析。

埋点脚本执行阶段

若要使用谷歌分析（以下简称GA），需要在页面中插入一段它提供的javascript片段，这个片段往往被称为埋点代码。下面是我的博客中所放置的谷歌分析埋点代码截图：

图片

图2. 谷歌分析埋点代码

其中_gaq是GA的的全局数组，用于放置各种配置，其中每一条配置的格式为：

1.  _gaq.push(\['Action',  'param1',  'param2',  ...\]);

Action指定配置动作，后面是相关的参数列表。GA给的默认埋点代码会给出两条预置配置，_setAccount用于设置网站标识ID，这个标识ID是在注册GA时分配的。_trackPageview告诉GA跟踪一次页面访问。更多配置请参考：https://developers.google.com/analytics/devguides/collection/gajs/[1]。实际上，这个_gaq是被当做一个FIFO队列来用的，配置代码不必出现在埋点代码之前，具体请参考上述链接的说明。

就本文来说，_gaq的机制不是重点，重点是后面匿名函数的代码，这才是埋点代码真正要做的。这段代码的主要目的就是引入一个外部的js文件（ga.js），方式是通过document.createElement方法创建一个script并根据协议（http或https）将src指向对应的ga.js，最后将这个element插入页面的dom树上。

注意ga.async = true的意思是异步调用外部js文件，即不阻塞浏览器的解析，待外部js下载完成后异步执行。这个属性是HTML5新引入的。

数据收集脚本执行阶段

数据收集脚本（ga.js）被请求后会被执行，这个脚本一般要做如下几件事：

1、通过浏览器内置javascript对象收集信息，如页面title（通过document.title）、referrer（上一跳url，通过document.referrer）、用户显示器分辨率（通过windows.screen）、cookie信息（通过document.cookie）等等一些信息。

2、解析_gaq收集配置信息。这里面可能会包括用户自定义的事件跟踪、业务数据（如电子商务网站的商品编号等）等。

3、将上面两步收集的数据按预定义格式解析并拼接。

4、请求一个后端脚本，将信息放在http request参数中携带给后端脚本。

这里唯一的问题是步骤4，javascript请求后端脚本常用的方法是ajax，但是ajax是不能跨域请求的。这里ga.js在被统计网站的域内执行，而后端脚本在另外的域（GA的后端统计脚本是http://www.google-analytics.com/__utm.gif），ajax行不通。一种通用的方法是js脚本创建一个Image对象，将Image对象的src属性指向后端脚本并携带参数，此时即实现了跨域请求后端。这也是后端脚本为什么通常伪装成gif文件的原因。通过http抓包可以看到ga.js对__utm.gif的请求：

图片

图3. 后端脚本请求的http包

可以看到ga.js在请求__utm.gif时带了很多信息，例如utmsr=1280×1024是屏幕分辨率，utmac=UA-35712773-1是_gaq中解析出的我的GA标识ID等等。

值得注意的是，__utm.gif未必只会在埋点代码执行时被请求，如果用_trackEvent配置了事件跟踪，则在事件发生时也会请求这个脚本。

由于ga.js经过了压缩和混淆，可读性很差，我们就不分析了，具体后面实现阶段我会实现一个功能类似的脚本。

后端脚本执行阶段

GA的__utm.gif是一个伪装成gif的脚本。这种后端脚本一般要完成以下几件事情：

1、解析http请求参数的到信息。

2、从服务器（WebServer）中获取一些客户端无法获取的信息，如访客ip等。

3、将信息按格式写入log。

5、生成一副1×1的空gif图片作为响应内容并将响应头的Content-type设为image/gif。

5、在响应头中通过Set-cookie设置一些需要的cookie信息。

之所以要设置cookie是因为如果要跟踪唯一访客，通常做法是如果在请求时发现客户端没有指定的跟踪cookie，则根据规则生成一个全局唯一的cookie并种植给用户，否则Set-cookie中放置获取到的跟踪cookie以保持同一用户cookie不变（见图4）。

图片

图4. 通过cookie跟踪唯一用户的原理

这种做法虽然不是完美的（例如用户清掉cookie或更换浏览器会被认为是两个用户），但是是目前被广泛使用的手段。注意，如果没有跨站跟踪同一用户的需求，可以通过js将cookie种植在被统计站点的域下（GA是这么做的），如果要全网统一定位，则通过后端脚本种植在服务端域下（我们待会的实现会这么做）。

系统的设计实现

根据上述原理，我自己搭建了一个访问日志收集系统。总体来说，搭建这个系统要做如下的事：

图片

图5. 访问数据收集系统工作分解

下面详述每一步的实现。我将这个系统叫做MyAnalytics。

确定收集的信息

为了简单起见，我不打算实现GA的完整数据收集模型，而是收集以下信息。

| 名称 | 途径 | 备注 | | 访问时间 | web server | Nginx

remote_addr | | 域名 | javascript | document.domain | | URL | javascript | document.URL | | 页面标题 | javascript | document.title | | 分辨率 | javascript | window.screen.height & width | | 颜色深度 | javascript | window.screen.colorDepth | | Referrer | javascript | document.referrer | | 浏览客户端 | web server | Nginx $http_user_agent | | 客户端语言 | javascript | navigator.language | | 访客标识 | cookie |  | | 网站标识 | javascript | 自定义对象 |

埋点代码

埋点代码我将借鉴GA的模式，但是目前不会将配置对象作为一个FIFO队列用。一个埋点代码的模板如下：

1.  <script  type="text/javascript">
2.  var _maq = _maq ||  \[\];
3.  _maq.push(\['_setAccount',  '网站标识'\]);

5.  (function()  {
6.    var ma = document.createElement('script'); ma.type =  'text/javascript'; ma.async =  true;
7.   ma.src =  ('https:'  == document.location.protocol ?  'https://analytics'  :  'http://analytics')  +  '.codinglabs.org/ma.js';
8.    var s = document.getElementsByTagName('script')\[0\]; s.parentNode.insertBefore(ma, s);
9.  })();
10.  </script>

这里我启用了二级域名analytics.codinglabs.org，统计脚本的名称为ma.js。当然这里有一点小问题，因为我并没有https的服务器，所以如果一个https站点部署了代码会有问题，不过这里我们先忽略吧。

前端统计脚本

我写了一个不是很完善但能完成基本工作的统计脚本ma.js：

1.  (function  ()  {
2.    var  params  =  {};
3.    //Document对象数据
4.    if(document)  {
5.    params.domain = document.domain ||  '';  
6.    params.url = document.URL ||  '';  
7.    params.title = document.title ||  '';  
8.    params.referrer = document.referrer ||  '';  
9.    }  
10.    //Window对象数据
11.    if(window && window.screen)  {
12.    params.sh = window.screen.height ||  0;
13.    params.sw = window.screen.width ||  0;
14.    params.cd = window.screen.colorDepth ||  0;
15.    }  
16.    //navigator对象数据
17.    if(navigator)  {
18.    params.lang = navigator.language ||  '';  
19.    }  
20.    //解析_maq配置
21.    if(_maq)  {
22.    for(var i in _maq)  {
23.    switch(_maq\[i\]\[0\])  {
24.    case  '_setAccount':
25.    params.account = _maq\[i\]\[1\];
26.    break;
27.    default:
28.    break;
29.    }  
30.    }  
31.    }  
32.    //拼接参数串
33.    var args =  '';  
34.    for(var i in  params)  {
35.    if(args !=  '')  {
36.   args +=  '&';
37.    }  
38.   args += i +  '='  + encodeURIComponent(params\[i\]);
39.    }  

41.    //通过Image对象请求后端脚本
42.    var img =  new  Image(1,  1);  
43.   img.src =  'http://analytics.codinglabs.org/1.gif?'  + args;
44.  })();

整个脚本放在匿名函数里，确保不会污染全局环境。功能在原理一节已经说明，不再赘述。其中1.gif是后端脚本。

日志格式

日志采用每行一条记录的方式，采用不可见字符^A（ascii码0x01，Linux下可通过ctrl + v ctrl + a输入，下文均用“^A”表示不可见字符0x01），具体格式如下：

时间^AIP^A域名^AURL^A页面标题^AReferrer^A分辨率高^A分辨率宽^A颜色深度^A语言^A客户端信息^A用户标识^A网站标识

后端脚本

为了简单和效率考虑，我打算直接使用nginx的access_log做日志收集，不过有个问题就是nginx配置本身的逻辑表达能力有限，所以我选用了OpenResty做这个事情。OpenResty是一个基于Nginx扩展出的高性能应用开发平台，内部集成了诸多有用的模块，其中的核心是通过ngx_lua模块集成了Lua，从而在nginx配置文件中可以通过Lua来表述业务。关于这个平台我这里不做过多介绍，感兴趣的同学可以参考其官方网站http://openresty.org/[2]，或者这里有其作者章亦春（agentzh）做的一个非常有爱的介绍OpenResty的slide：http://agentzh.org/misc/slides/ngx-openresty-ecosystem/，关于ngx_lua可以参考：https://github.com/chaoslawful/lua-nginx-module[3]。

首先，需要在nginx的配置文件中定义日志格式：

1.  log_format tick "$msec^A$remote\_addr^A$u\_domain^A$u\_url^A$u\_title^A$u\_referrer^A$u\_sh^A$u\_sw^A$u\_cd^A$u\_lang^A$http\_user\_agent^A$u\_utrace^A$u_account";

注意这里以u_开头的是我们待会会自己定义的变量，其它的是nginx内置变量。

然后是核心的两个location：

1.  location /1.gif  {
2.  #伪装成gif文件
3.   default_type image/gif;  
4.  #本身关闭access_log，通过subrequest记录log
5.   access_log off;

7.   access\_by\_lua "
8.   \-\- 用户跟踪cookie名为__utrace
9.   local uid = ngx.var.cookie___utrace 
10.   if not uid then
11.   \-\- 如果没有则生成一个跟踪cookie，算法为md5(时间戳+IP+客户端信息)
12.   uid = ngx.md5(ngx.now() .. ngx.var.remote\_addr .. ngx.var.http\_user_agent)
13.   end 
14.   ngx.header\['Set-Cookie'\] = {'__utrace=' .. uid .. '; path=/'}
15.   if ngx.var.arg_domain then
16.   \-\- 通过subrequest到/i-log记录日志，将参数和用户跟踪cookie带过去
17.   ngx.location.capture('/i-log?' .. ngx.var.args .. '&utrace=' .. uid)
18.   end 
19.   ";  

21.    #此请求不缓存
22.   add_header Expires  "Fri, 01 Jan 1980 00:00:00 GMT";
23.   add_header Pragma  "no-cache";
24.   add_header Cache-Control  "no-cache, max-age=0, must-revalidate";

26.    #返回一个1×1的空gif图片
27.   empty_gif;
28.  }  

30.  location /i-log {
31.    #内部location，不允许外部直接访问
32.    internal;

34.    #设置变量，注意需要unescape
35.   set\_unescape\_uri $u\_domain $arg\_domain;
36.   set\_unescape\_uri $u\_url $arg\_url;
37.   set\_unescape\_uri $u\_title $arg\_title;
38.   set\_unescape\_uri $u\_referrer $arg\_referrer;
39.   set\_unescape\_uri $u\_sh $arg\_sh;
40.   set\_unescape\_uri $u\_sw $arg\_sw;
41.   set\_unescape\_uri $u\_cd $arg\_cd;
42.   set\_unescape\_uri $u\_lang $arg\_lang;
43.   set\_unescape\_uri $u\_utrace $arg\_utrace;
44.   set\_unescape\_uri $u\_account $arg\_account;

46.    #打开日志
47.   log_subrequest on;
48.    #记录日志到ma.log，实际应用中最好加buffer，格式为tick
49.   access_log /path/to/logs/directory/ma.log tick;

51.    #输出空字符串
52.   echo '';
53.  }

要完全解释这段脚本的每一个细节有点超出本文的范围，而且用到了诸多第三方ngxin模块（全都包含在OpenResty中了），重点的地方我都用注释标出来了，可以不用完全理解每一行的意义，只要大约知道这个配置完成了我们在原理一节提到的后端逻辑就可以了。

日志轮转

真正的日志收集系统访问日志会非常多，时间一长文件变得很大，而且日志放在一个文件不便于管理。所以通常要按时间段将日志切分，例如每天或每小时切分一个日志。我这里为了效果明显，每一小时切分一个日志。我是通过crontab定时调用一个shell脚本实现的，shell脚本如下：

1.  _prefix="/path/to/nginx"
2.  time=\`date +%Y%m%d%H\`

4.  mv ${_prefix}/logs/ma.log ${_prefix}/logs/ma/ma-${time}.log
5.  kill -USR1 \`cat ${_prefix}/logs/nginx.pid\`

这个脚本将ma.log移动到指定文件夹并重命名为ma-{yyyymmddhh}.log，然后向nginx发送USR1信号令其重新打开日志文件。

然后再/etc/crontab里加入一行：

1.  59  *  *  *  * root /path/to/directory/rotatelog.sh

在每个小时的59分启动这个脚本进行日志轮转操作。

测试

下面可以测试这个系统是否能正常运行了。我昨天就在我的博客中埋了相关的点，通过http抓包可以看到ma.js和1.gif已经被正确请求：

图片

图6. http包分析ma.js和1.gif的请求

同时可以看一下1.gif的请求参数：

图片

图7. 1.gif的请求参数

相关信息确实也放在了请求参数中。

然后我tail打开日志文件，然后刷新一下页面，因为没有设access log buffer， 我立即得到了一条新日志：

1.  1351060731.360^A0.0.0.0^Awww.codinglabs.org^Ahttp://www.codinglabs.org/^ACodingLabs^A^A1024^A1280^A24^Azh-CN^AMozilla/5.0 (Macintosh; Intel Mac OS X 10\_8\_2) AppleWebKit/537.4 (KHTML, like Gecko) Chrome/22.0.1229.94 Safari/537.4^A4d612be64366768d32e623d594e82678^AU-1-1

注意实际上原日志中的^A是不可见的，这里我用可见的^A替换为方便阅读，另外IP由于涉及隐私我替换为了0.0.0.0。

看一眼日志轮转目录，由于我之前已经埋了点，所以已经生成了很多轮转文件：

图8. 轮转日志

关于分析

通过上面的分析和开发可以大致理解一个网站统计的日志收集系统是如何工作的。有了这些日志，就可以进行后续的分析了。本文只注重日志收集，所以不会写太多关于分析的东西。

注意，原始日志最好尽量多的保留信息而不要做过多过滤和处理。例如上面的MyAnalytics保留了毫秒级时间戳而不是格式化后的时间，时间的格式化是后面的系统做的事而不是日志收集系统的责任。后面的系统根据原始日志可以分析出很多东西，例如通过IP库可以定位访问者的地域、user agent中可以得到访问者的操作系统、浏览器等信息，再结合复杂的分析模型，就可以做流量、来源、访客、地域、路径等分析了。当然，一般不会直接对原始日志分析，而是会将其清洗格式化后转存到其它地方，如MySQL或HBase中再做分析。

分析部分的工作有很多开源的基础设施可以使用，例如实时分析可以使用Storm，而离线分析可以使用Hadoop。当然，在日志比较小的情况下，也可以通过shell命令做一些简单的分析，例如，下面三条命令可以分别得出我的博客在今天上午8点到9点的访问量（PV），访客数（UV）和独立IP数（IP）：

1.  awk -F^A '{print $1}' ma-2012102409.log  | wc -l
2.  awk -F^A '{print $12}' ma-2012102409.log  | uniq | wc -l
3.  awk -F^A '{print $2}' ma-2012102409.log  | uniq | wc -l

其它好玩的东西朋友们可以慢慢挖掘。

参考

GA的开发者文档：https://developers.google.com/analytics/devguides/collection/gajs/[4]

一篇关于实现nginx收日志的文章：http://blog.linezing.com/2011/11/%E4%BD%BF%E7%94%A8nginx%E8%AE%B0%E6%97%A5%E5%BF%97[5]

关于Nginx可以参考：http://wiki.nginx.org/Main[6]

OpenResty的官方网站为：http://openresty.org

ngx_lua模块可参考：https://github.com/chaoslawful/lua-nginx-module[7]

本文http抓包使用Chrome浏览器开发者工具，绘制思维导图使用Xmind，流程和结构图使用Tikz PGF

参考资料

[1]

https://developers.google.com/analytics/devguides/collection/gajs/: https://developers.google.com/analytics/devguides/collection/gajs/

[2]

http://openresty.org/: http://openresty.org/

[3]

https://github.com/chaoslawful/lua-nginx-module: https://github.com/chaoslawful/lua-nginx-module

[4]

https://developers.google.com/analytics/devguides/collection/gajs/: https://developers.google.com/analytics/devguides/collection/gajs/

[5]

http://blog.linezing.com/2011/11/%E4%BD%BF%E7%94%A8nginx%E8%AE%B0%E6%97%A5%E5%BF%97: http://blog.linezing.com/2011/11/%E4%BD%BF%E7%94%A8nginx%E8%AE%B0%E6%97%A5%E5%BF%97

[6]

http://wiki.nginx.org/Main: http://wiki.nginx.org/Main

[7]

https://github.com/chaoslawful/lua-nginx-module: https://github.com/chaoslawful/lua-nginx-module

原文地址： 网站统计中的数据收集原理及实现

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/521945.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

宏集PLC如何为楼宇自动化行业提供空调、供暖与通风的解决方案？

宏集PLC如何为楼宇自动化行业提供空调、供暖与通风的解决方案？

一、应用背景 楼宇自动化行业是通过将先进的技术和系统应用于建筑物中&#xff0c;以提高其运营效率、舒适度和能源利用效率的行业&#xff0c;其目标是使建筑物能够自动监控、调节和控制各种设备和系统&#xff0c;包括照明系统、空调系统、安全系统、通风系统、电力供应系统…
阅读更多...
建模实例评点（2）领域类图-食谱

建模实例评点（2）领域类图-食谱

1 00:00:00,290 --> 00:00:04,120 这是之前我们给一个用户 2 00:00:04,130 --> 00:00:05,360 给他出食谱的 3 00:00:05,370 --> 00:00:06,480 这样做的一个 4 00:00:06,650 --> 00:00:08,000 你认为你系统最重要的 5 00:00:08,010 --> 00:00:09,360 一个核心…
阅读更多...
计算机网络 实验指导 实验8

计算机网络 实验指导 实验8

三层交换机的访问控制 1.实验拓扑图&#xff1a; 名称接口IP地址网关Switch AF0/1192.168.1.1/24F0/2172.1.1.1/24Switch BF0/1192.168.1.2/24F0/2172.2.2.1/24PC1172.1.1.2/24172.1.1.1PC2172.1.1.3/24172.1.1.1PC3172.2.2.2/24172.2.2.1PC4172.2.2.3/24172.2.2.1 2.实验目的…
阅读更多...
支付宝会员签到领取积分

支付宝会员签到领取积分

一、背景 跟一位喜欢薅羊毛的好友聊天&#xff0c;说现在好多app上的积分能兑换实物&#xff0c;就是需要每天自己去点开app签到&#xff0c;app太多签不过来或者有的时候会忘记签到&#xff0c;虽然流程不复杂&#xff0c;但要是有款工具每天自动签到就好了。 我给他介绍了一…
阅读更多...
市场首款！华邦电子发布内置PQC算法的闪存产品

市场首款！华邦电子发布内置PQC算法的闪存产品

3月27日&#xff0c;全球领先的半导体内存解决方案供应商华邦电子股份有限公司推出TrustME Secure Flash W77Q系列的最新扩展&#xff0c;包括256Mb、512Mb和1Gb器件。 这些突破性的安全闪存设备是市场上首款针对后量子密码学&#xff08;PQC&#xff09;实施Leighton-Micali签…
阅读更多...
nginx支持的多种负载均衡策略

nginx支持的多种负载均衡策略

目录 1.轮询&#xff08;默认&#xff09; 2. ip_hash 3. 加权轮询&#xff08;weight&#xff09; 4. fair&#xff08;第三方&#xff09; 5. 最少连接&#xff08;least_conn&#xff09; 1.轮询&#xff08;默认&#xff09; 将请求依次分配给每个服务器&#xff0c;确…
阅读更多...
Linux：IO多路转接之poll

Linux：IO多路转接之poll

文章目录 select的缺点pollstruct pollfd解决缺点的方式 代码实现 本篇总结的是poll的相关内容&#xff0c;在总结poll的内容前&#xff0c;先回顾一下select的缺点 select的缺点 select的缺点也比较明显 等待的fd是有上限的&#xff0c;在我们当前这个版本来说&#xff0c;…
阅读更多...
信号处理之（文件批处理+小波分解+波形图的生成）

信号处理之（文件批处理+小波分解+波形图的生成）

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 文章目录 前言一、前期准备工作之数据自动读取二、前期准备工作之信号分解&#xff08;小波分解&#xff09;三、前期准备工作之数据可视化&#xff08;波形图展示&#xff0…
阅读更多...
Redis的配置文件详解

Redis的配置文件详解

单位&#xff1a;Redis配置对大小写不敏感&#xff01; 注意这里&#xff1a;任何写法都可&#xff0c;不区分大小写。 units are case insensitive so 1GB 1Gb 1gB are all the same.包含&#xff1a;搭建Redis集群时&#xff0c;可以使用includes包含其他配置文件网络&…
阅读更多...
个推助力小米汽车APP实现智能用户触达，打造智能出行新体验

个推助力小米汽车APP实现智能用户触达，打造智能出行新体验

4月3日&#xff0c;小米SU7首批交付仪式在北京亦庄的小米汽车工厂总装车间举行&#xff0c;全国28城交付中心也同步开启首批交付。随着小米SU7系列汽车的正式发售和交付&#xff0c;小米汽车APP迎来了用户体量的爆发式增长。 小米汽车APP是小米汽车官方推出的手机应用&#xff…
阅读更多...
大型语言模型（LLMs）面试常见问题解析

大型语言模型（LLMs）面试常见问题解析

概述 这篇文章[1]是关于大型语言模型&#xff08;LLMs&#xff09;的面试问题和答案&#xff0c;旨在帮助读者准备相关职位的面试。 token&#xff1f; 在大型语言模型中&#xff0c;token 指的是什么&#xff1f; 分词&#xff08;Tokenization&#xff09;&#xff1a;可以将…
阅读更多...
力扣热题100_链表_138_随机链表的复制

力扣热题100_链表_138_随机链表的复制

文章目录 题目链接解题思路解题代码 题目链接 138. 随机链表的复制 给你一个长度为 n 的链表&#xff0c;每个节点包含一个额外增加的随机指针 random &#xff0c;该指针可以指向链表中的任何节点或空节点。 构造这个链表的 深拷贝。 深拷贝应该正好由 n 个 全新 节点组成&a…
阅读更多...
事件时间+时间窗口，最后一个窗口不执行问题踩坑与源码分析

事件时间+时间窗口，最后一个窗口不执行问题踩坑与源码分析

事件时间时间窗口&#xff0c;最后一个窗口不执行问题踩坑与源码分析 1. 结论 在使用事件时间和时间窗口的过程中&#xff0c;当最后一个事件的事件时间未达到时间窗口的最大时间&#xff0c;窗口不会触发。 举例说明&#xff0c;在按小时的滚动窗口中&#xff0c;假设当前时…
阅读更多...
开启虚拟机时出现此主机支持 Intel VT-x，但 Intel VT-x 处于禁用状态怎么解决

开启虚拟机时出现此主机支持 Intel VT-x，但 Intel VT-x 处于禁用状态怎么解决

问题描述 虚拟机安装完成后&#xff0c;点击开启此虚拟机弹出系统提示 原因分析&#xff1a; Intel VT-x 处于禁用状态&#xff0c;需要开启。 解决方案&#xff1a; 以联系小新笔记本电脑为例&#xff0c;进入BIOS界面&#xff0c;将Intel Virtual Technology设置成Enabl…
阅读更多...
STL--迭代器的介绍

STL--迭代器的介绍

一.迭代器介绍&#x1f357; 迭代器是 C 标准模板库&#xff08;STL&#xff09;中的一个重要概念。简单来说&#xff0c;迭代器就像是一个指针&#xff0c;用于访问和遍历容器中的元素&#xff08;比如数组、链表、集合等&#xff09;。迭代器提供了一种统一的方法来访问容器…
阅读更多...
力扣1448---统计二叉树中好节点的数量（Java、DFS、中等题）

力扣1448---统计二叉树中好节点的数量（Java、DFS、中等题）

题目描述&#xff1a; 给你一棵根为 root 的二叉树&#xff0c;请你返回二叉树中好节点的数目。 「好节点」X 定义为&#xff1a;从根到该节点 X 所经过的节点中&#xff0c;没有任何节点的值大于 X 的值。 示例 1&#xff1a; 输入&#xff1a;root [3,1,4,3,null,1,5] 输出…
阅读更多...
开启新纪元中凡工业装备邀您参观2024第13届生物发酵展

开启新纪元中凡工业装备邀您参观2024第13届生物发酵展

参展企业介绍 中凡工业是一家专注于螺旋板式换热器以及相关非标设备制造的生产厂家。公司产品主要应用于环保废水、污水处理、可再生能源、食品、药化、焦化、农化、精细化工等行业&#xff0c;为这些行业解决生产工艺中的液体加热&#xff0c;液体冷却&#xff0c;气体冷凝&a…
阅读更多...
聚观早报 | 沃尔沃发布一季度全球销量；苹果将举办财报电话会议

聚观早报 | 沃尔沃发布一季度全球销量；苹果将举办财报电话会议

聚观早报每日整理最值得关注的行业重点事件&#xff0c;帮助大家及时了解最新行业动态&#xff0c;每日读报&#xff0c;就读聚观365资讯简报。 整理丨Cutie 4月07日消息 沃尔沃发布一季度全球销量 苹果将举办新财报电话会议 荣耀Magic6支持5.5G通信 特斯拉将建最大超级充…
阅读更多...
Word技巧之【允许修改受保护文档的部分内容】

Word技巧之【允许修改受保护文档的部分内容】

给Word文档设置“限制编辑”&#xff0c;可以保护文档不能随意编辑更改&#xff0c;但如果文档中有部分内容&#xff0c;是需要供打开文档的人可以修改&#xff0c;要怎么使这部分内容允许修改呢&#xff1f;下面一起来看看&#xff0c;如何设置Word文档中允许部分内容可修改。…
阅读更多...
政安晨：【深度学习神经网络基础】（三）—— 激活函数

政安晨：【深度学习神经网络基础】（三）—— 激活函数

目录 线性激活函数 阶跃激活函数 S型激活函数 双曲正切激活函数 修正线性单元 Softmax激活函数 偏置扮演什么角色&#xff1f; 政安晨的个人主页&#xff1a;政安晨 欢迎 &#x1f44d;点赞✍评论⭐收藏 收录专栏: 政安晨的机器学习笔记 希望政安晨的博客能够对您有所裨…
阅读更多...
最新文章

Copyright @ 2022~2023