Initial commit

skd/job/stathour/stat.go

@@ -0,0 +1,94 @@
+package stathour
+
+import (
+	"context"
+	"stat/common/log"
+	"stat/common/statutils"
+	"stat/common/utils"
+	"stat/models/appInfoMod"
+	statrecordmod "stat/models/statrecord"
+	"time"
+)
+
+/*
+*	主要统计任务:
+* 	 按1个小时一个点，记录实时数据 app（新增、访问数....）
+ */
+
+// RunStat // 按10分钟的频率去统计
+func RunStat(defaultStatDate time.Time) error {
+	log.Info("APP hour stat ......")
+	ctx := context.Background()
+	recordMap := defaultTimeMap(defaultStatDate)
+
+	// 1.获取统计项上次统计的时候(每天执行)
+	recoredResult, err := statrecordmod.LastRecordTimeMap(ctx, statrecordmod.AppHour) //第一次从默认记录时间开始统计
+	if err != nil {
+		log.Error("APP hour stat ", log.E(err))
+		return err
+	}
+	for _, record := range recoredResult {
+		recordMap[record.Item] = record.RecordTime
+	}
+
+	now := time.Now().Add(time.Minute * -5)    // 延迟5分钟，数据同步完成
+	statFrq := 10 * time.Minute                // 统计频率
+	curStatTime := utils.RecentMinute(now, 10) // 按10分钟对齐
+
+	appIds, err := appInfoMod.GetAppIds(ctx)
+	if err != nil {
+		log.Error("APP hour stat  GetAppIds failed!", log.E(err))
+		return err
+	}
+
+	for item, lastStatAt := range recordMap {
+		_lastStatAt := lastStatAt
+
+		for curStatTime.After(_lastStatAt) {
+			end := _lastStatAt.Add(statFrq)
+			// 超过本次统计结束时间，则结束
+			if end.After(curStatTime) {
+				end = curStatTime
+			}
+			// 根据时间段统计数据
+			//fmt.Println("APP hour stat ", _lastStatAt, end)
+			err := runStatMethod(ctx, item, _lastStatAt, end, appIds)
+			if err != nil {
+				log.Error("APP hour stat runStatMethod failed!", log.E(err), log.Any("item", item))
+				return err
+			}
+
+			_lastStatAt = end
+		}
+		recordMap[item] = _lastStatAt
+	}
+	log.Info("APP hour stat ")
+	return nil
+}
+
+// runStatMethod 调用统计项方法
+func runStatMethod(ctx context.Context, item string, start, end time.Time, appIds []int32) (err error) {
+	// 1.获取统计方法
+	statMethod, ok := statMethodMap[item]
+	if !ok {
+		return nil
+	}
+
+	// 调用统计方法，获取数据
+	err = statutils.ServerMon.RunWithName(func() error {
+		return statMethod(ctx, start, end, appIds)
+	}, statutils.GetFuncName(statMethod))
+
+	if err != nil {
+		log.Error("APP hour stat statMethod failed!", log.Any("statItem", item), log.E(err))
+		return err
+	}
+
+	// 3.更新记录
+	if err := statrecordmod.UpsertItemRecord(ctx, statrecordmod.AppHour, item, end); err != nil {
+		log.Error("APP hour stat  commit UpsertItemRecord failed!", log.E(err))
+		return err
+	}
+
+	return nil
+}