数据挖掘案例
沃尔玛把啤酒和尿布摆在一起卖,数据这事被讲了二十年。挖掘真去翻原始数据,案例那只是数据个门店级别的关联规则挖掘,样本量小得可怜,挖掘后来还被证实是案例促销活动导致的伪相关。但这恰恰说明数据挖掘的数据核心问题:算法能从数据里捞出无数条规则,判断哪条有用,挖掘靠的案例是人。 我拿一个真实项目来说。数据某电商平台做用户流失预警,挖掘三百万活跃买家,案例定义"流失"为连续90天无下单。数据团队先用逻辑回归跑了一版,挖掘AUC 0.82,案例看着不错。上线后召回率崩了——模型把大量"季节性沉默用户"标成了流失。这些人每年只在双十一前后买东西,平时本来就不活跃。问题出在标签定义上,90天的窗口对高频品类合理,对家电数码就是噪声。 后来改成按品类分层建模。高频快消品用30天窗口,耐用品用180天。AUC没怎么涨,但召回率提了23个百分点。这说明数据挖掘里最值钱的活儿不是调参,是定义问题。 Apriori算法是教科书标配。设定最小支持度0.01、最小置信度0.6,跑一遍超市交易数据,出来几百条规则。大部分是废话——买了酱油的人大概率买盐,这需要挖掘吗? 有用的规则往往反直觉。比如某母婴品牌发现,购买婴儿湿巾的订单里,同时出现红酒的概率是基准的3.7倍。不是爸爸们带娃压力大,是这两类商品在同一个促销堆头旁边。数据挖掘捞出来的"知识",拆开看经常是运营动作的副产品。 所以做关联分析,第一步不是选算法,是搞清楚数据生成过程。促销排期、页面改版、库存调拨,这些都会在交易数据里留下痕迹。不把这些因素剥离,挖出来的规则就是刻舟求剑。 K-Means是最常用的聚类方法,但它要求你提前指定K值。很多项目里K是拍脑袋定的。我见过一个用户分群项目,业务方说要分5群,因为"五个好记"。跑出来一看,其中两群的消费行为几乎重叠,硬拆的。 更靠谱的做法是用DBSCAN或者层次聚类先看数据自然形成的簇数,再结合业务可解释性做取舍。某在线教育平台做用户分群,最后定了7群,但真正在运营中用到的是3群——高活跃高付费、高活跃低付费、低活跃高付费。剩下4群是过渡态,单独拿出来做策略性价比太低。 聚类结果的价值不在算法多精妙,在于业务方能看懂并且能据此设计动作。分出来的群如果运营团队不知道怎么触达,那这个聚类就是自嗨。 金融反欺诈里,异常检测模型上线第一个月抓了2000笔可疑交易,人工审核后发现只有17笔是真的欺诈。误报率99%以上。不是模型差,是欺诈样本本身极少,监督学习根本喂不饱。换成无监督的孤立森林,效果也没好到哪去。 后来团队换了个思路:不做全量异常检测,只对高风险场景做规则+模型的双重过滤。比如同一设备短时间内关联超过5个账户,先触发规则预警,再用模型打分。误报率降到12%,召回率保持在80%以上。 数据挖掘不是万能钥匙。很多时候,一个精心设计的业务规则比复杂模型更管用。关键是知道什么时候该用锤子,什么时候该用螺丝刀。 做这行久了会发现,最难的从来不是技术选型。是跟业务方对齐什么叫"有用",是清洗那些脏得离谱的数据,是解释为什么模型这次又抽风了。算法只是工具,判断力才是壁垒。关联规则那点事
聚类没你想的那么智能
异常检测的坑
-
上一篇
-
下一篇
- 随机阅读
- 搜索
-
- 友情链接
-