落园 » 关于R的若干SQL等价问题|专注经济视角下的互联网

关于R的若干SQL等价问题

以前总是觉得不同的计算机语言之间只是语法问题,思路其实还是差不多的--后来才知道不尽然如此。比如用惯了R作分析,切换到其他语言顿时觉得效率降低了好多,尤其是很多一行命令在R里面就可以搞定的时候-思维习惯了一定程度的跳跃,常用的操作(尤其是数据整理!)封装成函数之后工作效率那叫一个倍增啊!结合knitr,原来的时候生成定期报告的效率极其之高,基本属于10倍以上的时间节省。

现在公司的数据平台是teradata,典型的SQL结构,各种join。在这么大的数据量下,不可能直接取数据到本机来分析,只能借助SQL进行一定程度的降维。而后剩下的收尾分析工作,可以由R完成。至于两者之间分工的界限在哪里,我还在摸索一个效率最高的平衡点。不得不吐槽一下,SQL的逻辑思维方式真心没效率,完全是为了数据库性能和空间单位平衡而设计的,做分析的时候就额外的痛苦许多——90%以上的时间都用来琢磨怎么鼓捣出来自己需要的数据格式,全在数据清理上了!

抱怨完毕,除了祈祷hadoopR和oracle连接起来彻底摆脱SQL阴影之外,暂时只能跟SQL硬战。下面说说最近常见的几个相同功能在R和SQL里面分别的实现方法。

1. 生成新变量

多见的明确的任务啊。如果是数值型,比如变量D是其他三个变量ABC的显性函数f(A,B,C),最简单诸如D=A+B+C,在R和SQL里面都是直接写。

  • R:

    (当然还有更elegant的with()函数)
  • SQL(以select为例):

    然后如果f()稍稍复杂的话,R的可以定义函数的优势就明显了,SQL只有macro模式显然不足够灵活强大。如,

R:

注:%*%代表向量内积或矩阵乘法,这里为一个数字。理论上这里可以调用任何R中函数。

如果新变量是字符型,R的优势就更明显了,字符串操作函数例如substr()取字符串其中一段,paste()连接多个字符串,grep()和sub()查找替换类,自然比SQL灵活的多。还是那句话,只要能用函数写出来,R都可以方便地搞定。你问我拿SQL跟R比这个有意思么?明显SQL就不是为了这个功能专门设计的啊。好吧,常见的生成新变量的情况:有条件的生成新变量,比如年龄分组等,基本就是按照若干已知条件生成一个新的变量。这里,SQL的case when确实方便,比如年龄分为老中青三组:

SQL:

而R中,我一直用一种最笨的办法-刚刚搜了一下发现其实我的办法还是挺好用的。

当然也可以用ifelse()或者transform的方法,我倒是觉得没有这种笨办法清晰简洁易读,易于回头看代码。ifelse那堆括号哦!没有高亮匹配会死人的。

这里边界值随意,不考虑直接除法取整的情况。两种分类时可以直接用逻辑型简化,一行出结果;另,数值型离散化转换为factor型其实可以简单的用一个函数cut()搞定..(多谢yihui一语道破天机)

2. 分组加总等数据整理统计

要知道在很多时候,什么都比不上基本的求和均值方差有用,偶尔来个计数最大最小值就不错了。SQL一个group by 就神马都搞定了,比如对每组顾客购买的图书本书去重、求和。
SQL:

 

那么相对应的,在R中,我们的解决策略是万能的data.table()。
R:

也不麻烦对嘛~可是,R里面还是有可以调用多种函数的优势哦。嘻嘻。

3. 表的连接和数据混合

咳咳,thanks to 著名的三大范式,SQL语句永远逃不掉各种各样的连接,内外左右,inner join, outer join, left join, right join 写来写去有没有!R里面呢,类似于SAS,有个神奇的merge()函数。每次看到讲left join 的教程示例的时候都觉得真心罗嗦难懂,相比而言R的merge()函数简洁明了了许多有木有!

依旧,假设我们第一个表, 两个字段 book_id, book_quantity, 然后第二个表两个字段,book_id, book_type,包含的是书的分类信息。现在需要分类统计书的数量。

SQL:

这里用外链接,既如果图书在TB中没有分类信息,会自动归于NULL这一列。

用R呢,嘻嘻,很简单。

这里其实可以简写all=TRUE (T 在R中等价于逻辑值TRUE),只是为了更清晰所以把x,y分开了。多明显啊,我就是要保留两个表中所有的观测对象,如果任意表缺失标记为NA即可。很简单的,merge()的参数和四大连接的关系就是:
INNER JOIN 等价于 merge(all=F)
LEFT JOIN 等价于 merge(all.x=T, all.y=F)
RIGHT JOIN 等价于 merge(all.x=F, all.y=T)
OUTER JOIN 等价于 merge(all=T)

嗯啊,反正对我来说,这个更好理解...

至于SQL的where和having条件,基本就是R中对于行的选择,不再赘述,参见新变量生成那里对于行的选择。TOP或者limit也可以通过head或者直接指定行序号n:m来搞定。其他的常见的就不多了吧...过去两周的时间,我基本就在用R的整理数据框架思路来实现SQL语句撰写的煎熬中度过,多少次烦的时候都想直接砸了显示器或者哀叹如果能导出到R里面该多好...磨合期啊。

注:我现在理解SQL架构还有一项主要的feature就是索引,哈希表是个很强大的东东。这东西某种程度上类似R中factor类型的数据,但是貌似水要深很多,为了提升性能值得继续好好研究。

注2:NOSQL架构拯救分析师啊

注3:数据整理绝对是最耗分析师时间的活,如果思路不清晰不知道想要进入分析模型的数据长什么样子,那就真的悲剧了,往往一天两天就是徒劳。这也是我的小册子新版第一章加的就是数据整理,血泪的教训啊。
另外一个耗时间的就是excel或者word中作图配文字,这个绝对需要knitr来拯救-亲,对于每个分类统计是很简单,但是对于每个分类都画图的话,您难道还准备告诉excel作循环?然后一张张复制粘贴到word里面?省省时间吧,knitr会save your life的,绝对是工欲善其事,必先利其器。分析不是也不应该是体力活哦。下周的上海R沙龙,一定要好好称赞一下knitr,相比于 reproducible research,它对于业界的意义就在于没有BI系统之前,自动写报告...轻量化高效工具!

注4:ipad果然不适合码代码...有typo或不满排版的,容我稍后电脑上修改。

注5:开始研究RHadoop,各种沦落伤不起啊。


Comments

  • G_will says:

    真是敢写啊。。槽点很多但是不知如何下口。程序员表示只能又跪了。


    • Liyun says:

      欢迎专业人员吐槽...顺便学习一下原理。我两个语言都是半路出家,知其然而不知其所以然,片面之言,纯吐槽而已。见谅哈。


  • Yihui says:

    谢谢广告啊,最近大家给我打的广告有点重,我都不敢吱声了。

    AGE分类那事儿,虽然我对离散化有本能上的过敏,我还是不情愿地把cut()函数介绍给你好了。

    my_dataframe$D <- my_dataframe$A+ my_dataframe$B + my_dataframe$C可以更窈窕淑女一点,比如my_dataframe$D <- with(my_dataframe, A + B + C)

    程序猿/媛都是这坑望着那坑不平,楼上的还是起来说话吧。有时候我觉着让自己高兴的方案可能比最优方案好,享受这过程就好。R是一门古怪的语言,槽点数不清,但它的确大大解放了统计人。


    • Liyun says:

      ...粗鲁的降维无处不在,唉~

      谢谢cut()...话说整体折腾factor之间转来转去的孩纸伤不起啊....我举例的时候真的是太仁慈了,应该着重展现一下各种错综复杂的分组。


    • Liyun says:

      p.s. 楼上的八成看不到你的回复...米有邮件提醒。


  • yixuan says:

    Typo:

    My_dataframe$AGE_GROUP 50,]$AGE_GROUP =25 )& (My_datafame$AGE<= 50),]$AGE_GROUP 50是mid……


  • yixuan says:

    悲剧了,上面的回复大于小于号被转义了。

    Typo:
    My_dataframe$AGE_GROUP <- 'young'
    My_dataframe[My_dataframe$AGE > 50,]$AGE_GROUP <- 'mid' #应该是'old',虽然我也希望是'mid'
    My_dataframe[(My_dataframe$AGE >=25 )& (My_datafame$AGE<= 50),]$AGE_GROUP <- 'mid'


  • halida says:

    请问一下, 下周R沙龙的信息在哪里?


  • gaotao says:

    by, with, aggregate都是好东西..sqldf按数据框其中两列来取相等的行速度会快些吧..knitr莫用英文还是直接用太云的话嘛:延长寿命:)


  • 白日梦 says:

    R语言和SQL语言在基本应用领域还是有很大差异的, R测重数据分析, SQL侧重数据查询和管理, 要用好两个语言都不容易.


  • toby says:

    受教受教;百度了下,data.table这个包真心好用;貌似比merge还要快点?


  • Jining says:

    刚开始学SQL,用的mySQL...那篇后续还看不懂,倒是从这里面学到了点东西


Leave a Reply

Your email address will not be published. Required fields are marked *