落园 » 小窥“高维数据降维”|专注经济视角下的互联网

小窥“高维数据降维”

算了,还是“一心只读圣贤书”吧。我觉得保险公司应该开发一个新险种:高铁动车险。你看我们坐汽车坐飞机都可以有保险买的,怎么坐火车的时候从来都没有这个选项?飞机的旅行保险貌似是细致到各种可能出现的事端,比如“晚点”、“取消”,那么高铁保险也可以以“停电”“雷击”“脱轨”等等名义来帮助消费者分担风险。最近看新闻看多了,弄得我这个在欧洲这么一个航班延误算是家常便饭的地方都不买保险的人,回来之后能买就买。说了这么多,我只是在小小思量明天应该怎么回家啊,这个高铁还敢不敢坐啊?查了查明天的高铁剩余车票,基本上京沪高铁都没怎么卖出去嘛!看来大家已经开始“用脚投票”了。

刚才在例行的看订阅的东西,就瞟见木遥终于更新了一篇学术日志:J-L 定理,以及为什么一个立方体相当于一个球壳。开始的时候没注意是他的,还在想谁能用中文写关于纯数学的blog;定睛一看之后,果然是木遥。这篇日志中提到的J-L定理,大致是:

Johnson–Lindenstrauss 定理是我在今晚的一个学术报告里听说的一个非常令人惊讶的定理。简单说来,它的结论是这样的:一个一百万维空间里的随便一万个点,一定可以几乎被装进一个几十维的子空间里!

本能的出于对中文写作的文献的不信任(无关作者国籍,只是说写作语言,中文论文噪音实在是太大了,甄别起来太费事儿),我顺手搜了搜,找到了一篇1999年的证明,上曰:

The Johnson-Lindenstrauss lemma shows that a set of n points in high dimensional Euclidean space can be mapped down into an O(log n=ffl 2 ) dimensional Euclidean space such that the distance between any two points changes by only a factor of (1 Sigma ffl).

到这里,基本和上面先引用的木遥深入浅出的解释一致了。Google scholar继续给力,一下子又看到了两篇应用这个定理的paper:

  1. Ella Bingham and Heikki Mannila. 2001. Random projection in dimensionality reduction: applications to image and text data. In Proceedings of the seventh ACM SIGKDD international conference on Knowledge discovery and data mining (KDD '01). ACM, New York, NY, USA, 245-250.
  2. Nir Ailon and Bernard Chazelle. 2006. Approximate nearest neighbors and the fast Johnson-Lindenstrauss transform. In Proceedings of the thirty-eighth annual ACM symposium on Theory of computing (STOC '06). ACM, New York, NY, USA, 557-563.

(还请大家暂时容忍我的引用不规范……不想开Zotero了)

第一篇文章便是应用了Random projections来进行降维处理,是一篇实证文章,比较了Random projections和其他经典方法的优劣,采用的是图像和文字数据;第二篇则是基于上面的J-L定理,发展出来的Fast-Johnson-Linden-strauss-Transform(FJLT)变换算法:The FJLT is faster than standard random projections and just as easy to implement. 看到这里,大致可以理解J-L定理的基本原理和相应的发展趋势了。当然,还有一些研究者在继续探究J-L定理的性质,比如这篇William B. Johnson , Assaf Naor, The Johnson-Lindenstrauss lemma almost characterizes Hilbert space, but not quite, Proceedings of the Nineteenth Annual ACM -SIAM Symposium on Discrete Algorithms, p.885-891, January 04-06, 2009, New York, New York。我就没有细细看此文了,以一个标题党的眼光这篇文章大致指出了J-L定理(或者引理?)还不足以完美的勾勒Hilbert空间的性质吧。

关注高维数据降维,一者是最近貌似高频大规模数据处理很热,姑且认为这种需求大概是近十几年计算机大规模应用在各个行业的必然结果吧;另者巧的是最近google不是出了个新的图片搜索么,可以直接拖图到搜索框中。正好看到了一篇blog论及与此,好奇之下也就在关注google的算法:

When you upload an image to Search by Image, the algorithms analyze the content of the image and break it down into smaller pieces called “features”. These features try to capture specific, distinct characteristics of the image - like textures, colors, and shapes. Features and their geometric configuration represent the computer’s understanding of what the image looks like.

  • 对于每张图片,抽取其特征。这和文本搜索对于网页进行分词类似。
  • 对于两张图片,其相关性定义为其特征的相似度。这和文本搜索里的文本相关性也是差不多的。
  • 图片一样有image rank。文本搜索中的page rank依靠文本之间的超链接。图片之间并不存在这样的超链接,image rank主要依靠图片之间的相似性(两张图片相似,便认为它们之间存在超链接)。具有更多相似图片的图片,其image rank更高一些。

简而言之,Google不过是把图片的特征提取,从我的理解来看也是一种把高维数据进行降维处理的思路。

说来有趣,我本身不是一个学计算机出身的,虽然机缘巧合的在大学期间学了很多涉及编程的东西,但更多只是限于语法,还谈不上算法。总所周知,国内的算法和数据结构教材有够陈旧和不实用,所以当年算法就没学好……不过对于“时空复杂度”的基本概念还是有的。后来发现经济学里面居然也盛行编程,当然大多数是一种数值模拟的思路(计量除外)。只是这里大多情况下也用不到什么算法了,一个定理出来之后算法的思路基本就很明晰了,更多的只是在于如何更好地定义初始的数据结构,以及一些基本的小tricky的选择(比如是插值算法是牛顿插值还是其他)。另有一种感觉就是以现在计算机的高计算能力和大多数情况下经济学里面对于模拟的要求,根本不需要找个高效率的算法——大多情况下循环也循环不了多少次,计算机跑1秒和2秒的差别又何在?弄得我有时候就是偷懒,明知程序写出来很没效率,还是不愿把时间花费在思考一个更有效的算法上——只要找一台更好的计算机便是了嘛!于是在我的笔记本已然承载不了的情况下,开始折腾学校里面的计算机,哈哈。当然,已知的更好的收敛算法还是会考虑的,比如经典的"policy function iteration"和"value function iteration"……顿时想起当年严格证明前者的迭代结果和后者一样的痛苦经历……于是于我,心里便暗暗的有种感觉,算法不是学CS人的事儿,是学math的人的事儿……各种美妙的数学定理才是更好的算法的源泉啊。

另,木遥提到的另外的关于高维空间中大数定理的问题,也很有趣,值得稍稍琢磨一下。无奈我数学基础还不够,尚不能完全理解他说的那些东西,看来还是需要时日打磨啊。


Comments

  • grapeot says:

    目前machine learning里面最经典的几种降维方法是
    PCA (linear, 一个很好的教程:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.115.3503&rep=rep1&type=pdf)
    KernelPCA (Nonlinear, http://www.eecs.berkeley.edu/~wainwrig/stat241b/scholkopf_kernel.pdf,更深入的教程可以看Learning with kernels)
    和LLE (Nonlinear, http://www.sciencemag.org/content/290/5500/2323.full)

    供参考。:)


    • cloudly says:

      哇,多谢多谢!没想到果然有高人在读我的blog,倍感荣幸啊。
      话说,你是从中科大到哥伦比亚去的么?好强悍~


    • cloudly says:

      另,草草扫了一眼第一篇tutorial,牵扯到代数的地方没细细看,很多东西以前没接触过有距离……不过这tutorial中对于直觉的描述还是蛮好的,很清晰生动,“best express”这种想法真的很有趣,受教了~
      总之,多谢多谢!很珍贵的讲义啊。


  • grapeot says:

    BTW, 我有个师兄才从巴塞罗那回来。。。 😀


  • grapeot says:

    (震惊)你咋知道的?拜人肉技能。。。
    不用谢哈,我也很喜欢这篇讲义,讲得很直观~~ 🙂


    • cloudly says:

      不好意思,我顺手点了一下你的blog……然后就看到某篇文章中有提及你的一些情况,哈哈。至于CU,IP直接告诉我了……这个最省心。不扯了,我总是人肉大家多不好~
      话说,是不是有个词儿叫做“大规模机器学习”,和我们这里说到的高维数据降维是一回事儿么?我看的有点晕,就在此借问一下。


  • grapeot says:

    大规模机器学习有两个含义,一个是说数据的维度特别高,更多的是说数据的个数特别多。
    前者带来的问题一个是算法耗时增加,更严重的问题是overfitting。但是在一定条件下这两个问题都是可以解决的,可以参见这篇文章:http://arxiv.org/PS_cache/arxiv/pdf/1104/1104.4824v1.pdf
    后者学术界主要是提出时间空间上都更高效的方法,比如Hashing,Streaming algorithms等等。因为这个问题的现实意义,工业界也很关注这一点,但他们除了关注算法效率之外,还关注算法的扩放性(scalability)。CU有一门课讲得是这个,可以参考:http://www.cs.columbia.edu/~coms699812/


    • cloudly says:

      哇好开眼界啊 🙂 好感谢的说~看看在接下来的实践中会遇到什么问题,然后再继续研究这些东西。到时候还望不吝赐教哈~请忍耐我的Email骚扰哈哈。


  • grapeot says:

    不要说请教哈~~有个人讨论当然最好啦! 🙂


  • lonelyboy says:

    灰来灰去~前来膜拜一下~为啥看起来像聚类分析...


Leave a Reply

Your email address will not be published. Required fields are marked *