scala linq & monad
Overview
最近看SparkSQL,想到scala原生集合支持这么多操作,就想搞个scala的linq出来。
linq无非就是一层语法糖,解糖后就是一堆lambda+方法调用而已,scala的for也能实现类似的功能,简洁度似乎还更胜一筹。那我为什么还要搞这个呢?因为有得搞呗。暂时给这个项目取名叫slinq,最终能不能成型还不一定。
linq要素
参考这个问题,c#中完整的linq有这么几个要素:
- Lambda Expression
- Query Expression
- Extension Methods
- Expression Tree
- Anonymous Types
1是有的不用说。
2的话很难做到完整的形式,只能用scala的中缀语法+宏实现类似的,最终可能是这样的效果:
var x,y:Int=0
linq from x in List(1,2,3)
from y in List(1,2,3)
where x > 0 && y > 0
select (x, y);
where子句后面的那个表达式要在编译时用宏展开成一个lambda。多余的是前面那一堆元素的声明还有开头的linq。scala目前宏的能力貌似并不能灵活到取消前置的声明,目前也没想到其它的办法。但是其实留着还是有好处的,毕竟可以方便IDE的自动补全。
然后,4表达式树,宏和反射的部分都有,但暂时还没考虑做linq provider,先做好linq to objects就满足了。
5匿名类型,这个好像不是很有必要,没了解清楚,个人觉得用Map就够了吧。
Monad
写得比较乱哈,一些基础的东西都省略了。有空再详细更吧。
要实现一个linq必须要理解monad,因为linq语法有一个很大的用途就是把一堆monad连起来,这是通过SelectMany实现的。
那么monad到底是什么呢,说白了,就是自函子范畴上的一个幺半群而已。。。好吧,其实我也理解不深。总的来说呢,monad是一种类型,关于它定义了两个操作id和bind,并且满足三个条件。
以类型M[T]
为例吧,对于这个类型,其中id
的签名是:
def id[T](value:T):M[T]
也就是将类型T
的元素打包一下返回一个M[T]
。
然后bind操作,就把bind定义在类型里面吧,这样调用bind可以写成中缀的形式:
class M[T] {
def bind[R](func:T => M[R]):M[R]
}
可以这样理解,bind
把M[T]
类型的值拆箱得到T
类型的元素,然后调用函数func
,得到类型M[B]
。
如果id
和bind
满足以下三个条件,那么M就是一个monad了。
val x:T
val m: M[T]
val f,g: T => M[R]
id(x) bind f == f(x) // 条件1
m bind id == m // 条件2
(m bind f) bind g == m bind ( x => (f(x) bind g) ) // 条件3
(上面的代码是不合法的,读者只需要注意类型签名即可。)
其实从数学意义上讲,M[T]这种带参数的类型都是函子,它把范畴映射为范畴,这里映射前后的范畴都是类型也就是自己没变,所以叫做自函子。省略xxxx……
那么有什么用呢?参考第三个条件,它可以把返回monad的一系类操作串起来。IEnumrable<T>就是一个monad,SelectMany其实就是bind操作,于是linq通过SelectMany也就可以方便的书写串起来的操作,而不是一个个lambda嵌套了。
了解更多可以参考 here
SelectMany
在翻译这样的嵌套查询时:
from q in items
from r in a(q)
from s in b(q, r)
from t in c(q, r, s)
from v in d(q, r, s, t)
select e(q, r, s, t, v)
由于变量作用域的原因,两层的话可以直接翻译成三参数的SelectMany,而太多层的话,只能翻译成嵌套的lambda和SelectMany,静态分析很困难,类型签名写起来也麻烦。
这里 提到了c#编译器使用了transparent identifiers的技术,让变量在整个查询里始终可见。实现slinq的时候,怎么解决这个问题还要再想一想。
最后
玛德研究了半天才发现。。。linq这样的糖scala早就有了,也就是for,它会编译成嵌套的flatmap和map调用,也等价于Haskell的do notation,能把monad操作连接起来。
但是还是喜欢linq的用法,继续搞吧。