PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

PyTorch社区最近有一种声音:下个版本应该抛弃Python改用Julia语言。

PyTorch社区最近有一种声音:下个版本应该抛弃Python改用Julia语言。

现在就连PyTorch团队内部也会拿这个说法来开玩笑。

对这个问题,核心开发成员中的Edward Yang在论坛上作出过一些回应。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

他认为PyTorch的确越来越像Julia了,比如借鉴Julia的多重分派特性开发了Pytorch Dispatcher。

PyTorch总体的发展方向也和Julia的愿景一致,也就是同时具备拓展性、易用性和执行性能。

一方面PyTorch的底层代码后期用C++重写以获得更好的性能,另一方面functorch、fx等新功能又让用户可以直接使用Python做以前必须借助C++完成的工作。

那为什么不直接改用Julia呢?

害,其实是舍不得Python那无可替代的生态

简而言之,Julia语言本身的特性和Python的生态他们全都要,向Julia的优点学习也是团队未来的努力方向。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

那么,Julia这种语言到底好在哪,让PyTorch开发团队都向它学习?

面向科学计算设计的语言

Julia来自麻省理工CSAIL实验室,设计初衷就是想要一个既有C的速度又有Ruby的动态性、既能像Matlab一样使用数学表达式又有Python的通用性。

Julia要能像Perl一样自然地处理字符串、像R一样适用于统计,像Shell一样作为胶水语言去和其他语言交互。

要有Hadoop的并行计算能力,又不想要那些繁杂的配置。

最后做出来的Julia采用即时编译(Just In Time),速度比需要解释器的Python快得多,又没有失去交互性。

通过多重分派(Multiple Dispatch)特性来实现类型稳定又不时脚本语言的简洁灵活。

同一个函数名对不同参数类型的调用分派不同的操作,因为适合处理多种数据类型还被PyTorch给学了去。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

具体到机器学习来说,Julia执行各类算法包括矩阵运算的速度都比Python快得多。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

Julia生态里也有自己的开源深度学习框架Julia Flux。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

此外Julia还在语法上对线性代数、数据处理这些场景有额外的优化。

比如支持Unicode数学符号,数字乘以变量时候可以省略「*」,以及索引从1而不是0开始更符合人类直觉….

Julia代码可以写成这样:

α = 0.5 ∇f(u) = α*u; ∇f(2) sin(2π)

以至于有些数学背景的开发者认为,Julia代码写起来就像在黑板上做数学题一样的,很亲切。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

相比之下,用Python做矩阵运算感觉就……不是那么好。

Python:

np.dot(array1,array2)

Julia:

array1 .* array2

Julia的历史可以追溯到2009年,由于想实现的功能太多,直到2018年才对外发布1.0正式版。

不过最近几年Julia已迅速被金融、医药、航天等一些行业接受,使用者包括摩根大通、辉瑞、NASA等。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

△ TIOBE指数中的Julia流行趋势变化

Julia改变了过去他们只能用C等高性能语言做底层开发、同时用高易用性的Python等语言做扩展开发的割裂问题。

今年7月,Julia创始团队成立的公司Julia Computing还获得2400万美元的A轮融资。

Julia语言速度快、天生适合机器学习又在高速成长,也难怪PyTorch社区会有用Julia替代Python的声音出现。

有人认为Python是一种糟糕的语言,虽然有优秀的生态,但生态中对机器学习最有价值的部分(Numpy)其实是用C实现的。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

Python生态虽然强大,但人们对其中的混乱也有不少诟病,各种重复开发的包管理系统让配置好Python开发环境都不是一件容易事。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

相比之下,Julia的包管理方案就很统一,虽然有可能是还在起步阶段没来得及混乱。

也有人认为Python这些所谓的缺点其实正是它流行的原因。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

这位要提醒大家Julia自身就带有和其他语言的交互功能,他平常会在Julia代码里调用Huggingface的Python模型作开发,两种生态都用上才是坠吼的。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

最后,有人很不理解PyTorch开发团队不选择迁移到Julia的做法,既然Julia语言有所有他们需要的特性,还要花时间在Python里重新造轮子是自找麻烦。

PyTorch核心开发者灵魂发问:我们怎么越来越像Julia了?

另一位的视角有些微妙的不同:

参考链接:
[1]https://dev-discuss.pytorch.org/t/where-we-are-headed-and-why-it-looks-a-lot-like-julia-but-not-exactly-like-julia/276
[2]https://news.ycombinator.com/item?id=29354474
[3]https://ucidatascienceinitiative.github.io/IntroToJulia/Html/WhyJulia

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/134458.html

(0)

相关推荐

  • 今年的苹果业绩,供应链引发的“冰与火之歌”

    小米合伙人卢伟冰说过,一部手机中有大大小小 114 颗芯片,2021年的苹果,这一手机巨头的股价和业绩,也随着这114颗“心”跳动。今年,我们可以看到苹果公司的股价和业绩如何围绕【供应链】这一短期主题上下波动,被构造与消化。

    科技 2021年11月11日
  • 安徽城市发展,安徽省区域中心城市

    近年来,随着安徽整体被纳入长三角发展规划,无论是经济发展体量,还是经济发展质量都有了显著提升。在如今长三角“三省一市”深度融合的大背景之下,安徽在产业承接转移、科技创新、交通建设、营商环境等方面无疑将是最大的受益者。随着“十四五”的全面开启,安徽必将再次迎来发展重大机遇期,崛起的安徽将前途无量。

    生活 2021年11月28日
  • 亲子漫步|给孩子上辅导班的家长怎么了?

    在一个教育变革的时代,没有多少家长能不迷茫。值得庆幸的是,你还拥有深爱你的孩子。

    生活 2021年10月30日
  • 书本带领我们走进奇妙的童话,童话里的小屋课件

    小时候,总梦想着拥有一间属于自己的书房。奈何家庭条件有限,连书都是奢侈品,更别提书房了。如今,随着孩子渐渐长大,虽然依旧没有专门的书房,但书终究是不少的。每当看着孩子欢乐的读书身影,又仿佛看到曾经的自己,心里竟然觉得格外满足。

    生活 2021年10月28日
  • 先天性心脏病和后天性心脏病,先天性心脏病严重吗

    先天性心脏病是小儿时期最常见的心血管疾病。随着诊断技术的提高,通过外科手术,术后科学护理,大多数的先天性心脏病患儿都可以及时彻底地根治,预后较好。如发现孩子有以下表现之一则应警惕,及时到医院检查诊治:

    生活 2021年12月7日