Robust第22期:用AST实现简易的中文编程

广告位招租
扫码页面底部二维码联系

【版权所有,侵权必究】【关注微信公众号:wwwtangshuangnet】

中文编程是件很有意思的事情,通过基于AS本文作者:唐霜,转载请注明出处。【转载请注明来源】T的编译方法,可以让我们实现一种中文编程未经授权,禁止复制转载。【本文首发于唐霜的博客】语言。本期Robust主要聊一聊AST,【访问 www.tangshuang.net 获取更多精彩内容】【转载请注明来源】顺带把基于AST的编译实现过程,以及以中【本文受版权保护】著作权归作者所有,禁止商业用途转载。文编程为例子,聊一聊AST的一些用法,让本文版权归作者所有,未经授权不得转载。【版权所有】唐霜 www.tangshuang.net你在工作中,遇到一些特殊语法时,可以快速【版权所有,侵权必究】【原创内容,转载请注明出处】建立自己的解决方法。

著作权归作者所有,禁止商业用途转载。未经授权,禁止复制转载。【关注微信公众号:wwwtangshuangnet】

勘误:本期是22期,音频中说成21期。

【版权所有】唐霜 www.tangshuang.net【关注微信公众号:wwwtangshuangnet】【版权所有】唐霜 www.tangshuang.net

补充:AST可用于正式线上环境,不仅限于【访问 www.tangshuang.net 获取更多精彩内容】【本文受版权保护】编译器阶段。比如我音频中提到,我用AST【未经授权禁止转载】著作权归作者所有,禁止商业用途转载。完成模板渲染,就是在生产环境使用,否则就【版权所有】唐霜 www.tangshuang.net【本文受版权保护】没有意义了。

【版权所有,侵权必究】【转载请注明来源】本文作者:唐霜,转载请注明出处。

在线收听

网易云音乐:点击播放

【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】【版权所有】唐霜 www.tangshuang.net【原创内容,转载请注明出处】

喜马拉雅:点击播放

【作者:唐霜】【原创不易,请尊重版权】【原创不易,请尊重版权】本文版权归作者所有,未经授权不得转载。

你还可以在苹果自带的 Podcast 应【作者:唐霜】本文版权归作者所有,未经授权不得转载。用中搜“Robust”找到我们的节目收听未经授权,禁止复制转载。【原创内容,转载请注明出处】

【转载请注明来源】转载请注明出处:www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】

捐赠支持

求打赏🙇如果你觉得 Ro【原创不易,请尊重版权】【本文首发于唐霜的博客】bust 这样一档技术类的谈话节目还不错【未经授权禁止转载】未经授权,禁止复制转载。,希望我继续做下去,不妨打赏支持。

【原创内容,转载请注明出处】本文版权归作者所有,未经授权不得转载。【转载请注明来源】著作权归作者所有,禁止商业用途转载。

未经授权,禁止复制转载。【未经授权禁止转载】本文版权归作者所有,未经授权不得转载。

内容大纲

如果一等于一,那么显示“成功”。
【原创内容,转载请注明出处】【转载请注明来源】【原创内容,转载请注明出处】【访问 www.tangshuang.net 获取更多精彩内容】
【版权所有】唐霜 www.tangshuang.net本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。
人有一双眼睛,我是人。
【版权所有,侵权必究】未经授权,禁止复制转载。【关注微信公众号:wwwtangshuangnet】
如果我有一双眼睛,那么显示“成功”。
【原创不易,请尊重版权】未经授权,禁止复制转载。【本文受版权保护】原创内容,盗版必究。
本文作者:唐霜,转载请注明出处。【版权所有,侵权必究】
我的名字是“否子戈”。
著作权归作者所有,禁止商业用途转载。【访问 www.tangshuang.net 获取更多精彩内容】
我的学号是141446。
著作权归作者所有,禁止商业用途转载。【原创不易,请尊重版权】未经授权,禁止复制转载。
显示“我的名字和学号分别是「我的名字」、本文作者:唐霜,转载请注明出处。【原创不易,请尊重版权】「我的学号」”。
未经授权,禁止复制转载。本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】未经授权,禁止复制转载。
显示我的全部信息。
原创内容,盗版必究。本文作者:唐霜,转载请注明出处。
如果我的学号是偶数,那么显示我的名字。
著作权归作者所有,禁止商业用途转载。【转载请注明来源】【本文首发于唐霜的博客】【本文受版权保护】
【原创内容,转载请注明出处】【原创内容,转载请注明出处】【原创内容,转载请注明出处】
【访问 www.tangshuang.net 获取更多精彩内容】【关注微信公众号:wwwtangshuangnet】【版权所有】唐霜 www.tangshuang.net
1. 简易编程的共性
【版权所有】唐霜 www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】【未经授权禁止转载】
– 定义语句:什么是什么,什本文版权归作者所有,未经授权不得转载。【版权所有,侵权必究】么属于什么,什么有什么,什么的什么是什么
转载请注明出处:www.tangshuang.net【关注微信公众号:wwwtangshuangnet】【版权所有】唐霜 www.tangshuang.net
– 条件语句:如果̷【转载请注明来源】【未经授权禁止转载】0;那么
本文版权归作者所有,未经授权不得转载。【作者:唐霜】
– 逻辑语句:不仅̷【版权所有】唐霜 www.tangshuang.net【本文受版权保护】0;而且,既是……又是,和,或,不是,不【访问 www.tangshuang.net 获取更多精彩内容】著作权归作者所有,禁止商业用途转载。
著作权归作者所有,禁止商业用途转载。【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。【作者:唐霜】
– 循环语句:?从0到10依【关注微信公众号:wwwtangshuangnet】【作者:唐霜】次执行,循环5次,一直循环直到我的年龄为原创内容,盗版必究。原创内容,盗版必究。12
【转载请注明来源】原创内容,盗版必究。【本文首发于唐霜的博客】
– 运算语句:1加1,100原创内容,盗版必究。原创内容,盗版必究。除50,2的6次方
【作者:唐霜】原创内容,盗版必究。原创内容,盗版必究。【转载请注明来源】
– 函数语句:我会唱歌:树上【原创不易,请尊重版权】著作权归作者所有,禁止商业用途转载。的鸟儿成双对。我唱歌。
【作者:唐霜】【版权所有】唐霜 www.tangshuang.net
【未经授权禁止转载】【本文首发于唐霜的博客】原创内容,盗版必究。原创内容,盗版必究。
2. 抽象语法树(Abstract sy【版权所有】唐霜 www.tangshuang.net未经授权,禁止复制转载。ntax tree)
【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处:www.tangshuang.net
源代码的语法结构的抽象树状表示。源代码就著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。是一串字符串,该字符串是一种语法结构,既【访问 www.tangshuang.net 获取更多精彩内容】【本文首发于唐霜的博客】然是结构,那么就可以通过某种形式进行表示【访问 www.tangshuang.net 获取更多精彩内容】原创内容,盗版必究。,而AST就是其中的一种表示方法,它的特本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。点是将语法结构抽象成一个树状的数据结构,转载请注明出处:www.tangshuang.net【原创内容,转载请注明出处】在js中就是一个树状的对象结构。
本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。
原创内容,盗版必究。转载请注明出处:www.tangshuang.net【版权所有,侵权必究】
3. 怎么得到AST
【作者:唐霜】【本文首发于唐霜的博客】【本文受版权保护】【版权所有,侵权必究】
一般分为两步,第一步是通过一个token本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。izer方法,遍历原始字符串得到一个一维【作者:唐霜】【版权所有】唐霜 www.tangshuang.net数组,这个一维数组称为tokens。第二【本文首发于唐霜的博客】未经授权,禁止复制转载。步是通过一个parser方法,遍历tok【原创内容,转载请注明出处】【版权所有,侵权必究】ens得到一个树状结构的对象,这个对象被【未经授权禁止转载】未经授权,禁止复制转载。称为ast。
【关注微信公众号:wwwtangshuangnet】著作权归作者所有,禁止商业用途转载。【访问 www.tangshuang.net 获取更多精彩内容】
著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。【版权所有】唐霜 www.tangshuang.net
4. tokenizer方法
转载请注明出处:www.tangshuang.net【作者:唐霜】本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。
本质上,就是如何去切割字符串。首先,我们著作权归作者所有,禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net要定义自己的语法,去寻找语法中的关键字。【版权所有】唐霜 www.tangshuang.net【原创内容,转载请注明出处】比如,我们定义「如果一等于一,那么显示“本文作者:唐霜,转载请注明出处。【转载请注明来源】成功”。」这句话的内在逻辑,实际上是通过【未经授权禁止转载】【版权所有,侵权必究】“如果”“等于”“那么”“显示”以及双引著作权归作者所有,禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net号和句尾的句号表示的。每一个关键字,都有【访问 www.tangshuang.net 获取更多精彩内容】【访问 www.tangshuang.net 获取更多精彩内容】一个自己的类型,由被拆分之后得到的字符串原创内容,盗版必究。转载请注明出处:www.tangshuang.net段和每个段自己的类型组成的数组,就是to【原创不易,请尊重版权】著作权归作者所有,禁止商业用途转载。kens。所以「如果一等于一,那么显示“本文作者:唐霜,转载请注明出处。著作权归作者所有,禁止商业用途转载。成功”。」的tokens就是【(“条件”本文作者:唐霜,转载请注明出处。【未经授权禁止转载】,“如果”),(“数字”,“一”),(“【转载请注明来源】【本文受版权保护】判断”,“等于”),(“数字”,“一”)【关注微信公众号:wwwtangshuangnet】原创内容,盗版必究。,(“符号”,“,”),(“结果”,“那本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。么”),(“命令”,“显示”),(“文本【本文受版权保护】本文版权归作者所有,未经授权不得转载。”,”成功“),(”符号“,”。“)】
原创内容,盗版必究。【本文受版权保护】
具体怎么做呢?随便怎么都可以,只要你得到【未经授权禁止转载】【访问 www.tangshuang.net 获取更多精彩内容】正确预期的结果就行。
原创内容,盗版必究。本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。
【访问 www.tangshuang.net 获取更多精彩内容】【未经授权禁止转载】【转载请注明来源】【关注微信公众号:wwwtangshuangnet】
5. parser方法
【版权所有】唐霜 www.tangshuang.net原创内容,盗版必究。【原创不易,请尊重版权】【未经授权禁止转载】
和tokenizer非常像,也是在遍历过本文作者:唐霜,转载请注明出处。未经授权,禁止复制转载。程中,逐渐生成和组合出一个树状的数据结构原创内容,盗版必究。【版权所有】唐霜 www.tangshuang.net。在遍历一开始,生成一个根节点,一般该节【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】点的类型叫Program,并用一个bod【本文受版权保护】【本文受版权保护】y属性存放所有内部节点。根据碰到的tok著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。en类型,创建一个节点node,或将该t本文作者:唐霜,转载请注明出处。【作者:唐霜】oken的值作为当前节点的内容之一。总而著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。言之,和tokens单纯的一个数组不同,本文版权归作者所有,未经授权不得转载。【原创内容,转载请注明出处】parser遍历过程中生成的ast是有嵌本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。套结构的,比如一个函数或一个语句块,它本【关注微信公众号:wwwtangshuangnet】著作权归作者所有,禁止商业用途转载。身是一个节点,它的内容是节点的内容,而内原创内容,盗版必究。本文作者:唐霜,转载请注明出处。容又是由多个平行节点,以及它们的子节点组【版权所有】唐霜 www.tangshuang.net未经授权,禁止复制转载。成。
【本文首发于唐霜的博客】本文版权归作者所有,未经授权不得转载。【关注微信公众号:wwwtangshuangnet】本文版权归作者所有,未经授权不得转载。
【转载请注明来源】【本文首发于唐霜的博客】转载请注明出处:www.tangshuang.net著作权归作者所有,禁止商业用途转载。
6. AST转换
转载请注明出处:www.tangshuang.net【原创内容,转载请注明出处】【访问 www.tangshuang.net 获取更多精彩内容】
得到AST之后,我们就得到了关于一段代码著作权归作者所有,禁止商业用途转载。【本文首发于唐霜的博客】的抽象语法结构。但是,这段抽象语法结构必【作者:唐霜】本文版权归作者所有,未经授权不得转载。须要成为可以被计算机识别的代码,才可以在【原创不易,请尊重版权】本文作者:唐霜,转载请注明出处。计算机中运行,那具体怎么做呢?我们可以把本文版权归作者所有,未经授权不得转载。【本文受版权保护】它转化为其他可以直接运行的编程语言之后,【未经授权禁止转载】本文版权归作者所有,未经授权不得转载。再以其他编程语言直接运行,比如转化为js本文作者:唐霜,转载请注明出处。【未经授权禁止转载】语言在浏览器中直接运行,或者python原创内容,盗版必究。【版权所有】唐霜 www.tangshuang.net在机器上运行,当然,还可以有其他选择,比【原创不易,请尊重版权】【未经授权禁止转载】如直接转化为计算机指令运行,或者转化为c著作权归作者所有,禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net等语言,再编译后得到字节码运行。
【版权所有,侵权必究】未经授权,禁止复制转载。【转载请注明来源】【访问 www.tangshuang.net 获取更多精彩内容】
怎么才能将上面的AST转化为其他语言运行【访问 www.tangshuang.net 获取更多精彩内容】原创内容,盗版必究。呢?也分两步:AST转换,代码生成。
【原创不易,请尊重版权】转载请注明出处:www.tangshuang.net本文作者:唐霜,转载请注明出处。
AST转换就是将当前的AST转换为另外一【版权所有,侵权必究】【访问 www.tangshuang.net 获取更多精彩内容】个AST。经过转换后,可以方便的生成另外【转载请注明来源】转载请注明出处:www.tangshuang.net一种编程语言。比如,上面的中文文本中的如本文作者:唐霜,转载请注明出处。转载请注明出处:www.tangshuang.net果……那么结构,我们可以转化到shell未经授权,禁止复制转载。转载请注明出处:www.tangshuang.net脚本运行,而shell中表示如果……那么【本文受版权保护】转载请注明出处:www.tangshuang.net的语句是 if…then&#原创内容,盗版必究。原创内容,盗版必究。8230;fi 语句,所以,我们要将基于转载请注明出处:www.tangshuang.net【本文受版权保护】中文的这个AST转换为方便生成shell本文版权归作者所有,未经授权不得转载。未经授权,禁止复制转载。语句的ast。
原创内容,盗版必究。【未经授权禁止转载】
【作者:唐霜】【作者:唐霜】未经授权,禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】
7. 生成代码
未经授权,禁止复制转载。【未经授权禁止转载】原创内容,盗版必究。
在经过AST转化之后,得到一个新ast,未经授权,禁止复制转载。原创内容,盗版必究。而这个新ast,是比较方便新代码生成的a【版权所有】唐霜 www.tangshuang.net【原创内容,转载请注明出处】st。什么样才方便生成新代码呢?生成新代本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。码的过程,实际上也是一个遍历过程,在遍历未经授权,禁止复制转载。本文作者:唐霜,转载请注明出处。过程中,不断组合成新代码的字符串。遍历结【原创内容,转载请注明出处】【原创内容,转载请注明出处】束的时候,就是新代码字符串完成出现的时候【版权所有】唐霜 www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】。而由于ast是一个树状结构,遍历树的方原创内容,盗版必究。【关注微信公众号:wwwtangshuangnet】法也很简单,所以,拼接字符串而已。
【本文受版权保护】【版权所有,侵权必究】
【版权所有】唐霜 www.tangshuang.net未经授权,禁止复制转载。【本文首发于唐霜的博客】【关注微信公众号:wwwtangshuangnet】
8. 提供修改ast的接口
原创内容,盗版必究。【转载请注明来源】本文版权归作者所有,未经授权不得转载。
基于ast的js转化工具babel,提供【本文首发于唐霜的博客】【本文首发于唐霜的博客】了插件能力。它的插件主要是对已经解析好的【作者:唐霜】【原创不易,请尊重版权】es ast进行调整。同样的道理,我们一著作权归作者所有,禁止商业用途转载。【原创内容,转载请注明出处】般会在这个过程中,提供一种让开发者调整a本文作者:唐霜,转载请注明出处。【访问 www.tangshuang.net 获取更多精彩内容】st的接口。
【版权所有】唐霜 www.tangshuang.net原创内容,盗版必究。【转载请注明来源】
通过这种调整,开发者可以控制最终输出的代本文作者:唐霜,转载请注明出处。【原创内容,转载请注明出处】码。比如调整代码输出的顺序,只需要改变a转载请注明出处:www.tangshuang.net【本文受版权保护】st中节点的顺序即可。
著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。
但是你会发现,要通过babel支持新语法转载请注明出处:www.tangshuang.net本文版权归作者所有,未经授权不得转载。则比较麻烦。比如,我们要支持一个@@的语【访问 www.tangshuang.net 获取更多精彩内容】【原创内容,转载请注明出处】法,非常麻烦,我们需要克隆babel的代【转载请注明来源】本文版权归作者所有,未经授权不得转载。码,然后自己去修改babel解析器中的逻本文作者:唐霜,转载请注明出处。【原创不易,请尊重版权】辑,才能完成这个语法添加。这是因为,ba本文作者:唐霜,转载请注明出处。未经授权,禁止复制转载。bel并没有直接提供tokenizer和【本文首发于唐霜的博客】本文作者:唐霜,转载请注明出处。parser的接口。
未经授权,禁止复制转载。【未经授权禁止转载】本文版权归作者所有,未经授权不得转载。【本文首发于唐霜的博客】
【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net
9. 编译器
转载请注明出处:www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】【版权所有,侵权必究】
这样我们就发明了一门新编程语言,用中文来【版权所有,侵权必究】【原创不易,请尊重版权】编程。虽然它的能力还比较弱,只支持简单的【本文受版权保护】本文作者:唐霜,转载请注明出处。加减乘除,但是,你会发现用中文写代码,比【原创不易,请尊重版权】转载请注明出处:www.tangshuang.net英文写代码代码量更少,且表达更准确。
【访问 www.tangshuang.net 获取更多精彩内容】未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。
【原创不易,请尊重版权】本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。【未经授权禁止转载】
10. AST还能干什么?
转载请注明出处:www.tangshuang.net【本文首发于唐霜的博客】
我在腾讯内完成了一个从模板到界面的功能,本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。我让客户按照我提供的特定标识进行模板撰写【转载请注明来源】【原创内容,转载请注明出处】,而这样撰写出来的模板实际上就是有语法的【版权所有,侵权必究】【转载请注明来源】文本。借助ast,这些模板被解析为特定的【访问 www.tangshuang.net 获取更多精彩内容】【原创内容,转载请注明出处】ast,而利用这个ast,我做了3件事:【关注微信公众号:wwwtangshuangnet】未经授权,禁止复制转载。1)语法高亮,客户写模板时,有颜色提示;转载请注明出处:www.tangshuang.net【作者:唐霜】2)实时预览,客户写模板时,可以实时看到【作者:唐霜】本文版权归作者所有,未经授权不得转载。模板解析为表单后的界面效果;3)生成表单【原创不易,请尊重版权】【版权所有】唐霜 www.tangshuang.net,ast和react结合,直接生成表单。
本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。
总而言之,AST可以帮你把一个符合某种语【本文受版权保护】本文作者:唐霜,转载请注明出处。法的字符串,转化为计算机系统中其他任意表著作权归作者所有,禁止商业用途转载。【本文首发于唐霜的博客】现形式的目标。
本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】【转载请注明来源】【转载请注明来源】
【本文受版权保护】未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。

【转载请注明来源】原创内容,盗版必究。

2020-12-20 3807

为价值买单,打赏一杯咖啡

本文价值38.07RMB