第050期: AI生成UI,低代码2.0

广告位招租
扫码页面底部二维码联系

AI已经成为替代编程工作的火热话题,本期未经授权,禁止复制转载。【作者:唐霜】主要来聊一聊,如何在低代码平台的建设成果著作权归作者所有,禁止商业用途转载。未经授权,禁止复制转载。上,利用LLM的能力,可以实现简单的智能【转载请注明来源】未经授权,禁止复制转载。化UI生成需求。

未经授权,禁止复制转载。【关注微信公众号:wwwtangshuangnet】【本文受版权保护】

在线收听

喜马拉雅:点击播放

【关注微信公众号:wwwtangshuangnet】【版权所有,侵权必究】

你还可以在苹果自带的 Podcast 应【版权所有,侵权必究】【未经授权禁止转载】用、小宇宙APP、QQ音乐中搜“Robu著作权归作者所有,禁止商业用途转载。【转载请注明来源】st”找到我们的节目收听。

原创内容,盗版必究。本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。

捐赠支持

求打赏🙇如果你觉得 Ro【未经授权禁止转载】未经授权,禁止复制转载。bust 这样一档技术类的谈话节目还不错【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。,希望我继续做下去,不妨打赏支持。

【版权所有,侵权必究】未经授权,禁止复制转载。

著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。【访问 www.tangshuang.net 获取更多精彩内容】

内容摘要

过去1年,LLM-based已经成为AI【原创内容,转载请注明出处】【转载请注明来源】的新范式,于此同时,自然语言生成图片、视本文作者:唐霜,转载请注明出处。【转载请注明来源】频、数字人等一系列关联领域都取得了巨大突【本文受版权保护】【本文首发于唐霜的博客】破。在今年2月,出现了被称为史上第一个全【原创不易,请尊重版权】【未经授权禁止转载】能AI程序员的Devin,而上周也有消息【本文受版权保护】【本文首发于唐霜的博客】称阿里入职了工号为AI001的全智能程序著作权归作者所有,禁止商业用途转载。【关注微信公众号:wwwtangshuangnet】员。通过AI替代以往的编程工作,已经是被【未经授权禁止转载】【版权所有,侵权必究】验证的可行路径,只不过目前的成熟度还不够【转载请注明来源】【关注微信公众号:wwwtangshuangnet】,后续的发展仍然有待观察。对于前端开发者【转载请注明来源】【作者:唐霜】而言,我们需要有警惕感的同时,也应该思考转载请注明出处:www.tangshuang.net【本文首发于唐霜的博客】,如何利用AI技术,提升自己的开发效率,转载请注明出处:www.tangshuang.net转载请注明出处:www.tangshuang.net以在激烈的竞争中出类拔萃。今天,我们就要【未经授权禁止转载】【转载请注明来源】来聊一聊有关AI生成UI的话题。

原创内容,盗版必究。未经授权,禁止复制转载。原创内容,盗版必究。【版权所有,侵权必究】

在前端,我们在某一个无法用单一词汇来描述本文版权归作者所有,未经授权不得转载。【转载请注明来源】的领域,有着非常执着的追求,那就是尽可能著作权归作者所有,禁止商业用途转载。【关注微信公众号:wwwtangshuangnet】的减少代码层面的编写,快速完成UI输出。【原创内容,转载请注明出处】未经授权,禁止复制转载。在这一追求下,从古至今衍生出来很多技术,【版权所有】唐霜 www.tangshuang.net未经授权,禁止复制转载。例如最早的网页制作工具frontpage本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。以及其继承者dreamweaver,其后【本文首发于唐霜的博客】本文版权归作者所有,未经授权不得转载。的H5编辑工具及其继承者页面编辑器,过去本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】几年这一路径演变为风靡一时的低代码运动,未经授权,禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】以及D2C(Design To Code本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】)运动。

转载请注明出处:www.tangshuang.net原创内容,盗版必究。【本文首发于唐霜的博客】

前端界一直在寻求一种可以根据需要自动生成【原创内容,转载请注明出处】本文版权归作者所有,未经授权不得转载。UI界面及其交互效果的一劳永逸的方法,但【作者:唐霜】【原创不易,请尊重版权】即使出现了低代码这样的方案后,仍然无法成原创内容,盗版必究。【版权所有,侵权必究】为新的主流范式,直接通过code编程写U【作者:唐霜】【原创内容,转载请注明出处】I还是目前的主流。在低代码方案中,核心问【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net题在于,低代码平台无法满足灵活的UI效果【访问 www.tangshuang.net 获取更多精彩内容】【原创不易,请尊重版权】需求,以及无法满足复杂的逻辑判断需求,而原创内容,盗版必究。【版权所有,侵权必究】一旦一个平台尝试去解决这些问题,就会发现【转载请注明来源】著作权归作者所有,禁止商业用途转载。低代码平台的使用困难度指数级上升,这种使转载请注明出处:www.tangshuang.net【作者:唐霜】用学习成本,以及使用所消耗的时间,不亚于【原创内容,转载请注明出处】本文作者:唐霜,转载请注明出处。直接使用代码来编写UI。

【版权所有,侵权必究】著作权归作者所有,禁止商业用途转载。

由此可见,在低代码的发展中,我们不能一味本文版权归作者所有,未经授权不得转载。【本文首发于唐霜的博客】的追求理想化的全能平台的目标,一旦追求全【原创不易,请尊重版权】本文作者:唐霜,转载请注明出处。能,就会陷入成本指数级上升的窘境。而通过未经授权,禁止复制转载。【未经授权禁止转载】低成本搭建一个可以满足当前业务需要场景的原创内容,盗版必究。【本文首发于唐霜的博客】低代码实现,虽然不能复用到其他场景中,但【转载请注明来源】本文版权归作者所有,未经授权不得转载。是只要能在当下场景中被反复使用,赚回成本转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net,就是不错的选择。因此,在过去两年中,我未经授权,禁止复制转载。【版权所有,侵权必究】们鲜有再见全能型低代码平台的产品出现,因【版权所有,侵权必究】原创内容,盗版必究。为任何全能型低代码平台,都无法绝对满足真【未经授权禁止转载】本文版权归作者所有,未经授权不得转载。实的业务需求。

转载请注明出处:www.tangshuang.net【原创内容,转载请注明出处】【原创不易,请尊重版权】

在低代码运动中,我们收获了一些成果。而这未经授权,禁止复制转载。转载请注明出处:www.tangshuang.net些成果的沉淀,却在今天带来了转机。

【关注微信公众号:wwwtangshuangnet】【原创不易,请尊重版权】本文作者:唐霜,转载请注明出处。【作者:唐霜】

前几天,一个名为open webui的项【本文受版权保护】【访问 www.tangshuang.net 获取更多精彩内容】目引爆了社区,这个项目基于LLM,让开发【作者:唐霜】原创内容,盗版必究。者可以通过自然语言来描述搭建web页面。【原创不易,请尊重版权】【未经授权禁止转载】和以往D2C等一次性生成UI不同,ope【原创内容,转载请注明出处】【本文首发于唐霜的博客】nwebui支持通过自然语言实时的连续的【本文受版权保护】【版权所有】唐霜 www.tangshuang.net反复的调整UI,以对话的形式逐步调整界面【原创内容,转载请注明出处】【版权所有】唐霜 www.tangshuang.net,最终获得你满意的效果。

【作者:唐霜】【版权所有】唐霜 www.tangshuang.net

告诉它哪里应该放什么元素,颜色是什么,高本文版权归作者所有,未经授权不得转载。【本文首发于唐霜的博客】度如何……有没有回忆起产品或设计同学站在本文作者:唐霜,转载请注明出处。【版权所有】唐霜 www.tangshuang.net你的身后指着屏幕指导你修改界面的场景。基原创内容,盗版必究。著作权归作者所有,禁止商业用途转载。于openwebui,你可以换一个身份体原创内容,盗版必究。原创内容,盗版必究。验一下。

【转载请注明来源】未经授权,禁止复制转载。转载请注明出处:www.tangshuang.net

不过目前来看,openwebui还只能通本文作者:唐霜,转载请注明出处。未经授权,禁止复制转载。过语言描述来工作,而不能把图像(设计稿)【原创不易,请尊重版权】【转载请注明来源】、鼠标动作等因素囊括起来,功能上感觉还是原创内容,盗版必究。【访问 www.tangshuang.net 获取更多精彩内容】比较初级,毕竟语言所表达的往往不够准确。

【转载请注明来源】转载请注明出处:www.tangshuang.net【转载请注明来源】著作权归作者所有,禁止商业用途转载。

但是,我之所以对这个项目如此感兴趣,在于【访问 www.tangshuang.net 获取更多精彩内容】【转载请注明来源】它基于LLM-based AI提供了一种【原创不易,请尊重版权】【作者:唐霜】在AI时代进行UI生成的模式雏形。接下来本文作者:唐霜,转载请注明出处。【原创内容,转载请注明出处】,我将基于我自己的一些经验和想法,分解利【原创不易,请尊重版权】未经授权,禁止复制转载。用LLM-based AI实现UI生成的【转载请注明来源】本文作者:唐霜,转载请注明出处。技术原理。

【原创不易,请尊重版权】本文版权归作者所有,未经授权不得转载。【关注微信公众号:wwwtangshuangnet】

我们都知道,web UI界面是靠HTML【访问 www.tangshuang.net 获取更多精彩内容】【原创内容,转载请注明出处】5、CSS3和ES标准完成的,我们用ui本文作者:唐霜,转载请注明出处。【转载请注明来源】框架,如react、vue等就是把这些最【转载请注明来源】【访问 www.tangshuang.net 获取更多精彩内容】底层的原生实现封装为高级的框架,从而提升【作者:唐霜】【原创不易,请尊重版权】开发效率。而在这些框架的基础上,我们又出【关注微信公众号:wwwtangshuangnet】【版权所有】唐霜 www.tangshuang.net现了很多组件,这些组件包含了UI的结构和本文版权归作者所有,未经授权不得转载。【原创内容,转载请注明出处】样式,甚至交互效果都固定了,因此,这些组【本文受版权保护】转载请注明出处:www.tangshuang.net件可以被抽象化,只要有组件名和对应的pr未经授权,禁止复制转载。【本文受版权保护】ops参数,即可得到对应的UI效果。而低【转载请注明来源】未经授权,禁止复制转载。代码平台则可以利用这些组件,在平台上完成转载请注明出处:www.tangshuang.net原创内容,盗版必究。布局,以及组件props参数的配置,从而【转载请注明来源】【作者:唐霜】输出对应组件体系的界面。在低代码平台上,【作者:唐霜】转载请注明出处:www.tangshuang.net我们通过某种Schema数据结构来描述布本文版权归作者所有,未经授权不得转载。【关注微信公众号:wwwtangshuangnet】局和组件调用规则,在实际渲染或生成代码是原创内容,盗版必究。【作者:唐霜】按照该数据结构真实的载入组件来完成渲染。【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】而这里的Schema,往往可以是纯文本的未经授权,禁止复制转载。【未经授权禁止转载】,因此,一个低代码应用原理,可以被认为本【未经授权禁止转载】原创内容,盗版必究。质上就是一种配置文件的生成。既然是纯文本原创内容,盗版必究。【未经授权禁止转载】,那么也就意味着我们可以让LLM来生成它【转载请注明来源】【作者:唐霜】

转载请注明出处:www.tangshuang.net【转载请注明来源】

没错,讲了这么多,我们终于让LLM登场。【未经授权禁止转载】著作权归作者所有,禁止商业用途转载。现在,我们的目标切换成了,如何让我们的A本文作者:唐霜,转载请注明出处。【本文受版权保护】I系统,可以通过LLM应用,实现从自然语【访问 www.tangshuang.net 获取更多精彩内容】【关注微信公众号:wwwtangshuangnet】言描述到Schema数据的生成过程。

未经授权,禁止复制转载。转载请注明出处:www.tangshuang.net

LLM应用的发展过程有好几个阶段,你可以未经授权,禁止复制转载。【本文首发于唐霜的博客】关注我的公众号 wwwtangshuan【访问 www.tangshuang.net 获取更多精彩内容】本文作者:唐霜,转载请注明出处。gnet 阅读相关文章了解。如果是早期,原创内容,盗版必究。【原创内容,转载请注明出处】我们主要强调的是 prompt 工程,利转载请注明出处:www.tangshuang.net原创内容,盗版必究。用大模型的推理、思维链等特性,想尽办法让【版权所有】唐霜 www.tangshuang.net原创内容,盗版必究。大模型可以在推理过程中按照Schema的【转载请注明来源】本文版权归作者所有,未经授权不得转载。特征进行生成。但是,这种方法效果非常差,【作者:唐霜】著作权归作者所有,禁止商业用途转载。一方面我们需要提供庞大的example和本文作者:唐霜,转载请注明出处。未经授权,禁止复制转载。schema描述,toekns太多,性能本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】扛不住,另一方面我们必须让自然语言是在描【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.net述schema,而非描述UI,这显然是不未经授权,禁止复制转载。【版权所有】唐霜 www.tangshuang.net符合预期的。后来,我们尝试使用lora、【本文受版权保护】著作权归作者所有,禁止商业用途转载。fine-tune等微调方案来让模型更懂未经授权,禁止复制转载。【作者:唐霜】schema,这样就可以用更少token原创内容,盗版必究。本文作者:唐霜,转载请注明出处。,但是这种方案仍然是要求用户自然语言描述本文作者:唐霜,转载请注明出处。【版权所有】唐霜 www.tangshuang.net中,必须是在熟知schema的前提下进行本文版权归作者所有,未经授权不得转载。【版权所有,侵权必究】,否则很难对应到schema中。

【访问 www.tangshuang.net 获取更多精彩内容】著作权归作者所有,禁止商业用途转载。

可见,这一时期,想直接通过描述UI长什么【版权所有】唐霜 www.tangshuang.net本文作者:唐霜,转载请注明出处。样子,到我们获得Schema文件之间,存【原创内容,转载请注明出处】【本文首发于唐霜的博客】在着巨大的鸿沟,通过描述Schema信息【关注微信公众号:wwwtangshuangnet】原创内容,盗版必究。来生成Schema,虽然比拖拉拽看上去更转载请注明出处:www.tangshuang.net【原创内容,转载请注明出处】快,但准确性却并不理想。总而言之,少那么【访问 www.tangshuang.net 获取更多精彩内容】未经授权,禁止复制转载。点意思。

【关注微信公众号:wwwtangshuangnet】【转载请注明来源】

今年,也就是2024年,LLM的应用进入【作者:唐霜】本文作者:唐霜,转载请注明出处。到一个新阶段,通过设计大型工作流架构来完【本文受版权保护】本文作者:唐霜,转载请注明出处。成任务目标成为新范式。过去,我们往往希望【本文受版权保护】本文版权归作者所有,未经授权不得转载。通过LLM一次或几次对话就能一步到位得到【关注微信公众号:wwwtangshuangnet】【本文首发于唐霜的博客】我们想要的数据,在经过这1年的社会毒打之未经授权,禁止复制转载。【原创内容,转载请注明出处】后,发现是不可行的,纯粹的LLM交互是无本文作者:唐霜,转载请注明出处。本文版权归作者所有,未经授权不得转载。法提升效果的。吴恩达在其研究中发现,如果【本文受版权保护】【本文受版权保护】只是单独依靠一两次对话就想获得想要的目标【本文首发于唐霜的博客】【版权所有,侵权必究】,其成功率,GPT-3.5能打3分,GP原创内容,盗版必究。【转载请注明来源】T-4能打6分,但是如果设计出恰到好处的【原创内容,转载请注明出处】【版权所有】唐霜 www.tangshuang.net工作流,即使GPT-3.5也能打到9分。

【版权所有】唐霜 www.tangshuang.net本文版权归作者所有,未经授权不得转载。【本文受版权保护】【本文首发于唐霜的博客】

什么是工作流呢?简单讲,就是不妄想通过简本文版权归作者所有,未经授权不得转载。【版权所有】唐霜 www.tangshuang.net单的1个步骤就立马得到结果,而是有规划有转载请注明出处:www.tangshuang.net著作权归作者所有,禁止商业用途转载。策略的进行多轮对话,让不同的Agent担转载请注明出处:www.tangshuang.net本文版权归作者所有,未经授权不得转载。任不同的角色,分工合作,再加入一些验证、【原创不易,请尊重版权】【本文受版权保护】调整等环节,从而让走完整个流程后出来的结【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】果更逼近我们想要的结果。

【作者:唐霜】转载请注明出处:www.tangshuang.net

可以说,2024年所有的AI应用都在利用著作权归作者所有,禁止商业用途转载。未经授权,禁止复制转载。这个思路,包括最新的大模型底座架构,也在本文版权归作者所有,未经授权不得转载。未经授权,禁止复制转载。强调多专家模型的网络结构。也就是说,整个【访问 www.tangshuang.net 获取更多精彩内容】未经授权,禁止复制转载。业界都意识到,单纯靠一个LLM单打独斗是【转载请注明来源】【版权所有,侵权必究】无法高效实现目标的,通过系统化的任务拆分著作权归作者所有,禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net能让效果瞬间翻倍。这种分工协作思想,是今原创内容,盗版必究。未经授权,禁止复制转载。年AI应用架构的核心思想,也是我们这段时【访问 www.tangshuang.net 获取更多精彩内容】原创内容,盗版必究。间看到各类效果不错的AI产品令人惊艳的原转载请注明出处:www.tangshuang.net原创内容,盗版必究。因。

【版权所有,侵权必究】【本文受版权保护】

回到我们的主题,当用户在对UI进行描述时转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。,openwebui将整个任务进行了划分【转载请注明来源】著作权归作者所有,禁止商业用途转载。,通过不同的阶段、不同的模型调用、不同的【原创内容,转载请注明出处】转载请注明出处:www.tangshuang.net任务目标、不同的工具调用,最终让生成的代【作者:唐霜】原创内容,盗版必究。码更为逼近用户描述的目标。如果再结合我们【作者:唐霜】【原创内容,转载请注明出处】上文提到的,我们通过微调,可以让大模型可【原创内容,转载请注明出处】原创内容,盗版必究。以根据用户描述获得更逼近与我们Schem原创内容,盗版必究。【关注微信公众号:wwwtangshuangnet】a结构的输出。这个过程本身就有点像一个开转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net发团队的工作过程,产品描述需求,产出交互【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。稿,设计根据需求产出设计稿,开发根据需求【版权所有】唐霜 www.tangshuang.net【版权所有,侵权必究】和设计稿产出代码。通过这种分工协作,虽然【作者:唐霜】著作权归作者所有,禁止商业用途转载。用户不懂专业的编码过程,但是只要他可以描著作权归作者所有,禁止商业用途转载。【原创内容,转载请注明出处】述正确自己的需求,就可以得到对应的结果。

【原创不易,请尊重版权】【原创不易,请尊重版权】转载请注明出处:www.tangshuang.net【未经授权禁止转载】

由于我们已经有低代码的成果,因此,利用低原创内容,盗版必究。【本文受版权保护】代码平台现有的能力,把低代码平台作为一个本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。第三方工具,挂载在AI系统上,当上述工作【版权所有,侵权必究】【转载请注明来源】流运行到某个节点时,把低代码平台作为工具未经授权,禁止复制转载。【原创内容,转载请注明出处】进行调用,就形成了符合眼下Agent架构转载请注明出处:www.tangshuang.net【关注微信公众号:wwwtangshuangnet】的合理模式。

本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】【版权所有,侵权必究】著作权归作者所有,禁止商业用途转载。

这里其实有一个细节,就是workflow【关注微信公众号:wwwtangshuangnet】原创内容,盗版必究。执行调用工具任务时,需要向工具传参,而这【版权所有,侵权必究】【原创不易,请尊重版权】个参数往往是上游的节点中的LLM生成的,【本文受版权保护】【关注微信公众号:wwwtangshuangnet】这个参数应该就是我们需要的Schema文未经授权,禁止复制转载。本文作者:唐霜,转载请注明出处。件。

【本文首发于唐霜的博客】本文作者:唐霜,转载请注明出处。

这样,就形成了一个完整的闭环。

【转载请注明来源】转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。

不过这里我没有详细展开当下业界主流的wo本文作者:唐霜,转载请注明出处。【作者:唐霜】rkflow架构模式,以后有机会的话,会未经授权,禁止复制转载。【原创不易,请尊重版权】专门做一起节目来讲。

本文版权归作者所有,未经授权不得转载。【转载请注明来源】【版权所有,侵权必究】

可以看到,从路径上讲,用自然语言描述来生【作者:唐霜】本文版权归作者所有,未经授权不得转载。成UI是完全可以实现的,而且openwe著作权归作者所有,禁止商业用途转载。【转载请注明来源】bui还有一个特点,就是可以通过自然语言【关注微信公众号:wwwtangshuangnet】本文作者:唐霜,转载请注明出处。来对界面进行调整,这一点也是非常友好。如未经授权,禁止复制转载。未经授权,禁止复制转载。果可以在加入鼠标控制的能力,配合上语音识【未经授权禁止转载】原创内容,盗版必究。别,那就更加有意识了,我们可以通过鼠标点【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net击某处,然后说话“这个地方改为蓝色”,就【转载请注明来源】【版权所有,侵权必究】可以修改出我们需要的效果。这样的场景相信【本文首发于唐霜的博客】【关注微信公众号:wwwtangshuangnet】也并不难实现。

【版权所有,侵权必究】未经授权,禁止复制转载。

好了,本期详细阐述了用AI生成UI的技术转载请注明出处:www.tangshuang.net【关注微信公众号:wwwtangshuangnet】实现原理。随着LLM技术的不断发展,我们本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。前端会逐渐受到影响,只有不断学习和进步,【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】才能重复利用更为先进的工具提升我们的开发【作者:唐霜】原创内容,盗版必究。效率,让我们的开发更加有意思。

【关注微信公众号:wwwtangshuangnet】转载请注明出处:www.tangshuang.net

2024-04-06 5184 ,

为价值买单,打赏一杯咖啡

本文价值51.84RMB