AI已经成为替代编程工作的火热话题，本期【作者：唐霜】【本文首发于唐霜的博客】主要来聊一聊，如何在低代码平台的建设成果【作者：唐霜】【访问 www.tangshuang.net 获取更多精彩内容】上，利用LLM的能力，可以实现简单的智能原创内容，盗版必究。【版权所有，侵权必究】化UI生成需求。
转载请注明出处：www.tangshuang.net【本文首发于唐霜的博客】【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net在线收听
喜马拉雅：点击播放
【转载请注明来源】【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。你还可以在苹果自带的 Podcast 应【访问 www.tangshuang.net 获取更多精彩内容】著作权归作者所有，禁止商业用途转载。用、小宇宙APP、QQ音乐中搜“Robu【转载请注明来源】【作者：唐霜】st”找到我们的节目收听。
【作者：唐霜】【本文首发于唐霜的博客】【作者：唐霜】捐赠支持
求打赏🙇如果你觉得 Ro【本文首发于唐霜的博客】【原创不易，请尊重版权】bust 这样一档技术类的谈话节目还不错转载请注明出处：www.tangshuang.net【关注微信公众号：wwwtangshuangnet】，希望我继续做下去，不妨打赏支持。
【版权所有，侵权必究】著作权归作者所有，禁止商业用途转载。
内容摘要
过去1年，LLM-based已经成为AI【原创不易，请尊重版权】本文版权归作者所有，未经授权不得转载。的新范式，于此同时，自然语言生成图片、视【未经授权禁止转载】本文版权归作者所有，未经授权不得转载。频、数字人等一系列关联领域都取得了巨大突转载请注明出处：www.tangshuang.net【转载请注明来源】破。在今年2月，出现了被称为史上第一个全原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。能AI程序员的Devin，而上周也有消息【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。称阿里入职了工号为AI001的全智能程序本文作者：唐霜，转载请注明出处。著作权归作者所有，禁止商业用途转载。员。通过AI替代以往的编程工作，已经是被【版权所有】唐霜 www.tangshuang.net原创内容，盗版必究。验证的可行路径，只不过目前的成熟度还不够【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。，后续的发展仍然有待观察。对于前端开发者本文作者：唐霜，转载请注明出处。著作权归作者所有，禁止商业用途转载。而言，我们需要有警惕感的同时，也应该思考著作权归作者所有，禁止商业用途转载。未经授权，禁止复制转载。，如何利用AI技术，提升自己的开发效率，著作权归作者所有，禁止商业用途转载。转载请注明出处：www.tangshuang.net以在激烈的竞争中出类拔萃。今天，我们就要【原创内容，转载请注明出处】原创内容，盗版必究。来聊一聊有关AI生成UI的话题。
【版权所有，侵权必究】未经授权，禁止复制转载。转载请注明出处：www.tangshuang.net本文版权归作者所有，未经授权不得转载。在前端，我们在某一个无法用单一词汇来描述【转载请注明来源】【版权所有】唐霜 www.tangshuang.net的领域，有着非常执着的追求，那就是尽可能【版权所有，侵权必究】【原创内容，转载请注明出处】的减少代码层面的编写，快速完成UI输出。【转载请注明来源】原创内容，盗版必究。在这一追求下，从古至今衍生出来很多技术，【本文首发于唐霜的博客】【本文受版权保护】例如最早的网页制作工具frontpage【版权所有】唐霜 www.tangshuang.net【原创内容，转载请注明出处】以及其继承者dreamweaver，其后本文版权归作者所有，未经授权不得转载。原创内容，盗版必究。的H5编辑工具及其继承者页面编辑器，过去【本文首发于唐霜的博客】本文作者：唐霜，转载请注明出处。几年这一路径演变为风靡一时的低代码运动，转载请注明出处：www.tangshuang.net【原创内容，转载请注明出处】以及D2C（Design To Code本文版权归作者所有，未经授权不得转载。【版权所有】唐霜 www.tangshuang.net）运动。
原创内容，盗版必究。【本文首发于唐霜的博客】本文作者：唐霜，转载请注明出处。【转载请注明来源】前端界一直在寻求一种可以根据需要自动生成本文作者：唐霜，转载请注明出处。本文作者：唐霜，转载请注明出处。UI界面及其交互效果的一劳永逸的方法，但【关注微信公众号：wwwtangshuangnet】【转载请注明来源】即使出现了低代码这样的方案后，仍然无法成转载请注明出处：www.tangshuang.net【转载请注明来源】为新的主流范式，直接通过code编程写U转载请注明出处：www.tangshuang.net本文作者：唐霜，转载请注明出处。I还是目前的主流。在低代码方案中，核心问【访问 www.tangshuang.net 获取更多精彩内容】【关注微信公众号：wwwtangshuangnet】题在于，低代码平台无法满足灵活的UI效果未经授权，禁止复制转载。著作权归作者所有，禁止商业用途转载。需求，以及无法满足复杂的逻辑判断需求，而原创内容，盗版必究。原创内容，盗版必究。一旦一个平台尝试去解决这些问题，就会发现【本文首发于唐霜的博客】【未经授权禁止转载】低代码平台的使用困难度指数级上升，这种使【原创不易，请尊重版权】【版权所有】唐霜 www.tangshuang.net用学习成本，以及使用所消耗的时间，不亚于【原创内容，转载请注明出处】转载请注明出处：www.tangshuang.net直接使用代码来编写UI。
本文作者：唐霜，转载请注明出处。【本文受版权保护】【原创不易，请尊重版权】由此可见，在低代码的发展中，我们不能一味【原创内容，转载请注明出处】【原创内容，转载请注明出处】的追求理想化的全能平台的目标，一旦追求全未经授权，禁止复制转载。【本文首发于唐霜的博客】能，就会陷入成本指数级上升的窘境。而通过【本文首发于唐霜的博客】【原创不易，请尊重版权】低成本搭建一个可以满足当前业务需要场景的【作者：唐霜】本文版权归作者所有，未经授权不得转载。低代码实现，虽然不能复用到其他场景中，但【版权所有】唐霜 www.tangshuang.net【版权所有】唐霜 www.tangshuang.net是只要能在当下场景中被反复使用，赚回成本未经授权，禁止复制转载。【关注微信公众号：wwwtangshuangnet】，就是不错的选择。因此，在过去两年中，我原创内容，盗版必究。转载请注明出处：www.tangshuang.net们鲜有再见全能型低代码平台的产品出现，因原创内容，盗版必究。本文作者：唐霜，转载请注明出处。为任何全能型低代码平台，都无法绝对满足真【本文首发于唐霜的博客】【原创内容，转载请注明出处】实的业务需求。
【版权所有】唐霜 www.tangshuang.net【原创不易，请尊重版权】本文版权归作者所有，未经授权不得转载。【原创不易，请尊重版权】在低代码运动中，我们收获了一些成果。而这【原创内容，转载请注明出处】本文作者：唐霜，转载请注明出处。些成果的沉淀，却在今天带来了转机。
本文版权归作者所有，未经授权不得转载。本文作者：唐霜，转载请注明出处。【关注微信公众号：wwwtangshuangnet】【原创不易，请尊重版权】前几天，一个名为open webui的项【未经授权禁止转载】【原创不易，请尊重版权】目引爆了社区，这个项目基于LLM，让开发【未经授权禁止转载】【本文首发于唐霜的博客】者可以通过自然语言来描述搭建web页面。本文版权归作者所有，未经授权不得转载。【版权所有】唐霜 www.tangshuang.net和以往D2C等一次性生成UI不同，ope转载请注明出处：www.tangshuang.net转载请注明出处：www.tangshuang.netnwebui支持通过自然语言实时的连续的【本文首发于唐霜的博客】【作者：唐霜】反复的调整UI，以对话的形式逐步调整界面本文版权归作者所有，未经授权不得转载。本文作者：唐霜，转载请注明出处。，最终获得你满意的效果。
【版权所有，侵权必究】【版权所有，侵权必究】【版权所有，侵权必究】告诉它哪里应该放什么元素，颜色是什么，高【版权所有】唐霜 www.tangshuang.net未经授权，禁止复制转载。度如何……有没有回忆起产品或设计同学站在【版权所有】唐霜 www.tangshuang.net【关注微信公众号：wwwtangshuangnet】你的身后指着屏幕指导你修改界面的场景。基转载请注明出处：www.tangshuang.net【原创不易，请尊重版权】于openwebui，你可以换一个身份体【版权所有】唐霜 www.tangshuang.net未经授权，禁止复制转载。验一下。
本文版权归作者所有，未经授权不得转载。【未经授权禁止转载】不过目前来看，openwebui还只能通【转载请注明来源】【作者：唐霜】过语言描述来工作，而不能把图像（设计稿）【版权所有，侵权必究】未经授权，禁止复制转载。、鼠标动作等因素囊括起来，功能上感觉还是未经授权，禁止复制转载。【转载请注明来源】比较初级，毕竟语言所表达的往往不够准确。
【本文首发于唐霜的博客】【访问 www.tangshuang.net 获取更多精彩内容】但是，我之所以对这个项目如此感兴趣，在于【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.net它基于LLM-based AI提供了一种【版权所有，侵权必究】【原创不易，请尊重版权】在AI时代进行UI生成的模式雏形。接下来【转载请注明来源】【本文首发于唐霜的博客】，我将基于我自己的一些经验和想法，分解利本文作者：唐霜，转载请注明出处。【原创内容，转载请注明出处】用LLM-based AI实现UI生成的著作权归作者所有，禁止商业用途转载。【原创内容，转载请注明出处】技术原理。
【未经授权禁止转载】【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.net【作者：唐霜】我们都知道，web UI界面是靠HTML【本文首发于唐霜的博客】【转载请注明来源】5、CSS3和ES标准完成的，我们用ui【原创内容，转载请注明出处】【原创不易，请尊重版权】框架，如react、vue等就是把这些最原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。底层的原生实现封装为高级的框架，从而提升【转载请注明来源】原创内容，盗版必究。开发效率。而在这些框架的基础上，我们又出本文版权归作者所有，未经授权不得转载。【本文首发于唐霜的博客】现了很多组件，这些组件包含了UI的结构和本文版权归作者所有，未经授权不得转载。【转载请注明来源】样式，甚至交互效果都固定了，因此，这些组著作权归作者所有，禁止商业用途转载。【本文首发于唐霜的博客】件可以被抽象化，只要有组件名和对应的pr【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.netops参数，即可得到对应的UI效果。而低未经授权，禁止复制转载。转载请注明出处：www.tangshuang.net代码平台则可以利用这些组件，在平台上完成本文版权归作者所有，未经授权不得转载。转载请注明出处：www.tangshuang.net布局，以及组件props参数的配置，从而【原创内容，转载请注明出处】本文版权归作者所有，未经授权不得转载。输出对应组件体系的界面。在低代码平台上，原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。我们通过某种Schema数据结构来描述布【转载请注明来源】【关注微信公众号：wwwtangshuangnet】局和组件调用规则，在实际渲染或生成代码是【原创内容，转载请注明出处】未经授权，禁止复制转载。按照该数据结构真实的载入组件来完成渲染。转载请注明出处：www.tangshuang.net【转载请注明来源】而这里的Schema，往往可以是纯文本的本文版权归作者所有，未经授权不得转载。未经授权，禁止复制转载。，因此，一个低代码应用原理，可以被认为本【本文首发于唐霜的博客】【未经授权禁止转载】质上就是一种配置文件的生成。既然是纯文本未经授权，禁止复制转载。【转载请注明来源】，那么也就意味着我们可以让LLM来生成它【本文首发于唐霜的博客】本文作者：唐霜，转载请注明出处。。
【转载请注明来源】转载请注明出处：www.tangshuang.net原创内容，盗版必究。没错，讲了这么多，我们终于让LLM登场。本文作者：唐霜，转载请注明出处。转载请注明出处：www.tangshuang.net现在，我们的目标切换成了，如何让我们的A本文作者：唐霜，转载请注明出处。【原创不易，请尊重版权】I系统，可以通过LLM应用，实现从自然语【原创内容，转载请注明出处】【原创内容，转载请注明出处】言描述到Schema数据的生成过程。
本文作者：唐霜，转载请注明出处。未经授权，禁止复制转载。【版权所有，侵权必究】著作权归作者所有，禁止商业用途转载。LLM应用的发展过程有好几个阶段，你可以【原创内容，转载请注明出处】【版权所有，侵权必究】关注我的公众号 wwwtangshuan原创内容，盗版必究。转载请注明出处：www.tangshuang.netgnet 阅读相关文章了解。如果是早期，未经授权，禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】我们主要强调的是 prompt 工程，利【未经授权禁止转载】【关注微信公众号：wwwtangshuangnet】用大模型的推理、思维链等特性，想尽办法让【本文首发于唐霜的博客】未经授权，禁止复制转载。大模型可以在推理过程中按照Schema的本文版权归作者所有，未经授权不得转载。【原创内容，转载请注明出处】特征进行生成。但是，这种方法效果非常差，本文版权归作者所有，未经授权不得转载。【访问 www.tangshuang.net 获取更多精彩内容】一方面我们需要提供庞大的example和【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.netschema描述，toekns太多，性能【版权所有】唐霜 www.tangshuang.net著作权归作者所有，禁止商业用途转载。扛不住，另一方面我们必须让自然语言是在描【本文受版权保护】本文版权归作者所有，未经授权不得转载。述schema，而非描述UI，这显然是不著作权归作者所有，禁止商业用途转载。【本文受版权保护】符合预期的。后来，我们尝试使用lora、著作权归作者所有，禁止商业用途转载。【访问 www.tangshuang.net 获取更多精彩内容】fine-tune等微调方案来让模型更懂【原创不易，请尊重版权】【版权所有，侵权必究】schema，这样就可以用更少token著作权归作者所有，禁止商业用途转载。本文版权归作者所有，未经授权不得转载。，但是这种方案仍然是要求用户自然语言描述本文作者：唐霜，转载请注明出处。原创内容，盗版必究。中，必须是在熟知schema的前提下进行未经授权，禁止复制转载。【原创不易，请尊重版权】，否则很难对应到schema中。
转载请注明出处：www.tangshuang.net【原创不易，请尊重版权】可见，这一时期，想直接通过描述UI长什么未经授权，禁止复制转载。【原创不易，请尊重版权】样子，到我们获得Schema文件之间，存本文版权归作者所有，未经授权不得转载。【未经授权禁止转载】在着巨大的鸿沟，通过描述Schema信息【关注微信公众号：wwwtangshuangnet】本文版权归作者所有，未经授权不得转载。来生成Schema，虽然比拖拉拽看上去更转载请注明出处：www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】快，但准确性却并不理想。总而言之，少那么【作者：唐霜】【原创不易，请尊重版权】点意思。
【访问 www.tangshuang.net 获取更多精彩内容】【未经授权禁止转载】今年，也就是2024年，LLM的应用进入原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。到一个新阶段，通过设计大型工作流架构来完转载请注明出处：www.tangshuang.net本文版权归作者所有，未经授权不得转载。成任务目标成为新范式。过去，我们往往希望【本文首发于唐霜的博客】【作者：唐霜】通过LLM一次或几次对话就能一步到位得到【版权所有，侵权必究】【本文首发于唐霜的博客】我们想要的数据，在经过这1年的社会毒打之【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。后，发现是不可行的，纯粹的LLM交互是无原创内容，盗版必究。【未经授权禁止转载】法提升效果的。吴恩达在其研究中发现，如果本文作者：唐霜，转载请注明出处。【原创内容，转载请注明出处】只是单独依靠一两次对话就想获得想要的目标【本文首发于唐霜的博客】【转载请注明来源】，其成功率，GPT-3.5能打3分，GP本文版权归作者所有，未经授权不得转载。【未经授权禁止转载】T-4能打6分，但是如果设计出恰到好处的【转载请注明来源】【未经授权禁止转载】工作流，即使GPT-3.5也能打到9分。
【版权所有，侵权必究】转载请注明出处：www.tangshuang.net什么是工作流呢？简单讲，就是不妄想通过简本文版权归作者所有，未经授权不得转载。【原创内容，转载请注明出处】单的1个步骤就立马得到结果，而是有规划有原创内容，盗版必究。著作权归作者所有，禁止商业用途转载。策略的进行多轮对话，让不同的Agent担【作者：唐霜】【版权所有】唐霜 www.tangshuang.net任不同的角色，分工合作，再加入一些验证、【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】调整等环节，从而让走完整个流程后出来的结【本文首发于唐霜的博客】著作权归作者所有，禁止商业用途转载。果更逼近我们想要的结果。
转载请注明出处：www.tangshuang.net转载请注明出处：www.tangshuang.net可以说，2024年所有的AI应用都在利用【本文首发于唐霜的博客】转载请注明出处：www.tangshuang.net这个思路，包括最新的大模型底座架构，也在转载请注明出处：www.tangshuang.net【版权所有】唐霜 www.tangshuang.net强调多专家模型的网络结构。也就是说，整个【原创不易，请尊重版权】原创内容，盗版必究。业界都意识到，单纯靠一个LLM单打独斗是【原创内容，转载请注明出处】【关注微信公众号：wwwtangshuangnet】无法高效实现目标的，通过系统化的任务拆分【访问 www.tangshuang.net 获取更多精彩内容】【原创不易，请尊重版权】能让效果瞬间翻倍。这种分工协作思想，是今【未经授权禁止转载】【版权所有】唐霜 www.tangshuang.net年AI应用架构的核心思想，也是我们这段时本文版权归作者所有，未经授权不得转载。著作权归作者所有，禁止商业用途转载。间看到各类效果不错的AI产品令人惊艳的原本文作者：唐霜，转载请注明出处。【转载请注明来源】因。
未经授权，禁止复制转载。【转载请注明来源】回到我们的主题，当用户在对UI进行描述时转载请注明出处：www.tangshuang.net【版权所有，侵权必究】，openwebui将整个任务进行了划分本文作者：唐霜，转载请注明出处。著作权归作者所有，禁止商业用途转载。，通过不同的阶段、不同的模型调用、不同的【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。任务目标、不同的工具调用，最终让生成的代【版权所有】唐霜 www.tangshuang.net著作权归作者所有，禁止商业用途转载。码更为逼近用户描述的目标。如果再结合我们未经授权，禁止复制转载。【本文受版权保护】上文提到的，我们通过微调，可以让大模型可转载请注明出处：www.tangshuang.net转载请注明出处：www.tangshuang.net以根据用户描述获得更逼近与我们Schem【原创内容，转载请注明出处】【版权所有】唐霜 www.tangshuang.neta结构的输出。这个过程本身就有点像一个开本文作者：唐霜，转载请注明出处。【原创不易，请尊重版权】发团队的工作过程，产品描述需求，产出交互【版权所有】唐霜 www.tangshuang.net【版权所有】唐霜 www.tangshuang.net稿，设计根据需求产出设计稿，开发根据需求本文版权归作者所有，未经授权不得转载。【本文受版权保护】和设计稿产出代码。通过这种分工协作，虽然著作权归作者所有，禁止商业用途转载。【转载请注明来源】用户不懂专业的编码过程，但是只要他可以描【作者：唐霜】本文版权归作者所有，未经授权不得转载。述正确自己的需求，就可以得到对应的结果。
著作权归作者所有，禁止商业用途转载。原创内容，盗版必究。【版权所有】唐霜 www.tangshuang.net著作权归作者所有，禁止商业用途转载。由于我们已经有低代码的成果，因此，利用低【版权所有，侵权必究】【版权所有】唐霜 www.tangshuang.net代码平台现有的能力，把低代码平台作为一个【版权所有】唐霜 www.tangshuang.net未经授权，禁止复制转载。第三方工具，挂载在AI系统上，当上述工作【作者：唐霜】【版权所有，侵权必究】流运行到某个节点时，把低代码平台作为工具本文版权归作者所有，未经授权不得转载。【版权所有】唐霜 www.tangshuang.net进行调用，就形成了符合眼下Agent架构著作权归作者所有，禁止商业用途转载。【版权所有，侵权必究】的合理模式。
【本文首发于唐霜的博客】原创内容，盗版必究。这里其实有一个细节，就是workflow【版权所有，侵权必究】【原创不易，请尊重版权】执行调用工具任务时，需要向工具传参，而这【作者：唐霜】未经授权，禁止复制转载。个参数往往是上游的节点中的LLM生成的，未经授权，禁止复制转载。未经授权，禁止复制转载。这个参数应该就是我们需要的Schema文【版权所有，侵权必究】【原创不易，请尊重版权】件。
【版权所有，侵权必究】【未经授权禁止转载】【本文首发于唐霜的博客】这样，就形成了一个完整的闭环。
【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。不过这里我没有详细展开当下业界主流的wo【本文首发于唐霜的博客】本文版权归作者所有，未经授权不得转载。rkflow架构模式，以后有机会的话，会本文作者：唐霜，转载请注明出处。著作权归作者所有，禁止商业用途转载。专门做一起节目来讲。
【原创不易，请尊重版权】本文作者：唐霜，转载请注明出处。可以看到，从路径上讲，用自然语言描述来生【作者：唐霜】【未经授权禁止转载】成UI是完全可以实现的，而且openwe【原创不易，请尊重版权】【原创内容，转载请注明出处】bui还有一个特点，就是可以通过自然语言【转载请注明来源】【原创不易，请尊重版权】来对界面进行调整，这一点也是非常友好。如【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】果可以在加入鼠标控制的能力，配合上语音识【原创不易，请尊重版权】【版权所有】唐霜 www.tangshuang.net别，那就更加有意识了，我们可以通过鼠标点本文作者：唐霜，转载请注明出处。【版权所有，侵权必究】击某处，然后说话“这个地方改为蓝色”，就【未经授权禁止转载】【作者：唐霜】可以修改出我们需要的效果。这样的场景相信【版权所有】唐霜 www.tangshuang.net著作权归作者所有，禁止商业用途转载。也并不难实现。
【转载请注明来源】【原创不易，请尊重版权】【本文受版权保护】【本文受版权保护】好了，本期详细阐述了用AI生成UI的技术转载请注明出处：www.tangshuang.net【版权所有】唐霜 www.tangshuang.net实现原理。随着LLM技术的不断发展，我们本文版权归作者所有，未经授权不得转载。原创内容，盗版必究。前端会逐渐受到影响，只有不断学习和进步，【关注微信公众号：wwwtangshuangnet】【原创不易，请尊重版权】才能重复利用更为先进的工具提升我们的开发【转载请注明来源】本文版权归作者所有，未经授权不得转载。效率，让我们的开发更加有意思。
本文作者：唐霜，转载请注明出处。【原创内容，转载请注明出处】本文版权归作者所有，未经授权不得转载。未经授权，禁止复制转载。
