AI已经成为替代编程工作的火热话题，本期著作权归作者所有，禁止商业用途转载。转载请注明出处：www.tangshuang.net主要来聊一聊，如何在低代码平台的建设成果【关注微信公众号：wwwtangshuangnet】原创内容，盗版必究。上，利用LLM的能力，可以实现简单的智能【转载请注明来源】本文作者：唐霜，转载请注明出处。化UI生成需求。
本文作者：唐霜，转载请注明出处。本文作者：唐霜，转载请注明出处。在线收听
喜马拉雅：点击播放
【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】【作者：唐霜】你还可以在苹果自带的 Podcast 应未经授权，禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】用、小宇宙APP、QQ音乐中搜“Robu【版权所有，侵权必究】本文版权归作者所有，未经授权不得转载。st”找到我们的节目收听。
【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.net【本文受版权保护】捐赠支持
求打赏🙇如果你觉得 Ro转载请注明出处：www.tangshuang.net【版权所有，侵权必究】bust 这样一档技术类的谈话节目还不错【关注微信公众号：wwwtangshuangnet】本文作者：唐霜，转载请注明出处。，希望我继续做下去，不妨打赏支持。
【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net本文版权归作者所有，未经授权不得转载。本文作者：唐霜，转载请注明出处。
内容摘要
过去1年，LLM-based已经成为AI【原创内容，转载请注明出处】【关注微信公众号：wwwtangshuangnet】的新范式，于此同时，自然语言生成图片、视【版权所有，侵权必究】【访问 www.tangshuang.net 获取更多精彩内容】频、数字人等一系列关联领域都取得了巨大突本文版权归作者所有，未经授权不得转载。【版权所有，侵权必究】破。在今年2月，出现了被称为史上第一个全本文作者：唐霜，转载请注明出处。【原创不易，请尊重版权】能AI程序员的Devin，而上周也有消息著作权归作者所有，禁止商业用途转载。【原创不易，请尊重版权】称阿里入职了工号为AI001的全智能程序【转载请注明来源】【原创内容，转载请注明出处】员。通过AI替代以往的编程工作，已经是被【本文受版权保护】【作者：唐霜】验证的可行路径，只不过目前的成熟度还不够原创内容，盗版必究。原创内容，盗版必究。，后续的发展仍然有待观察。对于前端开发者【原创内容，转载请注明出处】【本文受版权保护】而言，我们需要有警惕感的同时，也应该思考著作权归作者所有，禁止商业用途转载。本文作者：唐霜，转载请注明出处。，如何利用AI技术，提升自己的开发效率，【关注微信公众号：wwwtangshuangnet】【版权所有】唐霜 www.tangshuang.net以在激烈的竞争中出类拔萃。今天，我们就要【原创内容，转载请注明出处】【本文受版权保护】来聊一聊有关AI生成UI的话题。
【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.net【版权所有】唐霜 www.tangshuang.net本文版权归作者所有，未经授权不得转载。在前端，我们在某一个无法用单一词汇来描述【转载请注明来源】本文版权归作者所有，未经授权不得转载。的领域，有着非常执着的追求，那就是尽可能【转载请注明来源】【原创不易，请尊重版权】的减少代码层面的编写，快速完成UI输出。本文版权归作者所有，未经授权不得转载。【版权所有】唐霜 www.tangshuang.net在这一追求下，从古至今衍生出来很多技术，本文作者：唐霜，转载请注明出处。本文版权归作者所有，未经授权不得转载。例如最早的网页制作工具frontpage【本文首发于唐霜的博客】原创内容，盗版必究。以及其继承者dreamweaver，其后本文作者：唐霜，转载请注明出处。【本文受版权保护】的H5编辑工具及其继承者页面编辑器，过去著作权归作者所有，禁止商业用途转载。【版权所有，侵权必究】几年这一路径演变为风靡一时的低代码运动，【关注微信公众号：wwwtangshuangnet】【版权所有，侵权必究】以及D2C（Design To Code【本文受版权保护】著作权归作者所有，禁止商业用途转载。）运动。
【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】前端界一直在寻求一种可以根据需要自动生成【未经授权禁止转载】【未经授权禁止转载】UI界面及其交互效果的一劳永逸的方法，但【访问 www.tangshuang.net 获取更多精彩内容】未经授权，禁止复制转载。即使出现了低代码这样的方案后，仍然无法成本文版权归作者所有，未经授权不得转载。【访问 www.tangshuang.net 获取更多精彩内容】为新的主流范式，直接通过code编程写U本文作者：唐霜，转载请注明出处。【未经授权禁止转载】I还是目前的主流。在低代码方案中，核心问【访问 www.tangshuang.net 获取更多精彩内容】【版权所有，侵权必究】题在于，低代码平台无法满足灵活的UI效果【版权所有】唐霜 www.tangshuang.net【关注微信公众号：wwwtangshuangnet】需求，以及无法满足复杂的逻辑判断需求，而【本文受版权保护】【关注微信公众号：wwwtangshuangnet】一旦一个平台尝试去解决这些问题，就会发现【版权所有】唐霜 www.tangshuang.net【转载请注明来源】低代码平台的使用困难度指数级上升，这种使原创内容，盗版必究。【未经授权禁止转载】用学习成本，以及使用所消耗的时间，不亚于著作权归作者所有，禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net直接使用代码来编写UI。
原创内容，盗版必究。【原创内容，转载请注明出处】未经授权，禁止复制转载。由此可见，在低代码的发展中，我们不能一味【原创内容，转载请注明出处】【未经授权禁止转载】的追求理想化的全能平台的目标，一旦追求全【作者：唐霜】原创内容，盗版必究。能，就会陷入成本指数级上升的窘境。而通过【本文首发于唐霜的博客】本文作者：唐霜，转载请注明出处。低成本搭建一个可以满足当前业务需要场景的【本文受版权保护】【原创不易，请尊重版权】低代码实现，虽然不能复用到其他场景中，但【作者：唐霜】【访问 www.tangshuang.net 获取更多精彩内容】是只要能在当下场景中被反复使用，赚回成本【原创不易，请尊重版权】【本文受版权保护】，就是不错的选择。因此，在过去两年中，我【作者：唐霜】【本文受版权保护】们鲜有再见全能型低代码平台的产品出现，因本文版权归作者所有，未经授权不得转载。原创内容，盗版必究。为任何全能型低代码平台，都无法绝对满足真未经授权，禁止复制转载。本文版权归作者所有，未经授权不得转载。实的业务需求。
原创内容，盗版必究。著作权归作者所有，禁止商业用途转载。【关注微信公众号：wwwtangshuangnet】在低代码运动中，我们收获了一些成果。而这原创内容，盗版必究。【本文受版权保护】些成果的沉淀，却在今天带来了转机。
著作权归作者所有，禁止商业用途转载。【原创内容，转载请注明出处】【关注微信公众号：wwwtangshuangnet】前几天，一个名为open webui的项【本文首发于唐霜的博客】【原创内容，转载请注明出处】目引爆了社区，这个项目基于LLM，让开发转载请注明出处：www.tangshuang.net本文作者：唐霜，转载请注明出处。者可以通过自然语言来描述搭建web页面。本文作者：唐霜，转载请注明出处。【原创不易，请尊重版权】和以往D2C等一次性生成UI不同，ope【本文首发于唐霜的博客】著作权归作者所有，禁止商业用途转载。nwebui支持通过自然语言实时的连续的【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】反复的调整UI，以对话的形式逐步调整界面未经授权，禁止复制转载。【转载请注明来源】，最终获得你满意的效果。
【转载请注明来源】【版权所有】唐霜 www.tangshuang.net【关注微信公众号：wwwtangshuangnet】告诉它哪里应该放什么元素，颜色是什么，高原创内容，盗版必究。【原创不易，请尊重版权】度如何……有没有回忆起产品或设计同学站在本文作者：唐霜，转载请注明出处。【本文首发于唐霜的博客】你的身后指着屏幕指导你修改界面的场景。基【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.net于openwebui，你可以换一个身份体【转载请注明来源】【访问 www.tangshuang.net 获取更多精彩内容】验一下。
原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。【原创内容，转载请注明出处】【版权所有】唐霜 www.tangshuang.net不过目前来看，openwebui还只能通【访问 www.tangshuang.net 获取更多精彩内容】【原创不易，请尊重版权】过语言描述来工作，而不能把图像（设计稿）【作者：唐霜】本文作者：唐霜，转载请注明出处。、鼠标动作等因素囊括起来，功能上感觉还是【版权所有，侵权必究】本文版权归作者所有，未经授权不得转载。比较初级，毕竟语言所表达的往往不够准确。
【转载请注明来源】原创内容，盗版必究。【版权所有，侵权必究】著作权归作者所有，禁止商业用途转载。但是，我之所以对这个项目如此感兴趣，在于原创内容，盗版必究。【作者：唐霜】它基于LLM-based AI提供了一种未经授权，禁止复制转载。著作权归作者所有，禁止商业用途转载。在AI时代进行UI生成的模式雏形。接下来本文作者：唐霜，转载请注明出处。【原创不易，请尊重版权】，我将基于我自己的一些经验和想法，分解利著作权归作者所有，禁止商业用途转载。【本文受版权保护】用LLM-based AI实现UI生成的本文作者：唐霜，转载请注明出处。【原创内容，转载请注明出处】技术原理。
未经授权，禁止复制转载。著作权归作者所有，禁止商业用途转载。我们都知道，web UI界面是靠HTML【版权所有，侵权必究】【本文首发于唐霜的博客】5、CSS3和ES标准完成的，我们用ui本文版权归作者所有，未经授权不得转载。本文版权归作者所有，未经授权不得转载。框架，如react、vue等就是把这些最【未经授权禁止转载】【转载请注明来源】底层的原生实现封装为高级的框架，从而提升原创内容，盗版必究。本文版权归作者所有，未经授权不得转载。开发效率。而在这些框架的基础上，我们又出【访问 www.tangshuang.net 获取更多精彩内容】未经授权，禁止复制转载。现了很多组件，这些组件包含了UI的结构和【本文首发于唐霜的博客】未经授权，禁止复制转载。样式，甚至交互效果都固定了，因此，这些组原创内容，盗版必究。【原创内容，转载请注明出处】件可以被抽象化，只要有组件名和对应的pr【原创内容，转载请注明出处】转载请注明出处：www.tangshuang.netops参数，即可得到对应的UI效果。而低【访问 www.tangshuang.net 获取更多精彩内容】未经授权，禁止复制转载。代码平台则可以利用这些组件，在平台上完成【关注微信公众号：wwwtangshuangnet】【转载请注明来源】布局，以及组件props参数的配置，从而【作者：唐霜】【本文受版权保护】输出对应组件体系的界面。在低代码平台上，【未经授权禁止转载】【访问 www.tangshuang.net 获取更多精彩内容】我们通过某种Schema数据结构来描述布【未经授权禁止转载】【关注微信公众号：wwwtangshuangnet】局和组件调用规则，在实际渲染或生成代码是【未经授权禁止转载】【转载请注明来源】按照该数据结构真实的载入组件来完成渲染。本文版权归作者所有，未经授权不得转载。【访问 www.tangshuang.net 获取更多精彩内容】而这里的Schema，往往可以是纯文本的【作者：唐霜】【原创内容，转载请注明出处】，因此，一个低代码应用原理，可以被认为本未经授权，禁止复制转载。【作者：唐霜】质上就是一种配置文件的生成。既然是纯文本本文版权归作者所有，未经授权不得转载。著作权归作者所有，禁止商业用途转载。，那么也就意味着我们可以让LLM来生成它【转载请注明来源】【未经授权禁止转载】。
转载请注明出处：www.tangshuang.net未经授权，禁止复制转载。【原创内容，转载请注明出处】没错，讲了这么多，我们终于让LLM登场。【版权所有】唐霜 www.tangshuang.net原创内容，盗版必究。现在，我们的目标切换成了，如何让我们的A【本文受版权保护】【关注微信公众号：wwwtangshuangnet】I系统，可以通过LLM应用，实现从自然语【版权所有，侵权必究】本文作者：唐霜，转载请注明出处。言描述到Schema数据的生成过程。
转载请注明出处：www.tangshuang.net原创内容，盗版必究。LLM应用的发展过程有好几个阶段，你可以【作者：唐霜】未经授权，禁止复制转载。关注我的公众号 wwwtangshuan未经授权，禁止复制转载。转载请注明出处：www.tangshuang.netgnet 阅读相关文章了解。如果是早期，【版权所有，侵权必究】【版权所有，侵权必究】我们主要强调的是 prompt 工程，利【未经授权禁止转载】原创内容，盗版必究。用大模型的推理、思维链等特性，想尽办法让【作者：唐霜】本文作者：唐霜，转载请注明出处。大模型可以在推理过程中按照Schema的【作者：唐霜】【原创内容，转载请注明出处】特征进行生成。但是，这种方法效果非常差，【关注微信公众号：wwwtangshuangnet】【未经授权禁止转载】一方面我们需要提供庞大的example和【未经授权禁止转载】未经授权，禁止复制转载。schema描述，toekns太多，性能【原创内容，转载请注明出处】【作者：唐霜】扛不住，另一方面我们必须让自然语言是在描【原创内容，转载请注明出处】原创内容，盗版必究。述schema，而非描述UI，这显然是不【关注微信公众号：wwwtangshuangnet】【作者：唐霜】符合预期的。后来，我们尝试使用lora、【本文受版权保护】本文版权归作者所有，未经授权不得转载。fine-tune等微调方案来让模型更懂【转载请注明来源】本文作者：唐霜，转载请注明出处。schema，这样就可以用更少token著作权归作者所有，禁止商业用途转载。【本文受版权保护】，但是这种方案仍然是要求用户自然语言描述【原创不易，请尊重版权】【本文受版权保护】中，必须是在熟知schema的前提下进行本文作者：唐霜，转载请注明出处。【访问 www.tangshuang.net 获取更多精彩内容】，否则很难对应到schema中。
未经授权，禁止复制转载。未经授权，禁止复制转载。【版权所有，侵权必究】原创内容，盗版必究。可见，这一时期，想直接通过描述UI长什么【作者：唐霜】未经授权，禁止复制转载。样子，到我们获得Schema文件之间，存【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net在着巨大的鸿沟，通过描述Schema信息【原创内容，转载请注明出处】【转载请注明来源】来生成Schema，虽然比拖拉拽看上去更【作者：唐霜】转载请注明出处：www.tangshuang.net快，但准确性却并不理想。总而言之，少那么【本文受版权保护】【转载请注明来源】点意思。
著作权归作者所有，禁止商业用途转载。【转载请注明来源】【作者：唐霜】今年，也就是2024年，LLM的应用进入【原创不易，请尊重版权】本文作者：唐霜，转载请注明出处。到一个新阶段，通过设计大型工作流架构来完【版权所有】唐霜 www.tangshuang.net【原创不易，请尊重版权】成任务目标成为新范式。过去，我们往往希望【本文受版权保护】转载请注明出处：www.tangshuang.net通过LLM一次或几次对话就能一步到位得到转载请注明出处：www.tangshuang.net【未经授权禁止转载】我们想要的数据，在经过这1年的社会毒打之未经授权，禁止复制转载。【版权所有】唐霜 www.tangshuang.net后，发现是不可行的，纯粹的LLM交互是无【版权所有，侵权必究】本文版权归作者所有，未经授权不得转载。法提升效果的。吴恩达在其研究中发现，如果本文作者：唐霜，转载请注明出处。本文版权归作者所有，未经授权不得转载。只是单独依靠一两次对话就想获得想要的目标著作权归作者所有，禁止商业用途转载。【关注微信公众号：wwwtangshuangnet】，其成功率，GPT-3.5能打3分，GP著作权归作者所有，禁止商业用途转载。【原创内容，转载请注明出处】T-4能打6分，但是如果设计出恰到好处的未经授权，禁止复制转载。未经授权，禁止复制转载。工作流，即使GPT-3.5也能打到9分。
【本文首发于唐霜的博客】【作者：唐霜】著作权归作者所有，禁止商业用途转载。什么是工作流呢？简单讲，就是不妄想通过简本文作者：唐霜，转载请注明出处。【本文首发于唐霜的博客】单的1个步骤就立马得到结果，而是有规划有【转载请注明来源】【版权所有】唐霜 www.tangshuang.net策略的进行多轮对话，让不同的Agent担【访问 www.tangshuang.net 获取更多精彩内容】【作者：唐霜】任不同的角色，分工合作，再加入一些验证、本文作者：唐霜，转载请注明出处。【本文受版权保护】调整等环节，从而让走完整个流程后出来的结未经授权，禁止复制转载。【版权所有】唐霜 www.tangshuang.net果更逼近我们想要的结果。
转载请注明出处：www.tangshuang.net【作者：唐霜】转载请注明出处：www.tangshuang.net【原创内容，转载请注明出处】可以说，2024年所有的AI应用都在利用原创内容，盗版必究。著作权归作者所有，禁止商业用途转载。这个思路，包括最新的大模型底座架构，也在著作权归作者所有，禁止商业用途转载。著作权归作者所有，禁止商业用途转载。强调多专家模型的网络结构。也就是说，整个本文作者：唐霜，转载请注明出处。本文作者：唐霜，转载请注明出处。业界都意识到，单纯靠一个LLM单打独斗是著作权归作者所有，禁止商业用途转载。未经授权，禁止复制转载。无法高效实现目标的，通过系统化的任务拆分本文版权归作者所有，未经授权不得转载。【版权所有】唐霜 www.tangshuang.net能让效果瞬间翻倍。这种分工协作思想，是今【未经授权禁止转载】【本文首发于唐霜的博客】年AI应用架构的核心思想，也是我们这段时【版权所有，侵权必究】著作权归作者所有，禁止商业用途转载。间看到各类效果不错的AI产品令人惊艳的原【作者：唐霜】【原创不易，请尊重版权】因。
【关注微信公众号：wwwtangshuangnet】原创内容，盗版必究。本文作者：唐霜，转载请注明出处。【本文受版权保护】回到我们的主题，当用户在对UI进行描述时著作权归作者所有，禁止商业用途转载。本文作者：唐霜，转载请注明出处。，openwebui将整个任务进行了划分【本文首发于唐霜的博客】【转载请注明来源】，通过不同的阶段、不同的模型调用、不同的【未经授权禁止转载】本文作者：唐霜，转载请注明出处。任务目标、不同的工具调用，最终让生成的代【关注微信公众号：wwwtangshuangnet】【版权所有，侵权必究】码更为逼近用户描述的目标。如果再结合我们【未经授权禁止转载】未经授权，禁止复制转载。上文提到的，我们通过微调，可以让大模型可【原创内容，转载请注明出处】转载请注明出处：www.tangshuang.net以根据用户描述获得更逼近与我们Schem【原创内容，转载请注明出处】【原创不易，请尊重版权】a结构的输出。这个过程本身就有点像一个开【本文首发于唐霜的博客】【转载请注明来源】发团队的工作过程，产品描述需求，产出交互本文版权归作者所有，未经授权不得转载。著作权归作者所有，禁止商业用途转载。稿，设计根据需求产出设计稿，开发根据需求【版权所有】唐霜 www.tangshuang.net【关注微信公众号：wwwtangshuangnet】和设计稿产出代码。通过这种分工协作，虽然【关注微信公众号：wwwtangshuangnet】【原创不易，请尊重版权】用户不懂专业的编码过程，但是只要他可以描著作权归作者所有，禁止商业用途转载。本文作者：唐霜，转载请注明出处。述正确自己的需求，就可以得到对应的结果。
【版权所有】唐霜 www.tangshuang.net【转载请注明来源】【未经授权禁止转载】【访问 www.tangshuang.net 获取更多精彩内容】由于我们已经有低代码的成果，因此，利用低原创内容，盗版必究。本文作者：唐霜，转载请注明出处。代码平台现有的能力，把低代码平台作为一个【版权所有，侵权必究】著作权归作者所有，禁止商业用途转载。第三方工具，挂载在AI系统上，当上述工作【关注微信公众号：wwwtangshuangnet】【本文受版权保护】流运行到某个节点时，把低代码平台作为工具【访问 www.tangshuang.net 获取更多精彩内容】本文版权归作者所有，未经授权不得转载。进行调用，就形成了符合眼下Agent架构【原创内容，转载请注明出处】【访问 www.tangshuang.net 获取更多精彩内容】的合理模式。
本文作者：唐霜，转载请注明出处。本文版权归作者所有，未经授权不得转载。这里其实有一个细节，就是workflow【原创内容，转载请注明出处】【转载请注明来源】执行调用工具任务时，需要向工具传参，而这【版权所有】唐霜 www.tangshuang.net原创内容，盗版必究。个参数往往是上游的节点中的LLM生成的，未经授权，禁止复制转载。【版权所有】唐霜 www.tangshuang.net这个参数应该就是我们需要的Schema文【版权所有】唐霜 www.tangshuang.net本文版权归作者所有，未经授权不得转载。件。
【本文首发于唐霜的博客】【未经授权禁止转载】这样，就形成了一个完整的闭环。
【关注微信公众号：wwwtangshuangnet】原创内容，盗版必究。不过这里我没有详细展开当下业界主流的wo【本文首发于唐霜的博客】【原创不易，请尊重版权】rkflow架构模式，以后有机会的话，会【本文受版权保护】本文版权归作者所有，未经授权不得转载。专门做一起节目来讲。
未经授权，禁止复制转载。【原创内容，转载请注明出处】可以看到，从路径上讲，用自然语言描述来生本文作者：唐霜，转载请注明出处。转载请注明出处：www.tangshuang.net成UI是完全可以实现的，而且openwe【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】bui还有一个特点，就是可以通过自然语言【版权所有】唐霜 www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】来对界面进行调整，这一点也是非常友好。如【访问 www.tangshuang.net 获取更多精彩内容】【未经授权禁止转载】果可以在加入鼠标控制的能力，配合上语音识【本文受版权保护】【原创不易，请尊重版权】别，那就更加有意识了，我们可以通过鼠标点【访问 www.tangshuang.net 获取更多精彩内容】转载请注明出处：www.tangshuang.net击某处，然后说话“这个地方改为蓝色”，就【版权所有】唐霜 www.tangshuang.net【本文受版权保护】可以修改出我们需要的效果。这样的场景相信【转载请注明来源】【关注微信公众号：wwwtangshuangnet】也并不难实现。
本文版权归作者所有，未经授权不得转载。著作权归作者所有，禁止商业用途转载。好了，本期详细阐述了用AI生成UI的技术【关注微信公众号：wwwtangshuangnet】转载请注明出处：www.tangshuang.net实现原理。随着LLM技术的不断发展，我们【转载请注明来源】【本文首发于唐霜的博客】前端会逐渐受到影响，只有不断学习和进步，【原创不易，请尊重版权】【原创内容，转载请注明出处】才能重复利用更为先进的工具提升我们的开发本文版权归作者所有，未经授权不得转载。著作权归作者所有，禁止商业用途转载。效率，让我们的开发更加有意思。
本文版权归作者所有，未经授权不得转载。转载请注明出处：www.tangshuang.net【版权所有，侵权必究】
