ChatGPT以摧枯拉朽之势席卷了2023年的互联网、科技界、社会生活，于此同时我们观察到，它的应用不仅对原有的业务带来颠覆，而且所涉及的行业领域之广有新一次技术革命之势。本期Robust将详细聊一聊我所了解到的ChatGPT的能力、应用、方法论。

在线收听

喜马拉雅：点击播放

你还可以在苹果自带的 Podcast 应用、小宇宙APP、QQ音乐中搜“Robust”找到我们的节目收听。

捐赠支持

求打赏🙇如果你觉得 Robust 这样一档技术类的谈话节目还不错，希望我继续做下去，不妨打赏支持。

相关资料

什么是ChatGPT？

ChatGPT由四部分组成，灵魂是GPT，一种大语言模型；皮囊是Chat，一种交互形式，以及这种交互形式可以让你体会到的随意性；经验是数据，2021年以前的巨大海量数据以及丰富的知识提取算法，让它可以对你提出的问题可以很容易理解，且在已有的知识中总结出核心要点，并以chat的形式和你唠唠；精力是计算，微软提供的5000万强大云计算设施支持了它可以快速持久响应你的chat。

它能做什么？

现在，把自己想象成曹操，而ChatGPT就是郭嘉，它上知天文下知地理，能在你问他的时候，基于它已有的知识给出建议。

- 信息获取（2021年及以前，不能获取资讯类信息，可以使用New Bing代替）
- 知识提炼
- 数据转换
- 模型推演

我们普通人用ChatGPT，可以从ChatGPT获得非常多的知识的同时，也可以把和它聊天作为一种娱乐。例如和它探讨一些主观性的东西，例如哲学呀，宇宙的本质呀，职场的潜规则呀等等，从对话中，了解前人们对这些问题的看法，作为自己的一个娱乐方式。

不能做什么？

ChatGPT是大语言模型的应用，也就是机器学习的应用，机器学习的特征是通过模式化信息提取进行预测，因此，ChatGPT给出的反馈是预测的结果，而预测结果的准确性除了受模型训练程度的影响，还受数据量及其知识提取算法的影响。因此，目前而言ChatGPT只能作为参谋，给出你建议，不能作为决策。

衍生或相关应用

• ChatPDF, ChatDoc, ResearchGPT 给它一个文件，基于该文件向它提问，它给你回答
• Openai translator 多语言翻译
• openai whisper 语音识别
• Glasp, glarify 视频（youtube）摘要，BiliGPT 哔哩哔哩视频摘要
• AI subtitle B站或youtbe字幕
• ChatKit，给一个URL，基于该URL的内容进行讨论
• Openai DALL·E 图片处理的chat应用
• Midjourney, Waifu, NovelAI, Stable diffusion-v2.1 AI作画， openjourney 基于Midjourney的Stable diffusion开源模型

AIGC（AI Generate Content）

- 让AI提炼内容并生成新内容
- 让AI提取视频的对话生成视频脚本
- AI作画
- AI生成视频
- AI翻译
- AI生成音乐
- AI生成字幕
- AI生成声音
- AI写小说
- AI写周报
- AI报表
- AI电影
- AI游戏
- AI编程

基于ChatGPT进行工作

前面的用法，已经让我们可以开始赚钱了，但是，当我们进入专业领域，需要解决一些专业问题时，ChatGPT可能就无能为力了，因为它虽然有牛X的模型，但没有专业领域的细节知识，例如你是做财务的，虽然chatGPT有财务的知识，但是没有你所在公司的业务经验，所以，它不可能给出针对你公司业务场景的建议，而此时，你可以让它学习你公司的业务，从而拥有你公司的业务经验，进而对你公司业务场景给出具体的财务建议。这就是ChatGPT更高级的能力“模型推演”能力。

现在，我们从公司的一份excel中到处纯文本的数据csv，然后对该文本数据进行文字描述，“以下是一份csv格式的数据：xxxx，每一行代表一个季度的各个指标数据，利润率的计算方法是xxx，那么第三季度的利润率是多少？”

ChatGPT首先会对csv的数据格式进行清理，然后识别你给定的计算规则，并最终按照该规则计算利润率。如果你得到的答案不符合预期，那么一定是你给的文本描述还不够细腻，你可以继续调整文本描述，最终得到你想要的答案，并且将这段文本保存下来，下次要计算利润率时，把它找出来再次使用。

在这一场景中，我们会告诉ChatGPT某种规则，这一规则是用来得到我想要结果的计算方法，让ChatGPT基于这一规则去自动完成我的目标。而这里的“某种规则”就是我们实际工作场景下的“模型”，这个模型在现实中只能由我们自己的大脑保存和使用，我们俗称为“经验”或“理论”，现在，我们把这个“模型”教会ChatGPT，让它可以按照这个“经验”或“理论”进行运作，从而可以辅助我们更快更准确的完成工作。

Prompt Engineering（提示工程）

提升ChatXXX类应用输出结果的准确性，使输出结果和我们脑海中的预期更拟合，就需要有一定的方法，目前，这个方法研究的一个重要分支，叫做“Prompt Engineering”（提示工程）。

简单讲，提示工程，就是研究如何更好的向chatXXX应用提供文本，让这些应用输出的结果达到我们的预期。而这里的文本内容、结构、上下关系，都有非常重要的影响。

我们获取准确信息的过程，就是对抗墒增的过程，对于大语言模型而言，它有两个设置可以提示我们的确定性，一个叫做Temperature（温度），一个叫Top_p，如果你希望问题的结果开放性更高更有创造性，可以调高这两个设置值，如果希望结果更收敛更准确，则调低它们的值。

对于AI机器人而言，它的目标不是回到你的问题，而是基于你的提示给出它的预测，因此，和chatGPT聊天，你不需要非得提问，你应该提示它，例如你提示它你有一组数字 1 2 3 4，那么它会预测你接下来将说5。

“提示”看上去很简单，但是如果没有章法，你只能和ChatGPT做一些低级趣味的互动，而如果你运用提示工程，则可以与他进行高级的互动。提示语包含如下的任一内容：

- 指令：希望模型如何执行的指令
- 上下文：背景信息
- 输入数据：我们希望从这些信息中找到一个答案，可以是任意的内容或问题
- 输出指示：告诉它以什么类型或形式输出结果

它们是有顺序的，实操中，你需要按照它们的顺序给C哈他GTP。如果想要让ChatGPT更准确的预测你想要的结果，那么需要在上面的这四个方面都下功夫。

基于提示工程，我们会发现，上面举例从财务数据中计算利润率的描述并不好，如果我们按照提示工程描述，我们可能需要修改为：

从csv数据中计算第三季度的利润率
上下文：csv中的数据第一列xxx第二列xxx，每一行数据代表一个季度的数据，利润率的计算公式是xxx
输入数据：xxx
输出格式：百分比

以同样的方法，我们可以从财务报表中提炼占比最高的收入渠道等等，有了提示工程，我们在未来的工作中，不再需要反复阅读和计算财务数据，只需要几秒钟就可以得到答案，而且我们可以99%相信这个结果是准确的。（每一个提示语都需要经过测试和优化。）

提示工程不仅仅可以在ChatGPT中使用，任何LLM（大语言模型）应用中都可以使用，它抛开了ChatGPT本身庞大的数据库，而是自己输入数据，同时给定从数据中提取信息的规则，利用ChatGPT或其他ChatXXX应用内在的LLM的能力，得到输出结果。所以，如果存在文件、语音、图片、视频、编程等方面的LLM应用，我们可以轻松的用掌握的提示工程方法帮助我们完成自己的目标。

对于OpenAI的革命性和担忧

OpenAI早期的缔造者里面有埃隆马斯克，如今转手到了微软旗下。无论是马斯克还是微软，都不是理想的科技未来，他们身上都透露出浓浓的科技垄断霸权气息。虽然ChatGPT所代表的新一代AI工具，将有可能对我们现有的社会、工作、生活产生巨大的影响，但是它不是基础技术，和互联网、5G、编程语言等的基础性属性不同，它具有不可替代性，ChatGPT无法进行本地化部署，它不仅垄断了LLM，也垄断了数据，也垄断了用户参与其中时对机器学习的反馈数据，是不透明的，这种不透明会对未来应用产生非常大的不确定性，就像一个被埋起来的地雷，何时被引爆，会不会引爆，就像头顶悬着的剑一样，让我们担忧。

2023-03-26 791