Prompt设计与大语言模型的微调方法
本文主要介绍了Prompt设计、大语言模型SFT和LLM在手机天猫AI导购助理项目应用。
“会说话的AI”，“智能体”
简单概括成以下几个步骤：
-
预处理文本：ChatGPT的输入文本需要进行预处理。
-
输入编码：ChatGPT将经过预处理的文本输入到神经网络中进行编码处理，使用的是多层transformer编码器结构。
-
预测输出：ChatGPT通过对输入进行逐个token预测，输出下一个最可能出现的token序列，使用的是softmax函数进行概率预测。
-
输出解码：ChatGPT将预测的token序列作为输入，经过多层transformer解码器结构进行解码处理，最终输出模型的回答。
-
重复步骤3和4：ChatGPT在处理输入时会持续输出预测的token序列，直到遇到停止符号或达到最大输出长度为止。
算法内核——Transformer
由 Encoder 和 Decoder 两个部分组成
▐ 什么是prompt？
看来跟我今天想分享的不太一样，加个具体的限定条件，然后呢？
这下对了！Prompt的不同能直接决定模型是否能按我们的预期输出
▐ prompt基本技巧
1.清晰，明确，避免模糊的词语
| bad case | good case |
| 产品描述不应该太短，用一些句子就行，也不用特别多 | 用3到5个短语描述这个产品 |
|
给手机天猫写首诗
|
给手机天猫写一首四句的古文诗，模仿李白的《早发白帝城》
|
2.用###或者"""或者<>或者'''将指令和待处理的内容分开
| bad case | good case |
| 将下面内容总结为一句话。你应该提供尽可能清晰和具体的指令来表达你想让模型做什么。这将引导模型朝着期望的输出方向发展，并减少收到无关或不正确响应的可能性。不要混淆写一个清晰的提示和写一个简短的提示。在许多情况下，更长的提示提供更多的清晰度和上下文，这可以导致更详细和相关的输出。 |
将下面用三个引号括起来的内容总结为一句话： 需要总结的文本是： ''' 你应该提供尽可能清晰和具体的指令来表达你想让模型做什么。这将引导模型朝着期望的输出方向发展，并减少收到无关或不正确响应的可能性。不要混淆写一个清晰的提示和写一个简短的提示。在许多情况下，更长的提示提供更多的清晰度和上下文，这可以导致更详细和相关的输出。 ''' |
3.指定输出格式
| bad case | good case |
|
生成三个虚构书名，包括它们的作者和类型。
|
生成三个虚构书名，包括它们的作者和类型。以JSON列表的格式提供，包括以下键：book_id、title、author、genre
|
4.角色扮演，用扮演、担任等这一类词汇告诉大模型在对话中特定的人格或角色
| bad case | good case |
|
给我推销一款男士洗面奶
|
system:我想让你扮演一个专业的导购员。你可以充分利用你的电商知识、导购话术，生动活泼的帮顾客介绍推销商品。 user:给我推销一款男士洗面奶
|
▐ Few shot进阶
启用上下文in-context learning学习，在prompt中提供几个样例（这里只有一个例子one-shot）
▐ Chain of Thought（Cot）
思维链（CoT）是一种改进的提示策略，用于提高 LLM 在复杂推理任务中的性能，如算术推理、常识推理和符号推理。
| one-shot | Cot |
|
model input： Q：小明有5个球，他又买了2筐，每一筐有3个球。那么他现在总共有几个球？ A：答案是11 Q：小花有23个苹果，他们午餐用去了20个，又买了6个。那么现在还有多少个苹果？ model output：
|
model input： Q：小明有5个球，他又买了2筐，每一筐有3个球。那么他现在总共有几个球？ A：小明开始有5个球，又买了2筐球，每筐3个共6个球，合计11个球，答案是11 Q：小花有23个苹果，他们午餐用去了20个，又买了6个。那么现在还有多少个苹果？ model output：
|
上面的例子很好的激发了大模型的潜能，是否有prompt技巧无能为力的问题？
答案是肯定的，一些偏实时，模型训练过程中缺乏的语料知识，它也无能为力。
▐ Search API & GPT
上一篇：
题目：第1111份考试试卷
下一篇：
抉择：追随传统步调的工作与拥抱*的抉择
推荐阅读
解锁图像的新维度：剑桥大学与英特尔公司联手，利用大语言模型重构逆向图形！
人工智能讲师 人工智能讲师 大模型训练讲师 叶子：突破大型语言模型推理效率的创新方法
人工智能讲师叶子，大模型训练师：基于大型语言模型的自主智能：架构设计与应用前景
人工智能大模型中的策略模式和模板方法模式的比较与分析
python 基础知识：详细介绍计算机的五大组成部分、计算机的三大核心硬件、操作系统、编程与编程语言的关系、编程语言的发展历史、编程语言的分类、python 解释器、环境变量与多版本并存、运行 python 程序的三种方法
小红书大产品部架构 小红书产品概览--经过性能、稳定性、成本等多个维度的详细评估，小红书最终决定选择基于腾讯云星海自研硬件的SA2云服务器作为主力机型使用。结合其秒级的快速扩缩、超强兼容和平滑迁移能力，小红书在抵御上亿次用户访问、保证系统稳定运行的同时，也实现了成本的大幅降低。
星海SA2云服务器是基于腾讯云星海的首款自研服务器。腾讯云星海作为自研硬件品牌，通过创新的高兼容性架构、简洁可靠的自主设计，结合腾讯自身业务以及百万客户上云需求的特点，致力于为云计算时代提供安全、稳定、性能领先的基础架构产品和服务。如今，星海SA2云服务器也正在为越来越多的企业提供低成本、高效率、更安全的弹性计算服务。
以下是与小红书SRE总监陈敖翔的对话实录。
问：请您介绍一下小红书及其主要商业模式？
小红书是一个面向年轻人的生活方式平台，在这里，他们发现了向上、多元的真实世界。小红书日活超过 3500 万，月活跃用户超过 1 亿，日均笔记曝光量达 80 亿。小红书由社交平台和在线购物两大部分组成。与其他线上平台相比，小红书的内容基于真实的口碑分享，播种不止于线上，还为线下实体店赋能。
问：围绕业务发展，小红书的系统架构经历了怎样的变革和演进？
系统架构变化不大，影响最深的是资源开销。过去三年，资源开销大幅增加，同比增长约 10 倍。在此背景下，我们努力进行优化，包括很早就开始使用 K8S 进行资源调度。到 18 年年中，绝大多数服务已经完全实现了容器化。
问：目前小红书系统架构中的计算基础设施建设和布局是怎样的？
我们目前的建设方式可以简单描述为星型结构。腾讯云在上海的一个区是我们的计算中心，承载着我们的核心数据和在线业务。在外围，我们还有两个数据中心进行计算分流，同时承担灾备和线上业务双活的角色。
与其他新兴电子商务互联网公司类似，小红书的大部分计算能力主要用于线下数据分析、模型训练和在线推荐等平台。随着业务的发展，对算力的需求也在加速增长。
SORA 与大语言模型-1.应用领域的区别：
Java 类加载器的作用 - 简介：类加载器是 Java™ 中一个非常重要的概念。类加载器负责将 Java 类的字节码加载到 Java 虚拟机中。本文首先详细介绍了 Java 类加载器的基本概念，包括代理模型、加载类的具体过程和线程上下文类加载器等。然后介绍了如何开发自己的类加载器，最后介绍了类加载器在 Web 容器和 OSGi™ 中的应用。
类加载器是 Java 语言的一项创新，也是 Java 语言广受欢迎的重要原因之一。它允许将 Java 类动态加载到 Java 虚拟机中并执行。类加载器从 JDK 1.0 开始出现，最初是为了满足 Java Applets 的需求而开发的，Java Applets 需要从远程位置下载 Java 类文件并在浏览器中执行。现在，类加载器已广泛应用于网络容器和 OSGi。一般来说，Java 应用程序的开发人员不需要直接与类加载器交互；Java 虚拟机的默认行为足以应对大多数情况。但是，如果遇到需要与类加载器交互的情况，而您又不太了解类加载器的机制，就很容易花费大量时间调试异常，如 ClassNotFoundException 和 NoClassDefFoundError。本文将详细介绍 Java 的类加载器，帮助读者深入理解 Java 语言中的这一重要概念。下面先介绍一些基本概念。
类加载器的基本概念
顾名思义，类加载器用于将 Java 类加载到 Java 虚拟机中。一般来说，Java 虚拟机以如下方式使用 Java 类：Java 源程序（.java 文件）经 Java 编译器编译后转换为 Java 字节代码（.class 文件）。类加载器负责读取 Java 字节代码并将其转换为 java.lang 实例。每个实例都用来表示一个 Java 类。通过该实例的 newInstance 方法创建该类的对象。实际情况可能更加复杂，例如，Java 字节代码可能是由工具动态生成或通过网络下载的。
基本上，所有类加载器都是 java.lang.ClassLoader 类的实例。下面将详细介绍这个 Java 类。
java.lang.ClassLoader 类简介
java.lang.ClassLoader 类的基本职责是根据给定类的名称为其查找或生成相应的字节码，然后根据这些字节码定义一个 Java 类，即 java.lang.Class 类的实例。除此之外，ClassLoader 还负责加载 Java 应用程序所需的资源，如图像文件和配置文件。不过，本文只讨论它加载类的功能。为了履行加载类的职责，ClassLoader 提供了许多方法，其中比较重要的方法如表 1 所示。下文将详细介绍这些方法。
表 1.与加载类相关的 ClassLoader 方法
41 个下载免费 3D 模型的最佳网站-使用说明：使用权限可能因型号而异。因此，在下载文件之前，请仔细检查每个下载页面上的许可证和使用权限。
17. Clara.io
Clara.io 是一个创建 3D 内容的全球平台，也是一个培养新 3D 艺术家的社区。Clara.io 提供+100，000个免费的3D模型，包括OBJ，Blend，STL，FBX，DAE，Babylon.JS，Three.JS格式，用于 Clara.io，Unity 3D，Blender，Sketchup，Cinema 4D，3DS Max和Maya。
使用说明：免费，标准和专业帐户仅供个人使用，如果您需要将 clara.io 用于商业用途，请与销售团队联系。
18. 3DExport
3DExport是一个市场，您可以在其中购买和销售用于CG项目的3D模型，3D打印模型和纹理。它提供15 +不同的3D格式供下载，如3DS MAX（.max），Cinema4D（.c4d），Maya（.mb，.ma），Lightwave（.lwo），Softimage（.xsi），Wavefront OBJ（.obj），Autodesk FBX（.fbx）等。它还提供15种不同的语言！
使用说明：免费下载仅供个人和非商业用途。
19. 3D Warehouse
3D Warehouse是一个开放的库，允许用户共享和下载SketchUp 3D模型，用于建筑，设计，施工和娱乐！任何人都可以免费制作，修改和重新上传内容到3D仓库，您可以找到任何您能想到的东西，如家具，电子产品，室内产品等。
使用说明：3D Warehouse中的所有模型都是免费的，因此任何人都可以下载文件以用于SketchUp甚至其他软件，如AutoCAD，Revit和ArchiCAD。
20. CadNav.com
CadNav是CGI平面设计师和CAD / CAM / CAE工程师的在线3D模型库，我们提供超过50000 +免费3D模型和CAD模型下载。在CadNav网站上，您可以下载高质量的多边形网格3D模型，3D CAD实体对象，纹理，Vray材料，3D作品，CAD图纸等。
使用说明：免费下载仅供个人和非商业用途。
21. All3dfree.net
就像网站名称一样，它提供免费的3D模型，还包括Vray材料，CAD块，2d和3d纹理集合，无需注册即可免费下载。它是不断更新的，因此您可以查找或请求3DS，MAX，C4D，skp，OBJ，FBX，MTL等格式的模型。
使用说明：所有资源均不允许用于商业用途，否则您将承担责任。
22. Hum3D
自2005年以来，Hum3D帮助来自3多个国家的80D艺术家节省3D建模时间，并制作逼真的3D模型，用于电影，视频游戏，AR应用程序和可视化。所有模型均由首席3D艺术家进行验证，他们检查其是否符合专业要求和最新的3D建模标准。
使用说明：免费下载仅供个人和非商业用途。
23. Artist-3D.com
艺术家-3D 库存的免费 3D 模型下载按通用类别排序。它为人体解剖学、汽车、家具、火箭、卫星等模型提供 AutoDesk 3DS Max 格式。您还可以在浏览他们的网站时找到教程和类似类型的建模。
使用说明：使用权限可能因型号而异。因此，在下载文件之前，请仔细检查每个下载页面上的许可证和使用权限。
24. Free the models
就像本网站的标题一样，它为3d应用程序和3d游戏引擎提供免费的内容模型。您可以为您的任何项目找到许多有趣且有用的模型！它提供3ds，wavefront，bryce，poser，lightwave，md2和unity3d格式的模型。还有一个很棒的纹理集合，可以在您最喜欢的建模和渲染程序中使用。
使用说明：您从这里下载的所有内容都可以免费使用，除非它不能包含在另一个免费的网络或CD收藏中，也不能单独出售。否则，您可以在商业游戏，3D应用程序或渲染作品中使用它。您不必提供信用，但如果您这样做，那就太好了。
25. Resources.blogscopia
本网站由一家名为Scopia的公司创建。他们制作3D图像和视频，您可以找到许多为CGI工作的信息架构设计的模型，所有这些都可以在现实生活中使用。您可以免费下载它们，但是，如果您想一次下载它们，您可以支付 3 到 9 欧元。
使用说明：您可以免费下载模型部分的所有文件。每个压缩文件都包含您也可以在此处找到的许可证。基本上，您可以对文件执行任何操作。唯一的限制是不归属于Scopia的重新分发。
26.ambientCG
1000+公共领域PBR材料适合所有人！环境CG是使用许多不同的方法和资产类型创建的，例如照片纹理（PBR），贴花（PBR），图集（PBR），照片纹理（普通），物质存档（SBSAR），雕刻画笔，3D模型和地形。您可以在所有项目中*使用它们！
使用说明：在 ambientCG 上提供下载的所有 PBR 材料、画笔、照片和 3D 模型均根据知识共享 CC0 1.0 通用许可提供。您可以复制、修改、分发和执行作品，即使是出于商业目的，也无需征得许可。信用将不胜感激。
不要满足于平庸的大理石纹理 - 立即使用我们的免费PBR大理石纹理升级您的3D设计。
27.Pixar One Twenty Eight
这是一个提供官方动画行业经典纹理的网站：皮克斯，创建于 1993 年，该纹理库包括 128 个重复纹理，现在免费提供。
它包含您来到的纹理，包括砖块和动物毛皮。肯定会有一些你可以使用的东西。
使用说明：皮克斯动画工作室的《Pixar One Twenty Eight》根据知识共享署名4.0国际许可协议进行许可。即使出于商业目的，您也可以重新混合、调整和构建您的作品，只要您以相同的条款对新创作进行信用和许可。
访问数以千计的免费纹理并提升您的设计游戏 - 立即开始下载！
28. 3DXO
即使有近 620 个免费贴纸可供下载，3DXO 也不是最大的资源，但它的内容非常有用，不需要注册。无论是简单的墙壁或地板，还是一些奇怪的小东西，您都需要的纹理都可以在此网站上看到。
使用说明：使用权限可能因型号而异。因此，在下载文件之前，请仔细检查每个下载页面上的许可证和使用权限。
29. 3DModelsCC0
3DModelsCC0 与其他产品的不同之处在于它包含超过 250+ 个高质量 3D 模型，并且本网站上的所有内容都是免费的，完全是公共领域！使用我们的模型时无需信用或归属！
使用说明：为每个人提供完全免费的公共领域内容。
30.Sketch up texture club
Sketchup Texture Club是一个非营利性的教育和信息门户网站，由3D社区的图像促进协会管理，特别强调面向学生和建筑和室内设计专业人士的可视化和渲染技术，以及所有正在学习3D可视化的人。
使用说明：您无需支付版税或使用费。纹理可以免费下载和使用。不允许将纹理作为竞争产品出售或重新分发，即使图像被修改也是如此。
31. FlippedNormals
FlippedNormal 是一个提供计算机图形和 3D 资产的市场，您可以找到许多用于雕刻、建模、纹理、概念艺术、3D 模型、游戏资产或课程的高级资产！
使用说明：使用权限可能因型号而异。因此，在下载文件之前，请仔细检查每个下载页面上的许可证和使用权限。
32. NASA 3D
NASA 3D网站是一个在线门户，提供与太空和各种NASA任务相关的大量三维模型和模拟。该网站是用户友好的，并提供有关每个型号的详细信息。该网站允许用户探索和下载几种不同格式的模型，包括 OBJ、STL 和 FBX，只需单击下载按钮即可。
使用说明： 要下载模型，只需单击模型页面上的下载按钮并选择所需的格式。
33. 3DAGOGO (Astroprint)
3DAGOGO 是一个提供广泛 3D 模型的网站，包括角色、车辆和建筑物。3DAGOGO 的独特功能之一是它专注于适合 3D 打印的模型，使其成为希望创建物理原型或模型的设计师的绝佳资源。要使用 3DAGOGO，设计师只需在网站上搜索他们正在寻找的模型类型，然后下载 STL 格式的文件。
使用说明： 要使用 3DAGOGO，只需搜索所需的 3D 模型类型并下载 STL 格式的文件。根据需要自定义模型，并确保在将其用于商业目的之前检查使用权限。
34. FreeCAD
FreeCAD是一款了不起的3D建模软件，可让您在计算机上创建令人难以置信的3D设计。该软件可免费下载和使用，它提供了广泛的工具和功能，可用于创建用于各种目的的3D模型。
该网站易于浏览，您可以找到开始使用FreeCAD的所有必要信息。此外，该网站还提供一系列教程和指南，可帮助您了解 3D 建模的来龙去脉。
使用说明： 要下载模型，请访问网站并从库中选择所需的模型。该网站还提供了一系列使用该软件的教程和指南。
35. Pinshape
Pinshape是一个提供一系列3D打印模型的网站。网站上提供的型号质量很高，因此您可以确保您的最终印刷产品看起来很棒。该网站提供了广泛的模型，包括从家居用品到小雕像和珠宝的所有物品。
但这还不是Pinshape所能提供的全部！该网站还允许用户上传和共享自己的3D模型。这意味着您不仅可以下载出色的模型，还可以通过分享自己的设计为社区做出贡献。此外，Pinshape 提供了一系列自定义选项，因此您可以调整和调整模型以满足您的特定需求。
使用说明： 要下载模型，请在网站上创建一个帐户，搜索所需的模型，然后单击下载按钮。该网站还为每种型号提供了一系列定制选项。
36.Yeggi
Yeggi 提供了大量免费的 3D 模型，您可以下载各种格式的模型，例如 STL、OBJ 和 FBX。该网站易于使用，您可以按关键字、类别或特定网站搜索模型。
Yeggi 对于任何寻找 3D 模型的人来说都是一个很好的资源。它提供了大量的模型集合，从日常物品到复杂的机械，以及介于两者之间的一切。该网站的收藏量在不断增长，每天都有新的型号增加。
使用说明： 要下载模型，请在网站上搜索所需的模型，然后单击下载按钮。该网站还提供指向托管模型的原始网站的链接。
37. Open3DModel
来自开放3D模型的图像
Open3DModel具有各种类别的模型，包括建筑，车辆和角色。无论您需要建筑物，汽车还是人的3D模型，都可以在此网站上找到。
该网站易于浏览，您可以按类别或关键字搜索模型。每个模型都附带预览图像和详细信息，例如文件格式、大小和多边形数量。此信息可以帮助您选择适合您需求的模型。
使用说明： 要下载模型，请访问网站，从库中选择所需的模型，然后单击下载按钮。
使用最好的 3D 资产管理工具简化您的 3D 制作流程。立即试用它们，将您的 3D 项目提升到一个新的水平！
38. 3DExport
对于那些为其 3D 设计项目寻找 3D 模型、纹理和其他资源的人来说，该平台是一个很好的资源。该网站有大量模型可供选择，包括 3D 打印对象、游戏资产等。用户可以按类别、文件格式或价格范围浏览，以找到适合其项目的完美资源。此外，3DExport 还提供一系列教程和其他 3D 资源，以帮助用户提高技能并创建更令人印象深刻的设计。
使用说明： 要使用 3DExport，只需创建一个帐户并浏览可用型号。您可以按类别、格式和价格进行搜索，以找到所需的型号。找到喜欢的模型后，只需下载它并开始在您的项目中使用它。
39.Blend Swap
Blend Swap是一个社区驱动的市场，提供与Blender软件兼容的各种免费3D模型。该平台允许用户共享和下载模型、纹理和其他资产，以便在他们的项目中使用。
使用说明： 创建免费帐户后，您可以浏览社区上传的大量3D模型。当您找到要使用的一个时，只需下载它并将其导入您选择的 3D 软件即可。
40. 3DShook
3DShook 是一个高级 3D 模型市场，提供一系列用于建筑、游戏等各个行业的高质量模型。该平台提供基于订阅的模型，具有不同的定价计划，允许用户访问一系列模型。
使用说明： 注册免费帐户后，只需浏览3D模型库，选择您喜欢的模型，然后以您需要的格式下载它们。
41. Smithsonian X 3D
史密森尼 X 3D 对于正在寻找历史文物和文物的高质量 3D 模型的设计师来说，这是一个独特的资源。该平台提供了大量3D模型，这些模型是根据史密森尼博物馆和研究中心中的真实物体扫描创建的。
使用说明：
（提供数据集下载）基于大语言模型LangChain与ChatGLM3-6B本地知识库调优：数据集优化、参数调整、Prompt提示词优化实战