aws 开发语言 aws创建直播
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
- 系统整体思路在第一篇文章中做了介绍。
- CloudFormation代码在第二篇文章中做了介绍。
在部署的时候,我们会生成两个Lambda Functions,但是你会发现他们都无法正常运行,比如你会在Step Fuctions中看到如下的问题。
"errorMessage": "Error: Cannot find module 'app'\ Re【【微信】】:\ - /var/runtime/index.mjs"
这个错误信息表示在执行代码时无法找到名为'app'的模块,导致代码无法继续执行。在这里是因为我们还没有部署环境。可以尝试以下方法进行环境部署,包括import openai
Deploy Node.js Lambda functions with .zip file archives
"errorMessage": "SyntaxError: Cannot use import statement outside a module"
注意在package.json文件中,需要加入"type": "module",指定该项目使用的是 ECMAScript 模块的语法。
{ "【【微信】】": "what is AWS Polly?" } { "statusCode": 200, "body": "{\\"Answer\\":\\"what is AWS Polly?\\\ \\\ AWS Polly is an Amazon Web Services (AWS) 【【微信】】ext into lifelike speech. It uses deep learning technologies to synthesize speech that sounds like a human voice. 【【微信】】nguages and allows users to create applications that talk, enabling a more natural way of interacting with applications using voice.\\"}" }
如何在小红书隐藏赞过 小红书的兴趣标签怎么设置
如何在小红书上卖商品,如何在小红书上赚钱,如何在小红书上快速涨粉,如何在小红书下载无水印图片ChatPDF这个应用最近非常火,用户只要上传自己的pdf就可以通过聊天的方式询问这个PDF的内容。我上传了阿里Java开发手册尝试了一下,效果还是很惊艳的,读一本书的效率瞬间提高了很多。
在网上搜索了一下ChatPDF的实现原理,发现了这篇文章,,这篇文章是根据这个开源库来总结的,大概就是将源数据拆成若干片段,然后获取这些片段的embedding。再获取问题的embedding,根据embedding计算片段和问题最接近的n个片段,然后将这些片段塞给ChatGPT,用户对ChatGPT询问,ChatGPT会根据塞给的n个片段进行回答。总结来说ChatGPT的优势在于将已有的知识用更人性化的方式说了一遍。
我在想是不是可以用同样的方法来做一个小工具,然后想到了小红书,小红书推文分为标题、内容和标签三个主要部分,是不是可以做一个根据小红书内容生成标题或者标签的AI工具。我们先用chatgpt测试一下它是不是具备这样的功能。我们先问一下ChatGPT是不是知道小红书,确定它理解小红书这个应用。然后输入一个小红书的推文内容,让ChatGPT生成给出一个吸引人的标题。
从生成的结果上看还是可以得到一个不错的结果的。
根据最新的消息,openai已经开发了chatgpt的接口,我翻阅了openai的文档,根据openai文档上显示的chatgpt模型目前不能训练,只能塞给chatgpt api一些上下文信息,然后对chatgpt进行询问得到答案。这个限制导致我们不能训练特定类型的chatgpt,不过我们可以在chatgpt上预设一些示例对话内容:
{"role": "system", "content": "你是一个小红书作家,我输入一篇小红书推文,你给这个小红书起一个名字。"} {"role": "user", "content": "小红书的内容"} {"role": "assistant", "content": "小红书的标题"} {"role": "user", "content": "小红书的内容"}
最后一条消息是让chatgpt生成一个指定小红书的内容。类似的也可以让chatgpt根据推文内容生成小红书风格的标签;根据标题或者标签生成推文内容。
OpenAI 还提供一种自己训练模型的方法,fine tuning。准备promt和completion数据然后训练模型,最后使用这些模型来补全生成的内容。
{"prompt": "推文内容1", "completion": "标题1"} {"prompt": "推文内容2", "completion": "标题2"}
我使用davinci模型作为基础模型,然后将准备的数据上到openai,调用fine-tune接口训练模型。将训练成功的模型传给【【淘密令】】接口进行调用,传入需要测试的推文内容,得到结果。
# 准备训练数据 messages = [] with open('posts.csv') as f: 【【微信】】 = csv.【【微信】】(f) for row in 【【微信】】: messages.append(json.dumps({"prompt": rows['prompt'], "completion": row['completion']})) # 写入训练数据到文件,文件必须是JSON Lines格式,https://jsonlines.readthedocs.io/en/latest/ with open('train.jsonl', 'a') as f: for message in messages: f.write(message + "\ ") # 上传训练数据到OpenAI upload_file = openai.File.create(file=open("train.jsonl"), purpose='fine-tune', ) print(upload_file) # 训练模型 【【微信】】 = openai.FineTune.create(training_file='文件ID', model='davinci') print(【【微信】】) # 获取模型信息 【【微信】】 = openai.FineTune.retrieve(id='模型ID') print(【【微信】】) # 列出所有Fine Tune模型 fine_tune_models = openai.FineTune.list() print(fine_tune_models) # 测试模型效果 new_prompt = "村上春树说:有的人会用一辈子治愈童年,有的人会用童年治愈一辈子。了解自己身上的习惯,看透自己原生家庭的痛和乐。\ 书名:《原生家庭》\ 作者: (美)苏珊・福沃德博士 / (美)克雷格・巴克\ 有毒家庭千千万,作者将其总结为“天下无不是的父母”、“不称职的父母”、“操控型的父母”、“酗酒型的父母”、“身体虐待型的父母”、“言语虐待型的父母”和“性虐待型的父母”,这些父母对孩子的负面模式持续存在(而不是偶尔的),始终支配着孩子的生活,影响着孩子与人的正常交际交往。\ 当然,要判断自己的原生家庭是否有毒确实不是一件容易的事情,因而苏珊还提供了调查问卷,帮助读者进行自测。\ 书中内容:\ 如何判断自己的原生家庭种类\ 有毒的父母会对孩子造成什么样的伤害?\ 做才能摆脱原生家庭的负面影响?\ 读完的感受:\ 简单来说,看完苏珊的《原生家庭:如何修补自己的性格缺陷》真的帮助我认识到自己许久以来人际交往的通病产生的本质原因。\ 发现自己,接纳自己,才会治愈自己。\ 很有意义的一本书。希望可以帮助到更多需要帮助的宝子。" answer = openai.【【淘密令】】.create( model='模型名', prompt=new_prompt, max_tokens=1000 ) print(answer)
最后结果是使用ChatGPT方法可以快速生成小红书标题和标签以及内容,但是不能用小红书数据训练ChatGPT让它变得更专业。使用Fine Tune方法可以使用自己的数据训练模型,效果根据训练数据来决定。
这进行上面这个探索的过程中,制作了一些工具用于解决一些问题。
为了使用Fine Tune方法训练模型,需要准备大量的小红书推文数据。工具核心的原理是在小红书APP上复制你要提取的推文链接,然后在电脑浏览器打开,使用插件提取小红书内容,将这些提取出来的数据存储到文件里。关于这个工具更详细的内容可以查看这篇文章:
Jerry学长:如何自动提取小红书推文数据?这两个是脚本工具,用于和OpenAI接口进行交互,达到我们提交测试数据和获取结果的目的。
Jerry学长:如何通过 API 训练 ChatGPT ?Jerry学长:如何使用小红书数据微调 【【微信】】 模型实现自动生成小红书标题 AI 工具?如果你想了解这个工具更多细节,可以点击下面的咨询链接联系我哦!