只采用大语言模型,采用知识库与大语言模型结合,和联网搜索与大语言模型结合。
三种功能下获得的回答是完全不同的,后面两个检索功能均为大语言模型优化了生成回答的准确性,对大语言模型的专业领域知识做了补充和改善。
可以看到普通的大语言模型回答的是最简短的,采用了知识库的回答,将答案细分,扩充,并添加了新的内容,附上参考文献。
最后的联网搜索,将答案分为了几类,更加全面,但是每类回答点到即止。
最后就是向量知识库进行优化。
对于准确率低的查询,分析模型回应错误的原因。
如果是由于知识库中缺少相关信息,可以通过添加更多相关文档和数据来增强向量知识库的覆盖范围。
用户反馈是对输入的问题和产生的回答进行记录,方便针对性进行调整。
反馈可以直接用于指导向量知识库的更新和优化。
不断地测试来完善我的专业领域大模型。
最后一部分是我本次研究的总结。
先创建了一个能被大语言模型直接调用的专业知识库,在电力lca这个专业性较高的领域填补了大语言模型的空白。
其次是采用rag技术,将知识库,联网与大语言模型相结合,增强了大语言模型在特定领域的可信度和实用性。
最后就是本次研究虽然是针对电力lca领域,但其背后的构架适用于各个领域,构建了一个完整的体系,可以进行修改,全方面的辅助大语言模型,应用广泛。
以下就是我的全部研究内容请各位老师批评指正。
数据预处理
unstructured库是一个强大的工具,专为处理非结构化数据设计,具体流程如图所示,
如从文本文档、pdf文件或网页中提取数据。
它支持多种数据提取方法,包括正则表达式匹配、自
然语言处理(nlp)技术等。
数据预处理步骤如下:
本小章还未完,请点击下一页继续阅读后面精彩内容!
步骤一:数据清洗
去除杂质:从文本中去除无关的字符,如特殊符号、空白行等。
格式统一:将所有文本统一为相同的编码格式,通常为utf-,以避免编码错误。
语言标准化:统一不同术语的使用,例如将所有"
photovotaic"
统一替换为"
pv"
发现秘籍金像功假,是否点化为金像功真金像功等级ax,进阶为铜人功铜人功等级ax,进阶为阿罗汉功阿罗汉功等级ax,进阶为丈二金身...
岳母好女婿,求求你别离开我女儿(向下翻动一点,作者发布任务。投一颗钻石,必得50岩币!还有几率抢1000岩币,2000岩币!)...
〔暴爽玄幻,最热爽文〕少年陆鸣,血脉被夺,沦为废人,受尽屈辱。幸得至尊神殿,重生无上血脉,从此脚踏天才,一路逆袭,踏上热血辉煌之路。噬无尽生灵,融诸天血脉,跨千山万水,闯九天十地,败尽天下英豪,修战龙真诀,成就万道龙皇。群号5702747705w88337076展开全部gtgt...
青佘是一条修炼千年的蛇妖,在即将飞升成仙之时,差点被雷劫劈的灰飞烟灭。这时一个生子系统找到了她,需要她完成任务,替世界绝嗣的位面之子诞下后代,每完成一个任务,都可以获得相应的世界给予的气运,完成所有任务之后就可以飞升。世界一绝嗣暴君×钓系妖媚大漠公主许绾妤本是小国的公主,却没想到一朝新帝登基,为求国家平安,许绾妤被献给了皇帝世界二星际最强元帅×绝美小透明人鱼和铃是个不受重视的小人鱼,直到有一天,她在人鱼海岸救了一个人类世界三克妻冷峻侯爷×矜娇可怜小庶女林棠溪是个小庶女,她本来只想找...
...
疯狂日更中g文案一霉运系统520又有了新宿主,和别的系统不一样,他绑定的宿主大多都是歪瓜裂枣。为了给新人一个下马威,它戴上了自己的大金链子小手表,脸上暗搓搓画上凶狠的刀疤,结果下一秒它就对上了一双...