侠客书屋 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!
侠客书屋 >  离语 >   第295章 吃饱了

1.3.2 研究方法

本文以有关电力行业 LcA 的近十年的英文文献为研究对象,并根据每篇文章的元数据构建数据

库。进行文档分割,将文件分割为更小的部分或章节,分区后使其更容易分类和提取文本,将文档

元素列表存储并跟踪从文档中提取的各种元数据,将文本元素分割为适合模型注意力窗口的大小,

构建向量数据库,方便大模型调用。利用 RAG(检索增强生成)模型,帮助大语言模型知晓具有电

力 LcA 领域专业性和时效性的知识,包括最新的新闻、公式、数据等内容,增强大模型回答关于电

力行业 LcA 领域专业性问题与时效性问题的能力,主要用到的研究方法如下。

(1)文献资料法。通过阅读大量国内外研究检索增强生成的文章,确定将 RAG 技术作为提升

大语言模型回答电力行业 LcA 领域问题专业性与时效性问题的解决方法。文献调研显示,聚焦于此

领域的大模型是一个研究空白,将电力行业 LcA 的大模型应用于企业层面的分析,能够响应了重大

战略。该方法能够提升科研眼界、开阔研究思路、丰富研究角度。

(2)实验法。本文使用爬虫程序抓取各顶级期刊官网上近十年的文章,并通过元数据处理方

法,构建文章元数据的数据库。

(3)实证分析法。本文通过大量实际数据,来验证大模型调用电力行业 LcA 领域向量数据库

回答该领域专业性问题和时效性问题的有效性。

1.3.3 系统设计

系统设计三个模块,整体设计如图 1.4 所示,分别是数据处理模块、专业领域知识库构建模块

以及 chatbot 构建模块。数据处理模块主要包括对电力 LcA 这个特定领域的英文文献进行选择和初

步处理,而后将有关数据全部转化成结构化数据。知识库构建模块主要是将数据向量化并构建向量

知识库。chatbot 构建分为功能部分和前端部分,功能包括 openAI 基座的调用、知识库检索、在

线检索;前端部分为 web 可视化以及 UI 设计。

1.4 本章小结

第一章作为本论文的引言部分,主要围绕研究背景、研究目的与意义、研究内容与方法以及系

统设计进行了全面的阐述。首先,本章通过详细阐述当前大模型技术在内容解析领域的背景,指出

了电力行业生命周期评价的重要性,并强调了研究流程和研究方法。在这一基础上,本章进一步明

确了项目系统功能设计。综上所述,本章作为论文的引言部分,为整个研究提供了清晰的研究背

景、目的、意义、内容及方法概述,为后续章节的展开奠定了坚实的基础。

2.1 大语言模型

chatGpt 是由 openAI 发布的一种大语言模型,能够以问答的形式完成各类任务,包括接受文

字输入,理解自然语言,理解响应并模拟人类对话形式进行输出。再各个自然语言处理子任务具有

优异的表现。相比其他大语言模型拥有更丰富的知识,涵盖自然、社会科学、人文历史等多个领

域。chatGpt 在 Gpt3.5 的基础上引入了 RLhF(reinforcement learning from human feedback)

技术,通过将人类的日常对话的语言习惯嵌入模型,并引入价值偏好,使得模型的输出满足人类的

意图。微调过程分为预训练、监督微调、设计奖励模型和反馈优化。桑基韬等人根据 chatGpt 的对

话对象和定位将其应用分为四个层次:数据生成器、知识挖掘器、模型调度器和人机交互界面。在

多模态领域,Visual chatGpt、mm-ReAct 和 huggingGpt 让视觉模型与 chatGpt 协同工作来完成视

觉和语音任务。

除此以外,许多类 chatGpt 的大模型也同样在自然语言处理方面展示出来了较好的效果。

LLamA 是应该从 7billion 到 65billion 参数的语言模型,不需要求助于专有的数据集。清华大学

提出了一种基于自回归填充的通用语言模型 GLm 在整体基于 transformer 的基础上作出改动,在一

些任务的表现上优于 Gpt3-175b。

大语言模型,例如 Gpt 系列、LLama 系列、Gemini 系列等,在自然语言处理方面取得了显着的

成功,展示了超强的性能,但仍面临诸如幻觉、过时的知识、不可追溯的推理过程等挑战。2020

年,由 Lewis 等人引入的检索增强生成方法,通过整合来自外部数据库的知识,然后再继续回答问

题或生成文本。这个过程不仅为后续阶段提供信息,而且确保响应是基于检测到的证据的,从而显

着提高输出的准确性和相关性。在推理阶段从外部知识库动态检索信息使 RAG 能够解决诸如生成幻

觉等问题。RAG 与 LLm 的集成得到了迅速的应用,提高了自然语言处理任务的性能,并且使得模型

能够更好地利用外部知识和背景信息。

自 2020 年起,全球大语言模型在自然语言处理、计算机视觉、语音识别、推荐系统等领域表

现出卓越技术优势,市场规模持续增长,预计到 2028 年将达到 1095 亿美元。国外大模型产品研发

在 2021 年进入高速发展期,谷歌、openAI、英伟达、微软等公司都推出了自主研发的大模型,截

至 2023 年 7 月底,国外已发布了 138 个大模型。我国大模型发展迅速,与国际前沿保持同步,百

度、腾讯、清华大学、北京航空航天大学等单位都推出了自己的大模型,截至 2023 年七月底,我

国已发布 130 个大模型。

2.2 知识抽取

知识抽取主要分为命名实体识别和关系抽取两方面。命名实体识别(NER)任务,旨在识别与

特定语义实体类型相关联的文本跨度。该任务最早于 1991 年由 Rau 等人提出。随着信息理解、人

工智能等领域的顶级会议对 NER 任务的评测,其定义逐渐细化和完善,并逐渐成为自然语言处理

(NLp)领域的重要组成部分。然而,不同领域对实体类型的定义存在差异,因此 NER 模型的构建

取决于特定领域任务需求,通常涵盖人物信息、地点信息和组织机构信息等。对于英语、法语、西

班牙语等外语文本,通常采用单词作为基本单位,因此基于这些语言的 NER 模型主要关注单词本身

的语义特征和上下文信息。然而,中文语料文本通常由字符构成,需要考虑字符的语义信息和词汇。

特征,同时引入其他表征信息来提升模型性能,如中文分词(cwS)、语义部分标签(poS)等外部

信息,因此构建中文命名实体识别(cNER)模型更为复杂。目前,NER 任务的研究方法主要包括基

于词典和规则的方法、基于机器学习(mL)的方法以及基于深度学习(dL)的方法。

今天为什么讲座要那么长时间。

侠客书屋推荐阅读:我白天特案局办案,晚上地府当差我来自黄泉掀饭桌!小疯批夺回气运后不忍了一吻定情,总裁甜蜜囚爱开局逃婚,疯批太子穷追不舍炮灰父女入赘后,全家后悔了穿成霸总娇妻失败后,在恋综选夫穿越四合院之我有系统我怕谁杂货铺通古今,我养的将军醋翻了快穿神君大人的糖去哪了HP:东方来了个笑面蛇逼她给白月光顶罪?渣父子我不要了师尊怎么那么撩你崽崽让哪里逃灵异界大佬:全家跪求我带飞茅山弟子:我靠词条系统混诡异江澄重生后开局出生在魔域盗墓,被偷听心声后我暴露了荒村血祭人在奥特:从海帕杰顿幼虫开始快穿阎罗王:这个女配不太毒惊!陆爷的心尖宠竟是马甲大佬妻主罪恶滔天,死不悔改带着雷欧,穿越奥特宇宙HP万人迷在圣芒戈诱反派!勾疯批!顶级尤物撩疯了千方百计与千方百计快穿:殿下她是个万人迷重生80,从在大兴安岭打猎开始少年白马:把自己炼成药人霍格沃兹:魔法世界第一个资本家谁懂啊?我粉的主播成影后了!陈情令:如果长安牛马实录穿成反派大佬的漂亮毒妻七零:穿成了早逝炮灰她逆天改命书穿圣母女主:老娘双刀定人生娇美知青与糙汉酱酱漾漾的生活炮灰前妻觉醒后决定拿钱走剧情帝妃掌妖异血瞳乱天下在老师面前乱舞的麻瓜从mc开始的万界之旅逐星传说霍格沃茨:我靠MC伪装炼金教授原神:我是天理,不是你们老婆!盗墓:我的网游通盗笔Re:艾蜜莉雅很想让我当王妃!特摄盘点:铠甲假面?统统碗里来绝色狂徒炮灰太娇软,掐腰就会哭
侠客书屋搜藏榜:王爷别虐了,你的暗卫娇妻早跑了影视遇上对的人互绿!你舔白月光,我撩隔壁残王【变形金刚】俘虏求生记重生后,阿姨卷起来弃女觉醒退婚后,清冷权臣他以身相许精灵:从当大木博士助手开始误撩顶级豪门大佬后被天天放肆宠快让开!那个女孩是我的人生如意全靠演技这个女主竟然是食死徒明日方舟:迷途的旅人重生为博士奴隶修仙传繁花错位似流年王妃状态易崩坏公主殿下请理智,亡国敌君是绿茶开局就遭百鬼缠身要相信阳光总在久别重逢,傅先生总说我始乱终弃双面恋人我在斗罗开酒馆,醉倒朱竹清暗相思,无处说,夜来惆怅烟月用尽我的一切奔向你南街小子新书徒儿下山找师姐吧快穿:漂亮老婆又被抱走了八零二嫁小甜妻火影:斑爷等等我们不是兄弟情吗野小子与野百合太一神主之斗罗大陆梨子圆了小知青从末世来穿越后只想好好活着火影直播从剧场版开始变强从喰种开始我家当铺当鬼神我的二次元之旅,启程了闪婚大叔后,挺孕肚离家出走我才不是配角火影:人在宇智波,我能提取词条小道姑直播太准!日赚一亿成首富我们的岁月长河虎啸乾坤:万物传奇诡异修仙世界:我能豁免代价双世青佩十七时五十八分的落日快穿:炮灰剧本?抱歉我才是女主同谋合污【刑侦】杨然修仙传让你进宫当刺客:你居然偷了女帝的心
侠客书屋最新小说:为奴流放后,将军对我俯首称臣失约三次后,阮小姐闪婚了死对头完蛋!我养的炉鼎是正道仙尊捡到八零大佬,做精娇娇赢麻了观音泥笑着玩转战锤兽世,和闺蜜从种田到宫斗随军前,小军嫂夺回空间搬空全家穿越手记:论勇者的培养草根狂徒:我只想把田种好亿点点亡灵低语录谁家清冷师尊将妖徒按在怀里撩?雪中:污蔑当天,反手编辑北凉王!星穹弑神:我靠科技修真推三千年我家住在大陕北认亲侯府被当表小姐,真千金她不伺候了重生后逆袭大律师搬空家底去下乡李世民与渔家女曹婉儿的邂逅情缘风水云雷电我见公子多有病魔道祖师之魏无羡重生盗墓:别惹我,我兄弟南瞎北哑四合院:阅尽天下美女后宫佳丽三千,应要雨露均沾修仙:开局婴儿,我修炼超快宝贝,放松点2九尾狐恩仇录长相思夭柳回溯三生三世奇案擒凶嫡女重生:侯府娇宠穿书女配跟反派大佬领证剧情崩了禁娇鸾:惹上暴戾太子逃不掉!带着手机穿越之太子又又又疯了遨游诸天,弥补遗憾绿调四合院:空间异能者何雨柱仙侠传之混沌元始录青铜镜中电子狐灭族之夜前带宇智波去航海一眼惊鸿之倾世太子妃真千金养黄泉路后,全家火葬场了杏花落尽燕归时渣男太子,你家库房已被我搬空【借邪骨,我以鬼仙破阴阳】阴符九阙旮旯村旮旯事换亲改嫁绝嗣首长后,继姐哭瞎眼穿越废灵根,我靠修仙百艺逆袭茅山风云录