磨铁读书 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!
磨铁读书 >  离语 >   第295章 吃饱了

1.3.2 研究方法

本文以有关电力行业 LcA 的近十年的英文文献为研究对象,并根据每篇文章的元数据构建数据

库。进行文档分割,将文件分割为更小的部分或章节,分区后使其更容易分类和提取文本,将文档

元素列表存储并跟踪从文档中提取的各种元数据,将文本元素分割为适合模型注意力窗口的大小,

构建向量数据库,方便大模型调用。利用 RAG(检索增强生成)模型,帮助大语言模型知晓具有电

力 LcA 领域专业性和时效性的知识,包括最新的新闻、公式、数据等内容,增强大模型回答关于电

力行业 LcA 领域专业性问题与时效性问题的能力,主要用到的研究方法如下。

(1)文献资料法。通过阅读大量国内外研究检索增强生成的文章,确定将 RAG 技术作为提升

大语言模型回答电力行业 LcA 领域问题专业性与时效性问题的解决方法。文献调研显示,聚焦于此

领域的大模型是一个研究空白,将电力行业 LcA 的大模型应用于企业层面的分析,能够响应了重大

战略。该方法能够提升科研眼界、开阔研究思路、丰富研究角度。

(2)实验法。本文使用爬虫程序抓取各顶级期刊官网上近十年的文章,并通过元数据处理方

法,构建文章元数据的数据库。

(3)实证分析法。本文通过大量实际数据,来验证大模型调用电力行业 LcA 领域向量数据库

回答该领域专业性问题和时效性问题的有效性。

1.3.3 系统设计

系统设计三个模块,整体设计如图 1.4 所示,分别是数据处理模块、专业领域知识库构建模块

以及 chatbot 构建模块。数据处理模块主要包括对电力 LcA 这个特定领域的英文文献进行选择和初

步处理,而后将有关数据全部转化成结构化数据。知识库构建模块主要是将数据向量化并构建向量

知识库。chatbot 构建分为功能部分和前端部分,功能包括 openAI 基座的调用、知识库检索、在

线检索;前端部分为 web 可视化以及 UI 设计。

1.4 本章小结

第一章作为本论文的引言部分,主要围绕研究背景、研究目的与意义、研究内容与方法以及系

统设计进行了全面的阐述。首先,本章通过详细阐述当前大模型技术在内容解析领域的背景,指出

了电力行业生命周期评价的重要性,并强调了研究流程和研究方法。在这一基础上,本章进一步明

确了项目系统功能设计。综上所述,本章作为论文的引言部分,为整个研究提供了清晰的研究背

景、目的、意义、内容及方法概述,为后续章节的展开奠定了坚实的基础。

2.1 大语言模型

chatGpt 是由 openAI 发布的一种大语言模型,能够以问答的形式完成各类任务,包括接受文

字输入,理解自然语言,理解响应并模拟人类对话形式进行输出。再各个自然语言处理子任务具有

优异的表现。相比其他大语言模型拥有更丰富的知识,涵盖自然、社会科学、人文历史等多个领

域。chatGpt 在 Gpt3.5 的基础上引入了 RLhF(reinforcement learning from human feedback)

技术,通过将人类的日常对话的语言习惯嵌入模型,并引入价值偏好,使得模型的输出满足人类的

意图。微调过程分为预训练、监督微调、设计奖励模型和反馈优化。桑基韬等人根据 chatGpt 的对

话对象和定位将其应用分为四个层次:数据生成器、知识挖掘器、模型调度器和人机交互界面。在

多模态领域,Visual chatGpt、mm-ReAct 和 huggingGpt 让视觉模型与 chatGpt 协同工作来完成视

觉和语音任务。

除此以外,许多类 chatGpt 的大模型也同样在自然语言处理方面展示出来了较好的效果。

LLamA 是应该从 7billion 到 65billion 参数的语言模型,不需要求助于专有的数据集。清华大学

提出了一种基于自回归填充的通用语言模型 GLm 在整体基于 transformer 的基础上作出改动,在一

些任务的表现上优于 Gpt3-175b。

大语言模型,例如 Gpt 系列、LLama 系列、Gemini 系列等,在自然语言处理方面取得了显着的

成功,展示了超强的性能,但仍面临诸如幻觉、过时的知识、不可追溯的推理过程等挑战。2020

年,由 Lewis 等人引入的检索增强生成方法,通过整合来自外部数据库的知识,然后再继续回答问

题或生成文本。这个过程不仅为后续阶段提供信息,而且确保响应是基于检测到的证据的,从而显

着提高输出的准确性和相关性。在推理阶段从外部知识库动态检索信息使 RAG 能够解决诸如生成幻

觉等问题。RAG 与 LLm 的集成得到了迅速的应用,提高了自然语言处理任务的性能,并且使得模型

能够更好地利用外部知识和背景信息。

自 2020 年起,全球大语言模型在自然语言处理、计算机视觉、语音识别、推荐系统等领域表

现出卓越技术优势,市场规模持续增长,预计到 2028 年将达到 1095 亿美元。国外大模型产品研发

在 2021 年进入高速发展期,谷歌、openAI、英伟达、微软等公司都推出了自主研发的大模型,截

至 2023 年 7 月底,国外已发布了 138 个大模型。我国大模型发展迅速,与国际前沿保持同步,百

度、腾讯、清华大学、北京航空航天大学等单位都推出了自己的大模型,截至 2023 年七月底,我

国已发布 130 个大模型。

2.2 知识抽取

知识抽取主要分为命名实体识别和关系抽取两方面。命名实体识别(NER)任务,旨在识别与

特定语义实体类型相关联的文本跨度。该任务最早于 1991 年由 Rau 等人提出。随着信息理解、人

工智能等领域的顶级会议对 NER 任务的评测,其定义逐渐细化和完善,并逐渐成为自然语言处理

(NLp)领域的重要组成部分。然而,不同领域对实体类型的定义存在差异,因此 NER 模型的构建

取决于特定领域任务需求,通常涵盖人物信息、地点信息和组织机构信息等。对于英语、法语、西

班牙语等外语文本,通常采用单词作为基本单位,因此基于这些语言的 NER 模型主要关注单词本身

的语义特征和上下文信息。然而,中文语料文本通常由字符构成,需要考虑字符的语义信息和词汇。

特征,同时引入其他表征信息来提升模型性能,如中文分词(cwS)、语义部分标签(poS)等外部

信息,因此构建中文命名实体识别(cNER)模型更为复杂。目前,NER 任务的研究方法主要包括基

于词典和规则的方法、基于机器学习(mL)的方法以及基于深度学习(dL)的方法。

今天为什么讲座要那么长时间。

磨铁读书推荐阅读:萌娃修仙:我的姐姐是个老妖怪太子女儿身?九千岁助我当女帝穿成炮灰后乱发疯反而成了团宠抄家后,第一美人被权臣强取豪夺舰娘:异界来者变身综漫少女只想变强不软弱!荒村血祭轻熟末世空间:重生后被疯批娇宠了穿书之逆转乾坤综刀剑:都是挚友我怎么就海王了拐个总裁做驸马人在游神,见鬼起乩增损二将顶级绿茶穿越成了豪门里的真千金冷情糙汉一开窍,娇软知青扛不住我个路人和病娇们地府公务员她恃美行凶冷艳总裁的贴身狂兵秦风李秋雪穿书七零?不怕!咱到哪都能潇洒星空宇内吾咋独尊了了呢幻兽飞雪传规则怪谈:我正常得格格不入穿书霸总文,我竟是王妈女明星美又娇,刑警队长宠折腰姑奶奶喜乐的幸福生活璃雪快乐田园生活四合院:万倍经验暴击,众禽慌了傅爷,夫人给您留了个孩子禹雪缠欢系统修仙:团宠废物小师妹无敌了谁家正经爹妈会玩强制爱啊80小夫妻:你上大学,我摆摊成婚当晚,我被病娇反派强取豪夺太师祖在下,孽徒桀桀桀!我靠鸡蛋开局,全世界都是我粉丝三生有幸只因遇见你天选小炮灰,我作死你们漂亮老婆请回家三生仙棺娇媳妇宠又甜:腹黑糙汉心尖尖40k,但随身携带讲话器疯批师叔她杀疯了,全宗火葬场!黑神话:吾为天命狼魔帝记忆曝光,七大女帝悔断肠我将万界商城大陆打造成洪荒抄写经书后,我慈悲了读心残废师妹后,全宗门鸡犬升天电影世界抱得美鬼归全家独宠养女?我将满门逐出家谱薄爷,退你婚的小祖宗又掉马甲了
磨铁读书搜藏榜:重生军婚之宠爱三千:开局仨崽新科状元郎家的小福妻她有冥帝撑腰,没事不要找她作妖小透明的影后之旅穿越了,成为了全家的宠儿从迪迦开始的无限之旅寻金夜行者魔修仙界空洞骑士:圣巢戮途捕风捉凶让你演恶毒女配不是窝囊废界灵幻世嫁良缘快穿结束,回到原世界只想摆烂!湮火者,将赐予你终结!绝世凶徒海贼:全新旅程嫁狐猎户家的夫郎从天降她是,怦然惊欢诡途觅仙美强惨的首富老公是恋爱脑弃女归来她惊艳了世界盗墓:换了号,怎么还被找上门jojo:DIO兄妹的不妙冒险云龙十三子之七剑与双龙君渡浮虚变身从古代开始灵气复苏萌妻不乖:大叔撩上瘾星穹铁道:双生同源翘然有你精灵宝可梦之黑暗世界的小智漂亮宝妈靠十八般武艺教全网做人纨绔公主她躺赢了百日成仙嘿哈,快穿一霸横扫天下上什么班?回家种田!铠甲:我左手黑暗帝皇,右手修罗换来的短命夫君,要靠我用异能救霸住不放,金丝雀每天都在拒绝我是警察,别再给我阴间技能了抄家后,第一美人被权臣强取豪夺人在宝可梦,开局碰瓷霸主级耿鬼名门贵医宝可梦:开局一只上将巨钳蟹!我和离当晚,九皇叔激动得一夜未眠秦大小姐的爱哭包四合院:重生获得超级金手指大唐:实习生穿越竟成临川公主!
磨铁读书最新小说:九转尘神诀谋婚前夫离婚后我成了豪门白月光歙砚烹江山我,小金乌,后台大一点怎么了!七星连珠日,我穿回古代续前缘阴阳领仙人之恐怖故事合集他来自词条深处崽崽读心毛茸茸,三界大佬抢疯了!娇娇绝色,偏执世子囚我入长宫谁懂啊?糊咖退圈后读兽语翻红了雪色撩人说好一心求死,你怎么飞升了?困岛60变06,老太变稚童异类者浊修流放?不知道啊?天道喊我去玩的我的书屋通古今,娇养脆皮王爷野麦疯长穿越七零,我靠糙汉老公躺平人生欲罢不能!王府宠妾她腰肢细软残途自在行重生六零,吴老太暴打渣夫逆子八零:带四娃嫁首富,搬空渣男金库看到弹幕后,白月光女配拉着大佬杀疯了强制沦陷,前任小叔掐腰宠七零:娇女小嫩草,救哥踢渣嫁京少哪吒游历记之闯各个世界神刀门一觉穿成女魔头,仙界直播大卖疯当咸鱼绑定宫斗直播系统我喜欢你,是一辈子的事秋光偷渡韶华【综】社恐魅魔只想当普通人穿越柯南,从成为黑夜主宰者开始选秀逆袭从祭天剧本成为C位出道拐个反派做对象再次遇见死对头后三观碎一地洪荒:开局悟性逆天,镇压鸿蒙无情天阙:太子妃们追来了穿越?世子厌世值已超标爆笑仙途之逗比天尊甄嬛传之美人卷珠帘山川明月皆是你我有一根大扁担!CS2:神鬼突破手克苏鲁跑团要命?美少女护我前行开局吸引狄仁杰四合院邻居们的搞笑日常穿到古代,被五个男人盯上了