大模型赋能高智商劳动密集型产业,效率提升20倍
日期:2023-06-25 09:43:52 / 人气:210
大模式为高智商的劳动密集型行业赋能,效率提升20倍”以及创造力的“寒武纪大爆发”。无论是前沿科技产业,还是整个经济社会结构,都会有很大的变化。为了让创业者更好的拥抱这个时代,创业黑马将以中国AIGC第一服务平台为己任。通过走访众多业内知名企业家、投资人、专家学者、创业从业者,从软硬件平台、投资人、行业应用等角度做系列报告,畅谈大模式时代新机遇,展现产业新实力。本文是第七篇。
本期的分享嘉宾是黑马天启CEO杨欣。黑马天启是科创大模型的子公司,其产品黑马天启科创大模型是创业黑马利用多年的行业知识积累和汇聚海量行业数据,基于科创云SaaS开发平台、微软+斯坦福开源技术和360智脑支持,自主研发的大模型。
在6月7日的黑马AIGC主题系列直播第二季中,嘉宾们以“黑马天启模式赋能科技产业”为主题进行了深入探讨,主要探讨了建设过程、产业应用以及建设过程中收获的思考。
以下为本次直播实录:
我先介绍一下黑马天齐科技创新模式的建设过程和行业应用,以及我们在建设过程中从事垂直行业模式建设得到的一些思考。
当前的AI浪潮是几个月前由Chat GPT提出的,特别是今年2月和3月,Chat GPT领导了AIGC全面的百年一遇的技术革命。
在过去的五个月里,各个厂商陆续发布了各种大型机型,但是这些大型机型都有一个共同的特点,那就是全时全能。这些大模型学习了全世界人类的所有知识、话题和信息,可以写代码、脚本、绘画等。他们在计算机视觉领域和AIGC内容生成领域都取得了卓越的成就。
但是像黑马这样的企业,服务中小企业已经十年了。在这个过程中,我们思考的核心问题是,如何用大模式为行业赋能,提升自身服务效率。事实上,我们确实在“全职全能模式”和“能够赋能垂直行业,真正提高行业人力效率的模式”之间做了一个重要的判断和选择。但经过慎重判断,我们坚定地选择了后者,即通过垂直模式的构建,真正能够解决行业和行业所面临的挑战和问题。
通用人工智能模式的到来,实际上加速了我们垂直行业模式的构建。黑马的核心业务之一是科技创新服务业,也叫企业服务业务。
目前我国科技服务业的规模有多大?据不完全统计,估计有100多万个机构和企业;而且在科技服务业中,其类别也非常广泛,包括知识产权、科技项目咨询、财税服务、法律服务等。每个品类都凝结了很多知识,相当于一个垂直的专业级服务领域。这个专业服务的领域会和我们的客户所在的领域交叉,同时每两个领域又会交叉汇合,实际上形成了一个千千的网格。
我们以知识产权行业为例。根据国家知识产权局的数据,2021年的数据是2600亿,2022年是3000亿,每年绝对增加400亿左右。目前知识产业从业人员约110万人,不包括科技项目咨询、财税法律服务等类别。因此,科技服务/企业服务市场是典型的高智商劳动密集型行业,市场广阔,品类众多,知识体系复杂,效率低下。这是一个非常依赖专家和顾问为企业客户提供服务的行业。由此我们也得出一个结论:特别适合应用行业模型来提高人类效率。
本质上,这场技术革命是我们通过模型封装知识和数据,通过知识和数据推动自然语言技术的突破,从而实现聊天GPT,实现我们行业模型的应用,实现AIGC的GC(生成内容)。
我们从事的行业其实面临着很多挑战。以科技项目咨询业务为例。中国的经济和产业政策由政府主导。无论是资金还是资质,很多产业政策其实都是分阶段、分梯度、分批次到达企业终端的。比如从国家项目到省、市、区、居委会,每一级都有自己的产业政策。这种政策和项目通常呈现一个特点,就是在全国范围内非常广泛和深入。
对于一些国家级项目,比如申请高新技术企业,申请时间相对集中,每年6月、8月、10月都有几批。企业在申报期间可能会出现材料准备不全等问题,所以我们的服务机构也会在那几个时间段面临申报高峰,案件数量也会相应受到挤压。因为我们服务的客户来自五湖四海,不同行业不同领域,从生物制药到冷链物流,从芯片到电脑,或者各种农副产品...各种行业,我们的咨询师其实很难在短时间内快速掌握多个行业的知识,所以对咨询师的挑战也是非常大的,因为项目申请过程中需要写大量的案例。
我们以科技项目咨询为例。我们服务一个客户,一个咨询师整理各种资料至少要写15天。这意味着在面对大量用户时,效率和交付的天花板一直存在,也是行业内的咨询顾问无法承受的,因为很难在短时间内交付大量的咨询方案和文档。
但是通过模型重组后,我们将流程分为六步:第一步是客户上门咨询,第二步是客户资料整理,第三步是行业资料详细整理,第四步是咨询方案撰写,第五步是用户确认,第六步是服务完成。
按照传统的服务流程,我们中级顾问至少需要10-15天,初级顾问需要15-20天才能完成一个客服流程。模型赋能后,第二到第四步其实可以通过AI加速,端到端的流程时间可以从原来的10-15天提升到0.5-1天,整体效率可以提升15-20倍。
比如我一个做顾问的同事,原来他靠着个人的勤奋和行业知识的积累,每个月最多只能写出8份客户要求的文档。5月,在模型的支持和自身经验的积累下,他单月完成了20个客户的方案撰写和互动,非常轻松。由此,我们真的可以看到效率的巨大提升。
除了提高写内容的效率,还可以完成一些相关的内容写作。以科技项目咨询为例,我们开发了项目立项文件报告、高科技产品文件说明、科技成果转化文件、组织管理文件等。我们支持20多种类似的文档类型。因为我们在这个行业深耕多年,也总结了相应的模板行话和套话,也帮助企业梳理了一套完善的咨询架构,让申报老师快速掌握企业的核心内容和重点标注方法。一些关键的文件和报告,原来三天写完,现在可能几分钟就能完成,结果和速度非常快。
到5月底,我们已经服务了20客户,完成了200文档的撰写。但其实现在应该更多,因为我们现在每天在平台上写、发的文件大概有100左右,效率有了质的提升。
科技创新模式推出后,6月初开始全面公测。现在进入天启. ai,就可以接入黑马天启的平台,自主完成注册,立刻获得公测账号。我们也首批向我们的服务机构、公司、合作伙伴开放这些测试的内容和平台部署。据不完全统计,今年已有100多家机构客户在我们平台上批量完成了文件的撰写和项目的申报。
像黑马这样的企业和公司,也是可以做大模型的。我们如何制造它们?中国和千千成千上万的中小企业也能建立自己的模式吗?大模式只是巨头的游戏吗?
我们的回答是比较肯定的。我相信不仅黑马可以,更多的中小企业甚至每个行业都可以。我们的模型实际上是由几个核心因素组成的。第一,我们的科技云SaaS开发平台,我们在上面投资了三年,从几年前开始,由一个100人的研发团队不断开发迭代。二是科技云,也是知识产权的无形资产管理平台,在这个平台的基础上看到了模式的突破,更重要的是知识的突破,自然语言技术能力的突破。
所以我们把知识和数据打包成一个训练模型,包括1970年以后的所有专利数据、国家商标数据和版权数据、8省市区政府网站的政策数据、1.6亿工商注册数据,包括法人变更、注册数据、独立标注数据、申请成功的企业数据、部分期刊和造纸行业知识。
第三,技术方面,除了开发平台,我们还吸收了开源技术中一些非常好的模型架构和方法,主要来自两个方面:一个是微软,我们主要吸收了并行计算和零拍内存管理技术,以及斯坦福的一些模型架构创新。另外就是360实验技术专家给了我们很多关键的技术知识,360智脑在建设过程中也完成了一些支持和配合。所以我们今天可以看到天启模型的成功应用。
在建立模型时,我们的建设宗旨是“知识第一,能力第一”。我们把核心知识分为两部分,一部分是通用知识,一部分是行业知识。一般知识刚介绍完,我们是这样选择行业知识的:每个行业都是独一无二的,黑马服务的行业中,一些战略性新兴行业,比如工业、4G专业化智能物流、现代物流等行业,其实更多,我们相对熟悉这些行业的上下游、关键概念、核心知识。同时在这方面有很多咨询师的储备,所以我们把这些知识作为这个模型的核心内容和数据。
在能力建设方面,我们其实已经做出了大胆的判断和取舍。做人工智能开发,尤其是模型开发的同事都知道,如果技术路线错了,损失很可能是巨大的,不仅浪费了大量的时间,也浪费了大量的计算能力和金钱。所以我们在做这个判断的时候,放弃了绘画中复杂的逻辑推理等多模态的能力建设,转而专注于对我们行业有用的能力和文档咨询、知识赋能。核心是语义理解,以及知识总结和文档内容生成。
我们对模型学习做了进一步的标准化、规范化和流程化,主要是进行预训练、微调、强化学习和推理发现。标准化等四个步骤,可以更多更快的完成任务模型上的训练,从而避免上千亿的大模型一次训练花费几百万、上千万电费的情况。
我们还对能力建设进行了关键判断,并对整个模型架构进行了分离。众所周知,在AIGC领域,几乎每个星期都会发生重大的变化,每个星期都会有新的问题出现并被解决,所以我们今天所涉及到的架构也处于不断进化和演变的过程中。
在6月的这个节点,你看到的是我们整体模型的快照,但它仍处于进一步进化的过程中。我们主要的设计思路其实不再是一个大而全的模型,而是多层次的模型架构。机械模型主要负责科学技术大模型中的知识封装和逻辑推理。在此基础上,我们做了一个任务模型,是专门针对具体任务做的。通过知识提炼的方式,对大模型中的知识进行再次提炼,然后进行小范围的训练,降低模型中出现废话的概率,进一步满足高科技企业和专业化新企业的写作需求。中间还有一个AI混合引擎AI MaaS,主要做对话合规,包括人机对齐等关键方式,从而实现具体应用和模型层的分离,以及关键知识的安全管理。
下面是一个例子:
也可以登录tianqi.ai做一个全面的公测和体验。在建模的过程中,我们也有很强的体会,借用微软CEO的一句话:小公司也可以在AI领域赢得竞争;一个几百人的团队也能赢得比赛,成就一番事业。
这次开启技术革命的Open AI,当初也是2人,现在可能是9人。纵观国内的中小企业,大部分都是小规模的企业,那么我们是否也可以通过这种先进的技术来改造我们的行业,提高我们的效率呢?我相信答案是肯定的。
黑马天齐的公司愿景是打造细分行业的大模型。我们也愿意进一步开放这些技术,与我们千千数以千万计的中小企业共同进化,通过模型技术和AIGC的核心能力更好地赋能行业,加速中小企业的发展。
本期的分享嘉宾是黑马天启CEO杨欣。黑马天启是科创大模型的子公司,其产品黑马天启科创大模型是创业黑马利用多年的行业知识积累和汇聚海量行业数据,基于科创云SaaS开发平台、微软+斯坦福开源技术和360智脑支持,自主研发的大模型。
在6月7日的黑马AIGC主题系列直播第二季中,嘉宾们以“黑马天启模式赋能科技产业”为主题进行了深入探讨,主要探讨了建设过程、产业应用以及建设过程中收获的思考。
以下为本次直播实录:
我先介绍一下黑马天齐科技创新模式的建设过程和行业应用,以及我们在建设过程中从事垂直行业模式建设得到的一些思考。
当前的AI浪潮是几个月前由Chat GPT提出的,特别是今年2月和3月,Chat GPT领导了AIGC全面的百年一遇的技术革命。
在过去的五个月里,各个厂商陆续发布了各种大型机型,但是这些大型机型都有一个共同的特点,那就是全时全能。这些大模型学习了全世界人类的所有知识、话题和信息,可以写代码、脚本、绘画等。他们在计算机视觉领域和AIGC内容生成领域都取得了卓越的成就。
但是像黑马这样的企业,服务中小企业已经十年了。在这个过程中,我们思考的核心问题是,如何用大模式为行业赋能,提升自身服务效率。事实上,我们确实在“全职全能模式”和“能够赋能垂直行业,真正提高行业人力效率的模式”之间做了一个重要的判断和选择。但经过慎重判断,我们坚定地选择了后者,即通过垂直模式的构建,真正能够解决行业和行业所面临的挑战和问题。
通用人工智能模式的到来,实际上加速了我们垂直行业模式的构建。黑马的核心业务之一是科技创新服务业,也叫企业服务业务。
目前我国科技服务业的规模有多大?据不完全统计,估计有100多万个机构和企业;而且在科技服务业中,其类别也非常广泛,包括知识产权、科技项目咨询、财税服务、法律服务等。每个品类都凝结了很多知识,相当于一个垂直的专业级服务领域。这个专业服务的领域会和我们的客户所在的领域交叉,同时每两个领域又会交叉汇合,实际上形成了一个千千的网格。
我们以知识产权行业为例。根据国家知识产权局的数据,2021年的数据是2600亿,2022年是3000亿,每年绝对增加400亿左右。目前知识产业从业人员约110万人,不包括科技项目咨询、财税法律服务等类别。因此,科技服务/企业服务市场是典型的高智商劳动密集型行业,市场广阔,品类众多,知识体系复杂,效率低下。这是一个非常依赖专家和顾问为企业客户提供服务的行业。由此我们也得出一个结论:特别适合应用行业模型来提高人类效率。
本质上,这场技术革命是我们通过模型封装知识和数据,通过知识和数据推动自然语言技术的突破,从而实现聊天GPT,实现我们行业模型的应用,实现AIGC的GC(生成内容)。
我们从事的行业其实面临着很多挑战。以科技项目咨询业务为例。中国的经济和产业政策由政府主导。无论是资金还是资质,很多产业政策其实都是分阶段、分梯度、分批次到达企业终端的。比如从国家项目到省、市、区、居委会,每一级都有自己的产业政策。这种政策和项目通常呈现一个特点,就是在全国范围内非常广泛和深入。
对于一些国家级项目,比如申请高新技术企业,申请时间相对集中,每年6月、8月、10月都有几批。企业在申报期间可能会出现材料准备不全等问题,所以我们的服务机构也会在那几个时间段面临申报高峰,案件数量也会相应受到挤压。因为我们服务的客户来自五湖四海,不同行业不同领域,从生物制药到冷链物流,从芯片到电脑,或者各种农副产品...各种行业,我们的咨询师其实很难在短时间内快速掌握多个行业的知识,所以对咨询师的挑战也是非常大的,因为项目申请过程中需要写大量的案例。
我们以科技项目咨询为例。我们服务一个客户,一个咨询师整理各种资料至少要写15天。这意味着在面对大量用户时,效率和交付的天花板一直存在,也是行业内的咨询顾问无法承受的,因为很难在短时间内交付大量的咨询方案和文档。
但是通过模型重组后,我们将流程分为六步:第一步是客户上门咨询,第二步是客户资料整理,第三步是行业资料详细整理,第四步是咨询方案撰写,第五步是用户确认,第六步是服务完成。
按照传统的服务流程,我们中级顾问至少需要10-15天,初级顾问需要15-20天才能完成一个客服流程。模型赋能后,第二到第四步其实可以通过AI加速,端到端的流程时间可以从原来的10-15天提升到0.5-1天,整体效率可以提升15-20倍。
比如我一个做顾问的同事,原来他靠着个人的勤奋和行业知识的积累,每个月最多只能写出8份客户要求的文档。5月,在模型的支持和自身经验的积累下,他单月完成了20个客户的方案撰写和互动,非常轻松。由此,我们真的可以看到效率的巨大提升。
除了提高写内容的效率,还可以完成一些相关的内容写作。以科技项目咨询为例,我们开发了项目立项文件报告、高科技产品文件说明、科技成果转化文件、组织管理文件等。我们支持20多种类似的文档类型。因为我们在这个行业深耕多年,也总结了相应的模板行话和套话,也帮助企业梳理了一套完善的咨询架构,让申报老师快速掌握企业的核心内容和重点标注方法。一些关键的文件和报告,原来三天写完,现在可能几分钟就能完成,结果和速度非常快。
到5月底,我们已经服务了20客户,完成了200文档的撰写。但其实现在应该更多,因为我们现在每天在平台上写、发的文件大概有100左右,效率有了质的提升。
科技创新模式推出后,6月初开始全面公测。现在进入天启. ai,就可以接入黑马天启的平台,自主完成注册,立刻获得公测账号。我们也首批向我们的服务机构、公司、合作伙伴开放这些测试的内容和平台部署。据不完全统计,今年已有100多家机构客户在我们平台上批量完成了文件的撰写和项目的申报。
像黑马这样的企业和公司,也是可以做大模型的。我们如何制造它们?中国和千千成千上万的中小企业也能建立自己的模式吗?大模式只是巨头的游戏吗?
我们的回答是比较肯定的。我相信不仅黑马可以,更多的中小企业甚至每个行业都可以。我们的模型实际上是由几个核心因素组成的。第一,我们的科技云SaaS开发平台,我们在上面投资了三年,从几年前开始,由一个100人的研发团队不断开发迭代。二是科技云,也是知识产权的无形资产管理平台,在这个平台的基础上看到了模式的突破,更重要的是知识的突破,自然语言技术能力的突破。
所以我们把知识和数据打包成一个训练模型,包括1970年以后的所有专利数据、国家商标数据和版权数据、8省市区政府网站的政策数据、1.6亿工商注册数据,包括法人变更、注册数据、独立标注数据、申请成功的企业数据、部分期刊和造纸行业知识。
第三,技术方面,除了开发平台,我们还吸收了开源技术中一些非常好的模型架构和方法,主要来自两个方面:一个是微软,我们主要吸收了并行计算和零拍内存管理技术,以及斯坦福的一些模型架构创新。另外就是360实验技术专家给了我们很多关键的技术知识,360智脑在建设过程中也完成了一些支持和配合。所以我们今天可以看到天启模型的成功应用。
在建立模型时,我们的建设宗旨是“知识第一,能力第一”。我们把核心知识分为两部分,一部分是通用知识,一部分是行业知识。一般知识刚介绍完,我们是这样选择行业知识的:每个行业都是独一无二的,黑马服务的行业中,一些战略性新兴行业,比如工业、4G专业化智能物流、现代物流等行业,其实更多,我们相对熟悉这些行业的上下游、关键概念、核心知识。同时在这方面有很多咨询师的储备,所以我们把这些知识作为这个模型的核心内容和数据。
在能力建设方面,我们其实已经做出了大胆的判断和取舍。做人工智能开发,尤其是模型开发的同事都知道,如果技术路线错了,损失很可能是巨大的,不仅浪费了大量的时间,也浪费了大量的计算能力和金钱。所以我们在做这个判断的时候,放弃了绘画中复杂的逻辑推理等多模态的能力建设,转而专注于对我们行业有用的能力和文档咨询、知识赋能。核心是语义理解,以及知识总结和文档内容生成。
我们对模型学习做了进一步的标准化、规范化和流程化,主要是进行预训练、微调、强化学习和推理发现。标准化等四个步骤,可以更多更快的完成任务模型上的训练,从而避免上千亿的大模型一次训练花费几百万、上千万电费的情况。
我们还对能力建设进行了关键判断,并对整个模型架构进行了分离。众所周知,在AIGC领域,几乎每个星期都会发生重大的变化,每个星期都会有新的问题出现并被解决,所以我们今天所涉及到的架构也处于不断进化和演变的过程中。
在6月的这个节点,你看到的是我们整体模型的快照,但它仍处于进一步进化的过程中。我们主要的设计思路其实不再是一个大而全的模型,而是多层次的模型架构。机械模型主要负责科学技术大模型中的知识封装和逻辑推理。在此基础上,我们做了一个任务模型,是专门针对具体任务做的。通过知识提炼的方式,对大模型中的知识进行再次提炼,然后进行小范围的训练,降低模型中出现废话的概率,进一步满足高科技企业和专业化新企业的写作需求。中间还有一个AI混合引擎AI MaaS,主要做对话合规,包括人机对齐等关键方式,从而实现具体应用和模型层的分离,以及关键知识的安全管理。
下面是一个例子:
也可以登录tianqi.ai做一个全面的公测和体验。在建模的过程中,我们也有很强的体会,借用微软CEO的一句话:小公司也可以在AI领域赢得竞争;一个几百人的团队也能赢得比赛,成就一番事业。
这次开启技术革命的Open AI,当初也是2人,现在可能是9人。纵观国内的中小企业,大部分都是小规模的企业,那么我们是否也可以通过这种先进的技术来改造我们的行业,提高我们的效率呢?我相信答案是肯定的。
黑马天齐的公司愿景是打造细分行业的大模型。我们也愿意进一步开放这些技术,与我们千千数以千万计的中小企业共同进化,通过模型技术和AIGC的核心能力更好地赋能行业,加速中小企业的发展。
作者:高德娱乐
新闻资讯 News
- 4年疯狂拍12部戏,就为了帮达尼还...12-04
- “小s一句话藏了三个心眼,打球,...12-04
- 小s一句话藏了三个心眼,打球,洗...12-04
- “德云社的人气演员都是独家的,...12-04