把大模型“装”进小盒子,云天励飞在想什么? 把大模型“装”进小盒子,云天励飞在想什么?
admin
2024-04-01 11:30:40
0


作者 |周一笑
邮箱 |zhouyixiao@pingwest.com

3 月 28 日,云天励飞举办 AI 大模型产品发布会,发布“深目”AI 模盒,同时宣布自研大模型“云天天书-2.0-68B”版本免费向合作伙伴开放。

云天励飞董事长兼 CEO 陈宁在发布会提到:“未来 3 年,全球 80% 的企业都将使用大模型。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。” 云天励飞此次发布的 “深目”AI 模盒,属于边缘计算设备,侧重在推理端,搭载了云天励飞的自研大模型边缘训推芯片 DeepEdge10 Max,以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力。

这种边缘端标准化硬件,再加上大模型,除了能通过边缘端部署,解决数据隐私问题,还可以实现对多种长尾场景的覆盖。其搭载的 DeepEdge10 芯片可以针对不同的场景提供差异化算力,并且可以在线下载更新多种算法。

在云天励飞为客户提供的算法训练平台上,有大量与生态合作伙伴共同打造的算法商城,用户可以直接调用预训练算法,并上传自身场景图片完成算法的微调和升级,快速训练出高精度算法。针对无训练数据的极端场景,例如加油站场景的吸烟识别,云天励飞还使用了 AI 合成数据来训练算法,并在这一过程中引入了 3D 引擎,从而填补数据空白。


“推理芯片没有垄断性巨头”

AI 芯片可以分为训练芯片和推理芯片。训练芯片多用于服务器,推理芯片则主要部署在边端设备之上。当大模型训练完成,开始进入到了实际应用之后,对于 AI 推理的需求将会更多。云天立飞的 AI 芯片就定位在推理的应用。DeepEdge10 系列是云天励飞去年推出的大模型推理芯片,该芯片采用自主可控的国产工艺,内含国产 RISC-V 核,支持大模型训练推理部署。依托自研芯片 DeepEdge10 Max创新的 D2D chiplet 架构打造的 X5000 推理卡,已适配并可承载 10 亿级 SAM、百亿级 Llama2 等大模型运算,可应用于 AIoT 边缘视频、移动机器人等场景。

谈及推理芯片,陈宁表示,如果训练芯片是英伟达一骑绝尘,占有绝对的市场占有率,那么推理芯片今天没有垄断性的巨头,今年大火的 Groq 也是 AI 推理芯片。

“云天天书”是云天励飞自研的多模态大模型,由 CV 大模型、NLP 大模型和多模态大模型组成。云天励志在通用基础大模型的基础上,训练出行业大模型,包括智慧城市、智慧安防、智慧交通、智慧商超等等,最后再针对落地细分的场景,将数据集进行微调,从而实现落地。


深圳 CV 独角兽,“算法芯片化”为核心竞争力

云天励飞成立于 2014 年,是一家以计算机视觉(CV)应用起家的公司,2022 年 4 月 4 日,作为“深圳 AI 第一股”在科创板上市,主营业务为视觉 AI 软硬件产品及解决方案。解决方案中又以面向公共安防及交通治理领域为主。公司为客户提供算法软件、芯片等自研产品,并按照客户需求,将自己的产品,外购的硬件产品、安装施工服务等打包交付。

2023 财年,云天励飞营业收入 5.35 亿元,同比下降 2.14%;归母净利润亏损 3.9 亿元,比上年同期的 -4.47 亿元有所收窄。

值得一提的是云天励飞具备算法芯片化能力,同时自研的 AI 芯片也已实现商用。公司的 AI 芯片在 2018 年成功流片,2019 年开始逐步对外销售,客户包括海康威视、阿里巴巴平头哥、富瀚微电子等。


并购智能穿戴公司,G、B、C 全都要?

“深目”AI 模盒的发布是云天励飞从 AI 方案化到 AI 产品化的一次尝试,通过 AI 技术或解决方案转化为标准化、通用化的产品或服务,从而满足更广泛的市场需求。

在大模型方向上,作为一家在机器视觉赛道方向积淀已久的的 AI 企业,云天励飞并没有直接发布面向 C 端用户的 LLM 产品。毕竟大模型需要长期巨量烧钱,且商业化尚处于早期阶段。而是选择通过“深目”AI 模盒这样的边缘计算盒子,将大模型与自身 AI 产品落地相结合,寻求在 G 端和 B 端场景实现标准化和规模化。

在 To C 方向上,云天励飞也有所布局。近期,云天励飞发布公告称拟以不超过人民币 1.8 亿元的对价收购智能穿戴方案设计公司岍丞技术。岍丞技术主要从事智能穿戴产品的软硬件开发与技术服务,属于智能耳机、智能手表等智能穿戴设备的 IDH(系 Independent Design House 的缩写,直译为“独立设计公司”)方案商。收购岍丞技术后,云天励飞拟开展智能穿戴产品的软硬件开发与技术服务业务,探索"大模型 + 智能可穿戴"深度融合。

云天励飞董事长兼 CEO 陈宁曾表示,“过去 10 年,AI 行业基本走完了 To G 的基础设施建设的历程,在向 To B 的企业级服务转变;预计 3 年左右的时间,人工智能的行业会走向 ToC 的服务,尤其是随着 ChatGPT 和多模态大模型的逐步成熟,行业最终会走向 To C 的服务。” 这似乎也表明了云天励飞未来的探索方向。另外值得注意的是,同为视觉 AI 起家的商汤科技也在今年发布了面向 C 端消费者的 AI 台灯产品。

大模型技术加持下的 AI 行业竞争愈演愈烈,考验着每一位参与者的底层技术能力、资金实力和战略定力。并非所有玩家都能实现大而全的全面领先,聚焦自身的差异化优势,实现市场的精准定位和有效突围,或许才是破局之道。


相关内容

热门资讯

linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
C++ 机房预约系统(六):学... 8、 学生模块 8.1 学生子菜单、登录和注销 实现步骤: 在Student.cpp的...
A.机器学习入门算法(三):基... 机器学习算法(三):K近邻(k-nearest neigh...
数字温湿度传感器DHT11模块... 模块实例https://blog.csdn.net/qq_38393591/article/deta...
有限元三角形单元的等效节点力 文章目录前言一、重新复习一下有限元三角形单元的理论1、三角形单元的形函数(Nÿ...
Redis 所有支持的数据结构... Redis 是一种开源的基于键值对存储的 NoSQL 数据库,支持多种数据结构。以下是...
win下pytorch安装—c... 安装目录一、cuda安装1.1、cuda版本选择1.2、下载安装二、cudnn安装三、pytorch...
MySQL基础-多表查询 文章目录MySQL基础-多表查询一、案例及引入1、基础概念2、笛卡尔积的理解二、多表查询的分类1、等...
keil调试专题篇 调试的前提是需要连接调试器比如STLINK。 然后点击菜单或者快捷图标均可进入调试模式。 如果前面...
MATLAB | 全网最详细网... 一篇超超超长,超超超全面网络图绘制教程,本篇基本能讲清楚所有绘制要点&#...
IHome主页 - 让你的浏览... 随着互联网的发展,人们越来越离不开浏览器了。每天上班、学习、娱乐,浏览器...
TCP 协议 一、TCP 协议概念 TCP即传输控制协议(Transmission Control ...
营业执照的经营范围有哪些 营业执照的经营范围有哪些 经营范围是指企业可以从事的生产经营与服务项目,是进行公司注册...
C++ 可变体(variant... 一、可变体(variant) 基础用法 Union的问题: 无法知道当前使用的类型是什...
血压计语音芯片,电子医疗设备声... 语音电子血压计是带有语音提示功能的电子血压计,测量前至测量结果全程语音播报࿰...
MySQL OCP888题解0... 文章目录1、原题1.1、英文原题1.2、答案2、题目解析2.1、题干解析2.2、选项解析3、知识点3...
【2023-Pytorch-检... (肆十二想说的一些话)Yolo这个系列我们已经更新了大概一年的时间,现在基本的流程也走走通了,包含数...
实战项目:保险行业用户分类 这里写目录标题1、项目介绍1.1 行业背景1.2 数据介绍2、代码实现导入数据探索数据处理列标签名异...
记录--我在前端干工地(thr... 这里给大家分享我在网上总结出来的一些知识,希望对大家有所帮助 前段时间接触了Th...
43 openEuler搭建A... 文章目录43 openEuler搭建Apache服务器-配置文件说明和管理模块43.1 配置文件说明...