我们和OpenAI之间,还差一个“黄金数据集” 我们和OpenAI之间,还差一个“黄金数据集”
admin
2024-03-14 12:43:06
0

随着百模大战愈演愈烈,在算法性能之外,越来越多的人意识到了数据的重要性。

2021年,全球知名的AI学者、曾执掌谷歌&百度等大厂AI研发工作的吴恩达,提出了Data-centric AI(以数据为中心的AI)的主张。

在近日一篇刷屏全网的访谈文章中,著名投资人、金沙江创投主管合伙人朱啸虎多番强调了“数据”在大模型市场的重要性。举例而言,他讲道“应用公司构建的壁垒是什么?是数据啊”“很多垂直领域,都要积累数据、积累优化”“有闭环数据反馈,后面追不容易”。

但在理论之外,如何将私域数据引入AI研发流程之中、实现效果最大化,仍存许多难题。

为此,我们与2017年成立、专注AI数据科技的企业“星尘数据”进行对谈,星尘数据创始人、CEO章磊分享了他对AI大模型市场混战,以及AI数据处理的种种思考。

3月11日,星尘数据还在国内首发了面向AI的数据闭环产品“MorningStar”,该平台全面覆盖AI算法从训练到生产全链路中的数据管理、迭代、优化、挖掘等闭环链路,是国内首个专注数据价值发现的AI数据平台。


(星尘数据创始人章磊于MorningStar发布会,图源/星尘数据)

01、“黄金数据集”是企业的核心竞争力

数据的重要性,在AI领域早已不是秘密。

从2022年底,ChatGPT横空出世至今,其研发团队OpenAI始终未曾公布ChatGPT的训练数据集来源和具体细节。而这也被外界视为OpenAI最为核心的商业机密之一。

就像国内AI创企OneFlow曾作出的评论:“算力(芯片)是自由流通的商品,花钱可以买到,工程(算法)上有开源项目和团队,因此,对互联网大厂之外的团队来说,剩下最大的挑战在于高质量训练数据集。”

但在2022年之后,全球掀起的“用AI重塑千行百业”的浪潮中,不仅是AI企业、科技大厂,更多传统企业、AIGC创业企业都在试图完成智能化的飞跃。对这部分玩家而言,对数据的收集和高效利用成为了核心难题。

章磊将这种情况总结为:“就像你可以请最优秀的厨师来做菜,但原材料必须是企业自己的,这样才能确保菜品的独特性。随着大模型的发展,员工数量可能会减少,但只要企业沉淀了私域数据,这些数据将成为企业的核心竞争力。”

但与此同时,想要真正“盘活”、高效利用企业的私域数据并不容易。

章磊讲道:“这不仅仅是数据量的问题。‘(AI)超级员工’可以帮助企业完成研发、代理、销售产品、财务等任务。关键在于什么样的数据能够打造这样的超级员工。并非所有数据都同等重要,只有那些“黄金数据集”才能有效帮助模型迭代。”

对此,星尘数据的投资人、华映资本管理合伙人章高男也分享道,据相关调研:“过去,我们并没有一个系统化的方法来管理训练数据。即便是在像OpenAI这样的顶尖AI公司,他们也许在内部有一套高效的数据管理流程,但这并不意味着这些流程可以轻易地复制到其他组织或个人。”

02、打造黄金数据集难在哪?

MorningStar包含三种服务形式,分别是私有化部署、SaaS化在线服务和开源版本。

该平台可以满足用户的四大需求:首要要求是可管理性;其次是可挖掘性,即在数据中挖掘出对模型有价值的信息;第三是可迭代性,数据需要根据模型和用户反馈不断变化;最后是可优化性,数据应不断优化并协同工作,以打造真正属于企业的数据资产。

根据官方信息,MorningStar是国内首个专注数据价值发现的AI数据平台。而在此前,国内在AI数据价值发现领域的市场空白,与国内AI市场的参与者结构不无关系。


(图源/星尘数据)

在章磊看来,按照金字塔结构,可以将AI市场的参与者分类为三层:“顶层是知名研究院、头部AI创业公司,拥有领先的技术突破能力;中层、腰部的是有 AI 研发能力的二线 AI 公司和大型企业研究院;尾部的则是没有AI研发部门的传统企业。”

这三类公司各自有主攻的方向,难以专注对AI数据的挖掘、管理、高效利用等工作,更难以搭建AI 全生命周期的数据闭环。

他讲道:“顶层的公司往往是创业公司,要拿资金、要去证明市场价值,开拓新客户,因此没有时间来做基础设施;腰部的公司直到近两年ChatGPT的出现,才意识到数据的重要性和难点,之前只有自动驾驶公司才有相关需求,而传统企业往往关注于应用,而忽略了私域数据的价值。

凡此种种,让大模型时代中,对专业AI全生命周期数据服务的需求应运而生。

章磊透露,除了星尘,如今市场中亦有其他数据服务商提出了AI数据整体解决方案,但尚未看到清晰的技术规划及落地产品。

(作者|董温淑,编辑|董雨晴)

参考文献:

《朱啸虎讲了一个中国现实主义AIGC故事》,腾讯科技 张小珺

相关内容

热门资讯

linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
C++ 机房预约系统(六):学... 8、 学生模块 8.1 学生子菜单、登录和注销 实现步骤: 在Student.cpp的...
A.机器学习入门算法(三):基... 机器学习算法(三):K近邻(k-nearest neigh...
数字温湿度传感器DHT11模块... 模块实例https://blog.csdn.net/qq_38393591/article/deta...
有限元三角形单元的等效节点力 文章目录前言一、重新复习一下有限元三角形单元的理论1、三角形单元的形函数(Nÿ...
Redis 所有支持的数据结构... Redis 是一种开源的基于键值对存储的 NoSQL 数据库,支持多种数据结构。以下是...
win下pytorch安装—c... 安装目录一、cuda安装1.1、cuda版本选择1.2、下载安装二、cudnn安装三、pytorch...
MySQL基础-多表查询 文章目录MySQL基础-多表查询一、案例及引入1、基础概念2、笛卡尔积的理解二、多表查询的分类1、等...
keil调试专题篇 调试的前提是需要连接调试器比如STLINK。 然后点击菜单或者快捷图标均可进入调试模式。 如果前面...
MATLAB | 全网最详细网... 一篇超超超长,超超超全面网络图绘制教程,本篇基本能讲清楚所有绘制要点&#...
IHome主页 - 让你的浏览... 随着互联网的发展,人们越来越离不开浏览器了。每天上班、学习、娱乐,浏览器...
TCP 协议 一、TCP 协议概念 TCP即传输控制协议(Transmission Control ...
营业执照的经营范围有哪些 营业执照的经营范围有哪些 经营范围是指企业可以从事的生产经营与服务项目,是进行公司注册...
C++ 可变体(variant... 一、可变体(variant) 基础用法 Union的问题: 无法知道当前使用的类型是什...
血压计语音芯片,电子医疗设备声... 语音电子血压计是带有语音提示功能的电子血压计,测量前至测量结果全程语音播报࿰...
MySQL OCP888题解0... 文章目录1、原题1.1、英文原题1.2、答案2、题目解析2.1、题干解析2.2、选项解析3、知识点3...
【2023-Pytorch-检... (肆十二想说的一些话)Yolo这个系列我们已经更新了大概一年的时间,现在基本的流程也走走通了,包含数...
实战项目:保险行业用户分类 这里写目录标题1、项目介绍1.1 行业背景1.2 数据介绍2、代码实现导入数据探索数据处理列标签名异...
记录--我在前端干工地(thr... 这里给大家分享我在网上总结出来的一些知识,希望对大家有所帮助 前段时间接触了Th...
43 openEuler搭建A... 文章目录43 openEuler搭建Apache服务器-配置文件说明和管理模块43.1 配置文件说明...