探展WAIC |专访柏睿数据董事长刘睿民:Data+AI智能算力底座将助力解决“千模时代”算力需求
7月7日,柏睿数据董事长兼首席科学家刘睿民在世界人工智能大会中的区块链+WEB3新发展论坛发表题为“分布式数据库智能算力底座赋能金融WEB3.0”的演讲,分享智能算力底座如何促进金融赋能实体经济。
柏睿数据为国内目前仅看到的推出全内存分布式计算引擎的智能数据算力公司,目前已处于上市辅导阶段。刘睿民是国内资深的数据库研发领军专家,自2014年开始成立团队致力于研发国内首个大规模并行MPP内存数据仓库引擎。后成功其中,以MLOPS为方法论的数据智能开发平台,包括LLMOps平台(大模型开发运维平台)、Rapids VectorDB(向量数据库)等产品,覆盖从数据采集、存储、计算分析到模型训练、部署、应用的全生命周期解决方案。近期,柏睿数据全球创新赋能中心在上海浦东新区授牌,也与多家海内外创新主体联合组建国际AI创新联合体。
(资料图片)
刘睿民在接受蓝鲸财经专访时举例,算力基座就相当于引擎,数据就像油,AI、web3等训练、推理、使用数据库的框架都需要靠底层算力。柏睿数据自主研发打造的Data+AI智能算力底座,融合大数据、人工智能、数据计算加速加密等技术,能够满足产业智能下大规模的数据实时计算需求,并向云端演进,让算力不再成为Web3.0发展的瓶颈。
蓝鲸财经:作为已经深耕分布式数据库十年的企业,是否会觉得大众对AI、Web3的关注将带领行业迎来全盛年代?
刘睿民:现在所说的千模万模,基本上都是在应用领域,因为我们是做基础领域,所以说最后无论呈现模式是什么,都要用同样的东西,就是算力。
现在市场需求量的急速扩张,很多人的困扰是模型已经搭建好了,但无法进行训练。我们其实是从国产的角度来做数据库,我们主要研发大内存的全内存分布式计算引擎。当前算力的不足是一个关键问题,其中一项卡脖子的因素是英伟达的A100H100卡,由于禁运很多单位无法获得这个昂贵的卡。而我们的全内存分布式计算引擎通过软硬件协同打通,可以达到196GB的内存容量,相比之下,几年前我们能够实现单板达到1TB内存的规模。从行业角度来看,我们是国内目前仅看到的专注于全内存分布式计算引擎的公司,国外也只有五六家。国内的用户往往在买GPU时会有各种限制,这也面临一些问题。像英伟达等公司,首先推出的是一款爆款产品。这种产品可能价格较高,但随后会推出其他评级较低但价格更为实惠的产品版本。这些版本在性能方面可能达到原产品的六七成,但价格仅为原产品的十分之一。
因此,我们提供相对廉价的算力解决方案,直接利用内存进行训练,创新解决算力问题。
蓝鲸财经:柏睿数据推出的大模型开发运维平台LLMOps平台和其他产品如何助力Web3.0场景的落地?
刘睿民:LLMOps平台赋能了应用端的开发阶段,使用者无需从头开始开发,而是可以借助平台提供的基础底层,通过简单的拖拉拽操作来建立大模型。这意味着用户只需要很少的代码就能完成模型的建立。目前,LLMOps平台在海外的客户中使用较多,因为海外客户相对成熟一些。而国内客户由于接触国外平台的机会较少,所以对LLMOps的了解还不够。在人工智能领域,我们主要吸引了海外客户的关注,比如新加坡的客户。国内的用户也对我们的产品感兴趣,但由于国外资源相对不易获取,所以在某种程度上有些滞后。
这方面目前主要客户是国外的人工智能公司,国外人工贵,他们需要将人工智能应用落地到工业领域中,比如机器人优化、港口调度等场景中的优化问题。过去,他们通常通过编写代码来实现这些优化场景,但现在情况不同了。他们可以在LLMOps平台上进行拖拉拽式建模和试算,然后部署到计算机集群上进行计算。他们可以选择连接到不同的平台,如谷歌、AWS或微软的集群。对于这些客户来说,LLMOps的优势在于低门槛的使用和加速功能的提供。
蓝鲸财经:是否意味着未来高自动化、低代码化的公司会越来越多,这将成为必然发展趋势?
刘睿民:这是必然的。随着人工智能的发展,越来越多的任务和工作将被自动化取代,包括编写简单的代码。这并不意味着复杂的编程工作将完全消失,但对于一般的程序员来说,未来可能会面临挑战。因此,自动化和低代码的趋势将成为主流,这是一种正常的发展过程。在未来的三到五年内,简单的编程工作可能会变得相对无关紧要。
蓝鲸财经:如何理解在WEB3.0特定应用场景中,"FPGA计算引擎+配套软件"如何提供比SmartNIC、GPU和AI大模型加速芯片等通用芯片更强大的专业计算能力?
刘睿民:举例来说,GPU的功能原本是用于打游戏的,它的功能并非专为人工智能而设计,有段时间甚至被用来挖矿。这只是因为大家没有一个芯片来运行更复杂的计算。无论后面的应用场景是什么,通用的东西其实是双精度运算,就是浮点运算。
我们现在把浮点运算的算法都放到了FPDA卡上,配上大内存,然后内存板和内存板之间的通讯,通过我们全内存的分布式计算引擎连接在一起,这样的话用户就能够调动比如说1TB甚至几个TB的内存。
在某种程度上,以后有一种专门运用于AI计算的芯片将成为必然。以前科学计算,尤其是超级计算中,开始使用了GPU,并建立了一个完整的生态系统。后来,GPU被应用于人工智能的训练中,导致我们陷入了这样一个循环。
所以,这是一个逐渐发展的过程,不是说有很多选择可以做。事实上,在进行双精度计算时,以前并没有其他选择,也没有其他人在这个领域有大量研究。现在虽然有了这样的选择,但限制还是很多。
蓝鲸财经:柏睿数据对于数据隐私和安全方面有哪些保障措施和技术手段?
刘睿民:我们使用的是国密,技术路线类似于隐私计算,公司只有一个锁芯,钥匙是掌握在用户手里的。“锁芯”的安全性、稳定性越高,“锁”就越安全,数据就越安全。RapidsDB 总体代码自研率高达99.32%,通过中国信通院、金融信创生态实验室、国家密码管理局商用密码产品等多项国家级测试认证,并在运营商、金融、电力、政务、医疗等多个行业成功落地应用,安全性遥遥领先。
标签:
- 黄山提升政府采购透明度 助力实体经济持续健康稳定发展
- 1-2月黄山新签“双招双引”项目103个 总投资额139.7亿元
- 池州海关共签发RCEP原产地证书22份 签证金额92.7万美元
- 宿州泗县深入推进文旅融合发展 擦亮城市品牌
- 河北工业生产平稳开局 固定资产投资较快增长
- 昆明西山区深入实施人才强区战略 建立健全招商招才引资并轨新模式
- 2月唐山新建商品住宅销售价格与上月持平 同比下降0.8%
- 去年河北电子信息产业实现主营业务收入2367.7亿元 同比增长22.4%
- 绥化望奎以工业化思维为引领 推动肉类加工制造产业腾飞
- 绥化市监局推出多项举措 大力促进有机产品产业发展
- 半路出家无心插柳 杭州西湖区“菌菇宝宝”变废为宝
- 温州鹿城区藤桥主打藤桥熏鸡 近两年销售额年均增长20%以上
- 1-2月安徽限额以上消费品零售额1030.4亿元 同比增长10.4%
- 2021年合肥市茶园面积13.6万亩 产值176350万元
- 淡季不忘引流 京郊民宿市场将很快迎来回暖
- 郴州安仁文旅项目集中开工 总投资1000万元
- 江苏服务业继续保持发展强劲势头 为高质量发展提供有力支撑
- 黄山休宁经开区摸排基础设施项目17个 计划总投资29709万元
- 前两个月宣城出口31亿元 增长34.4%
- 滁州凤阳2021年共接待游客225万人次 旅游综合收入20.25亿元
- 1-2月宿州市民间投资同比增长19.2% 居全省第3位
- 宿州严格审核把关 抢抓发行地方政府专项债券政策机遇
- 1-2月亳州市进出口总值5.5亿元 同比下降17.4%
- 合肥:弘扬茶文化 初步形成一条生态发展之路
- 合肥:建成“数字中国”领先城市 推进城市数字化转型
- 甘肃再续“艾黎情”:探职业教育德技并修
- 【城市守望者】致敬抗“疫”一线的“拆弹专家”
- 浙江绍兴越城区核酸检测结果公布 除1例阳性外其余均为阴性
- 内地首例奥密克戎变异株感染者身体状况如何?来自哪里?专家解读→
- 对变异病毒已有准备!关于中国新冠药物,钟南山发声→
- 江苏睢宁小网格大担当 织就乡村振兴“幸福网”
- 改造老旧小区 共享幸福生活
- 天津静海:群众在哪里,文明实践就延伸到哪里
- 齐齐哈尔:初步判断疫情感染来源为接触新冠病毒污染环境和物品
- 重庆大竹林派出所副所长因对群众态度简单粗暴被停职
- 黑龙江讷河病例感染源初步判断为新冠病毒污染的环境和物品
- 致敬2021
- 浙江瑞安民警捐献造血干细胞:14年前的心愿终将如愿
- “考研房”涨价离谱 律师:借机宰客有违市场伦理
- 广州白云机场:14天内有东莞旅居史的旅客须凭48小时核酸阴性证明乘机
- 浙江绍兴本轮疫情已报告确诊病例145例 无症状感染者1例
- 福建龙岩一男子和前妻斗气 扛着126斤硬币到法院“还钱”
- 重庆这座立交酷似“悟空” 走红 设计师揭秘(图)
- 青海警方破获特大电诈案 涉案流水高达1.7亿
- 云南新增境外输入确诊病例3例
- 黑龙江讷河市5名核酸阳性人员流调溯源:接触被新冠病毒污染的环境和物品
- 男子爱上女主播 假扮女主播闺蜜教其他男粉丝刷单
- 广西三市警方联手破获毒品案 全链条摧毁跨境贩毒团伙
- 广东东莞发现2例无症状感染者,部分镇今起全员筛查
- 从百二秦关到闻道凯旋 一个殉职医生最后的朋友圈
- 浙江发补充说明:三地铁路出行政策随风险等级同步调整
- 内蒙古新增本土确诊病例5例 均在呼伦贝尔满洲里市
- 陕西新增本土确诊病例1例 系隔离酒店工作人员
- 31省份新增新冠肺炎确诊病例76例 其中本土51例
- 浙江新增新冠肺炎确诊病例45例 其中本土44例
- 技能就是财富 技工也是人才
- 黑龙江新增本土确诊病例1例、本土无症状感染者4例
- 冷空气“调休”!我国大部陆续迎回暖 中东部雨雪稀少
- 华北黄淮等地大气扩散条件转差 冷空气将影响中东部
- 别误读了野猪或将不再是“三有”动物
- 您的ETC已到期?当心这个诈骗短信!
- 对回家的“宝贝”少一些关注,也是一种帮助
- 升温!北京今日阳光在线 最高气温将升至8℃
- 那年今日 | 一张漫画涨知识之12月14日
- 40岁男子一觉醒来突然听不见了 原因是……
- 本年度星空压轴大赏上演 双子座流星雨观赏地图来了
- 广东东莞大朗镇报告2例新冠肺炎无症状感染者
- 商丘4885份被盗出生证去哪了?10年“悬案”引关注
- 浙江海宁警方通报国家公祭日女子穿和服逛街
- 厨艺不精调料凑?懒人调料:年轻人的“下厨神器”
- “您的ETC已到期?”警方提醒:当心这个诈骗短信
- “网红”局长的热度 自述:走红后我就没有周末了
- 寻回被拐10年的儿子后又送走 儿子:害我没家了
- 小城里的三张面孔和警号301137
- 倡导“就地过年”,需因地制宜科学防疫
- 别用“入乡随俗”为星巴克找借口
- 北京地铁14号线年底全线贯通运营
- 天津市从入境人员中检出奥密克戎变异株
- “外滩活地图”黄俊:一个不想出圈的段子手交警
- 寻找一双儿女的25年
- 无锡市场监管部门责成星巴克涉事门店停业整改
- 海岛警事:为了一座岛和2900平方公里的海
- 北京民警宏福苑抗疫26天:“今夜我和雪花一起出发”
- 星巴克的“金标准”缘何败给了“潜规则”
- 患者被低价药“惊呆”的场面应该更多些
- 影视剧“超前点评”不止是“低级错误”
- “南昌鹦鹉案”下发不起诉决定书 网店上架费氏牡丹鹦鹉被拒
- 河南商丘4885份出生医学证明被盗始末追踪
- 绍兴市病例62-109活动轨迹公布
- 12月7日以来,杭州累计报告新冠肺炎确诊病例19例
- 浙江绍兴新增确诊病例37例 上虞区占36例
- 河南高院对张成功案作出死刑判决
- 四川一滑雪场停电游客被困索道 官方回应
- 浙江绍兴越城区新增1例新冠肺炎确诊病例 当地对防控区域划分进行调整
- 中国内地首次检出新冠病毒奥密克戎变异株
- 知网除了涉及著作权纠纷,是否涉嫌违反《反垄断法》?
- 浙江绍兴越城区新增1例新冠肺炎确诊病例
- 四川眉山千箱柑橘送往呼和浩特市抗疫一线
- 两名青年男女探险三亚落笔洞遗址被困沼泽 消防成功救援
- 中国地理学大会在福州发布《中国地理学界碳中和科技行动福州宣言》
广告
广告
- 探展WAIC |专访柏睿数据董事长刘睿民:Data+AI智能算力底座将助力解决“千模时代”算力需求
- 暑期旅游市场丰富多元 亲子游、研学游受青睐
- 百胜智能7月10日加速下跌
- 客流不断下降 城市公交发展如何破局?
- 中方就耶伦访华答记者问:中方重申对双边经贸关系立场,后续双方将保持沟通
- 社会零售数据回暖 美容护理行业呈现“弱复苏”
- 【石油行业】石化周报:OPEC+提振油价,美国加息预期升温仍是阻力
- 回复黑子(指原莉乃、≒JOY、≠ME)
- 内容正在升级改造,请稍后再试!
- 崔慧茀与崔慧梅_崔慧燕
- 唐文宗时期诛灭宦官的甘露之变为什么会失败?
- 【一线警事】老人出行迷路 民警帮助找到家人
- 下海纳凉,人如潮涌
- 速度围观!重庆多个事业单位公招172人
- 五根手指头(五根手指的作用)
- 向日葵的用途有哪些?
- 全球多边贸易体制主体地位没有动摇 有很强的不可替代性
- 喉咙痛,感觉很烧,吃什么水果可以缓解?
- 中矿资源(002738):BIKITA扩产如期完成 一体化锂业布局的里程碑
- 耶伦走进烤鸭餐厅点了一份剁椒鱼头 基本信息讲解