天天快消息!多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资
大模型在四五月份迎来 " 百家争鸣 ",战况愈加激烈,有新玩家仍在陆续进场。

AI 科技评论获悉:近日,一家多模态大模型初创公司 " 智子引擎 " 完成了千万元天使轮融资。据了解," 智子引擎 " 的 CEO 是 90 后青年高一钊。高一钊是人大博士生,师从卢志武,卢志武在 " 智子引擎 " 公司中担任顾问一职。此外,卢志武担任软通动力首席 AI 科学家。

在 ChatGPT 火起来之前,北京智源人工智能研究院曾率先开拓中国大模型研究,名为 " 悟道 ",当时聚集了四支主要力量,分别由清华唐杰、清华刘知远、清华黄民烈与人大文继荣领头。


(相关资料图)

其中,人大文继荣主要带领人大高瓴人工智能学院的科学家们开拓多模态大模型方向,名为 " 文澜 ",卢志武便在团队中担任模型主力军,他的学生高一钊也参与进来,完成了核心的研究工作。" 悟道 " 之后,唐杰、刘知远与黄民烈均基于大模型技术成立了公司,而人大的入局,为智源大模型 " 四大金刚 " 的创业阵容拉开了完满的序幕。

据 AI 科技评论了解,卢志武团队也是国内最早研究多模态大模型、并取得杰出技术成果的团队。

卢志武和高一钊二人

卢志武和高一钊从事多模态大模型始于 2020 年。

2020 年 5 月,由 OpenAI 研发的 GPT-3 在人工智能领域掀起了一阵巨浪,引发了国内从业者对预训练大模型的关注,其中就包括了卢志武等人。

卢志武早年就读于北京大学数学科学学院信息科学系,硕士毕业后,于 2011 年在香港城市大学计算机系取得博士学位,他主要的研究方向包括机器学习、计算机视觉等。

卢志武

当时,国内大部分人的注意力都聚焦在 NLP 领域,但有关从文字扩展到图像、视频的多模态大模型鲜少有人关注。

期间,中国人民大学高瓴人工智能学组建了多模态大模型研发团队,专门从事图文多模态预训练模型的研究和开发,由文继荣牵头,其他核心成员包括宋睿华、卢志武等人,这也是国内最早从事多模态大模型研究的团队。

高一钊在同年进入中国人民大学高瓴人工智能学院攻读博士、师从卢志武。

高一钊

" 智子引擎 " 将推出多模态大模型

事实上,早在 ChatGPT 横空出世的三年前,北京智源人工智能研究院已率先开始中国大模型研究,名为 " 悟道 ",其中由文继荣主要带领的人大高瓴人工智能学院科学家组成 " 悟道 · 文澜 " 团队,从事多模态大模型方向研究,卢志武任模型研发主力军。

2021 年 3 月,基于对 3000 万图文数据集的预训练,第一代 " 文澜 " ——图文检索模型 BriVL 正式问世,这是一个超大规模的多模态预训练模型,采用了双塔结构可分别对图像和文本进行编码,通过自监督任务来学习图像和文本之间的相似度。

以图文检索模型为基础,研究团队还开发了 H5 小应用 "AI 心情电台 ",只需要向 AI 精灵提供一张图片,模型即可为该图片匹配一段合适的音乐。

随即三个月后,卢志武所在的文澜团队又发布了 " 文澜 2.0"(BriVL-2)。基于视觉 - 语言弱相关的假设,研究团队提出图文弱相关假设,设计了高效的跨模态对比学习策略,同时提出了基于 DeepSpeed 的分布式多模态训练框架,从而提高模型的表达能力和泛化能力。

基于 6.5 亿弱相关的图文数据集的预训练,文澜 2.0 拥有的模型容量达到 50 亿参数,是目前最大的中文通用图文预训练模型,可覆盖多个领域和场景,在多个图文检索和生成任务上都取得了优异的性能,比如图像检索、图像描述、视觉问答等。

期间,高一钊也深度参与了文澜 1.0 和 2.0 的图文预训练工作,主要负责数据处理、模型训练和评估等。

在 ChatGPT 的热浪下,卢志武和高一钊看到了多模态研究在大模型时代的新机遇,成立多模态大模型公司 " 智子引擎 "。借鉴以往参与文澜模型研发的经验," 智子引擎 " 团队于今年的 3 月 8 日正式推出了自主研发的多模态对话大模型,并发布了第一款应用级多模态 ChatGPT 产品 " 元乘象 ChatImg"。

" 元乘象 ChatImg" 的参数量在百亿级别,主要使用了图文对数据和 VQA 数据作为训练集,同时进行图文匹配、图文检索、图像描述生成、文本描述生成等多种任务的训练。根据用户输入的图片或文字," 元乘象 ChatImg" 可以进行智能聊天、讲故事、写广告等。

自四五月份以来,陆续亮相的大模型引起一片喧嚣沸腾,大厂刀光剑影,创业公司也不遑多让。学术界下场入局大模型是个大趋势,如何能在靠近工程化的较量中找到自己的竞争力和位置,亟待从与时间的赛跑中找答案。

(雷峰网雷峰网)

标签:

x 广告
中邮消费金融逾期9个月还清会不会上征信-最新快讯

网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可

快播:放开绝不是躺平!上海和苏州,又一次走在了全国前列

作者:凤来仪01新10条后全国各地陆续i放开,然后大家都能感觉到疫情如山呼海啸般袭来,速度之快简直令人不敢直视。短短几天内,笔者周围就阳性

当前聚焦:冀东装备董秘回复:公司为保证生产经营的资金需要

冀东装备(000856)12月20日在投资者关系平台上答复了投资者关心的问题。投资者:请问贵公司借款是否用于清仓机器人的批量生产。冀东装备董秘:

全球观焦点:湖北宜化: 2022年第十二次临时股东大会决议公告

湖北宜化:2022年第十二次临时股东大会决议公告

犀牛宝借款逾期23年不还会不会上征信 天天视讯

网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可

天天热资讯!没成名前的韩信,才是你学习的样子,一生铸就了34个成语的男人

※本文共2148字,阅读全文约2 2分钟。楚汉之时,人们对韩信极高的评价:“功高无二,略不世出”。这位叱咤风云的军事天才,一生就是一部战...

乐享借贷款逾期十一年不还会影响征信吗

网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可

世界观察:老板杀手?保罗职业生涯第4次经历球队老板换人

老板杀手?保罗职业生涯第4次经历球队老板换人,保罗,拉希姆·斯特林,nba,快船队,黄蜂

全球动态:东北销售打通抚锦线中转下海通道

中国石油网消息(记者张建荣通讯员吕丹周然)11月份以来,东北销售公司发挥锦州港下海优势,借助抚锦管线中转抚顺石化、辽阳石化柴油,截至12

全球快资讯:五羊本田太子125摩托车价格,本田125锐猛太子价格

五羊本田有125元的太子车,5000元的太子车只能在国产品牌中选。奇遇,如果冠以豪爵之名或者与铃木斗气,和新大洲本田的一样犀利。本田400元,7

x 广告

Copyright ©  2015-2022 华南城市网版权所有  备案号:粤ICP备18025786号-52   联系邮箱: 954 29 18 82 @qq.com