应用交流 场景案例 工业元宇宙 金融元宇宙 文旅元宇宙 商贸元宇宙 政务元宇宙 城乡元宇宙 教育元宇宙 大健康元宇宙 消费动态
元宇宙启蒙小星星 元宇宙小队长 元宇宙小院士 元宇宙青少年等级考试(1-12级) 元宇宙青少年科普导师(初级) 元宇宙青少年科训导师(中级) 元宇宙青少科创导师(高级)
元宇宙“数据要素”大赛 元宇宙数据要素大赛2024 元宇宙数据要素大赛2025 元宇宙共识大会 元宇宙共创大会 元宇宙共享大会 元宇宙共治大会 元宇宙共赢大会 全球元宇宙大会
人工智能与元宇宙产业委《元宇宙十大技术》培训班第117期:杨仝《iFairy: 2-bit复数基座大模型,为何在手机端就可部署?》
2025年8月24日周日晚上八点,由人工智能与元宇宙产业委(“中国移动通信联合会人工智能与元宇宙产业工作委员会”的简称)指导,人工智能与元宇宙产业委副主任委员兼联席秘书长、物链芯工程技术研究院元宇宙研究所所长叶毓睿创办的“燕园叶话”《元宇宙十大技术》培训班进行到第117期。微信视频号 乐生活与爱IT、央链直播、寇享学术、DOIT、零壹财经、iCloser社交元宇宙、卢米宇宙、察访区块链、web3马甲哥、上海创业导师、盘古智库、氦川科技、大江大湖大黄高、卢山说AI精进、凤岐茶社等媒体直播或转载。客座嘉宾杨仝讲解《iFairy: 2-bit复数基座大模型,为何在手机端就可部署?》,本期超2400人在线观看。
燕园叶话欢迎大家一起打造AI培训平台,加入到这个AI全民科普计划(十个顶级专家,百个中高级的资深专家;千个甚至万个最高层,也即5~6层AI老师。无论是AI老师,或者需要培训的甲方,都欢迎和我私信联系、探讨。用Web3/DAO的方式,看看如何达成共识分润?
会议纪要:先分享几张讲稿截图,下载完整讲稿,请订阅 燕园叶话 知识星球。
使用AIGC工具或平台帮助整理出的会议纪要如下(感谢 邵舸同学):
1)演讲者观点总结
杨仝教授提出,传统大模型的预训练、蒸馏、强化学习三阶段面临算力与存储瓶颈,尤其端侧部署受限于功耗与散热。现有量化方案(如BitNet三值量化)存在空间浪费和精度损失,而iFairy通过复数基座重构突破全精度模型的天花板:
1. 复数参数设计:将权重扩展至复平面(实部+虚部),使单个参数具备二维表达能力,比实数模型多一维信息密度。
2. 2-bit极致压缩:权重量化至{±1, ±i},利用复平面单位根的对称性实现零空间浪费,并消除矩阵乘法。
3. 推理革新:仅需加法与数值交换,功耗降至十分之一,支持手机端部署。
4. 训练代价:复数模型训练成本为实数模型的2-4倍,但推理效率与精度显著提升,长远看具备商业化潜力。
2)演讲内容大纲
1. 技术瓶颈与现有方案局限:
- 大模型端侧部署的三大障碍:参数存储(如70B模型需140GB)、矩阵乘法算力消耗、散热/功耗限制。
- 量化方案对比:训练后量化(PTQ)精度损失大;训练时量化(QAT)可适应噪声但天花板受限于全精度模型。BitNet等三值量化存在25%空间浪费(零值冗余)。
2. iFairy核心技术路径:
- 2.1 四大复数化改造:
- 2.1.1 线性层重定义:采用Hermitian内积(共轭点乘)满足数学性质(对称性、线性性、正定性)。
- 2.1.2 双Embedding拼接:输入token分别映射实/虚部,输出层拼接后计算Logit。
- 2.1.3 位置编码适配:复平面天然支持RoPE相对位置编码,旋转操作更符合复数几何特性。
- 2.1.4 注意力简化:Q·K内积仅取实部(含模长与相位信息),兼容FlashAttention并减少50%计算量。
- 2.2 PhaseQuant量化算法:
- 2.2.1 训练时将权重量化至复平面四象限,反量化引入噪声供模型学习。
- 2.2.2 根据幅角判定量化值(如[-45°,45°]→1),缩放因子取实/虚部均值。
- 2.3 无乘法推理:
- 2.3.1 {±1, ±i}乘法转化为符号调整与维度交换(例:乘i=交换实虚部+虚部取反)。
- 2.3.2 查表法(LUT)预存16种输入组合结果,硬件友好。
3. 实验验证与开源:
- 训练配置:RedPajama数据集100B token,1.3B参数模型,复数模型PPL(10.14)优于同规模实数模型(11.25)。
- 下游任务:复数模型量化后精度超越BitNet b1.58,部分任务接近全精度。
- 开源承诺:代码、数据集、模型参数全部公开,支持700M/1.3B版本端侧部署。
3)问答环节
Q(Peter 叶毓睿):iFairy相比传统模型,参数量与算力缩减比例?
A:复数模型参数量不变,但2比特量化使存储降至1/8;推理中乘法转加法,算力需求降至1/10,整体端侧效率提升约80倍。
Q(Peter 叶毓睿):复数模型的缺陷?
A:训练成本翻倍(需处理实/虚部运算),且当前GPU不支持原生复数运算,需定制算子。未来需联合硬件厂商优化。
Q(邵舸 David):复数模型表达力提升是否源于参数量变相增加?
A:对比实验显示,同参数规模下复数模型精度更高,源于二维信息密度提升。若实数模型扩增参数量,其量化后精度仍低于复数模型。
Q(叶毓睿):是否可能扩展至高维复数(如四元数)?
A:技术上可行,但训练成本将指数级增长(如四维需16倍算力),且精度增益待验证。复平面二维是目前效率与效果的最优解。
Q(叶毓睿):手机端部署进展?
A:1.3B模型仅需300MB存储,但需开发专用推理引擎(现依赖CPU/GPU适配)。正在与硬件厂商探索定制芯片,彻底消除乘法单元。
下期预告:
人工智能与元宇宙产业委《元宇宙十大技术》培训班
第118期(2025年8月30日,周日20点)
Peter 叶毓睿:《从BTC、Stablecoin到RWA:稳定币来了,我们怎么办?》
纲要:
1、人机共生的世界:智能体+稳定币
2、稳定币的缘起,从BTC到SBR
3、稳定币的定义和应用场景
4、稳定币的问题与挑战
5、中国如何应对?
6、稳定币和RWA
主讲人:
《元宇宙十大技术》作者、中央党校元宇宙课程(3集)作者、燕园叶话主理人;
中国移动通信联合会可信资产与数链金融专委会副主任委员。
1、腾讯会议:576-2467-9700 (密码: 230101)
2、 B站 http://live.bilibili.com/32509301
人工智能与元宇宙产业委《元宇宙十大技术》培训班是由人工智能与元宇宙产业委副主任委员兼联席秘书长、物链芯工程技术研究院元宇宙研究所所长、先进计算产业发展联盟智能计算组组长叶毓睿发起和创办的。叶毓睿长期关注区块链、VR/AR、AIGC、数字孪生、3D内容创作平台或规范(如Web3D、WebXR)等元宇宙等前沿技术领衔参与撰写的《元宇宙十大技术》一书系统地剖析了构成元宇宙的技术组成、原理、案例和未来趋势。他领衔并邀请了十多位领域的Top级专家撰写的《元宇宙十大技术》一书,系统地剖析了构成元宇宙的核心技术要点,该书得到了包括朱嘉明、肖风、姚前及四位院士等70多位资深专家的联袂推荐。 通过“燕园叶话”这个平台,叶毓睿希望能够推动元宇宙技术在社会各界的交流与普及。《元宇宙十大技术》一书为这个系列活动提供了理论基础和技术支撑。同时,叶毓睿还积极运用自己的人脉资源,邀请国内外元宇宙领域的专家学者前来主讲,保证了内容的专业性和前瞻性。截止2025年8月24日,已经举办了第117期,促成了不少合作,欢迎关注、转发。通过关注视频号 乐生活与爱IT,可以查看过往回放。
人工智能与元宇宙产业委《元宇宙十大技术》培训班目前主要以线上形式(腾讯会议+视频号)展开,并邀请了13+媒体伙伴们一起转播、转载,通常每次在线观看人数4000-41000不等,也是受访嘉宾及其所在公司的良好展示平台。该品牌系列活动的创办,是元宇宙产业委和叶毓睿推动元宇宙产业发展、促进元宇宙技术交流的重要举措之一。 《元宇宙十大技术》培训班的举办,是元宇宙产业委为推动元宇宙技术交流、促进产业发展作出的重要努力。通过持续邀请专家学者主讲,剖析元宇宙技术,和介绍应用场景或案例,使广大公众对元宇宙有了更深入的了解,也增强了对元宇宙发展的信心。可以预见,这一系列活动有望对元宇宙产业链培育人才、推动技术创新、规范产业发展起到积极的推动作用。我们期待它能够发挥引领示范效应,推动元宇宙产业健康快速发展。
好文章需要您的支持
根据《中华人民共和国著作权法》及《最高人民法院关于审理涉及计算机网络著作权纠纷案件适用法律若干问题的解释》的规定,本网站声明:凡本网转载作品,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,转载信息版权属于原媒体及作者。我们力所能及地注明初始来源和原创作者,如果您觉得侵犯了您的权益,请通知我们,我们会立即删除改正。如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。
文章:122 浏览量:10895
2025年8月24日周日晚上八点,由人工智能与元宇宙产业委(“中国移动通信联合会人工智能与元宇宙产业工作委员会”的简称)指导,人工智能与元宇宙产业委副主任委员兼联席秘书长、物链芯工程技术研究院元宇宙研究所所长叶毓睿创办的“燕园叶话”《元宇宙十大技术》培训班进行到第117期。
2025年8月29日,以“新AI・新时代・新机遇”为核心主题的第23届科创企业投融资大会暨三板汇茶咖空间全国启航盛典在深圳隆重启幕,活动持续至 30 日,同期即将于8月30日召开的链改2.0六方会谈,由中国移动通信联合会人工智能与元宇宙产业工作委员会、中国通信工业协会区块链专委会、中国移动通信联合会可信资产与数链金融专委会、香港RWA全球产业联盟、三板汇科创联盟、中国国际科技促进会专精特新与挂牌上市工作委员会等机构共同主办,以“可信资产 IPO + 数链金融 RWA” 双轮驱动为核心,整合生态方、项目方、资金方、合规方、技术方、行业方六方主体协同,将签署《“可信资产 IPO + 数链金融 RWA” 链改 2.0 深圳共识》、展示《链改 2.0— 从数字资产到 RWA》新书课题、落地首个链改 2.0 项目实验室,旨在破解资产数字化 “确权难、流转难、信任难” 痛点,推动实体经济与数字金融深度融合,为科创产业高质量发展注入新动能。
当 2025 元宇宙 AI 数据要素 “金杏奖” 全国大赛的复赛哨声在深圳响起,289 个申报项目中 138 个晋级项目的技术展演背后,并非单纯的行业狂欢 —— 这场在中国移动通信联合会创始人兼执行会长、人工智能与元宇宙产业委共同主席、可信资产与数链金融专委会主席倪健中先生的战略引领与鼎力支持下,由中国移动通信联合会可信资产与数链金融专委会秘书长何超全程高效推进、扎实落地,国家数据局背书,并由北京市中洲律师事务所全程见证的国家级赛事,实则是数据要素市场化进程中 “多方角力” 的微缩实验室。
动的贸易结算革命正在中国数字经济思想领袖的引领下加速酝酿。
近日,国务院发布《关于深入实施“人工智能+”行动的意见》,明确指出要加快人工智能与元宇宙等技术融合和产品创新,这一政策导向为两者的深度融合提供了战略指引。人工智能(AI)与元宇宙的融合发展,本质上是技术协同与场景创新的双向赋能过程,具体体现在以下几个方面:
2025年8月17日周日晚上八点,由人工智能与元宇宙产业委(“中国移动通信联合会人工智能与元宇宙产业工作委员会”的简称)指导,人工智能与元宇宙产业委副主任委员兼联席秘书长、物链芯工程技术研究院元宇宙研究所所长叶毓睿创办的“燕园叶话”《元宇宙十大技术》培训班进行到第116期。微信视频号 乐生活与爱IT、央链直播、寇享学术、DOIT、零壹财经、iCloser社交元宇宙、卢米宇宙、察访区块链、web3马甲哥、上海创业导师、盘古智库、氦川科技、大江大湖大黄高、卢山说AI精进、凤岐茶社等媒体直播或转载。客座嘉宾谢永珍讲解《海尔人单合一模式的价值重构与管理创新》,本期超3794人在线观看。
当数字经济进入深水区,实体经济的数字化转型不再停留于技术嫁接的表层探索,而是迈向资产价值重构与金融链路革新的深层突破。“可信资产IPO+数链金融RWA”链改2.0的提出,正是对这一转型需求的系统性回应。
2025 年 8 月 20 日下午,中国通信工业协会区块链专业委员会第三届第二次主任委员会议在北京中洲律所顺利召开。本次会议由执行秘书长窦俊主持,他在会上详细汇报了专委会近期工作重点,明确后续将围绕 RWA 产业在国内外的布局推进系列工作。会议中,执行主任周胜对专委会近期的工作开展情况给予了充分肯定与高度赞许。会议还研究了其他事宜。
据路透社,中国正考虑首次允许使用人民币支持的稳定币,以促进人民币在全球范围内的更广泛采用,这是其对数字资产立场的重大转变;中国可能将于本月晚些时候审查并可能批准一项路线图,以促进全球范围内人民币的使用,包括跟上美国对稳定币的推动;该计划预计将包括人民币在全球市场上的使用目标