
七牛云「GIDC·2024」| AIGC 视频和应用智能化与AI 边缘算力下沉
近日,GIDC2024 互联网数据大会在上海盛大开幕。本次大会以「大算力·新节能」为主题,聚焦 AI 时代下的数据中心产业变革。七牛云作为大会科技生态伙伴应邀参加。同时,七牛云副总裁宿度从「AIGC 视频、应用与云」、「GenAI 大中小模型的选择」和「AIGC 推理与算力下沉」等几个层面,为 IDC 行业的与会嘉宾和从业者带来了主题为《AIGC 视频和应用智能化与AI 边缘算力下沉》的精彩分享。
宿度首先介绍了七牛云的发展历程和相关业务,分享了七牛云多年来在一站式场景化智能音视频 APaaS 平台方面积累的丰富技术实践。
七牛云以云存储起步,并迅速发展出 MPaaS 一站式多媒体平台,涵盖音视频处理、分发服务等。从 2017 年开始布局 AI,利用 AI 能力为多媒体行业提供媒体增值服务,与国内大多数企业一样,最初主要围绕在决策式 AI 方向输出智能识别、鉴别类的 AI 服务能力;以 MPaaS 和 AI 能力为基础,七牛云进一步构建了 APaaS,并深入覆盖到具体业务场景,为客户提供一站式音视频应用服务;近 2 年来,七牛云也在积极拥抱生成式 AI 浪潮,加大投入在 AIGC 视频解决方案、加快推进业务全球化发展。
七牛云 MPaaS 以 Kodo 对象存储、QCDN 分发、Dora 媒体处理、Miku 互动直播等四大主要产品为基础,主要针对开发能力强、需求灵活的客户群体,通过 API 和 SDK 向客户提供服务。而 APaaS 则是基于 MPaaS 能力和低代码平台能力的场景化音视频解决方案,集合了视频增强、智能审核、AI 混剪、3D 生成、语音、视觉、AIGC 数字人等技术能力,覆盖社交媒体、视频营销、视联网、智慧新媒体、元宇宙五大场景。通过 MPaaS + APaaS 双轮驱动策略,七牛云以多媒体基础服务为支撑,通过低代码和智能化应用平台能力,实现场景化覆盖,从而赋能千行百业。
AIGC 视频和 AI 原生应用智能化与云
2022 年 10 月以来 ChatGPT 引领着对话和文本生成的生成式 AI 浪潮;随后,图片、视频生成技术也相继取得了突破。继生成文字、生成图片后,生成视频成为新的 AIGC 热点,从 2023 年生成几秒、十来秒视频小短片,到 2024 年初采用 Diffusion Transformer 架构的 Sora 取得生成分钟级长度、且具备高度人物和场景一致性视频的突破,使更多人相信 2024 年是 AIGC 视频生成的元年。
在生成式 AI(GenAI)技术浪潮的推动下,内容创作的主体正在发生变迁,从个人用户到专业机构,再到 AIGC 时代的智能机器人;生成式 AI 技术提升了内容创作的速度和质量,将极大增加网络空间上音视频内容丰富度和多样性。
AI 原生应用的快速发展,对云计算提出了新的关键需求要素。开发者构建应用时,首先是对模型的需求,可以用大型模型,但也可以使用微调过的小模型以降低成本,及采用多专家混合模型(MoE)提升性价比;第二个要素是数据,云服务能够管理全量的训练语料、调优数据和用户数据,同时确保数据的安全性;最后一个关键要素是算力,能够快速、方便、按需的获得算力资源,满足训练和推理需求。
算力资源是影响 AIGC 发展的核心要素。从训练、微调到推理,AI 平台能力影响着 AIGC 和 AI 应用的开发和效率。从筛选、标注、存储到训练,从采集到保护,数据处理综合能力也是关键。在面向不同业务场景落地 AIGC 视频和 AI 原生应用时,开发者需要考虑三个基本要素:算力、数据和适合场景特点的模型;而在选择大、中、小模型方面,成本、质量和推理速度也是最重要的权衡取舍因素;从 AIGC 市场结构划分看,云厂商是基础设施、模型及算力服务的重要参与者,通常由云服务提供商来提供相应的能力选项,开发者需要做出业务判断。
AIGC 推理与边缘算力下沉
在云计算和生成式 AI 技术飞速发展的今天,根据海外厂商观测,对推理算力的需求正增长成为算力需求中的主要部分,而算力下沉将成为推动行业发展的关键因素。宿度介绍了七牛云在边缘计算方面的布局,在生成式 AI、AIGC 热点方向上,七牛云积极探索围绕 GPU 推理加速的边缘 AI 算力云服务,并结合音视频 RTC 和互动直播场景特点,将 GenAI 技术广泛应用在多语言翻译、语音生成、视频生成、数字人互动等泛音视频智能化场景。
通过在边缘节点部署 AI 推理设备和边缘计算平台,实现对视频内容的实时处理和智能分析。通过以边缘计算支撑 AI 推理算力需求,可以降低计算延迟、提高系统的响应速度,同时相比于在云端数据中心堆算力来提升每秒 token 数,在边缘交付算力更具性价比,并且能更好地保护用户数据安全。
展望未来,如何拥抱 AIGC 时代浪潮?宿度表示,七牛云将主要围绕两个层面推进落实。一是围绕 AIGC 和音视频场景优势,积极投入增强与之相关的能力,输出自己的模型服务和场景化解决方案;二是围绕 AI 推理需求和边缘云优势,增强边缘算力输出规模。同时,七牛云也将与各类优秀合作伙伴携手,共同为用户构建更加完善的 AI 解决方案,赋能企业客户数字化、智能化转型需要,提升内容生产的深度和广度,满足 AIGC 时代用户多样化的需求。