微软首席执行官Satya Nadella指出,Windows Copilot Runtime是微软AI笔电Copilot+ PC的重要基础,以函数库、本地端模型与API为内核,来驱动高级AI应用与体验。/微软
特点1:专为AI设计的Windows函数库
进一步来说,Windows Copilot Runtime的核心是「Windows Copilot函数库与本地端模型」,向下支持微软AI框架和工具链,向上可用来发展AI应用程序、提供一致的使用体验。这3大层次加起来,就是一套完整的端到端Windows AI生态系统,「Windows Copilot Runtime就是这样的系统」,微软官网如此说明。
就Windows Copilot函数库与本地端模型来说,它包括一系列即用型本地端API,这些API由40多个本地端AI模型和Windows内置的DiskANN等算法驱动,用户可用来打造AI应用和体验。
第一波API在6月对开发者开放,包括工作室特效(Studio Effects)、即时字幕翻译(Live Caption)、OCR、回顾用户活动(Recall User Activity)和语言模型Phi Silica等。接下来,Windows Copilot函数库预计还会新添矢量嵌入、检索增强生成(RAG)、文本摘要等API。其中,矢量嵌入API还能用来打造开发者自己的矢量存储库,能介接专属App的数据,更客制化回答问题。
如何使用这些API?微软举例,开发者不需任何代码,就能在Copilot+ PC系列笔电上,将Studio Effects集成至自己的应用程序,比如创意滤镜、人像模糊化、注视提词机(Eye contact teleprompter)等。或是使用即时字幕翻译API,来替音档和视频即时添加字幕。
而驱动这些API的本地端模型,则有40多款小型语言模型,如Phi系列模型、近期新打造的Phi-3-vision,以及专为Copilot+ PC和NPU设计的33亿参数SOTA模型Phi-Silica,延迟更低、更省能源。这意味着,所有Copilot+ PC都内置40多个小型语言模型。
特点2:支持多款AI框架与工具
除了函数库与模型,Windows Copilot Runtime还支持底层AI框架与工具,像是微软既有的AI框架DirectML、ONNX Runtime等。
Satya揭露底层工具2大亮点,开发者通过Windows中用于机器学习的高性能低级API:DirectML,就能获得Windows操作系统对PyTorch开发框架的原生支持(开发者预览版)。这意味着,Hugging Face上的上千个模型终于能在Windows中运行,而且微软也正式推出GPU对PyTorch的支持,NPU支持也即将上线。
另一亮点是WebNN,也就是网页原生的机器学习框架,可在Windows作业程序中通过DirectML和ONNX Runtime Web来运行。同样是开发者预览版,WebNN的出现,能让开发者更好地利用笔电硬件资源,来提供更好的AI网页App体验。这2项就是Windows Copilot Runtime的底层工具亮点。
特点3:更多原生与第三方AI应用
不只支持AI工具,Windows Copilot Runtime还能向上发展AI应用与体验,这部分有2大特点,一是微软用Windows Copilot Runtime自建的AI应用程序,如用户活动回顾(Recall)、图像创作(Cocreator)、即时字幕翻译、风格编辑(Restyle Image)等。
其中,回顾是通过对屏幕快照,将这些信息转为矢量、存储在语义索引中。当用户想搜索先前看过的信息时,就能在回顾中手动卷动时间轴搜索,或输入关键字,来启动矢量语意辨识、快速找出所需内容。这些快照皆存储在本地端,用户可随时删除,或在设置中设置不想留存快照的特定网站或应用程序。但日前,为顾及用户隐私,微软默认回顾为关闭状态。
再来,图像创作则以小型语言模型和Stable Diffusion等共5款模型驱动,可根据文本提示和简单笔画,来即时生成逼真的图像。即时字幕则支持笔电上任何音频的语言翻译,可将40多种语言翻译为英文,脱机也行。不只开发这些应用,微软还用来优化既有的智能助理Copilot,比如能在笔电上与玩家语音对话、给玩家XBox游戏Minecraft的破关建议。
除了自建的AI应用,微软Windows Copilot Runtime还正集成多个第三方应用程序,如专业级影像处理程序Davinci Resolve、影像剪辑程序CapCut、通信软件WhatsApp、声音手势控制程序Cephable、文档注解程序LiquidText和Adobe系列应用等,要用NPU来优化这些程序的AI功能。
因此微软自建的AI应用程序,用户可在Copilot+ PC笔电中开箱即用,要是在这系列笔电使用微软集成的第三方应用程序,也能获得笔电加持的AI功能。可以说,这个Windows Copilot Runtime,是支撑起Copilot+ PC这一系列AI笔电的重要基础。
强大硬件撑起史上最快AI笔电
当然,光靠强大的底层系统驱动这系列笔电,还是不够的。因此Satya点出,这系列笔电采用新型硬件架构,大幅优化NPU、CPU和GPU的资源使用,每秒能实现40兆次操作(TOPS)。微软测试证实,这样的硬件设计能更快进行AI模型推论,运行AI工作负载的效率还能提高100倍,续航力也更好,充电一次就能支持长达15小时的网页浏览,或22小时的本地视频播放,后者比MacBook Air 15 吋还要久20%。
至于处理器部分,首批Copilot+ PC笔电采搭载高通Snapdragon X Elite和Snapdragon X Plus处理器,可实现45 TOPS。之后,还会推出搭载英特尔Lunar Lake处理器和AMD Strix Point处理器的Copilot+ PC笔电。甚至微软预告,希望这类硬件架构的笔电,未来能搭载Nvidia GeForce RTX显卡和AMD Radeon显卡,来从硬件上更进一步优化Copilot+ PC笔电的使用体验。
这些硬件和Windows Copilot Runtime优势,正是微软发豪语称Copilot+ PC笔电是史上最快、最聪明笔电的底气。



2024-06-21
