MoE     艾伦AI研究院     OLMoE  

艾伦AI研究所联手打造更节能的MoE语言模型

日前，艾伦AI研究院、新创Contextual AI联手打造一款混合专家（MoE）语言模型OLMoE并开源，不只表现好，所需的运算资源还更少。这款模型虽然有70亿参数，但对于每个输入值，只会激活13亿参数，因此与Llama 2-13B等更大的模型相比，其表现相当但所需的推论运算资源更少了。

也由于MoE架构特性、更好的训练数据和超参数，这款模型比前一代模型OLMo 7B要有效率，省下了4倍训练FLOPs运算资源、每次向前传递的使用参数量也少了5倍，在推论和训练方面都更划算。这次，他们不只开源模型权重，还开源了训练数据、代码和日志，允许其他开发者在OLMoE的基础上进行改良。（详全文）

  AI生态圈     行政院     LLM  

行政院经发会首次顾问会议聚焦AI生态圈

9月3日行政院展开今年度首次经济发展委员会顾问会议，锁定创新经济、均衡台湾和包容成长等3大主题，其中，创新经济又聚焦2大议题，包括「建构主权AI生态系」和「以市场需求带动创新创业发展」。这次委员会顾问群由21位产官界重量级人士组成，如台新金董事长、玉山金董事长、台哥大总经理、91App董事长、YouTube创办人等人。

就建构主权AI生态系来说，又可分为2部分。首先是主权AI发展策略，顾问群针对台湾如何发展繁中大语言模型、如何确保繁中数据库多样性和品质、如何带动产业发展系统设计和创新应用服务等议题提出建议，比如针对发展本地模型，就建议政府，短期以开源LLM为基底，增加在地数据训练，之后再发展完全自行开发和维护LLM的能力。另也建议政府与民间企业合作，包括跨部门协助磨合大规模企业，通过大携小、老创+新创的方式，辅以政府基金来达到整并规模化。顾问群也建议，政府应优先处理基础建设工作，拥有足够的计算资源和稳定电力供应，才能支持AI技术发展。

在确保繁中数据库部分，则建议由政府指定专责单位，创建主权共同数据库，以及创建AI监督、问责和评估制度，来把关数据运用。至于带动产业面向，则建议数发部集成资源，来从人才、产业（选定优先发展产业）、基础设施（如数据中心、语料库、LLM基础设施等）和信任安全规范（如可信任AI发展准则、数据治理与交换）等面向设置战略目标。

此外，建构主权AI生态系还有另一个重要议题：如何带动百工百业／中小微企业AI转型。在这部分，顾问群建议，由于百工百业范围广泛，政府应选择数位化程度较高的重点产业，优先提供深入课程和AI导入。他们也建议，政府应鼓励产业共组联盟，像是半导体与电子制造、传统制造、医疗保健、智能城市与交通、金融业等先来实行。此外，他们也建议政府打造沙盒和友善环境，提供业者、主管机关容错空间，另也应在各行业选出具参考价值的企业转型典范，作为产业界示范，好进一步推广。（详全文）

  行政院    AI      AI治理  

行政院提五大信赖方案，要提高特定产业AI应用普及率达50%

9月5日，国发会在行政院院会中揭露五大信赖产业推动方案，锁定半导体、AI、军工、安控、次世代通信等五大产业。在半导体方面，该方案要协助厂商发展先进制程与封装、材料及设备，目标是2028年要添加产值新台币2.6兆元。

在AI方面瞄准5大面向，包括应用发展、人才、政府投资、研发创新和巩固基盘。就应用来说，要通过补助、采购、租税诱因和创建产业专家数据库等方法来促进各行业导入AI，包括政府机关在内。特别的是，他们设置KPI要提升数位经济产业导入AI应用普及率达50%，制造业导入AI应用普及率则要达30%。

人才部分，则要在4年内培育20万名AI数位相关人才，另也锁定产学研合作，来培育硕博士高级人才和企业即战力人才。政府投资是指数发部集成行政院国家发展基金100亿元，要投资AI数位产业，而在创新部分，是要吸引国际半导体和AI大厂来台设立研发中心，最后的巩固基盘，则要新建智能节能数据中心、扩大算力和引进低耗能方案，也要精进繁中语言模型、开发多元产业落地应用。不只如此，他们也将发布AI基本法和产业AI指引，并推动AI评测、完善AI治理。

至于其他产业，军工业方面将持续推动国机国造、国舰国造、打造无人机供应链，预计至2028年无人机产值要成长10倍。安控产业则要协助国内安控产业发展可信赖的安控产品与解决方案、积极发展资安。至于次世代通信产业，除将布局6G关键自主技术，也将集成地面与卫星网络，发展各项应用场域与解决方案。（详全文）

  数发部     AI培训     公务员  

数发部预计12月提出公务机关AI应用指引

在数位政府高峰会中，数发部数位政府司长王诚明揭露，数发部计划在2026年到2030年推动政府转型，并在2026年前推出配套措施，指导政府机关导入AI。数发部预计在今年12月发布AI应用指引，来帮助机关达成转型目标。

王诚明指出，数发部正由专家协助研拟AI应用指引，未来AI应用指引的内容将涵盖AI概念介绍、AI服务评估、AI服务导入、AI营运管理4大章节，共23个子章节。其中，AI服务评估是指，协助机关评估AI是否为适合的解决方案，包含机关面临的问题如何定义、数据状态是否准备妥当、政府公开的AI实证等；AI服务导入则包含导入模式、AI项目过程、AI项目验收标准等。AI营运管理涵盖风险管理、伦理议题、资安、AI治理等面向。

数发部透露，应用指引将AI项目生命周期分为5阶段，包括AI场景评估、建置AI项目、数据准备及模型开发、测试迭代、风险控制和项目追踪，每个阶段有其对应的目标及任务。为因应最困难的验收部分，AI应用指引将提供4个验收指针，包括模型性能标准、系统稳定性、用户体验标准、公平性指针等，但因为AI仍在发展中，指针也会随之变动。（详全文）

  Anthropic     Claude Enterprise     GitHub  

Anthropic推出企业版AI方案

AI新创公司Anthropic日前揭露企业级Claude AI助理方案：Claude Enterprise，锁定500人以上的大型企业，强调更周全的安全控管功能，也不会使用企业数据来训练AI模型。这个最新方案，可让企业安心用Claude和公司内部数据，来运行项目或协同工作，该方案也提供更大的Claude AI脉络长度、管理功能、安全性和开发便利性等，包括提供Claude 500K脉络长度，大约是数百个业务誊本、数十份上百页的文档或中型代码库，足够让Claude提供更专业、更符合部门功能需求的回应和指引。

再来，企业版方案提供更进阶的安全和控制功能，像是单一签入与网域获取，可管理用户存取并将使用控制集中化。他们还预告，接下来几周会推出2项管理功能，如能追踪系统活动使用的稽核纪录、跨网域身份管理系统（SCIM）等。此外，企业版还加入和GitHub的原生集成功能，工程团队可将Claude与GitHub存储库同步，配合codebase开发新功能、调试或为新工程师提供入职训练。（详全文）

  Visual Studio     Copilot     语境理解  

Visual Studio 2022深度集成GitHub Copilot

微软Visual Studio 2022 17.11针对GitHub Copilot更新，提升在开发流程中集成Copilot，首次让开发者能引用整个解决方。此外，Copilot还在Visual Studio 2022中添加多项功能，像是强化语境理解，以及对调试和命名上的理解，进一步提高开发者生产力和开发效率。

过去Copilot可应用的范围较小，是因为其能引用的上下文较为限缩，但在Visual Studio 2022 17.11中，Copilot增加@workspace和@GitHub新指令功能，可将整个解决方案，甚至是存储库纳入参照的上下文中。除了指令功能，Copilot的程序开发辅助功能也有改善，比如添加命名建议和AI生成的中断点表达式功能，以及迭代代码建议的方法，不需要像过去一样先接受建议、避免接受后还要再修改的麻烦。（详全文）

  软件开发     AI工具     代码  

GitHub：生成式AI正改变软件开发

GitHub针对AI在软件开发中的使用状况进行调查，发现AI正在改变软件开发产业，几乎所有开发者都已使用AI工具辅助程序开发，并享有AI工具带来的优点，包括改善代码品质、更快速编写测试代码，以及更容易理解代码库和开始使用新语言。

在GitHub调查的2,000位受访者中，超过97％的受访者在软件开发使用过AI代码开发工具，无论工作内外，但他们的使用并不一定经过公司允许。调查显示，企业虽正逐渐拥抱AI，但仍有许多成长空间，且不同市场差异极大，较保守的德国仅有59％的企业鼓励或允许员工使用AI工具，在美国则有88％。也因此，对比97％的受访者已将AI工具用于工作内外的软件开发，企业态度与这个现象有所差距，显示企业应该要完善策略与政策面，来消弭差异。（详全文）

／Google DeepMind、艾伦AI研究院、行政院、Anthropic、GitHub

  AI近期新闻 

1. Google Gemini添加可客制化的个人助理Gem、全面部署Imagen 3图片生成模型

2. Anthropic公布旗下3款模型系统提示，可先定义模型行为、语气和个性

3. 国科会揭5年智能科技大南方方案，要提高国家算力至480 PFLOPS

：iThome整理，2024年9月