2024-06-25
苹果 LLM MLX
开发者可用MLX函数库，联合多台苹果设备跑大模型了
最近，苹果才结束今年度发表大会WWDC，主打Apple Intelligence、聚焦个人化AI功能和隐私保护，但还留了一手。也就是，开发者可用苹果的开源机器学习函数库MLX，来联合苹果设备（如Mac笔电、iPhone手机和iPad等）算力、形成一个AI集群，来运行大型AI模型。
日前就有位开发者Mohamed Baioumy分享经验，他使用了2台MacBook、2支iPhone 15 Pro和1台iPad，来运行80亿参数的Llama 3 instruct 4 bit模型，可以非常快的速度回答文本问题。另有位开发者Mohamed Baioumy表示，就算不是苹果设备也可以，也就是说，只要所有设备都使用同一个网络，开发者就可堆栈多个设备来跑大模型。这代表，开发者可通过多个设备来运行先进的AI模型了。（详全文）
金管会 AI指引 金融业
金管会发布金融业运用AI指引
最近，金管会终于发布「金融业运用AI指引」，与去年12月底提出的草案大方向一致，除提供AI系统和生成式AI定义，也说明4个AI系统生命周期阶段，并提供业者在各阶段中落实6大核心原则的处理机制。
进一步来说，这份AI指引就像是一份AI操作建议书，分别引导业者在导入AI或使用生成式AI时，如何在4个阶段中，包括系统规画及设计、数据搜集及输入、模型创建及验证、系统部署及监控等阶段，落实6大核心原则，也就是创建治理及问责机制、重视公平性及以人为本的价值观、保护隐私及客户权益、确保系统稳健性与安全性、落实透明性与可解释性，和促进永续发展。
比起草案，这份正式版多出了实务作法，也提及更多第三方业者的监督管理方式，对自建、委外和外购等不同部署方式增订相关内容，也修改风险评估因素的叙述方式、增加指引适用的弹性。综合规画处处长胡则华指出，目前采用生成式AI的金融机构有29家，银行业占最多，使用场景大多为内部作业，第二是智能客服，第三则是行销广告。（详全文）
语言模型 Meta 程序撰写
Meta揭露4款语言模型，涵盖程序撰写、音乐生成和音频浮水印
日前，Meta AI研究院最近发表4款语言模型，包括Meta Chameleon，含70亿参数（7B）和340亿参数（34B）版本，支持多模态输入值，但只以文本输出。另一款模型是Meta Multi-Token Prediction，是一款预训练语言模型，专门用来处理代码撰写任务。这是因为该模型采用多Token预测方法，可即时预测好几个字，而非只预测一个，也因此提高了作业效率和回应速度。
第三款模型是Meta JASCO，是一款生成式文本转音乐模型，预计晚些时候发布预训练模型。最后一个模型是Meta AudioSeal，是一款音频浮水印模型，能在设备端侦测AI生成的语音，并配上浮水印；该模型开放商用授权。除了模型，Meta也发表负责任AI研究成果，包括了研究本身、数据和代码，可用来衡量和改善AI系统中的地理表征、文化偏好和多元性。（详全文）
Luma AI 视频生成 Dream Machine
美AI新创开源高品质视频生成模型
旧金山一家AI新创Luma AI最近发表AI系统Dream Machine，可根据简单的文本描述，来生成高品质视频，且号称几分钟就能完成。有别于OpenAI的视频生成模型Sora和快手的Kling、只对特定群众开放，Luma AI开放各界免费在自家网站尝试这款系统。
Luma AI表示，Dream Machine目前虽只能生成5秒长的视频，但在品质上相对写实逼真，可应用的领域更广。（详全文）
Claude 3.5 Sonnet Anthropic 语言模型
Claude 3.5 Sonnet问世了，评测表现胜过GPT-4o
Anthropic日前发表了新款大型语言模型Claude 3.5 Sonnet，是Claude系列的中阶模型，但表现和效率都超越Claude 3.0的高级模型Opus，在大多数的评测上也胜过OpenAI今年5月推出的GPT-4o。进一步来说，Claude 3.5 Sonnet的运行速度是Claude 3 Opus的两倍，Anthropic自己也以自然语言指令，要求不同模型修补开源代码臭虫或添加功能，发现Claude 3.5 Sonnet解决了64%的问题，超越Claude 3 Opus的38%。
在提供指示与相关工具后，Claude 3.5 Sonnet得以独立撰写、编辑与运行代码，可运行复杂的推论及故障排除能力，轻松处理代码的转换，能更有效率更新老旧应用程序并迁移代码库。Claude 3.5 Sonnet不仅在所有基准评测上胜过Claude 3 Opus，它在GPQA、HumanEval、MGSM、DROP、BIG-Bench-Hard或是与视觉有关的MathVista、AI2D、Relaxed accuracy及ANLS score等评测上也超越了GPT-4o，只有在MMLU、MATH及MMMU上略逊GPT-4o。（详全文）
／Meta、Mohamed Baioumy、Luma AI、Anthropic、Hume AI、Databricks
AI近期新闻
2. 前OpenAI首席科学家Ilya Sutskever成立新公司，瞄准AI安全性
3. Pixel 8、Pixel 8a终于也有Gemini Nano了
：iThome整理，2024年6月
