登入

會員權益

獲取需求

查看名片

專屬客服

尊貴標識

VIP低至1.5U/天

AI趨勢周報第252期:取代Transformer?LSTM之父發表新LLM架構

分享

2024-05-13

LSTM之父Sepp Hochreiter提出一種新架構xLSTM,媲美Transformer;DeepMind發表可預測所有生命分子結構的AlphaFold 3模型;國科會揭TAIDE計畫最新成果;甲骨文也推出AI開發助理了;Red Hat推出AI平臺,內建IBM Granite模型;Stack Overflow聯手OpenAI,將優化Chatbot功能

  開發助理    甲骨文      程式碼  

甲骨文也推出AI開發助理了

繼微軟、Google、OpenAI、GitHub等科技龍頭推出AI開發助理後,甲骨文也加入這個行列,最近推出了程式開發助理Oracle Code Assist,能幫助使用者開發Java程式。

Oracle Code Assist是以甲骨文雲端Oracle Cloud Infrastructure(OCI)模型為底層,為Java、SQL程式和OCI上的應用開發來優化。甲骨文強調,這個開發助理以多種軟體程式庫訓練而成,也透過自家軟體應用微調而成,使用者可以自然語言互動,開發助理可處理程式碼生成、產生API文件、註解或評論等功能,還能提供重點解釋,幫助開發人員了解開發原理、檢視或重新組織現有程式碼。它也能提供修改建議,或產生pull request來將程式碼變更,合併到軟體程式庫中。使用者還能透過這個助理,來建立單元或功能測試。

甲骨文表示,Oracle Code Assist還有些進階功能,如可整合企業程式碼框架、函式庫等來提供客製化建議,另也能檢查自己產生的程式碼,以免用到不當授權的程式碼,或是將程式碼以新版函式庫更新。它也能根據企業軟體開發的最佳實作,來檢查程式錯誤和效率低落之處。(詳全文)

  AI開發     Red Hat     Granite  

Red Hat推出AI平臺,內建IBM開源Granite模型

又有一款生成式AI開發平臺可選擇了,Red Hat日前發表一款AI平臺Red Hat Enterprise Linux AI(RHEL AI),企業用戶可用來在混合雲環境開發、測試和部署生成式AI模型。RHEL AI是Red Hat首個基礎架構模型平臺,內建IBM研究院開源的大型語言模型(LLM)Granite和其他開發工具。IBM表示,整個解決方案將打包成一個RHEL映像檔,可用於混合雲上部署單一伺服器,此外,RHEL也會整合到混合雲MLOps平臺OpenShift AI中。

Granite是IBM研究院開發的旗艦級LLM,去年9月正式發布,包含4個版本,可用於AI助理、財務應用、多語言翻譯(英、西、葡、德、法文)等應用,另也有日文專用版本。而RHEL AI內建的是Granite 70億參數模型,以Llama 2-7B為基礎,用2兆Token資料集訓練而成,可支援4,000個Token的文長。除了Granite模型,該平臺還包含IBM研究院打造的模型訓練方法與工具,也就是Large-scale Alignment for chatBots(LAB),可減少人員標註成本、降低模型開發門檻,也能提供大量生成資料,來加速模型的訓練與優化。(詳全文)

  Stack Overflow     OpenAI     AI助理  

熱門開發者論壇Stack Overflow聯手OpenAI,將優化Chatbot功能

開發者論壇Stack Overflow在5月7日宣布與OpenAI簽署合作協議,允許OpenAI用該平臺內容來訓練大型語言模型,而Stack Overflow也將利用OpenAI模型來強化自家的AI服務OverflowAI。Stack Overflow是個熱門的開發者論壇,開發者可在平臺上透過QA來解決各種疑難雜症。在ChatGPT剛問世時,Stack Overflow曾因擔心而一度封鎖GenAI內容,但隨著GenAI品質的改善,Stack Overflow先在今年3月宣布與Google合作,讓Gemini得以透過OverflowAPI存取知識庫,在開發人員呼叫Gemini時提供開發建議、程式碼及回答問題。

日前Stack Overflow與OpenAI的合作同樣能讓OpenAI存取OverflowAPI,也允許OpenAI藉Stack Overflow社群提供的內容來改善OpenAI模型,並會在ChatGPT中將特定內容標註來自Stack Overflow。OpenAI和Stack Overflow的首批合作功能預計在今年6月前推出,意味著ChatGPT將可提供來自Stack Overflow且經驗證的技術知識。(詳全文)

  AI晶片     M4     蘋果  

蘋果發表最新AI晶片

在今年年會展開前,蘋果發表新一代M4晶片,並更新iPad產品線,推出首個採用M4晶片的iPad Pro和採用M2晶片的iPad Air。M系列是蘋果自行設計的晶片,去年10月才發表M3,不到一年就推出M4,這個M4採台積電3奈米製程,由280億個電晶體組成,搭載最多10核心的CPU,包括4個效能核心與6個節能核心,兩者都具備強化的新一代機器學習(ML)加速器。而同樣搭載最高10核心的GPU則支援動態快取功能,可提高GPU的平均利用率。

蘋果指出,M4擁有飛快的神經網路引擎(Neural Engine),這是專門用來加速AI任務的IP區塊,每秒可執行38兆次的運算,是A11 Bionic晶片的60倍快,再搭配CPU的ML加速器、高效能的GPU,以及更高頻寬的統一記憶體,讓M4成為超強AI晶片。這個特性,讓搭載M4晶片的iPad Pro,成為可支援AI運算的裝置,例如在Final Cut Pro中輕點一下,就能輕鬆地分離4K影片中的主體及背景。(詳全文)

/Sepp Hochreiter、DeepMind、蘋果

攝影/蘇文彬  

  AI近期新聞 

1. AWS生成式AI開發助理Amazon Q正式可用

2. Google Cloud推出AI安全方案,整合Gemini、Mandiant和VirusTotal技術

3. MongoDB推出一站式企業GAI應用開發工具方案

:iThome整理,2024年5月

免責聲明:
詳情

Please Play Responsibly:

Casino Games Disclosure: Select casinos are licensed by the Malta Gaming Authority. 18+