英特爾與國際奧委會合作!從運動員到開發者 運用開放AI系統解決真實世界的挑戰
英特爾發表與國際奧委會(International Olympic Committee,IOC)合作的更多細節,透過產業應用導向的生成式AI(Gen AI)檢索增強生成(RAG)解決方案,進一步展示如何透過搭載Intel Gaudi加速器和Intel Xeon處理器的開放式AI系統,協助開發者和企業因應AI熱潮所帶來的挑戰。
![](https://www.computerdiy.com.tw/wp-content/uploads/20240723100254_0.jpg)
英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard表示:「與國際奧委會的合作展現英特爾致力提高AI可用性的決心。藉由建構開放的競爭環境,鼓勵創新和創造力,英特爾協助開發者和企業打造客製化AI解決方案,帶來實際的應用成果。英特爾也透過開放且協作的生態系,改變幫助運動選手的方式,並與合作夥伴一起創造更多的可能性。」
為奧運選手打造的AI聊天機器人
取得奧運參賽資格對選手而言只是開始,為幫助全球11,000名來自不同語言和文化的奧運選手導航場館路線,並遵守賽事規範,奧委會與英特爾合作開發了一款AI聊天機器人──Athlete 365。這款聊天機器人採用由英特爾Gaudi加速器和Xeon處理器驅動的RAG解決方案,能夠回應運動員的問題並進行互動,並於運動員在巴黎奧運選手村停留期間按照需求提供相關資訊,讓選手得以專注於訓練與競賽。
布署生成式AI解決方案時會面臨成本、規模、準確性、開發要求、隱私與安全性等挑戰。其中,RAG對生成式AI工作負載來說相當重要,它能夠讓企業安全地利用專有資料,提高AI輸出的及時性和可靠度,進一步提升AI應用的品質與實用程度,這對於現今以資料驅動的世界而言相當重要。
英特爾透過與AI平台、開放性標準以及強大的軟體生態系共同合作,使開發人員能夠針對企業需求開發客製化生成式AI RAG解決方案。此次合作也展現了英特爾致力於提供開放、多供應商、穩健且可彈性組合的生成式AI解決方案。
生成式AI RAG解決方案的運作原理
為實現輕鬆布署RAG應用,英特爾與產業夥伴合作打造一個開源、可互通的解決方案。該生成式AI解決方案,是一種建構在開放企業AI平台(Open Platform for Enterprise AI,OPEA)專案基礎之上的產業導向、開箱即用、生產就緒的RAG解決方案。在為企業資料中心提供簡化的RAG解決方案布署方法同時,該生成式AI整合解決方案整合了來自多個OEM系統和產業合作夥伴提供的一系列元件,能支援高度靈活性和客製化。
此生成式AI整合解決方案,把基於OPEA的微服務元件整合到可擴充的RAG解決方案中,以用於布署英特爾Xeon和Gaudi AI系統。可無縫擴充Kubernetes和Red Hat OpenShift等成熟的編排框架,並提供具安全性和系統遙測功能的標準化API。
- 透過開源軟體堆疊打破專用限制:幾乎所有大型語言模型(LLM)都是基於由英特爾Gaudi和Xeon提供支援的高抽象框架PyTorch進行開發,簡化在英特爾AI系統或平台上進行的開發。英特爾與OPEA合作開發用於RAG和LLM布署的開放式軟體堆疊,使生成式AI整合解決方案最佳化,並使用PyTorch、Hugging Face服務程式庫(TGI和TEI)、LangChain和Redis Vector資料庫建構。
- 滿足開發者需求:OPEA為企業提供開源、標準化、模組化和異質的RAG流程,專注於開放性模型的開發,以及對各式編譯器與工具鏈的支援。這樣的基礎加速了針對獨特垂直應用案例的容器化AI整合和交付。藉由打造一個位於技術堆疊最前端、具備各式細節且可組合的框架,OPEA釋放了AI全新的可能性。
借助生成式AI整合且全面的企業AI堆疊,英特爾提供完整的解決方案,可解決在企業和資料中心內布署和擴充RAG和LLM應用的挑戰。利用英特爾支援的AI系統、平台以及OPEA中達成最佳化的軟體,企業能以更高效率、更快速度充分駕馭生成式AI的潛力。
未來進展
增加最新AI運算技術的可用性,是企業在利用生成式AI實現關鍵業務成果時面臨的挑戰。英特爾透過與產業合作夥伴和客戶的策略合作,為生成式AI和RAG解決方案所驅動的AI服務持續創造新的機會。
英特爾致力於安全、負責任地推動AI的發展,並宣佈與Google、IBM和其他產業夥伴合作,成立安全AI聯盟(CoSAI),目的在於強化AI開發和布署過程中的可信任度和安全性。
即將在9月24日至25日於美國加州聖荷西舉辦的年度Intel Innovation大會上,英特爾將透過Granite Rapids和Gaudi 3進一步展示AI系統的領先地位和合作夥伴動能。
臉書留言