英特爾發表與國際奧委會（International Olympic Committee，IOC）合作的更多細節，透過產業應用導向的生成式AI（Gen AI）檢索增強生成（RAG）解決方案，進一步展示如何透過搭載Intel Gaudi加速器和Intel Xeon處理器的開放式AI系統，協助開發者和企業因應AI熱潮所帶來的挑戰。

英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard表示：「與國際奧委會的合作展現英特爾致力提高AI可用性的決心。藉由建構開放的競爭環境，鼓勵創新和創造力，英特爾協助開發者和企業打造客製化AI解決方案，帶來實際的應用成果。英特爾也透過開放且協作的生態系，改變幫助運動選手的方式，並與合作夥伴一起創造更多的可能性。」

為奧運選手打造的AI聊天機器人

取得奧運參賽資格對選手而言只是開始，為幫助全球11,000名來自不同語言和文化的奧運選手導航場館路線，並遵守賽事規範，奧委會與英特爾合作開發了一款AI聊天機器人──Athlete 365。這款聊天機器人採用由英特爾Gaudi加速器和Xeon處理器驅動的RAG解決方案，能夠回應運動員的問題並進行互動，並於運動員在巴黎奧運選手村停留期間按照需求提供相關資訊，讓選手得以專注於訓練與競賽。

布署生成式AI解決方案時會面臨成本、規模、準確性、開發要求、隱私與安全性等挑戰。其中，RAG對生成式AI工作負載來說相當重要，它能夠讓企業安全地利用專有資料，提高AI輸出的及時性和可靠度，進一步提升AI應用的品質與實用程度，這對於現今以資料驅動的世界而言相當重要。

英特爾透過與AI平台、開放性標準以及強大的軟體生態系共同合作，使開發人員能夠針對企業需求開發客製化生成式AI RAG解決方案。此次合作也展現了英特爾致力於提供開放、多供應商、穩健且可彈性組合的生成式AI解決方案。

生成式AI RAG解決方案的運作原理

為實現輕鬆布署RAG應用，英特爾與產業夥伴合作打造一個開源、可互通的解決方案。該生成式AI解決方案，是一種建構在開放企業AI平台（Open Platform for Enterprise AI，OPEA）專案基礎之上的產業導向、開箱即用、生產就緒的RAG解決方案。在為企業資料中心提供簡化的RAG解決方案布署方法同時，該生成式AI整合解決方案整合了來自多個OEM系統和產業合作夥伴提供的一系列元件，能支援高度靈活性和客製化。

此生成式AI整合解決方案，把基於OPEA的微服務元件整合到可擴充的RAG解決方案中，以用於布署英特爾Xeon和Gaudi AI系統。可無縫擴充Kubernetes和Red Hat OpenShift等成熟的編排框架，並提供具安全性和系統遙測功能的標準化API。

• 透過開源軟體堆疊打破專用限制：幾乎所有大型語言模型（LLM）都是基於由英特爾Gaudi和Xeon提供支援的高抽象框架PyTorch進行開發，簡化在英特爾AI系統或平台上進行的開發。英特爾與OPEA合作開發用於RAG和LLM布署的開放式軟體堆疊，使生成式AI整合解決方案最佳化，並使用PyTorch、Hugging Face服務程式庫（TGI和TEI）、LangChain和Redis Vector資料庫建構。

• 滿足開發者需求：OPEA為企業提供開源、標準化、模組化和異質的RAG流程，專注於開放性模型的開發，以及對各式編譯器與工具鏈的支援。這樣的基礎加速了針對獨特垂直應用案例的容器化AI整合和交付。藉由打造一個位於技術堆疊最前端、具備各式細節且可組合的框架，OPEA釋放了AI全新的可能性。

借助生成式AI整合且全面的企業AI堆疊，英特爾提供完整的解決方案，可解決在企業和資料中心內布署和擴充RAG和LLM應用的挑戰。利用英特爾支援的AI系統、平台以及OPEA中達成最佳化的軟體，企業能以更高效率、更快速度充分駕馭生成式AI的潛力。

未來進展

增加最新AI運算技術的可用性，是企業在利用生成式AI實現關鍵業務成果時面臨的挑戰。英特爾透過與產業合作夥伴和客戶的策略合作，為生成式AI和RAG解決方案所驅動的AI服務持續創造新的機會。

英特爾致力於安全、負責任地推動AI的發展，並宣佈與Google、IBM和其他產業夥伴合作，成立安全AI聯盟（CoSAI），目的在於強化AI開發和布署過程中的可信任度和安全性。

即將在9月24日至25日於美國加州聖荷西舉辦的年度Intel Innovation大會上，英特爾將透過Granite Rapids和Gaudi 3進一步展示AI系統的領先地位和合作夥伴動能。