技術創(chuàng)新：蘋果在閃存上存儲大型語言模型（LLM）引領未來AI發(fā)展
（本篇文篇章共1135字，閱讀時間約1分鐘）
2023年12月22日，據(jù)多家媒體報道，蘋果正積極探索在閃存上存儲大型語言模型（LLM）的技術創(chuàng)新，并計劃將其引入iPhone、iPad和Mac等設備，以在資源有限的環(huán)境中提高人工智能（AI）的運行效率。這一突破性進展將有望讓強大的Siri、實時語言翻譯以及融入攝影和增強現(xiàn)實的AI功能成為未來iPhone的獨特賣點。
傳統(tǒng)上，大型語言模型需要占用大量CPU和內存資源。為了解決這一問題，蘋果的研究人員正在探索在有限內存設備上存儲LLM的可能性。在一篇新發(fā)表的論文中，蘋果詳細介紹了他們利用閃存芯片存儲AI模型數(shù)據(jù)的創(chuàng)新技術。由于iPhone和Mac計算機上閃存大量可用，這項技術使用了一種稱為“Windowing”的方法，通過重復使用已處理的數(shù)據(jù)，減少了對連續(xù)內存獲取的需求，從而提高了整個過程的速度。
具體而言，兩種關鍵技術被引入，分別是“窗口化（Windowing）”和“行列捆綁（Row-Column Bundling）”。前者實現(xiàn)了數(shù)據(jù)的有效分組，減少了對內存的頻繁讀取，而后者更有效地對數(shù)據(jù)進行捆綁，使得AI模型能夠更快地從閃存中讀取數(shù)據(jù)并提高其理解和生成語言的速度。
根據(jù)研究人員的介紹，這兩項技術的引入將使AI模型在iPhone可用RAM大小的兩倍范圍內運行，極大地提高了在標準處理器上的速度，最高可達5倍，在圖形處理器上更是可達25倍。
蘋果對AI的重視不斷顯現(xiàn)，從自家聊天機器人Apple GPT的推出到計劃中的iPhone 16系列搭載升級麥克風，以提升語音輸入功能。此外，有傳言稱，iOS 18將在明年正式到來時引入某種形式的生成式AI，進一步將蘋果推向人工智能技術的前沿。
這一技術創(chuàng)新有望為未來iPhone帶來更強大的AI功能，包括更智能的Siri、實時語言翻譯以及在攝影和增強現(xiàn)實領域的復雜AI驅動功能。蘋果的生成式AI模型，代號為“Ajax”，被認為將與OpenAI的GPT-3和GPT-4競爭，具有高度復雜性和強大的語言理解和生成能力，為蘋果的生態(tài)系統(tǒng)帶來更深層次的AI整合。
*免責聲明：以上內容整理自網絡，僅供交流學習之用。如有內容、版權問題，請留言與我們聯(lián)系進行刪除。
原文標題 : 技術創(chuàng)新：蘋果在閃存上存儲大型語言模型（LLM）引領未來AI發(fā)展
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
