search icon
‌
‌
‌
menu-icon
anue logo
熱門時事鉅亨號鉅亨買幣
search icon
‌
快訊

微軟研究團隊提出 LLM 加速器 LLMA

金色財經 2023-04-20 05:00

‌
金色財經報導，微軟的一組研究人員提出 LLM 加速器 LLMA。據悉。這種帶有參考文獻的推理解碼技術可以在許多現實世界的環境中，通過利用 LLM 的輸出和參考文獻之間的重疊來加快 LLM 的推理速度。LLMA 的運作方式是從參考文獻中選擇一個文本跨度，將其標記複製到 LLM 解碼器中，然後根據輸出的標記機率進行有效的並行檢查。

暢行幣圈交易全攻略，專家駐群實戰交流

▌立即加入鉅亨買幣實戰交流 LINE 社群（點此入群）
不管是新手發問，還是老手交流，只要你想參與虛擬貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資，都歡迎入群討論學習！

▶ 前往鉅亨買幣找交易所優惠

文章標籤

‌
Empty
‌