3月31日，源自清華的創新企業無問芯穹在上海舉辦“多元計算·泛在鏈接”AI算力優化論壇暨產品發布會，清華大學電子工程系長聘教授、無問芯穹發起人汪玉攜聯合創始人團隊首次集體公開亮相，并發布“無穹Infini-AI”大模型開發與服務平臺。
清華大學電子工程系教授、無問芯穹發起人汪玉。 無問芯穹供圖
無穹Infini-AI大模型開發與服務平臺基于多芯片算力底座開發，旨在有效整合和優化算力資源、設計出好的利用方式和工具，緩解大模型企業面臨的算力緊缺狀況。會上，無問芯穹宣布，該開發服務平臺自3月31日起正式開放全量注冊，并給所有實名注冊的個人和企業用戶提供百億tokens免費配額。
無問芯穹聯合創始人兼CEO夏立雪介紹說，開發者可以在這個平臺上體驗、對比各種模型能力和芯片效果，通過簡單拖拽各種參數按鈕的動作，就能精調出更貼合業務的大模型并部署在無穹Infini-AI上，再以非常優惠的千token單價向用戶提供服務。
談起發布這一平臺的初衷，汪玉介紹說，大模型引發社會廣泛關注后，他們認為，國內整體算力水平距離國際先進還有明顯差距，僅靠芯片工藝提升或多元芯片的迭代已遠遠不夠，需要建立一個大模型生態系統，讓不同模型能自動部署到不同硬件上，讓各種算力得到有效利用。
據介紹，無穹Infini-AI已支持Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3閉源模型、Llama2、Qwen、Qwen1.5系列等共20多個模型，以及AMD、壁仞、寒武紀、燧原、天數智芯、沐曦、摩爾線程、NVIDIA等10余種計算卡，支持多模型與多芯片之間的軟硬件聯合優化和統一部署。第三方平臺或自定義訓練、微調而來的模型也可以無縫遷移托管到無穹Infini-AI，并獲得細粒度定制化的按token計費方案。
“我們對模型品牌和芯片品牌的覆蓋率還會持續提升，隨著時間的推移，無穹Infini-AI的性價比優勢會越來越突出。”夏立雪表示，未來無穹Infini-AI還將支持更多模型與算力生態伙伴的產品上架，讓更多大模型開發者能夠‘花小錢、用大池’，持續降低AI應用的落地成本。
本文鏈接：提供“百億補貼”！無問芯穹發布大模型服務平臺http://m.sq15.cn/show-11-4491-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 計算醫學驅動藥物研發“不走尋常路”
下一篇： “要做確有意義的研究”