大型語言模型

近年來，AI技術(shù)的爆發(fā)式增長(zhǎng)（如ChatGPT等大模型的普及）驅(qū)動(dòng)了算力需求的激增，進(jìn)而加速了數(shù)據(jù)中心和高速光模塊產(chǎn)業(yè)的發(fā)展。800G光模塊已進(jìn)入規(guī)模化部署階段，1.6T產(chǎn)品研發(fā)競(jìng)爭(zhēng)白熱化，同時(shí)電信領(lǐng)域向400G城域網(wǎng)升級(jí)，接入網(wǎng)向25G/50G PON演進(jìn)。全球光模塊市場(chǎng)年復(fù)合增長(zhǎng)率預(yù)計(jì)達(dá)16.7%~19.7%，中國云服務(wù)商對(duì)400G/800G需求激增，1.6T技術(shù)或于2025年商用，標(biāo)志著光通信邁入新紀(jì)元。

日前，楊立昆（Yann LeCun）應(yīng)邀在AMS（美國數(shù)學(xué)學(xué)會(huì)）著名的Josiah Willard Gibbs講座上，進(jìn)行了主題為《通往人類水平人工智能的數(shù)學(xué)障礙》的演講。

近來，RAG成了大語言模型的“救命稻草”，可讓大語言模型回答更準(zhǔn)確、更靠譜。可問題來了，很多 RAG 應(yīng)用的檢索系統(tǒng)還是有點(diǎn)“笨”：要么漏掉關(guān)鍵信息，要么抓回一堆無關(guān)緊要的“噪聲”，搞得最終答案質(zhì)量參差不齊。

2025年初，全球AIoT平臺(tái)與服務(wù)提供商研華科技宣布推出一款新的軟件產(chǎn)品——GenAI Studio，該產(chǎn)品是研華Edge AI SDK的一部分，主要目標(biāo)是為了滿足對(duì)成本效益高、本地部署的大語言模型（LLM）解決方案日益增長(zhǎng)的需求。 加速人工智能發(fā)展，應(yīng)對(duì)行業(yè)挑戰(zhàn) 作為研華邊緣AI軟件開發(fā)工具包（Edge AI SDK）的一部分，GenAI Studio致力于解決行業(yè)痛點(diǎn)，例如縮短工廠操作員等待