你好,歡迎來到川北在線
微信
騰訊微博
新浪微博
生成式AI迎來搜索技術(shù)變革 亞馬遜云科技更新向量引擎適用,簡化運營
時間:2023-08-04 13:25   來源:搜狐   責(zé)任編輯:青青

  原標(biāo)題:生成式AI迎來搜索技術(shù)變革,亞馬遜云科技更新向量引擎適用,簡化運營

  一場關(guān)于生產(chǎn)力的革命已在醞釀之中。全球管理咨詢公司麥肯錫在最近的報告《生成式人工智能的經(jīng)濟潛力:下一波生產(chǎn)力浪潮》中指出,生成式AI每年可能為全球經(jīng)濟增加2.6萬億到4.4萬億美元的價值。在幾天前的亞馬遜云科技紐約峰會中,「生成式AI」同樣是全場提及頻率 的關(guān)鍵詞。

  「如今,大模型可以在大量無標(biāo)注數(shù)據(jù)中進(jìn)行預(yù)訓(xùn)練,實現(xiàn)開箱即用,以處理各種通用性問題。此外,只需相對少量的標(biāo)注數(shù)據(jù)進(jìn)行微調(diào),它們就能用于特定領(lǐng)域的應(yīng)用!箒嗰R遜云科技數(shù)據(jù)庫、數(shù)據(jù)分析和機器學(xué)習(xí)全球副總裁Swami Sivasubramanian表示,「通過微調(diào)輕松定制預(yù)訓(xùn)練模型的能力, 是游戲規(guī)則的改變!

  憑借過去數(shù)年的客戶需求洞察和技術(shù)積累,亞馬遜云科技將大量的AI能力集成到了簡單易用的產(chǎn)品之中,希望以最簡潔的方式將技術(shù)進(jìn)步輸送到各行各業(yè)。在這場技術(shù)盛會上,亞馬遜云科技一口氣推出了七項生成式AI新功能。

  最強的生成式AI大模型,在這里輕松調(diào)用

  今年4月,亞馬遜云科技發(fā)布了全托管基礎(chǔ)模型服務(wù)「Amazon Bedrock」,以「關(guān)鍵基礎(chǔ)設(shè)施提供商」的角色加入了大模型之戰(zhàn)。

  從希望應(yīng)用大模型的企業(yè)角度來說,自研大模型需要數(shù)十億美元和多年的訓(xùn)練,更優(yōu)的解決方案是對一些已經(jīng)非常強大的開源基礎(chǔ)模型進(jìn)行定制化的微調(diào),以滿足自身的多樣化業(yè)務(wù)需求。Amazon Bedrock的重要價值就在于此。這項服務(wù)可以讓所有人都可以基于已有的大模型、專用的AI算力和工具,再結(jié)合自己的數(shù)據(jù)開始構(gòu)建生成式AI應(yīng)用。

  在 擴展后的Amazon Bedrock中,匯聚了來自一批 大模型供應(yīng)商的 成果:

  目前,Amazon Bedrock提供了Anthropic 語言模型Claude 2、AI21的JURASSIC-2、亞馬遜自研的Amazon Titan系列模型的訪問。Stability AI也在Amazon Bedrock中首發(fā)了 版的文生圖模型套件Stable Diffusion XL 1.0。此外,Cohere成為了 加入Amazon Bedrock的基礎(chǔ)模型供應(yīng)商,并帶來了文本生成模型Command和文本理解模型EMBED。

  相比于其他的一站式的大模型服務(wù)平臺,Amazon Bedrock的優(yōu)勢在于,用戶可將其與亞馬遜云科技平臺的其余部分集成在一起,更輕松地訪問存儲在Amazon S3對象存儲服務(wù)中的數(shù)據(jù),并能夠從亞馬遜云科技訪問控制和治理策略中受益。

  生成式AI讓云計算服務(wù)的競爭格局發(fā)生了改變,除了原有的存儲、計算、網(wǎng)絡(luò)等基礎(chǔ)設(shè)施,模型、框架和應(yīng)用層面的能力提供變得更為重要。在過去一段時間,我們見到了「模型即服務(wù)」這種全新商業(yè)的誕生。如同Amazon Bedrock這樣的一系列平臺,正在將大模型變?yōu)橹苯涌捎玫姆⻊?wù),幫助各行各業(yè)的用戶接入生成式AI,撬動了一個全新的藍(lán)海市場。

  推動生成式AI走完落地的「最后一公里」

  在今天,即使生成式AI模型的功能已經(jīng)如此強大,它們?nèi)匀粺o法代替人類「執(zhí)行」一部分關(guān)鍵的、個性化的任務(wù)。這恰恰是「生成式AI」轉(zhuǎn)化為「生產(chǎn)力」過程中非常關(guān)鍵的一步。

  問題并非不能解決:模型通?梢愿郊覣PI、插件、數(shù)據(jù)庫以擴展功能,為用戶自動完成某些特定的任務(wù)。比如ChatGPT此前就推出了插件機制,還為開發(fā)者提供了開放平臺,允許更多用戶根據(jù)自己的需求、想法和專業(yè)能力進(jìn)行擴展。為了簡化這一環(huán)節(jié)所需的工作,亞馬遜云科技正式推出了Amazon Bedrock Agents。

  Amazon Bedrock Agents可以擴展基礎(chǔ)模型以理解用戶請求,將復(fù)雜任務(wù)分解為多個步驟,開展對話以收集更多信息,并采取行動來滿足用戶請求。開發(fā)者只需點擊幾下,就能創(chuàng)建完全托管的Agents:

  該功能創(chuàng)建的對話式智能體可根據(jù)專有數(shù)據(jù)提供個性化的 答案并執(zhí)行操作,幫助企業(yè)加速交付生成式AI應(yīng)用程序,推動解決生成式AI落地的「最后一公里」問題。比如,企業(yè)可以使用Amazon Bedrock Agents創(chuàng)建一個可以處理訂單的客戶服務(wù)聊天機器人,利用其內(nèi)部信息(包括客戶資料和退貨政策)來定制化服務(wù)于每個訂單。

  如果做個比喻的話,Amazon Bedrock Agents就像是一個得力的助手;蛟S在不久的將來,我們就能享受這一功能所提供的用戶端服務(wù):不只是顯示有哪些合適的航班、推薦口碑好的餐廳,還能直接幫忙預(yù)訂、跟進(jìn)。

  生成式AI時代的搜索技術(shù)變革

  在解決大模型落地挑戰(zhàn)的火熱討論中,「向量搜索」和「向量數(shù)據(jù)庫」的概念開始被越來越多的人熟知。這是檢索技術(shù)層面在生成式AI時代正在發(fā)生的變革。

  首先,伴隨數(shù)據(jù)規(guī)模的增長,關(guān)鍵詞檢索已經(jīng)不能滿足需求,向量檢索可作對傳統(tǒng)搜索技術(shù)的補充。通過將數(shù)據(jù)表示為向量,模型可以快速分析和理解大量信息,準(zhǔn)確地識別和匹配相似的項目。

  其次,經(jīng)過預(yù)訓(xùn)練的大模型固然能力出眾,但也存在一些不足,比如缺乏領(lǐng)域知識、缺乏長期記憶、缺乏事實一致性的問題。而在數(shù)據(jù)規(guī)模不斷增長、算力日益珍貴的現(xiàn)狀下,向量數(shù)據(jù)庫可作為大模型的「超級大腦」,打一份小抄,相對較低的成本補充動態(tài)知識,滿足用戶不斷增長的需求。

  對于這一方向,亞馬遜云科技早早發(fā)力,此前已上線多項支持向量的數(shù)據(jù)存儲服務(wù),包括Amazon Aurora PostgreSQL兼容版關(guān)系型數(shù)據(jù)庫,兼容PostgreSQL的Amazon RDS(Amazon Relational Database Service)關(guān)系型數(shù)據(jù)庫等。

  在這一次的峰會上,亞馬遜云科技又推出了適用于Amazon OpenSearch Serverless的向量引擎。該向量引擎支持簡單的API調(diào)用,可用于存儲和查詢數(shù)十億個Embeddings。

  該引擎由Amazon OpenSearch項目中的k最近鄰(kNN)搜索功能提供支持,為客戶提供無服務(wù)器環(huán)境下的語義搜索服務(wù)。即使向量從原型設(shè)計期間的幾千個增長到數(shù)億甚至更多,引擎也能無縫擴展,無需重新索引或重新加載數(shù)據(jù)來擴展基礎(chǔ)設(shè)施。

  順應(yīng)大模型時代的廣泛需求,亞馬遜云科技還正式宣布,平臺上所有的數(shù)據(jù)庫未來都將具有向量功能,幫助客戶簡化運營,方便集成數(shù)據(jù)。

  讓生成式AI落地多重加速

  在這些重磅發(fā)布之外,為了加速生成式AI的訓(xùn)練和應(yīng)用,亞馬遜云科技已推出了一系列服務(wù)和工具。

   動態(tài)是,兩項關(guān)鍵服務(wù)已正式可用:其中一項服務(wù)是關(guān)于計算基礎(chǔ)設(shè)施,基于英偉達(dá)H100 Tensor Core GPU的Amazon EC2 P5實例已正式可用,滿足客戶在運行工作負(fù)載時對高性能和高擴展性的需求。

  很多業(yè)界知名的生成式AI模型同時涵蓋問題回復(fù)、代碼生成、視頻和圖像生成、語音識別等功能,規(guī)模通常有千億或萬億參數(shù),訓(xùn)練時間甚至長達(dá)數(shù)月。這勢必會成為普遍影響生成式AI落地速度的因素之一。

  與上一代基于GPU的實例相比,Amazon EC2 P5實例使得訓(xùn)練 提速6倍,曾經(jīng)的幾天訓(xùn)練時間可縮短到幾小時,幫助客戶降低高達(dá)40%的訓(xùn)練成本。

  另外一項服務(wù)是有關(guān)于開發(fā)工具。去年,亞馬遜云科技推出了AI編程助手Amazon CodeWhisperer預(yù)覽版,獲得了開發(fā)者的高度關(guān)注。數(shù)據(jù)表明,與未使用該編程助手的開發(fā)者相比,使用者完成任務(wù)的速度平均快57%,F(xiàn)在,Amazon CodeWhisperer已經(jīng)正式可用,并且實現(xiàn)了與Amazon Glue的集成。

  從此以后,開發(fā)者可以用自然語言編寫特定任務(wù),Amazon CodeWhispere會直接在Amazon Glue Notebooks中推薦一個或多個可完成此任務(wù)的代碼片段,用戶可以選擇「接受最推薦的建議」、「查看更多建議」或「繼續(xù)自己編寫代碼」。也就是說,即使完全不會寫代碼,你也可以嘗試用「說人話」的方法構(gòu)建出完整的應(yīng)用程序。

  寫在最后

  技術(shù)的發(fā)展往往超乎人們的預(yù)設(shè)。曾幾何時,研究者們還需要花費數(shù)月的時間進(jìn)行數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)處理和模型訓(xùn)練,不得不投入極其高昂的成本,只為了完成某一項特定的任務(wù)。

  在這場浪潮中,亞馬遜云科技選擇的路線是做好「關(guān)鍵基礎(chǔ)設(shè)施提供商」的工作。它的優(yōu)勢在于過去20年在人工智能技術(shù)上的深厚積累,在于對于超過10萬家客戶的深刻理解,在于打磨多年的高可用、強大的基礎(chǔ)設(shè)施。這些都會有力地推動亞馬遜云科技加快生成式AI落地的征程,幫助到每一位開發(fā)者或創(chuàng)業(yè)團隊。

   投稿郵箱:chuanbeiol@163.com   詳情請訪問川北在線:http://m.sanmuled.cn/

川北在線-川北全搜索版權(quán)與免責(zé)聲明
①凡注明"來源:XXX(非在線)"的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé),本網(wǎng)不承擔(dān)此類稿件侵權(quán)行為的連帶責(zé)任。
②本站所載之信息僅為網(wǎng)民提供參考之用,不構(gòu)成任何投資建議,文章觀點不代表本站立場,其真實性由作者或稿源方負(fù)責(zé),本站信息接受廣大網(wǎng)民的監(jiān)督、投訴、批評。
③本站轉(zhuǎn)載純粹出于為網(wǎng)民傳遞更多信息之目的,本站不原創(chuàng)、不存儲視頻,所有視頻均分享自其他視頻分享網(wǎng)站,如涉及到您的版權(quán)問題,請與本網(wǎng)聯(lián)系,我站將及時進(jìn)行刪除處理。



合作媒體
金寵物 綠植迷 女邦網(wǎng) IT人
法律顧問:ITLAW-莊毅雄律師