如何從百模中智選生成式AI工具?(如何從百模中智選生成式ai工具)
當前,生成式 AI 應用的落地已經(jīng)從原本激烈的“百模大戰(zhàn)”階段演進到少數(shù)優(yōu)秀模型嶄露頭角的時刻。這一過程伴隨著工具鏈的不斷多元化,同時也伴隨著企業(yè)領導者的認真探索,進而找到適合生成式 AI 的實際應用場景。他們提出了許多關鍵問題,包括對基礎模型的適用性疑慮,對定制化適應特定領域需求的思考,以及如何在構建原生 AI 應用的同時創(chuàng)新 IT 架構。
此外,企業(yè)還需要明確如何準確度量引入生成式 AI 所帶來的實際價值,以便為未來的決策提供有力支持。企業(yè)和領導者們正在積極尋求方式以最好地利用這一新興技術的潛力。
基于這一背景,亞馬遜云科技特地舉辦了亞馬遜云科技生成式 AI 構建者大會,大會于10月24日下午圓滿結束。在本次大會中,眾行業(yè)大咖和技術專家們深度聚焦生成式 AI 前沿技術,就生成式 AI 的熱點技術話題和熱門應用場景展開了深入分享與交流,為開發(fā)者們解讀了當下應如何應對生成式 AI 帶來的機遇,在 AI 時代保持強有力的競爭力。
加速大數(shù)據(jù)與 AI 普惠
亞馬遜云科技助力企業(yè)構建者釋放生成式 AI 潛力
大會開場,亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建在以“賦能生成式 AI 新時代,助力數(shù)據(jù)與 AI 普惠化”為題的主題演講中指出,生成式 AI 現(xiàn)已成為各行業(yè)各組織商業(yè)領導者的首要關注點。整個生成式 AI 的應用就像是浮在海面上的冰山,人們常提到的基礎模型只是我們能看到的冰山一角,而在冰川底部,同樣需要大量的基礎模型以外的服務來支撐,如加速芯片、數(shù)據(jù)庫、數(shù)據(jù)治理、應用集成等。
亞馬遜云科技為用戶提供完整的端到端的生成式 AI 技術堆棧。從底層的加速層如加速芯片、存儲優(yōu)化,到中間層模型構建工具和服務,再到最上層的生成式 AI 相關應用,每一層都在針對客戶的不同需求持續(xù)創(chuàng)新。
作為云計算領域的領導者和創(chuàng)新者,生成式 AI 一直是亞馬遜云科技關注和投入的主要方向。推動生成式 AI 普惠化,助力更多企業(yè)和個人開發(fā)者加速創(chuàng)新是亞馬遜云科技的使命之一。
在實踐中,亞馬遜云科技注意到,生成式 AI 的典型應用場景給企業(yè)帶來的業(yè)務價值主要體現(xiàn)在三個方面:增強客戶體驗,提升員工生產(chǎn)力與創(chuàng)造力,優(yōu)化業(yè)務流程?;诖?,亞馬遜云科技助力企業(yè)和開發(fā)者從典型場景入手創(chuàng)新業(yè)務模式,快速構建高性價比的生成式 AI 應用,以打造差異化競爭優(yōu)勢,加速業(yè)務敏捷創(chuàng)新。
為讓客戶能夠輕松、安全地按需選擇基礎模型,亞馬遜云科技此前還推出了Amazon Bedrock 和 Amazon SageMaker JumpStart 兩款服務。Amazon Bedrock 是企業(yè)使用基礎模型構建和擴展生成式 AI 應用程序的最簡單方法,它提供廣泛的模型選擇、數(shù)據(jù)隱私,并且能夠自定義模型,無需管理任何基礎設施。通過 Amazon Bedrock,用戶可輕松地將組織數(shù)據(jù)用作戰(zhàn)略資產(chǎn),使用自定義基礎模型并打造更加差異化的優(yōu)勢。此外,Amazon Bedrock 還充分考慮到了用戶的安全性和隱私保護,幫助客戶保護敏感數(shù)據(jù)。
相較于Amazon Bedrock,Amazon SageMaker Jumpstart 則提供了更靈活、更定制化的模型微調(diào)。用戶可以從 SageMaker Jumpstart 中選擇開源的基礎模型,然后根據(jù)自身需求選擇不同方式,進一步確定微調(diào)框架,利用分布式訓練實現(xiàn)微調(diào),從而更好地評估微調(diào)效果。
金山辦公:Amazon Bedrock 助力 WPS
加速生成式 AI 應用的構建
在主題分享中,來自金山辦公軟件股份有限公司的 AI 研發(fā)總監(jiān)劉強向大家分享了金山辦公如何利用生成式 AI 和 Amazon Bedrock 幫助企業(yè)簡化從統(tǒng)一數(shù)據(jù)到個性化客戶體驗的過程。
劉強提到,今年起,WPS 開始將大語言模型的能力全面引入產(chǎn)品,致力于開發(fā)新一代辦公軟件。而在構建生成式 AI 應用的過程中,基礎模型性能有限,數(shù)據(jù)隱私與安全難以保障,高額管理成本等現(xiàn)實情況成為了擺在金山辦公面前的重重障礙。作為 Amazon Bedrock 的第一批試用用戶,金山辦公第一時間與 Amazon Bedrock 展開了對接與測試。
Amazon Bedrock 中支持的領先大語言模型在多個文字處理場景中符合金山辦公的需求。除多種模型選擇外,Amazon Bedrock 還在數(shù)據(jù)安全層面給金山辦公提供了充分的支持,極大地提高了金山辦公的內(nèi)部開發(fā)效率,助力金山辦公進一步革新辦公體驗。
高性價比的基礎設施是生成式 AI 應用構建的關鍵。在接下來的分享中,陳曉建提到,十多年來,亞馬遜云科技一直與合作伙伴致力于投資自研芯片,以便為用戶提供廣泛的高性能、低成本的機器學習基礎設施選項,助力客戶加速實現(xiàn)生成式 AI 落地。
此外,亞馬遜云科技近日還宣布了 Amazon EC2 Inf2 實例的正式上市。該實例由最新的亞馬遜云科技設計的機器學習芯片 Inferentia2 提供支持。與其他類似的 EC2 實例相比,Inf2 實例在推理性價比上要高出 40%,Trn1 實例在訓練成本上的節(jié)省更是高達 50%?;诖?,亞馬遜云科技為深度學習訓練和推理提供了高性能且具有顯著成本節(jié)省的實例。
在數(shù)據(jù)戰(zhàn)略層面,從存儲、查詢和分析數(shù)據(jù),到通過商業(yè)智能、機器學習和生成式 AI 使數(shù)據(jù)發(fā)揮作用,亞馬遜云科技提供廣泛的工具組支持整個端到端的數(shù)據(jù)流程。多年來,亞馬遜云科技通過深化服務之間的集成,已經(jīng)在 Zero ETL 中取得了一定成果,這些亞馬遜云科技各項服務之間的深度的數(shù)據(jù)集成正在幫助企業(yè)執(zhí)行分析和機器學習,且無需移動數(shù)據(jù)。
在數(shù)據(jù)爆炸的現(xiàn)狀下,數(shù)據(jù)治理對于企業(yè)來說至關重要。Amazon DataZone 全新的數(shù)據(jù)治理服務可支持整個企業(yè)集團組織的數(shù)據(jù)發(fā)現(xiàn)、管理跨部門的訪問和使用生命周期。通過統(tǒng)一的數(shù)據(jù)目錄和明確的數(shù)據(jù)主權分工,企業(yè)內(nèi)數(shù)據(jù)使用者能輕松地發(fā)現(xiàn)有效數(shù)據(jù),同時數(shù)據(jù)的提供者可以嚴格的管理數(shù)據(jù)的可見和訪問授權,做到僅允許正確的人訪問到正確的數(shù)據(jù)。這一能力對于今天的企業(yè)需要負責任的構建生成式 AI,嚴苛的保護企業(yè)數(shù)據(jù)并正確的發(fā)揮企業(yè)私有數(shù)據(jù)的價值尤其重要。
西門子:以生成式 AI 之力重塑數(shù)據(jù)價值,推進業(yè)務創(chuàng)新
來自西門子集團 IT 數(shù)據(jù)分析與人工智能負責人李朝明在主題分享中向大家分享了西門子如何攜手亞馬遜云科技發(fā)揮企業(yè)數(shù)據(jù)價值,通過 AI 與數(shù)據(jù)能力的全面能力提升來構建基于生成式 AI 的企業(yè)知識聊天機器人。
他提出,當前生成式 AI 的發(fā)展給各行各業(yè)帶來了革命性的變化。在西門子推動生成式 AI 落地的過程中,西門子 IT DA 團隊與亞馬遜云科技有著長期而深入的合作。面對西門子中國 IT 面對的企業(yè)內(nèi)部信息分散、數(shù)據(jù)信息傳遞能力不足、知識運營能力缺乏等業(yè)務難題,亞馬遜云科技攜手打造了西門子中國業(yè)務知識一體化解決方案“小禹”,大大提高了西門子內(nèi)部團隊的生產(chǎn)力和創(chuàng)新效率。
生成式AI 的出現(xiàn),給傳統(tǒng)云原生應用開發(fā)架構提出了新的機遇與挑戰(zhàn),借助云原生的服務,聚焦以微服務化,事件驅(qū)動架構為核心的設計框架 Serverless 優(yōu)先,以數(shù)據(jù)洞察為核心,安全與數(shù)據(jù)的合規(guī)與保護、借助 DevOps 等現(xiàn)代應用治理理念構建高效敏捷的構建者文化等,加速由云原生到 AI 原生應用的構建與創(chuàng)新。
亞馬遜云科技預見到,編程將是生成式 AI 技術得到快速應用的領域之一。亞馬遜云科技提供的 Amazon CodeWhisperer是一款人工智能編碼伙伴,可在基礎模型高級選項中使用,實時生成代碼建議,從根本上提高開發(fā)人員的生產(chǎn)力?!?023 AI 開發(fā)者生態(tài)報告》還指出,當前,Amazon CodeWhisperer 在國內(nèi) AI 編程工具領域處于領先地位,且是國內(nèi)用戶增速最快的 AI 編程工具。
科思創(chuàng)中國:借助 Amazon CodeWhisperer 實現(xiàn)開發(fā)效率顯著提升
來自科思創(chuàng)中國云開發(fā)運維團隊負責人俞宙在主題分享中向大家分享了他們?nèi)绾位?Amazon CodeWhisperer 提升代碼開發(fā)效率,加速生成式 AI 應用程序構建。
科思創(chuàng)中國在日常開發(fā)中有兩個核心任務:項目框架搭建和存量代碼優(yōu)化。而在實踐中過程中,重復性、機械化的范式生成、慣用算法引用和企業(yè)級 API 接口定制是科思創(chuàng)中國面臨的主要挑戰(zhàn)。在 Amazon CodeWhisperer 的加持下,科思創(chuàng)中國的日常代碼開發(fā)效率和開源代碼應用追蹤器的準確性顯著提高,在構建云原生產(chǎn)品應用的過程中起到了重要作用。
在接下來的分享中,陳曉建還特別提到,一直以來,亞馬遜云科技在不斷幫助中國開發(fā)者群體快速創(chuàng)新。今年以來,亞馬遜云科技為初創(chuàng)公司推出了亞馬遜云科技創(chuàng)業(yè)加速器。今年9月,亞馬遜云科技聯(lián)合了北京市教育委員會指導,北京科學教育發(fā)展基金會、清華大學人工智能研究院基礎模型研究中心,以及面壁智能、智譜 AI、百川智能等客戶及合作伙伴,共同發(fā)布了“首屆中國生成式 AI 創(chuàng)新應用挑戰(zhàn)賽”。如今,開發(fā)者的努力和激情正在改變這個世界,不斷地拓展著技術的邊界,亞馬遜云科技將持續(xù)為構建者賦能,繼續(xù)攜手合作伙伴與初創(chuàng)圈,擴大生成式 AI 的“朋友圈”,進一步助力生成式 AI 的廣泛落地。
高峰論壇共話實戰(zhàn)經(jīng)驗
行業(yè)大咖共看生成式 AI 當下與未來
在以“共話生成式 AI 的現(xiàn)在和未來”為題的圓桌討論環(huán)節(jié),Lepton AI CEO 賈揚清、百川智能聯(lián)合創(chuàng)始人 COO 茹立云、愛詩科技 CEO 王長虎、亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建、亞馬遜云科技大中華區(qū)初創(chuàng)生態(tài)及投資業(yè)務發(fā)展總監(jiān)胡瑛圍繞開發(fā)者在生成式 AI 應用落地新階段所面臨的機遇和挑戰(zhàn)展開了深度討論。
在交流與分享中,行業(yè)大咖們就怎樣選擇基礎模型,如何構建生成式 AI 時代的數(shù)據(jù)策略,如何借助云原生加速構建 AI Native 應用和加速生成式 AI 應用構建與落地有哪些開發(fā)工具,給廣大開發(fā)者們提出了寶貴建議。
分論壇解讀生成式 AI 應用秘籍
亞馬遜云科技助力打造生成式 AI 應用最佳實踐
開發(fā)生成式 AI 應用是一個充滿挑戰(zhàn)的系統(tǒng)工程,并不是單純的產(chǎn)品和服務拼接,因此,如何加速客戶最終應用的商業(yè)化落地,除了本身的資源以外,亞馬遜云科技同樣需要構建強大的合作伙伴“朋友圈”,攜手助力解決生成式 AI 應用構建中的各種技術問題,加速應用落地。
針對構建生成式 AI 應用端到端的關鍵路徑,為了更加詳細的闡述亞馬遜云科技如何助力構建者釋放生成式 AI 潛力的方法論,分論壇分別圍繞 “基礎模型優(yōu)先”-重構生成式 AI 時代的應用基座”,打造生成式 AI 時代的數(shù)據(jù)戰(zhàn)略,基于云原生服務快速 AI 原生的應用等熱點話題,邀請來自亞馬遜云科技的技術專家,攜手客戶和合作伙伴代表,做了豐富而全面的分享,從理論到實踐給構建者快速,安全,高效的開發(fā)生成式 AI 應以啟迪。
在“開發(fā)者論壇”中,亞馬遜云科技邀請到了知名的業(yè)界專家為大家講解和分享。一起看看他們有哪些經(jīng)驗和心得!
開發(fā)者論壇-助力開發(fā)者在生成式 AI 時代創(chuàng)新構建
在 1024 這個開發(fā)者專屬的節(jié)日,大會還設置了開發(fā)者論壇,邀請業(yè)內(nèi)開發(fā)者大咖及專家分享生成式 AI 最新的開發(fā)技術,工具及落地實踐。開源 AI 算法工程師、bilibili 知名科技 UP 主張子豪 (@同濟子豪兄)為大家?guī)砹恕秱€人開發(fā)者玩轉生成式 AI 的 N 種方法》。亞馬遜云科技資深開發(fā)者布道師鄭宇彬分享了生成式 AI 面向開發(fā)者的關鍵技術——Amazon CodeWhisperer。
亞馬遜云科技資深開發(fā)者布道師黃浩文分享了高效開發(fā)基于大模型的生成式 AI 應用實踐。Zilliz 合伙人和技術總監(jiān),LF AI &Data 基金會技術咨詢委員欒小凡介紹了 AIGC 時代的新基建——向量數(shù)據(jù)庫及其應用場景。ApeCloud 聯(lián)合創(chuàng)始人 & CTO蔡松露分享了如何在 K8S 上玩轉?成式 AI。NebulaGraph 首席開發(fā)者布道師古思為向大家詳細地介紹了基于圖的知識結構在 RAG 領域突破更多挑戰(zhàn)。
動手訓練營—生成式AI時代開發(fā)的速度與激情
我們同步為開發(fā)者準備了動手實驗的環(huán)節(jié),包括Amazon DeepRacer強化學習及自動駕駛模型實戰(zhàn),實時AI編程助手Amazon CodeWhisperper實戰(zhàn),Amazon Bedrock初體驗,基于大預言模型構建智能對話機器人。
亞馬遜云科技提供了完整的端到端的生成式 AI 技術堆棧,從底層的加速芯片,存儲優(yōu)化,到中間層模型構建工具和服務,再到最上層的生成式 AI 相關應用。推動生成式 AI 普惠化,助力更多企業(yè)和個人開發(fā)者加速創(chuàng)新是亞馬遜云科技的使命之一。亞馬遜云科技愿一直與企業(yè)構建者和個人開發(fā)者們攜手共進,引領人工智能的未來。