采用生成式人工智能系統可能會改變企業的云架構
2024-11-8 8:40:03 點擊：
從數據可用性(xing)和(he)安全性(xing)到(dao)大型語言模型和(he)選擇和(he)監(jian)控，企業采(cai)用生(sheng)成式人工智能意味著需(xu)要(yao)重(zhong)新(xin)審視自(zi)己的(de)云架構(gou)。
所(suo)以，很多企(qi)業(ye)正在(zai)重新構(gou)建(jian)(jian)云(yun)架(jia)構(gou)，同(tong)時也在(zai)開發生成式(shi)人(ren)工智(zhi)能系統。那么，這些(xie)(xie)企(qi)業(ye)需要做些(xie)(xie)什(shen)么改(gai)變(bian)?新興(xing)的(de)最佳實踐是(shi)什(shen)么?行(xing)業(ye)專(zhuan)家表示，在(zai)過去的(de)20年里，特別是(shi)在(zai)過去的(de)兩年，他幫(bang)助企(qi)業(ye)建(jian)(jian)立了一些(xie)(xie)這樣的(de)平(ping)臺，以下(xia)是(shi)他為企(qi)業(ye)提出的(de)一些(xie)(xie)建(jian)(jian)議：
理解自己(ji)的(de)用例
企業坱要(yao)明確定義(yi)云架構中(zhong)(zhong)生(sheng)(sheng)成式(shi)人工智能(neng)的目的和目標。如果看到一(yi)些錯誤反復出現，那就是(shi)(shi)(shi)他(ta)們(men)沒有理解業務(wu)系(xi)統中(zhong)(zhong)生(sheng)(sheng)成人工智能(neng)的含義(yi)。企業需(xu)要(yao)了解其目標是(shi)(shi)(shi)什么，無論是(shi)(shi)(shi)內(nei)容生(sheng)(sheng)成、推薦系(xi)統還是(shi)(shi)(shi)其他(ta)應用程序。
這意味著(zhu)企業高管需要(yao)就制定的(de)(de)目(mu)標達成(cheng)共識，并且明確如何(he)實現(xian)目(mu)標，最重(zhong)要(yao)的(de)(de)是，如何(he)定義(yi)成(cheng)功。這并非(fei)只(zhi)有生成(cheng)式人工智能才會出現(xian)。而(er)這是在每一次遷移和在云中(zhong)構建(jian)的(de)(de)新系統獲得成(cheng)功的(de)(de)一步。
很多企(qi)業(ye)在云平(ping)臺中開發的生成式(shi)人工智能項目都失(shi)敗了，因(yin)為他(ta)們沒有很好地(di)理解業(ye)務用例。雖然企(qi)業(ye)開發的產品很酷，但(dan)不會給其業(ye)務帶(dai)來任何價值。那(nei)么這種方法就會行(xing)不通。
數據來源和質量是關鍵
識別生(sheng)成式人(ren)工(gong)智能模(mo)型訓練(lian)和(he)推理(li)需要有效的(de)(de)數(shu)據來(lai)源，必(bi)須(xu)是可訪問的(de)(de)、高質(zhi)量的(de)(de)和(he)精(jing)心管理(li)的(de)(de)數(shu)據。企(qi)業還必(bi)須(xu)確保(bao)云(yun)計算存儲解決方案(an)的(de)(de)可用性和(he)兼容性。
生成式人(ren)工(gong)智能(neng)系(xi)統(tong)是高度以(yi)數(shu)據(ju)為中心的，可以(yi)稱之為數(shu)據(ju)導(dao)向系(xi)統(tong)。數(shu)據(ju)是驅動生成式人(ren)工(gong)智能(neng)系(xi)統(tong)產生結果的燃(ran)料(liao)。然而，數(shu)據(ju)質(zhi)量仍然是“垃(la)圾(ji)進，垃(la)圾(ji)出”。
因此，將(jiang)數(shu)(shu)據可(ke)訪(fang)問性作為云架構的(de)(de)(de)(de)主要(yao)驅動因素是有幫助(zhu)的(de)(de)(de)(de)。企業(ye)需要(yao)將(jiang)大多(duo)數(shu)(shu)相關數(shu)(shu)據作為訓練數(shu)(shu)據訪(fang)問，通常將(jiang)其保留在其存在的(de)(de)(de)(de)位置，而(er)不是將(jiang)其遷移到單(dan)一(yi)的(de)(de)(de)(de)物理(li)實(shi)體(ti)。否則，最(zui)終會得到多(duo)余的(de)(de)(de)(de)數(shu)(shu)據，沒(mei)有單(dan)一(yi)的(de)(de)(de)(de)真相來(lai)源。考(kao)慮(lv)在將(jiang)數(shu)(shu)據輸入人工智能模型(xing)(xing)之(zhi)前，對數(shu)(shu)據進(jin)行預處(chu)理(li)和(he)清理(li)的(de)(de)(de)(de)高(gao)效數(shu)(shu)據管道。這確(que)保了數(shu)(shu)據質(zhi)量和(he)模型(xing)(xing)性能。
使用生成(cheng)(cheng)式人工(gong)智能(neng)的(de)云(yun)架(jia)構(gou)80%獲得(de)了(le)成(cheng)(cheng)功。然而，這(zhe)是(shi)(shi)最容(rong)易被忽視的(de)因(yin)素，因(yin)為云(yun)架(jia)構(gou)師(shi)更關注(zhu)生成(cheng)(cheng)式人工(gong)智能(neng)系(xi)統的(de)處(chu)理，而不(bu)是(shi)(shi)為這(zhe)些系(xi)統提供高質(zhi)量的(de)數(shu)據，實際(ji)上，數(shu)據就(jiu)是(shi)(shi)一切。
資料(liao)保護及隱私
正如(ru)數據(ju)至關重要一(yi)樣，數據(ju)的(de)安(an)全性和隱私性也很(hen)重要。生(sheng)成式人工智能處(chu)理可(ke)以將看似無意義的(de)數據(ju)轉(zhuan)化為可(ke)以暴(bao)露敏感信(xin)息的(de)數據(ju)。
企(qi)(qi)業需(xu)要實施穩健(jian)的(de)數(shu)(shu)據安(an)全措(cuo)施、加密(mi)和(he)(he)訪問(wen)控制，以保護生(sheng)(sheng)成(cheng)人工智能(neng)(neng)使用的(de)敏(min)感數(shu)(shu)據和(he)(he)生(sheng)(sheng)成(cheng)人工智能(neng)(neng)可(ke)能(neng)(neng)產(chan)生(sheng)(sheng)的(de)新數(shu)(shu)據。企(qi)(qi)業需(xu)要遵(zun)守相關的(de)數(shu)(shu)據隱私法規。這并不意味著在(zai)企(qi)(qi)業的(de)架構(gou)上安(an)裝一些安(an)全系統(tong)作為最(zui)后(hou)保障，而(er)是在(zai)每個(ge)步驟(zou)中(zhong)都必須將安(an)全性(xing)應用到系統(tong)中(zhong)。
可(ke)擴(kuo)展(zhan)性和推(tui)理(li)資源
企(qi)業(ye)需要規劃(hua)可(ke)擴(kuo)展(zhan)的(de)(de)云資源，以適應不同的(de)(de)工(gong)作負(fu)載(zai)和數據處(chu)理需求。大多數企(qi)業(ye)都考(kao)慮自動擴(kuo)展(zhan)和負(fu)載(zai)平(ping)衡(heng)解決方案。而(er)看到(dao)的(de)(de)一個更嚴重的(de)(de)錯誤是(shi)，構建可(ke)擴(kuo)展(zhan)性良好但成(cheng)本非常高的(de)(de)系統(tong)。最好是(shi)平(ping)衡(heng)可(ke)擴(kuo)展(zhan)性和成(cheng)本，這是(shi)可(ke)以做到(dao)的(de)(de)，但需要良好的(de)(de)架(jia)構和云成(cheng)本的(de)(de)優化實(shi)踐。
另外(wai)，企業需要(yao)檢查推理資源(yuan)(yuan)。人們已經(jing)注意(yi)到，云計算行(xing)(xing)業會議上的許多新聞都是圍繞這個(ge)主(zhu)題，而且有(you)充分的理由。選擇合(he)適(shi)的帶有(you)GPU或(huo)TPU的云實例進行(xing)(xing)模型訓練和推理。而優(you)化資源(yuan)(yuan)配置以實現成本效益。
考慮(lv)模型(xing)選擇(ze)
根據企(qi)業(ye)的(de)具體用例(li)和需求選擇示例(li)生成式人工智能架(jia)構(通用對抗網(wang)絡和Transformers等)。考慮(lv)使(shi)用云服務進行模(mo)型訓(xun)練(lian)（例(li)如AWSSageMaker等）并找到優化(hua)的(de)解(jie)決(jue)方案(an)。這(zhe)(zhe)也意味著理解(jie)企(qi)業(ye)可能有許(xu)多(duo)連接(jie)的(de)模(mo)型，這(zhe)(zhe)將(jiang)是(shi)常態(tai)。
企(qi)(qi)業需(xu)要實現(xian)一個健壯的(de)模型(xing)部(bu)署(shu)策略，包括版本控制和容器化，以(yi)(yi)使企(qi)(qi)業的(de)云架構(gou)中的(de)應用程序和服務可以(yi)(yi)訪問人工智能模型(xing)。
監控(kong)和日志記錄
設置監控和(he)記(ji)錄(lu)系統來跟蹤人工(gong)智能模型的(de)性能、資源利用率和(he)潛在(zai)問題是(shi)不可(ke)選擇的(de)。建立異常警報機制以及(ji)可(ke)觀察性系統，以處理(li)云中生成的(de)人工(gong)智能。
此外，持(chi)續(xu)監控和優(you)化云資源(yuan)成本(ben)，因為(wei)生成式人工(gong)智(zhi)能可(ke)能是資源(yuan)密集型(xing)的。使(shi)用云成本(ben)管理工(gong)具(ju)和實踐，意味著讓云成本(ben)優(you)化監控部(bu)署的所有(you)方面(mian)——可(ke)以最小化運營成本(ben)，并提高架構效率佳。大多數架構都(dou)需要調優(you)和持(chi)續(xu)改(gai)進。
其他的考慮(lv)因素
需(xu)要故(gu)障轉移和冗(rong)余(yu)來確保高可用性(xing)，災難恢復計(ji)劃可以在系統(tong)(tong)故(gu)障時(shi)最大限度地減少停機時(shi)間和數據丟失。必要時(shi)實(shi)現冗(rong)余(yu)。此外(wai)，定期審計(ji)和評估云基礎設施(shi)中生成式人工(gong)智(zhi)能系統(tong)(tong)的(de)安全性(xing)。處理漏洞(dong)并維護合(he)規性(xing)。
為人(ren)工(gong)(gong)智能的道德使用(yong)建立指導方針(zhen)是個(ge)好主意，尤其(qi)是在生(sheng)成式人(ren)工(gong)(gong)智能系統生(sheng)成內容或(huo)做(zuo)出影響用(yong)戶(hu)的決(jue)策時(shi)。此外，還要解(jie)決(jue)偏見和(he)公平問題。目前(qian)有關于人(ren)工(gong)(gong)智能和(he)公平的訴訟，企(qi)業需要確(que)(que)保在做(zuo)正確(que)(que)的事(shi)情。企(qi)業需要持續評估用(yong)戶(hu)體驗，以(yi)確(que)(que)保人(ren)工(gong)(gong)智能生(sheng)成的內容符合用(yong)戶(hu)期望(wang)并提(ti)高參與度。
無論企業是(shi)否使用生成式人工智能系統，云(yun)架(jia)(jia)構的其他方面幾乎(hu)是(shi)相同的。關鍵是(shi)要(yao)(yao)意識到有些事(shi)情要(yao)(yao)重要(yao)(yao)得多，而且一直改進云(yun)架(jia)(jia)構。
所(suo)以，很多企(qi)業(ye)正在(zai)重新構(gou)建(jian)(jian)云(yun)架(jia)構(gou)，同(tong)時也在(zai)開發生成式(shi)人(ren)工智(zhi)能系統。那么，這些(xie)(xie)企(qi)業(ye)需要做些(xie)(xie)什(shen)么改(gai)變(bian)?新興(xing)的(de)最佳實踐是(shi)什(shen)么?行(xing)業(ye)專(zhuan)家表示，在(zai)過去的(de)20年里，特別是(shi)在(zai)過去的(de)兩年，他幫(bang)助企(qi)業(ye)建(jian)(jian)立了一些(xie)(xie)這樣的(de)平(ping)臺，以下(xia)是(shi)他為企(qi)業(ye)提出的(de)一些(xie)(xie)建(jian)(jian)議：
理解自己(ji)的(de)用例
企業坱要(yao)明確定義(yi)云架構中(zhong)(zhong)生(sheng)(sheng)成式(shi)人工智能(neng)的目的和目標。如果看到一(yi)些錯誤反復出現，那就是(shi)(shi)(shi)他(ta)們(men)沒有理解業務(wu)系(xi)統中(zhong)(zhong)生(sheng)(sheng)成人工智能(neng)的含義(yi)。企業需(xu)要(yao)了解其目標是(shi)(shi)(shi)什么，無論是(shi)(shi)(shi)內(nei)容生(sheng)(sheng)成、推薦系(xi)統還是(shi)(shi)(shi)其他(ta)應用程序。
這意味著(zhu)企業高管需要(yao)就制定的(de)(de)目(mu)標達成(cheng)共識，并且明確如何(he)實現(xian)目(mu)標，最重(zhong)要(yao)的(de)(de)是，如何(he)定義(yi)成(cheng)功。這并非(fei)只(zhi)有生成(cheng)式人工智能才會出現(xian)。而(er)這是在每一次遷移和在云中(zhong)構建(jian)的(de)(de)新系統獲得成(cheng)功的(de)(de)一步。
很多企(qi)業(ye)在云平(ping)臺中開發的生成式(shi)人工智能項目都失(shi)敗了，因(yin)為他(ta)們沒有很好地(di)理解業(ye)務用例。雖然企(qi)業(ye)開發的產品很酷，但(dan)不會給其業(ye)務帶(dai)來任何價值。那(nei)么這種方法就會行(xing)不通。
數據來源和質量是關鍵
識別生(sheng)成式人(ren)工(gong)智能模(mo)型訓練(lian)和(he)推理(li)需要有效的(de)(de)數(shu)據來(lai)源，必(bi)須(xu)是可訪問的(de)(de)、高質(zhi)量的(de)(de)和(he)精(jing)心管理(li)的(de)(de)數(shu)據。企(qi)業還必(bi)須(xu)確保(bao)云(yun)計算存儲解決方案(an)的(de)(de)可用性和(he)兼容性。
生成式人(ren)工(gong)智能(neng)系(xi)統(tong)是高度以(yi)數(shu)據(ju)為中心的，可以(yi)稱之為數(shu)據(ju)導(dao)向系(xi)統(tong)。數(shu)據(ju)是驅動生成式人(ren)工(gong)智能(neng)系(xi)統(tong)產生結果的燃(ran)料(liao)。然而，數(shu)據(ju)質(zhi)量仍然是“垃(la)圾(ji)進，垃(la)圾(ji)出”。
因此，將(jiang)數(shu)(shu)據可(ke)訪(fang)問性作為云架構的(de)(de)(de)(de)主要(yao)驅動因素是有幫助(zhu)的(de)(de)(de)(de)。企業(ye)需要(yao)將(jiang)大多(duo)數(shu)(shu)相關數(shu)(shu)據作為訓練數(shu)(shu)據訪(fang)問，通常將(jiang)其保留在其存在的(de)(de)(de)(de)位置，而(er)不是將(jiang)其遷移到單(dan)一(yi)的(de)(de)(de)(de)物理(li)實(shi)體(ti)。否則，最(zui)終會得到多(duo)余的(de)(de)(de)(de)數(shu)(shu)據，沒(mei)有單(dan)一(yi)的(de)(de)(de)(de)真相來(lai)源。考(kao)慮(lv)在將(jiang)數(shu)(shu)據輸入人工智能模型(xing)(xing)之(zhi)前，對數(shu)(shu)據進(jin)行預處(chu)理(li)和(he)清理(li)的(de)(de)(de)(de)高(gao)效數(shu)(shu)據管道。這確(que)保了數(shu)(shu)據質(zhi)量和(he)模型(xing)(xing)性能。
使用生成(cheng)(cheng)式人工(gong)智能(neng)的(de)云(yun)架(jia)構(gou)80%獲得(de)了(le)成(cheng)(cheng)功。然而，這(zhe)是(shi)(shi)最容(rong)易被忽視的(de)因(yin)素，因(yin)為云(yun)架(jia)構(gou)師(shi)更關注(zhu)生成(cheng)(cheng)式人工(gong)智能(neng)系(xi)統的(de)處(chu)理，而不(bu)是(shi)(shi)為這(zhe)些系(xi)統提供高質(zhi)量的(de)數(shu)據，實際(ji)上，數(shu)據就(jiu)是(shi)(shi)一切。
資料(liao)保護及隱私
正如(ru)數據(ju)至關重要一(yi)樣，數據(ju)的(de)安(an)全性和隱私性也很(hen)重要。生(sheng)成式人工智能處(chu)理可(ke)以將看似無意義的(de)數據(ju)轉(zhuan)化為可(ke)以暴(bao)露敏感信(xin)息的(de)數據(ju)。
企(qi)(qi)業需(xu)要實施穩健(jian)的(de)數(shu)(shu)據安(an)全措(cuo)施、加密(mi)和(he)(he)訪問(wen)控制，以保護生(sheng)(sheng)成(cheng)人工智能(neng)(neng)使用的(de)敏(min)感數(shu)(shu)據和(he)(he)生(sheng)(sheng)成(cheng)人工智能(neng)(neng)可(ke)能(neng)(neng)產(chan)生(sheng)(sheng)的(de)新數(shu)(shu)據。企(qi)(qi)業需(xu)要遵(zun)守相關的(de)數(shu)(shu)據隱私法規。這并不意味著在(zai)企(qi)(qi)業的(de)架構(gou)上安(an)裝一些安(an)全系統(tong)作為最(zui)后(hou)保障，而(er)是在(zai)每個(ge)步驟(zou)中(zhong)都必須將安(an)全性(xing)應用到系統(tong)中(zhong)。
可(ke)擴(kuo)展(zhan)性和推(tui)理(li)資源
企(qi)業(ye)需要規劃(hua)可(ke)擴(kuo)展(zhan)的(de)(de)云資源，以適應不同的(de)(de)工(gong)作負(fu)載(zai)和數據處(chu)理需求。大多數企(qi)業(ye)都考(kao)慮自動擴(kuo)展(zhan)和負(fu)載(zai)平(ping)衡(heng)解決方案。而(er)看到(dao)的(de)(de)一個更嚴重的(de)(de)錯誤是(shi)，構建可(ke)擴(kuo)展(zhan)性良好但成(cheng)本非常高的(de)(de)系統(tong)。最好是(shi)平(ping)衡(heng)可(ke)擴(kuo)展(zhan)性和成(cheng)本，這是(shi)可(ke)以做到(dao)的(de)(de)，但需要良好的(de)(de)架(jia)構和云成(cheng)本的(de)(de)優化實(shi)踐。
另外(wai)，企業需要(yao)檢查推理資源(yuan)(yuan)。人們已經(jing)注意(yi)到，云計算行(xing)(xing)業會議上的許多新聞都是圍繞這個(ge)主(zhu)題，而且有(you)充分的理由。選擇合(he)適(shi)的帶有(you)GPU或(huo)TPU的云實例進行(xing)(xing)模型訓練和推理。而優(you)化資源(yuan)(yuan)配置以實現成本效益。
考慮(lv)模型(xing)選擇(ze)
根據企(qi)業(ye)的(de)具體用例(li)和需求選擇示例(li)生成式人工智能架(jia)構(通用對抗網(wang)絡和Transformers等)。考慮(lv)使(shi)用云服務進行模(mo)型訓(xun)練(lian)（例(li)如AWSSageMaker等）并找到優化(hua)的(de)解(jie)決(jue)方案(an)。這(zhe)(zhe)也意味著理解(jie)企(qi)業(ye)可能有許(xu)多(duo)連接(jie)的(de)模(mo)型，這(zhe)(zhe)將(jiang)是(shi)常態(tai)。
企(qi)(qi)業需(xu)要實現(xian)一個健壯的(de)模型(xing)部(bu)署(shu)策略，包括版本控制和容器化，以(yi)(yi)使企(qi)(qi)業的(de)云架構(gou)中的(de)應用程序和服務可以(yi)(yi)訪問人工智能模型(xing)。
監控(kong)和日志記錄
設置監控和(he)記(ji)錄(lu)系統來跟蹤人工(gong)智能模型的(de)性能、資源利用率和(he)潛在(zai)問題是(shi)不可(ke)選擇的(de)。建立異常警報機制以及(ji)可(ke)觀察性系統，以處理(li)云中生成的(de)人工(gong)智能。
此外，持(chi)續(xu)監控和優(you)化云資源(yuan)成本(ben)，因為(wei)生成式人工(gong)智(zhi)能可(ke)能是資源(yuan)密集型(xing)的。使(shi)用云成本(ben)管理工(gong)具(ju)和實踐，意味著讓云成本(ben)優(you)化監控部(bu)署的所有(you)方面(mian)——可(ke)以最小化運營成本(ben)，并提高架構效率佳。大多數架構都(dou)需要調優(you)和持(chi)續(xu)改(gai)進。
其他的考慮(lv)因素
需(xu)要故(gu)障轉移和冗(rong)余(yu)來確保高可用性(xing)，災難恢復計(ji)劃可以在系統(tong)(tong)故(gu)障時(shi)最大限度地減少停機時(shi)間和數據丟失。必要時(shi)實(shi)現冗(rong)余(yu)。此外(wai)，定期審計(ji)和評估云基礎設施(shi)中生成式人工(gong)智(zhi)能系統(tong)(tong)的(de)安全性(xing)。處理漏洞(dong)并維護合(he)規性(xing)。
為人(ren)工(gong)(gong)智能的道德使用(yong)建立指導方針(zhen)是個(ge)好主意，尤其(qi)是在生(sheng)成式人(ren)工(gong)(gong)智能系統生(sheng)成內容或(huo)做(zuo)出影響用(yong)戶(hu)的決(jue)策時(shi)。此外，還要解(jie)決(jue)偏見和(he)公平問題。目前(qian)有關于人(ren)工(gong)(gong)智能和(he)公平的訴訟，企(qi)業需要確(que)(que)保在做(zuo)正確(que)(que)的事(shi)情。企(qi)業需要持續評估用(yong)戶(hu)體驗，以(yi)確(que)(que)保人(ren)工(gong)(gong)智能生(sheng)成的內容符合用(yong)戶(hu)期望(wang)并提(ti)高參與度。
無論企業是(shi)否使用生成式人工智能系統，云(yun)架(jia)(jia)構的其他方面幾乎(hu)是(shi)相同的。關鍵是(shi)要(yao)(yao)意識到有些事(shi)情要(yao)(yao)重要(yao)(yao)得多，而且一直改進云(yun)架(jia)(jia)構。
- 上一篇：云中的CI/CD管道：云托管如何加速軟件交付 2024/11/8
- 下一篇：強化多功能應用 手機銀行進入普及期 2013/5/21
