亞馬遜云科技CEO談及生成式AI的戰(zhàn)略決策

亞馬遜云科技首席執(zhí)行官Adam Selipsky對亞馬遜云科技進一步增長的前景感到非常興奮。他估計，即使微軟和谷歌等大型競爭對手取得了進展，但潛在客戶中也只有10%轉向了云計算。

?這留下了很大的增長空間，他認為增長可以從哪里來？更重要的是，什么才能讓亞馬遜云科技保持競爭力。

?答案當然是人工智能。亞馬遜云科技在人工智能領域大舉進軍，但也面臨一些挑戰(zhàn)。ChatGPT的開發(fā)者OpenAI與微軟簽訂了云服務獨家協(xié)議。谷歌在人工智能上下了巨大的賭注，顯然運行在自己的云服務之上，并通過谷歌云獨家銷售谷歌大模型的訪問權限。

?因此，亞馬遜云科技必須在其他方面都表現(xiàn)出色，并且仍然必須爭奪運行這些大模型所需的硬件，而這些硬件供應正面臨極度短缺。

?人工智能競賽

?記者：現(xiàn)在，我正在關注人工智能——一個完全新生的市場。目前人工智能領域唯一賺錢的玩家似乎是Nvidia，它向所有人出售芯片。另一方面，消費者類人工應用程序似乎非常熱門，但還沒有人賺到錢。因此，市場還沒有制定出一套有意義的成本結構。您是否采用相同的方法來拓展人工智能市場？或者隨著市場的發(fā)展我們可能必須更加靈活？

?Adam：我覺得我們的基本做法是靈活的。我們有能力創(chuàng)建任何團隊來專注于需要構建的任何東西，這比單體應用靈活得多。人工智能是基礎。所有的炒作都是有原因的。我堅信，我們所交互的幾乎每一個應用程序，無論是在職業(yè)上還是在我們的個人生活中，都將受到顯著的顛覆，并且在許多情況下，將被人工智能徹底改造。

?我認為，隨著生成式人工智能的發(fā)展越來越重要，不會再出現(xiàn)單一的生成式人工智能公司。人工智能并不是一個單獨的東西。它本質上與云緊密相連。我為什么這么說呢？一方面，你需要一個適合你的人工智能數(shù)據(jù)策略。無論你是在談論更好地服務教育、更好地服務金融服務客戶，無論你是在談論藥物發(fā)現(xiàn)，無論你是在談論媒體、資產創(chuàng)造，你都必須知道你擁有什么數(shù)據(jù)。你必須知道你想要獲取哪些數(shù)據(jù)并將其作為生成人工智能的輸入。

?那些長期在亞馬遜云科技平臺上建設數(shù)據(jù)平臺的公司擁有巨大的優(yōu)勢，因為它們能夠將數(shù)據(jù)很方便地進行輸入。先進的數(shù)據(jù)平臺位于云端。它位于亞馬遜云科技上。這是一個有力的例子，說明了云中的數(shù)據(jù)和生成式人工智能如何相互綁定。

?另一個原因是，生成式人工智能并不便宜。目前它的價格非常昂貴。GPU的性能非常好，但也相當昂貴。例如，訓練模型的成本非常昂貴。然后，運行推理或運行模型并在生產中對這些模型進行查詢也非常昂貴。為了經濟地完成這些任務，你需要云。絕大多數(shù)公司都需要像亞馬遜云科技這樣的公司進行創(chuàng)新，隨著時間的推移，大幅降低成本，以推動生成式人工智能的使用量呈指數(shù)級增長。

?雖然我們確實是世界上最大的、也許是最大的基于GPU的主機之一，并且與你提到的 Nvidia 有著良好的關系，但我們也創(chuàng)新和設計自己的芯片。我們已經有了第三代通用芯片，但我們也有用于人工智能和機器學習的專用芯片：用于訓練模型的Trainium，然后是用于運行模型和推理的Inferentia。這些芯片都做得很好，增長很快。

?我非常有信心，因為它們擁有用于人工智能的所有芯片技術中最佳的性價比。這對于Coherent、Anthropic、Stability AI和Hugging Face等正在構建AI模型的初創(chuàng)公司來說非常重要。當然，對于已經在人工智能領域跟亞馬遜云科技合作的老牌公司來說，也很非常重要，比如Travelers、Ryanair和Bridgewater Associates。

?因此，云和人工智能并不是兩個不同的東西。他們實際上只是同一事物的許多面孔中的兩個。因此，我認為我們的組織模式將非常相似。我們已經建立了特定的目標團隊來構建Amazon Bedrock，特定的團隊來構建我們自己的Titan模型的Amazon基礎模型。我們正在建立一個專門的團隊來處理CodeWhisperer，等等。

?記者：所以，這是一場比賽。看來你不認為比賽有終點。

?Adam：對于我們任何一個商界人士來說，這場競賽永遠不會結束。你的表現(xiàn)取決于你今天為客戶所做的事情。亞馬遜云科技顯然是云計算的先驅。我們于2006年推出了我們今天擁有的第一個云服務，S3存儲服務。它已經17歲了。按收入計算，我們是我所見過的規(guī)模最大、利潤率最高的公司。我不知道這是否屬實，但我看到發(fā)布的統(tǒng)計數(shù)據(jù)稱我們的規(guī)?？赡苁窍乱粋€最接近的競爭對手的兩倍。但我們面臨著非常激烈的競爭，而且我們才剛剛開始，我們并不比今天向客戶提供的產品更好。所以比賽是永恒的。這是一個無限循環(huán)。

?記者：亞馬遜云科技下一個最大的競爭對手是微軟Azure。他們?yōu)楠毤以L問OpenAI和OpenAI的模型支付了大量費用。如果要使用GPT-4，則需要簽署Azure合同。我們應該這樣看待這場比賽嗎？該模型的獨家訪問權似乎已經激發(fā)了每個人的想象力。

?Adam：我們以客戶為中心，從客戶出發(fā)進行工作。因此，讓我們通過列出為客戶提供服務至關重要的三件事來回答這個問題。首先是選擇和靈活性。我認為，一個模型統(tǒng)治所有是一個荒謬的主張。因為事實證明，同一個模型實際上并不適合一家公司的5個、10個或50個用例，更不用說有數(shù)千、數(shù)萬或數(shù)百萬個用例的事實。顯然必須有很多選擇。因此，我們希望實現(xiàn)這種選擇。而且，時間還早，現(xiàn)在就像生成式人工智能的第0.1天一樣，我們不知道的東西比我們已知的東西多得多。對于客戶來說，能夠進行試驗非常重要。所以第一是選擇和靈活性。

?對于任何老牌公司，尤其是企業(yè)和政府實體來說，第二點就是必須擁有安全性。安全和隱私不該被拋之腦后。但讓我感到有點驚訝的是，這個領域的一些早期、最著名的進入者是通過扔掉一些東西開始的。沒有安全模型，你的數(shù)據(jù)確實會通過互聯(lián)網泄露。你在算法上對模型所做的任何改進都可能會返回到母艦中，并使你的競爭對手受益。然后他們回來說：“哦，等一下，將會有一個V2，那將是這個的安全版本?！?/p>

?安全不僅僅涉及功能，還是一種經營方式的哲學。如果我來到一家大型汽車公司或一家大銀行，我會說：“嘿，我有一個新數(shù)據(jù)庫，它真的很酷。它有很棒的功能?，F(xiàn)在，它并不像其他所有東西一樣安全，但別擔心，我會讓下一個版本成為安全版本?！彼麄儠盐亿s出去。實際上，他們應該這樣做。

?我與至少10名財富500強CIO交談過，這就是為什么他們禁止在其企業(yè)中使用ChatGPT。所以，你必須問自己，誰會真正認真對待這里的安全問題。

?然后，第三個東西就是此前談到的數(shù)據(jù)。你的數(shù)據(jù)策略是生成式人工智能策略的一部分，它們不是兩個獨立的事物。

?那么亞馬遜、亞馬遜云科技是如何看待這三件事的呢？Amazon Bedrock，這是我們用于運行生成式AI模型的托管服務。亞馬遜正在建立自己的模型。我們從1998年就開始做AI。亞馬遜網站上的個性化就是AI。我們于2017年推出了SageMaker，這是世界上最大的機器學習平臺。我們有超過10萬名客戶在SageMaker上進行機器學習。然后，如果你想具體討論生成式人工智能和基礎模型，亞馬遜的基礎模型已經在生產環(huán)境中運行了幾年。部分零售網站搜索由大型語言模型提供支持。如果你看看Alexa，很多Alexa的語音響應都是由LLM提供支持的。我們在這一領域擁有大量專業(yè)知識，并將其專門用于生成人工智能。

?但是，我們還在構建我們自己的模型——擴展我們現(xiàn)有的模型并構建一些新模型。這些模型都將屬于Titan品牌。這些Titan模型將于今年晚些時候推出。我們認為它們會很棒，而且對于很多客戶來說它們的功能都非常強大。但同樣，沒有一種模式可以統(tǒng)治所有這些。

?我們還與Anthropic建立了良好的合作關系，他們的模型就在其中，而Stability AI則負責生成圖像的模型。Cohere剛剛加入了Bedrock、AI21，隨著時間的推移還會有其他人加入。這都是一致的API集。因此，客戶很容易擁有相同類型的框架工具，然后他們只需通過調用API來使用他們想使用的模型即可。

?我們的方法是提供簡單的實驗和非常廣泛的選擇。這就是第一個概念。

?第二個是關于安全性……如果您使用Amazon Bedrock中的任何模型，它都與您的所有其他亞馬遜云科技資源位于同一個隔離的私有環(huán)境中。我們將其稱為VPC或虛擬私有云。因此，所有內容都是加密的，不會通過公共互聯(lián)網傳播。如果您想使用這些模型之一，我們基本上會在您自己的虛擬私有云中實例化該模型。因此，如果你對模型進行算法改進，他們不會回到母艦來使你的競爭對手受益。這真的很重要。

我們已經討論過數(shù)據(jù)平臺，以及如此多的客戶如何讓他們的數(shù)據(jù)平臺真正在亞馬遜云科技上運行，這些客戶需要我們擁有一套強大的生成式AI功能，因為他們知道他們的數(shù)據(jù)在哪里，還必須有他們的生成人工智能。這就是我們如何思考客戶需要我們構建的能力。

?打造自研人工智能芯片

?記者：我的同事給我講過一些故事，初創(chuàng)公司基本上需要亞馬遜云科技的內部連接才能讓他們的人工智能應用程序上線，因為芯片的瓶頸非常高。您在這里要解決的第一個問題是我們的芯片需要具有競爭力或至少與Nvidia的芯片相當嗎？或者是：我們只需要購買更多的Nvidia芯片？

?Adam：我認為世界上每個人都希望有更多的芯片能夠運行這些人工智能工作負載。無論你是誰，你都希望有更多。我認為，至少在短期內，需求超過供應，這一點毫無爭議，對每個人來說都是如此。

?記者：這是您正在積極致力于的事情嗎？世界上沒有足夠的計算機或芯片來應對人工智能的市場機會。這是問題所在嗎？

?Adam：我們運行大量的Nvidia GPU ——同樣，我們是世界上最大的、也許是最大的GPU主機之一。客戶正在搶購它們，它們被稱為我們的P5實例?？蛻衄F(xiàn)在正在生產中使用我們的P5實例。我們肯定會在未來幾周和幾個月內引入更多的產能。我們將繼續(xù)托管大量基于GPU的實例。

?我們將成為一個非常重要的云托管服務商。此外，我們認為供應滿足客戶的需求非常重要，當然還要具有性價比和節(jié)能性，因此我們擁有自己設計的芯片，而不是GPU。我們之前討論過我們的Trainium芯片，而Trainium 1已經上市一段時間了。Trainium的未來版本也可能會出現(xiàn)。

?記者：你把這個數(shù)字寫在名字里。很容易猜測可能會有下一個數(shù)字。

?Adam：是的，完全正確。與市場上任何其他替代方案相比，Trainium為大量機器學習用例提供了出色的性價比。而且它只會不斷改進。同樣，對于我們所有的芯片，例如，我們的Graviton3芯片的能效比同等的基于x86的芯片高出60%。同樣，對于我們用于機器學習和人工智能的Trainium和Inferentia芯片，我們將非常非常注重能耗，這對我們的客戶來說確實非常重要。因此，我認為亞馬遜云科技能夠為我們的客戶提供整個獨立的供應鏈，這對于我們的客戶來說非常有用且必要。我的意思是，你不可能只擁有一個全世界都依賴的供應鏈，而且可能會出現(xiàn)各種短缺和意想不到的事情發(fā)生。

?記者：您是否預見到這樣一個世界：您選擇一個模型，并將該模型與某種亞馬遜專有芯片配對，從而成為差異化因素？

?Adam：這是一個很好的問題。我想說，很多模型都會選擇在多個芯片上運行，并且他們這樣做是有充分理由的。但我確實認為，您會看到某些模型提供商確實與亞馬遜云科技等公司非常接近，并說：“嘿，讓我們一起優(yōu)化。讓我們確保該模型既能推動芯片的改進，又能利用該芯片的獨特特性?！币虼?，他們可能會選擇不成比例地（或者在某些情況下可能完全）專注于一種芯片，因為這種專注具有顯著的優(yōu)勢。但我也很確定您會看到很多模型在很多不同的芯片上運行。

?這就是芯片方面。我認為我們?yōu)榭蛻籼峁┑木薮髢?yōu)勢，特別是那些正在構建模型的客戶，是這個完全獨立的供應鏈，這個由亞馬遜設計的芯片構成的完全獨立的一整套能力。所以我認為芯片是一個很大的限制。另一個很大的限制是電力。我認為眾所周知，在世界上許多重要地點，計算能力的需求增長得如此之快，以至于不清楚在這些地點是否有足夠的電力來為這些數(shù)據(jù)中心、服務器和芯片供電。我們正在全球范圍內非常謹慎但積極地建設新的電力能力，這些地方我們認為有豐富的電力——清潔能源——因為到2025年，我們將在整個公司范圍內實現(xiàn)100%的可再生能源，這就在不遠的將來了。今天我們90%由可再生能源供電。所以我認為，在全球范圍內建立整個芯片供應鏈，然后在美國以及其他國家的一些地方建立電力和數(shù)據(jù)中心容量，這些地方確實有意義，確實有發(fā)展前景，將成為我們提供所有這些客戶所需求供應的關鍵。

?

?構建負責任的人工智能

?記者：亞馬遜非常大——它只是一個非常大的公司。它涉足很多事情。最值得注意的是，它運營著一個巨大的電影工作室和流媒體服務，這些服務涉及到很多關于AI、藝術和版權法律等問題。亞馬遜云科技是一些數(shù)據(jù)托管的地方。這里是一些模型被訓練的地方。你作為基礎設施提供商是否考慮過這個問題？有一系列關于公平使用的版權法律問題即將出現(xiàn)，也許Stability會因為Getty而陷入麻煩?；蛘逜nthropic會因為Reddit數(shù)據(jù)爬取而陷入麻煩，或者未來可能發(fā)生的任何事情。作為基礎設施提供商，我們有一定的責任來調解這個問題，因為我們在亞馬遜云科技這邊所做的事情可能會讓Prime Video在那邊與演員和編劇產生麻煩。

?Adam：亞馬遜云科技非常關注負責任的AI和隱私以及所有倫理、監(jiān)管和立法問題，這些問題都得到了適當?shù)挠懻摗Ｔ趤嗰R遜云科技，我們不會因為Prime Video或任何其他內部客戶而考慮任何獨特的事情，就像我們在亞馬遜云科技做的其他所有事情一樣，亞馬遜是一個偉大的客戶，一個非常大的客戶，一個復雜的客戶，他們經常是其他復雜企業(yè)要走向何方的很好的風向標。但他們沒有特殊待遇。

?記者：我不是在談論亞馬遜本身，而是說亞馬遜作為一個公司制造藝術品。這對于亞馬遜這樣規(guī)模的科技公司來說是非常了不起的，就像它完全投資于制造藝術品。在創(chuàng)意社區(qū)中引起騷動的一件事是生成式AI：誰獲得數(shù)據(jù)，誰擁有數(shù)據(jù)，是否公平使用數(shù)據(jù)進行訓練。然后，在亞馬遜的另一側，你正在制造使這一切成為可能的工具。我只是想知道你個人作為負責這些工具的人，是否曾經剎車并說：“我們不知道這些問題的答案。一，我們可能只是讓我們在Prime Video的朋友陷入麻煩。二，更重要的是，更直接的是，我們可能正在進入一個責任世界，因為我們已經讓Stability去訓練Getty的圖像。”

?Adam：我們不會踩剎車，但我們正在努力解決所有這些問題。一系列非常巨大和復雜的問題還處于早期階段。這個問題不會在一夜之間得到解決，但現(xiàn)在就著手解決這些問題非常重要。

?順便說一句，我們不會自己解決這個問題。我們將努力成為所有這些問題的主導聲音，但從本質上講，我們無法自己解決這個問題。我們討論了亞馬遜正在構建的Titan模型，并且我們在用于訓練模型的數(shù)據(jù)方面，非常認真地對待負責任的人工智能。減少諸如毒性之類的東西。準確性非常重要，因為關于模型中的幻覺有很多適當?shù)挠懻摗旧夏Ｐ徒o你的結果不是真實的，或者它們是編造的，但它們看起來像是真的。

?我們投入了大量的工作來最大限度地減少模型中可能發(fā)生的幻覺數(shù)量，并且還采用了各種交叉檢查方法。因此，該模型可以判斷它是否本質上是在編造一些東西，以便對您有所幫助。所以我認為這些模型將在準確性、毒性和適當?shù)挠柧毞矫嬗幸恍┱嬲膭?chuàng)新。其中很多內容將以積極的方式進入Amazon Bedrock。因此，我們將擁有Titan模型，但也有其他模型提供商。我們正在制作一種叫做服務卡的東西。人們一直在討論希望了解這些模型的內容、誰訓練了這些模型以及使用了哪些類型的數(shù)據(jù)。

?因此，我們正在為每個模型制作這些服務卡，并且我們希望為Bedrock內部的所有模型提供這些服務卡，它將提供有關該模型是什么的基本基本信息，并且至少在高級別上，使用什么類型的數(shù)據(jù)來訓練它以及它的預期用途和限制是什么。我并不認為這會解決透明度、解決可見性問題，但至少在2023年，這是我們朝著正確方向邁出的一步。然后，在立法和監(jiān)管方面，我認為我們需要成為許多重要聲音之一。我們花了很多時間與政府、議員、歐洲和世界其他國家的類似機構打交道。

?記者：您認為這對您來說更像是一個應用程序商店模式嗎？那么，您是否檢查過以確保Meta的模型不會以比其他人更高的速度產生幻覺？

?Adam：我們不能那樣做。我們不擁有該模型。因此，如果客戶過來說：“嘿，SageMaker是一個很棒的機器學習平臺，我們希望在SageMaker中運行LLaMA?！蔽覀儾粫f不，我們也不會成為LLaMA的世界專家。我們將對我們的模型負責。歸根結底，模型提供商需要承擔責任。政府需要決定在多大程度上希望立法規(guī)定其責任。并且需要提供可見性，以便潛在客戶可以決定這些模型是否適合他們。

?記者：如果你通過了一項法律，規(guī)定模型不能做X，我們必須弄清楚誰來執(zhí)行這一點。答案之一是像亞馬遜云科技這樣的基礎設施提供商，對嗎？

?Adam：我們有一個可接受的使用政策。當發(fā)生一些重要的事情時，我們會決定改變它。我們不經常這樣做，但這是一個不斷發(fā)展的事情。我們執(zhí)行它，其中包括人工智能。因此，如果我們明天需要更改與人工智能相關的內容，我們明天就會更改。人工智能將具有獨特的特征，但本質上并沒有不同。但我認為政府會決定模型的一定規(guī)?；驈碗s程度。

?人們正在談論前沿模型。也許我們必須確保它們經過了獨立的毒性測試和紅隊測試之類的測試。我們非常重視這樣的事情。例如，CodeWhisperer是我們構建的一個很棒的編碼助手。你輸入單詞，它會給你返回代碼。這太神奇了。但是在代碼中，我們構建了自動能力，使模型能夠告訴你，如果你使用開源代碼之類的東西，可能正在使用的開源代碼的許可條款和治理是什么，以及過濾掉任何與毒性有關的東西。因此，對于我們控制的服務，我們非常認真地對待它，并嘗試構建這些控件，這些控件不僅在倫理上很重要，而且在許多情況下在法律上也很重要，對于我們的客戶來說也是如此。