特斯拉前人工智能負責人 Andrej Karpathy最新演講談 AI和 LLM

特斯拉前人工智能總監(jiān)、OpenAI 研究員?Andrej?Karpathy在 6 月 17 日于 Y Combinator 舉行了一次關于 AI 大語言模型 LLM的精彩演講。分享了，AI 軟件3.0時代LLM時代，LLM的優(yōu)缺點，LLM的社會模態(tài)，我們如何使用它等話題。觀點明確，洞察深遠，非常適合從宏觀了解AI 以及LLM，本文濃縮解讀核心觀點，希望給大家一些信息和啟發(fā)。1.軟件3.0時代
演講的開頭，Andrej?Karpathy 將軟件時代劃分三個時代，并用特斯拉 FSD軟件代碼的發(fā)展類比。軟件三個時代的3.0時代就是本次演講設定的社會背景。軟件三個時代分別為：

軟件 1.0 = 編寫代碼軟件軟件?2.0 = 訓練神經(jīng)網(wǎng)絡軟件?軟件?3.0 = 用通俗易懂的語言指導LLM

其中， Andrej Karpathy 表示很榮幸，他發(fā)明vibe coding這個詞，也就是用人類語言Prompt向 AI 編碼工具描述你的目標。無需擔心語法，只需清晰地描述功能即可，就可以做出程序和軟件。

他也分享了他無需了解 Swift 或豐富的 Web 開發(fā) Menu Genen一個將菜單圖形化的程序經(jīng)驗，只需通過與 AI 清晰溝通，即可構建出可運行的 iOS 和 Web 應用。

2.人工智能LLM像電力基礎設施Andrej 表示 LLM它們像公用事業(yè)一樣通過API提供服務，像晶圓代工廠一樣需要大量資本性支出，更像操作系統(tǒng)一樣是一個復雜的軟件生態(tài)系統(tǒng)。演講中Andrej?Karpathy 將LLM 深入類比了下計算機或操作系統(tǒng)。

LLM大語言模型有點像 CPU 的等價物，上下文窗口有點像內存，然后LLM大型語言模型協(xié)調內存和計算，用于問題解決，使用所有這些能力，所以從這個角度來看，它確實像一個操作系統(tǒng)。

這個計算機或操作系統(tǒng)輸入輸出I/O的就是我們人類常用的語音和視頻。

3.大語言模型（LLM）的優(yōu)缺點當然 Andrej Karpathy 并沒有神話 LLM, 他指出 LLM有如下優(yōu)缺點：

• 知識淵博，擁有海量信息，能夠記住大量的細節(jié)。演講中?Andrej Karpathy 用電影《雨人》里面的雷蒙記憶及數(shù)字上有莫大的驚人能力做比喻。認知缺陷，容易產(chǎn)生幻覺，有時會編造信息。

• 順行性遺忘癥，不像人類，會隨著時間的積累和鞏固知識，需要有上下文窗口來管理聊天記憶。

安全風險，容易提示注入攻擊，可能導致私有數(shù)據(jù)泄漏。

前面就是?Andrej Karpathy 分享的他理解的 LLM和 AI的發(fā)展，有了這些背景的理解，我們就可以推測和理解?AI的發(fā)展特別是LLM的發(fā)展，對我們生活和工作意味著什么。4.對我們生活工作意味著什么？首先，未來并非由自主的人工智能代理取代你，而是“部分自主”的工具，能夠增強你的能力。Andrej Karpathy借用了鋼鐵俠的比喻：我們打造的是增強人類能力的裝甲，而不是完全取代人類的機器人。其次，使用人工智能的關鍵在于創(chuàng)建快速的“生成-驗證”循環(huán)，讓AI生成工作成果，然后人工通過智能界面 GUI (Graphical User Interface)快速審核。例如，像Cursor這樣的編程工具就體現(xiàn)了這種方法——它們不僅提供原始的AI輸出，還提供上下文管理、多模型編排和可視化差異，從而提高人工監(jiān)督的效率。演講中他還分享了其他工具，總的來講目前LLM等發(fā)展還處于早期，是未來有巨大潛力的工具，幫助我們提升工作和生活的效率。這種轉變創(chuàng)造了巨大的機遇。每個軟件工具都可能開發(fā)出部分自主功能。問題不在于人工智能是否會改變你的行業(yè)，而在于你能多快地調整你的工作流程以利用這種新的編程范式。5.這位大神現(xiàn)在在做啥？最后，大家都好奇，Andrej Karpathy這位大神現(xiàn)在在做啥？他在創(chuàng)業(yè)做 AI+教育，科普方向。

參考文章以及圖片

Software in the era of AI 演講視頻以及ppt

*未經(jīng)準許嚴禁轉載和摘錄