「上得廳堂，下得廚房」，這句對理想型賢內助的贊許，以后很可能要對谷歌的機器人說了。

 自帶大型語言模型，會自學的機器人，見過嗎？不會做？可以學！ 現在不會沒關系，過一會兒學完了就會了。

比起波士頓動力炫酷無比的上刀山，下火海，翻山越嶺，如履平地的「鐵面金剛」，這次谷歌搞的「會學習的機器人」更像是身邊貼心的小助手。 我說什么，你做什么，是一般的機器人執行指令的套路。谷歌這次的新研究，讓機器人不只會按指令，自己也能動手做。 

這是谷歌首次將語言大模型和機器人相結合，教機器人做人類一樣的事情。 

論文地址：https://arxiv.org/pdf/2204.01691.pdf用谷歌論文的題目說就是：「Do as I can，not as I say」。

大概是這個意思：「你已經是個成熟的機器人了，我做的，你也能做，不會的可以學，不熟的可以練！」 谷歌為這個機器人取名PaLM-SayCan。 在《華盛頓郵報》的報道中，記者就見到了研究人員讓機器人用塑料玩具原料作漢堡。 看起來這個機械臂知道在放肉之后、放生菜之前，要加點番茄醬，但目前這位廚子認為，「加番茄醬」是把整個裝番茄醬的瓶子放在漢堡里。 

雖然目前這個機器人大廚還不合格，不過谷歌相信，在大語言模型的訓練下，學會做漢堡只是早晚的事。 這個機器人還能識別七喜和可口可樂的罐子，打開抽屜并找到一袋薯片。憑借PaLM的抽象能力，它甚至可以理解黃色、綠色和藍色的碗可以分別比喻為沙漠、叢林和海洋。 

和以前的機器人不同，過去也有機器人做漢堡、做炒面、做披薩，但實際上完成的是單一動作的明確指令的組合，比如「右臂左移三格」、「翻個面」等。 現在谷歌的目的是，讓機器人能聽懂并執行「來給我做個漢堡」、「我餓了，去給我買個面包」、「出去陪我打個球」這種命令。 就跟和人說話一樣。

比如，當谷歌人工智能研究員對PaLM-SayCan機器人說：「我的飲料灑了，你能幫忙嗎？」 它在谷歌辦公大樓的廚房里用輪子滑行，用數碼相機的視覺發現柜臺上的海綿，用電動臂抓住它，并把它帶回來。

谷歌的布萊恩·伊克特（Brian Ichter）說：「這從根本上說是一種不同的模式」。他是最近發布的一篇描述這類機器人新進展的論文的作者之一。

 目前，機器人已經不算稀罕物了。數以百萬計的機器人在世界各地的工廠里工作，但它們遵循特定的指令，通常只專注于一兩項任務。 而要打造一個能夠完成一系列任務，還能邊干邊學的機器人，則要復雜得多。多年來，大大小小的科技公司都在努力建造這種「通用型機器人」。 

近幾年大火的大語言模型讓谷歌找到了「通用型機器人」的研發靈感。 大型語言模型利用互聯網上的大量文本，訓練AI軟件，以猜測某些問題或評論之后可能出現的反應類型。

從BERT到GPT-3，再到后來的MT-NLP，隨著參數數量的突飛猛進，這些模型已經非常善于預測正確的反應，以至于與一個模型打交道往往感覺像是在與一個知識淵博的人對話。 掌握這么多知識，光陪人聊個天豈不是可惜？能對話，就能干活，從聊天機器人，到助手機器人，谷歌的研究思路可以說算是「水到渠成」了。 

這個PaLM-SayCan，厲害在哪？

這次，Google AI與谷歌母公司Alphabet的登月計劃X團隊推出的Everyday Robot項目合作，提出了一種方法。 即通過預訓練在大型語言模型（LLM)中提取知識，讓機器人遵循高級文本指令完成物理任務。

 Everyday Robot項目已經進行了多年，許多與谷歌AI合作的團隊成員在2015年或2016年加入了Alphabet。 他們的想法是，讓機器人利用攝像頭和復雜的機器學習算法來查看周圍世界并向之學習，而無需教授它們可能遇到的每一種潛在情況。

谷歌的思路是： 大型語言模型可以編碼豐富的關于世界的語義知識，這些知識對于旨在執行以自然語言任務機器人非常有用。 而LLM的明顯缺點是「缺乏真實世界的經驗」，在實驗室里表現完美，到了現實生活中可能就一無是處。 

?因此研究人員建議「通過預訓練技能提供現實世界的基礎」，用于約束模型完成符合環境的自然語言動作。

機器人可以充當語言模型的“手和眼睛”，而語言模型則提供有關任務的高級語義知識/現實經驗。 

谷歌使用了一臺巨大的6144個處理器的機器來訓練PaLM（Pathways Language Model）。訓練資源包括微軟GitHub網站上發現的大量多語言網絡文件、書籍、維基百科文章、對話和編程代碼。 這樣訓練出的AI智能體，可以解釋笑話、完成句子、回答問題并按照自己的思維鏈進行推理。  

接下來問題來了，如果把這個智能體用于機器人，如何提取和利用大型語言模型（LLM）的知識來完成物理任務呢？ 比如，我的飲料灑了，GPT-3會說你可以用吸塵器，LaMDA會說你需要我幫你找清潔器嗎？（就很迷） 

 大型語言模型由于并未與現實環境交互，因此無法對這項操作反應。 而基于LLM的SayCan通過預訓練模型形成的價值判斷能力，可以處理復雜、真實環境下的指令。 

受這個例子的啟發，我們研究了如何在LLM中提取知識以使機器人能夠遵循高級文本指令的問題。 該機器人配備了一系列學習技能，用于能夠進行低級視覺運動控制的“原子”行為。 除了要求LLM簡單地解釋指令外，我們還可以使用它來評估個人技能在完成高級指令方面取得進展的可能性。 

假設每個技能都有一個可供量函數，那么就可以量化它從當前狀態成功的可能性（例如學習價值函數），這個值則可以衡量技能的可能性。 這樣LLM就完成了每個技能對完成指令貢獻概率的描述。 

研究人員使用兩個指標來評估系統的性能：

（1）計劃成功率，表明機器人是否為指令選擇了正確的技能；

（2）執行成功率，表明它是否成功執行了指令。 

數據顯示，PaLM-SayCan的指令執行率在所有模型中也是最高的。 

風險：機器人學壞了咋辦？

想法很頂，不過這項工作也不是毫無風險。 大型語言模型的訓練語料庫來自互聯網，一些語言模型已經表現出種族主義或性別歧視等不良傾向，有時會被誘導發表仇恨言論或說謊。 這種模型如果用于訓練聊天機器人，結果也就是出了個會罵街、會嚼舌根的語音助手，但如果是訓練機器人，它有手有腳的，去干壞事怎么辦？  

而且，比這更危險的是，萬一這樣訓練出的機器人有了意識，事情可能就會失控了（類似的科幻電影可不少了）。 

今年7月，谷歌一名員工聲稱軟件是有生命的員工。人工智能專家的共識是，這些模型不是有生命的，但許多人擔心它們會表現出偏見，因為它們是在大量未經過濾的、由人類產生的文本上訓練的。 

盡管如此，谷歌仍在不斷努力，現在，研究人員已經不需要為機器人的每項任務編碼具體的技術指令，而是可以更簡單地用日常語言與它們交談。 更重要的是，新軟件可以幫助機器人自行解析復雜的多步驟指令。

現在，機器人可以解釋它們以前從未聽過的指令，并自己想出有意義的反應和行動。 

也許對于機器人來說，新的大門才剛剛打開，未來可能仍然是一個漫長的過程。多年來，神經網絡和強化學習等人工智能技術已被用于訓練機器人。目前有了一些突破，但進展仍然緩慢。 

谷歌的機器人還遠未準備好用于現實世界，研究人員一再表示，目前這個機器人還處于實驗室階段，還沒有推向商業化的計劃。