我們都已經看到了有關即將有多少設備連接到物聯(lián)網(wǎng)(IoT)的預測。例如，IDC預測到2025年這一數(shù)字將超過410億。關于將釋放的機會使我們的房屋，工作，娛樂和旅行更加有效和可持續(xù)的報道很多。

[[348765]]

但是，支撐這些進步的數(shù)據(jù)爆炸正使那些創(chuàng)建產品，服務和支持基礎架構的人頭痛。許多早期的物聯(lián)網(wǎng)設備都依靠云來處理其收集的數(shù)據(jù)。該模型的部分驅動力是云中有效的無限計算能力，再加上許多物聯(lián)網(wǎng)設備的受限板載處理能力。

數(shù)據(jù)上傳到云端的局限性

但是，向云發(fā)送數(shù)據(jù)和從云發(fā)送數(shù)據(jù)都有其缺點。

首先，傳輸數(shù)據(jù)會消耗能量和帶寬。更多數(shù)據(jù)意味著您需要更多昂貴且有限的網(wǎng)絡資源。

其次，將數(shù)據(jù)發(fā)送到云會引入延遲，這會限制某些應用程序的有效性。

第三，外部信息帶來了隱私和安全風險。例如，由智能家居設備收集的數(shù)據(jù)將揭示有關您在家中和外出時的大量信息。如果此信息發(fā)送到云，您可以確定它已安全完成嗎?它以什么形式存儲在哪里?誰有權使用它?

引入邊緣智能的優(yōu)勢

隨著越來越多的設備收集更多(和更敏感)的數(shù)據(jù)進行處理，解決這些挑戰(zhàn)的需求變得越來越緊迫。這是“邊緣智能”興起的主要推動力之一。

在此模型中，不是將所有數(shù)據(jù)發(fā)送到云，而是在本地網(wǎng)絡的“邊緣”，在連接設備附近完成密鑰處理和決策。這減少了上述延遲，能耗和帶寬使用，同時使用戶能夠將私有數(shù)據(jù)保留在其自己的基礎架構范圍內。

邊緣智能的核心是機器學習。目前，在這種情況下，我們主要討論機器推理。這是邊緣設備使用預先訓練好的的機器學習模型基于本地傳感器收集的新數(shù)據(jù)做出決策的地方。

圖1：ABI的研究人員預測，到2024年，支持板載AI推理的設備出貨量將達到20億。(來源ABI;圖片由NXP Semiconductors提供)

在邊緣推動向AI的轉變

通過改進推理處理，尤其是用于加速推理的技術，可以在這種資源受限的環(huán)境中顯著增加推理。

第一代機器學習加速器主要基于軟件，并且CPU運行指令集。第二代引入了專用硬件，例如GPU和DSP。今天，我們有了第三代產品，它使用了基于硬件的修剪和壓縮等功能。在硬件中完成的工作越多，由于減少了軟件和CPU周期的使用，該過程就變得更加節(jié)能。

圖2：通過機器學習加速器可以看到能源效率的提高。(來源：恩智浦半導體)

當今的邊緣智能可以實現(xiàn)什么

作為人類，我們的大部分交流不只是通過言語傳遞的：我們的語氣，面部表情和手勢都有助于我們本能地交流和理解彼此。使用基于邊緣的推理，當今的設計師可以使他們的產品適應這些信號，從而設計出越來越自然的交互體驗。技術可以包括面部和其他對象和手勢識別，語音識別，音調分析和自然語言處理。

在其他地方，智能邊緣設備可以增強安全性。例如，可以訓練智能家居邊緣套件來識別危險信號，例如警報響起，人員摔倒，玻璃破碎或水龍頭滴落或奔跑。一旦檢測到問題，系統(tǒng)便可以提醒所有者，使他們能夠做出相應的反應。

接下來是什么?

在未來幾年中，很可能會出現(xiàn)許多利用這種功能日益強大的邊緣智能優(yōu)勢的新型物聯(lián)網(wǎng)產品和服務。

我們討論了當前如何使用第三代AI加速功能。未來可能包括神經形態(tài)或內存計算，脈沖神經網(wǎng)絡或最終是量子AI。這些發(fā)展將有助于加速當前正在出現(xiàn)的另一種趨勢，即能夠在邊緣實施機器學習算法的實際訓練。

對于我們的設計師，工程師，企業(yè)和消費者而言，這將是一個激動人心的時刻，我們的技術將變得更加有用，更加安全并且更具可持續(xù)性。