终端感知的混合AI,终端负责的数据采集和存储,然后将数据传输到云端进行AI计算
终端感知的混合AI,终端负责的数据采集和存储,然后将数据传输到云端进行AI计算,
最终通过终端进行数据输出。这是一种结合终端数据处理能力,与云端计算能力的边缘AI模式,一般适用于数据输入输出能力强,但计算能力有限的终端,例如手机、智能音箱等。利用边缘终端对数据进行预处理标准化,对于用户来说,既能保证数据输入的有效性,也保障了传输数据的隐私性,而对于云端数据中心,则有效降低了数据负载。
终端与云端协同处理混合AI,这是一种结合终端数据处理能力与云端计算能力的边缘AI运行模式。在这种模式下,模型自主判断AI计算在云端和边缘端的分配,当计算需求较为简单时,则在终端进行简易模型的计算,而当终端计算结果准确性下降后,则再通过云端的大模型进行修正。协同处理的模式对使用场景有更强的适应力,适配不同的AI使用需求,其难点在于对算力的分配算法,如何判定在云端或终端进行计算。潜在方案是先在终端进行初步计算,然后将计算结果发送到云端进行验证,由验证的正确率来判断是否要在云端进行重新计算,从而实现云端算力的动态调整。