亚马逊斥资8000万美元，要把大模型装在边缘设备

据外电报道，亚马逊已达成协议，以 8000万美元现金收购芯片制造商和 AI 模型压缩公司Perceive ，Perceive 专注于在边缘设备上提供大型人工智能模型的技术，这些硬件通常在网络边界上以有限的功率、处理、连接和存储运行。

亚马逊发言人表示：对 Perceive 的收购建立在其对边缘技术和定制硅片的现有投资之上，旨在提高其设备的性能和速度，以及其在大型语言模型和多模式体验方面的努力。

根据市场调研机构Gartner的预测，到2025年，75%由企业生成的数据将在传统数据中心或云之外进行创建和处理。到2026年，50%的边缘部署将涉及机器学习，而86%的边缘开发人员将瞄准基于人工智能的应用程序。Sachin Katti认为，全球边缘计算市场蕴含着高达4450亿美元的市场机会‌。这一预测基于边缘计算技术的快速发展和应用场景的扩大，预示着边缘AI市场将迎来显著增长。

而边缘 AI 在各行业场景中的落地依赖算法，算法的高定制化、高成本和精准度是三大难题，用户需求不少，真正能起量的场景屈指可数，市场需求的定制化是无法改变，如何在定制化和成本之间找到最佳的平衡点？行业人士认为答案就是 AI 大模型，大模型能够从根本上解决 AI 算法精准度和定制开发的成本问题，的确随着 AI 大模型的不断进化，AI 在千行百业的落地都充满期待。

目前大多数 AI 算法实际上是一个算法小模型，一个模型解决一个问题，所以高度定制化，随便一个需求，都得经历从收集数据——标准数据——训练模型——改进模型—— 部署模型的复杂流程，就像个婴儿一样，开发时间长，效率低，成本高。而大模型本身就是个大学生或研究生，我只需要给它简单培训下就可以上岗，给点提示，少量实例，加上些微调，就可以部署到场景，快速、精准、成本低。这是大家都看好大模型能解决目前难点的理由。大模型在边缘设备的落地有巨大市场空间和需求，而大模型在边缘设备的落地需要芯片算力和技术支持，这也是亚马逊看好Perceive，并斥巨资收购的原因。

AIoT星图研究院《2024边缘计算行业分析报告》将于2024.8.28下午在“IOTE 2024深圳·边缘计算产业生态大会”上正式发布，将与行业人士一起更深入多维度探讨边缘计算在细分场景的应用与行业现象。

更多有关边缘计算的产业动态与发展趋势，敬请关注视觉物联8月28日下午在深圳国际会展中心（宝安）举办的“IOTE 2024深圳·边缘计算产业生态大会”，届时将与行业人士一起更深入地从多维度探讨边缘计算产业的市场现状及未来趋势。