如今围绕人工智能的讨论多聚焦于云容量与大型数据中心，而苹果、高通等公司正推动设备端AI实用化。在此背景下，总部位于伦敦的Mirai团队致力于优化模型在手机和笔记本电脑上的运行效率。
Mirai由Dima Shvets和Alexey Moiseenkov于去年创立，获Uncork Capital领投的1000万美元种子轮融资。两位创始人均具备打造可扩展消费级应用的经验：Shvets曾联合创立面部替换应用Reface（获a16z支持）并担任其侦察员；Moiseenkov则是AI滤镜应用Prisma的联合创始人兼CEO。
专注设备端推理引擎开发
作为面向消费者的开发者，两人早在生成式AI流行前便开始思考设备端AI应用。Shvets指出，当前行业过度关注云端与通用AI，却忽视了消费硬件端的设备端AI这一关键环节。为解决复杂任务在移动端的实现难题及成本优化需求，他们创立了Mirai。
目前，Mirai正为Apple Silicon构建推理引擎以优化设备端吞吐量，即将推出的SDK允许开发者通过几行代码集成运行时。Shvets表示，公司愿景是为开发者提供类似Stripe的极简集成体验，支持摘要、分类等多种用例。
技术优势与未来规划
Mirai使用Rust构建引擎，可将模型生成速度提升高达37%，且在调整模型时不修改权重以确保输出质量。技术栈现阶段专注于文本和语音模态，计划未来支持视觉功能，并已拓展至Android平台。团队正与前沿模型提供商及芯片制造商合作，同时构建编排层以实现无法在设备端完成任务的云端混合处理。
此外，Mirai计划发布设备端基准测试供模型制造商评估性能。尽管尚未直接与应用程序合作，但其引擎已具备支持设备端助手、转录器、翻译器及聊天应用的能力。
资本看好边缘计算前景
Uncork Capital管理合伙人Andy McLoughlin认为，随着云推理成本高企，市场必须转向关注基础经济模型，Mirai在边缘端推理需求中处于有利地位。本轮融资还吸引了David Singleton（Dreamer CEO）、Francois Chaubard（YC合伙人）、Marcin Żukowski（Snowflake联合创始人）、Mati Staniszewski（ElevenLabs联合创始人）、Gokul Rajaram（前Google AdSense产品经理）、Scooter Braun（Groq投资者）、Vijay Krishnan（Turing.com CTO）、Ben Parr与Matt Schlicht（Theory Forge Ventures）以及Aditya Jami（前Netflix技术负责人）等多位个人投资者参与。