探索 phi-3 快速推理

MLX 框架提供了高效的模型训练和推理工具，极大地提升了 Mac 设备上的 AI 性能；Intel Extension for Transformer 则为 Intel 硬件优化了 Transformer 模型，显著提高了推理速度和效率；与此同时，Phi-3 大模型凭借其卓越的性能和灵活性，成为了业界领先的轻量级大模型之一。 6月28日，我们将与微软 Beta 学生大使张昱轩一起，聚焦微软 Phi-3 大模型在 Mac 和 Intel 设备上的推理能力。我们将展示如何利用 MLX 和 Intel Extension for Transformer 进行 Phi3模型的推理，同时通过实战演示和技术讲解，帮助大家更好地掌握这两个框架的使用方法。活动时间 2024年6月28日 19:30 - 20:30 活动形式微软 Reactor 在线直播分享嘉宾张昱轩西交利物浦大学微软 Beta 学生大使目前在智谱 AI 担任 AI 算法工程师实习生，微软 Beta 学生大使。他是 GLM-4、ChatGLM3、CogVLM2 和 CogVLM 等知名开源项目的主要贡献者之一。作为 LangChain-Chatchat 的核心贡献者，他参与了多个在 GitHub 上拥有超过 50K 颗星星的项目。他对大模型的开源生态系统和技术充满热情，对 Agent 领域有着浓厚的兴趣并具备实际经验。他积极参与多项技术布道活动，专注于分享与大模型开源生态系统相关的内容。主办方微软 MVP 微软 Reactor ID:23210