这三款新的phi 3.5模型包括：拥有38.2亿参数的phi-3.5-mini-instruct，拥有419亿参数的phi-3.5-moe-instruct，以及拥有41.5亿参数的phi-3.5-vision-instruct，分别针对基础/快速推理、更强大的推理以及视觉（图像和视频分析）任务设计。
所有这三款模型都可供开发者在hugging face上下载、使用，并根据需要进行微调和自定义，使用的是微软品牌的mit许可协议，允许商业使用和修改，无任何限制。
令人惊讶的是，这三款模型在许多第三方基准测试中表现出接近最先进的性能，甚至在某些情况下超越了其他ai供应商的产品，包括google的gemini 1.5 flash、meta的llama 3.1，甚至openai的gpt-4o。
phi-3.5 mini instruct：为计算资源受限的环境优化
phi-3.5 mini instruct模型是一款轻量级ai模型，拥有38亿参数，专为遵循指令设计，并支持128k token的上下文长度。
该模型非常适合在内存或计算资源受限的环境中需要强大推理能力的场景，包括代码生成、数学问题求解和基于逻辑的推理任务。
尽管体积小巧，phi-3.5 mini instruct模型在多语言和多轮对话任务中表现出竞争力，相较于其前代产品有显著的改进。
它在多个基准测试中展现了接近最先进的性能，并在“长上下文代码理解”的repoqa基准测试中超越了其他类似大小的模型（llama-3.1-8b-instruct和mistral-7b-instruct）。
phi-3.5 moe：微软的‘专家混合’
phi-3.5 moe（专家混合）模型似乎是微软首次推出的此类模型，它将多种不同类型的模型结合在一起，每种模型专门针对不同的任务。
该模型采用了具有420亿活跃参数的架构，支持128k token的上下文长度，为需求苛刻的应用提供可扩展的ai性能，然而，根据hugging face的文档，该模型实际上只使用了66亿的活跃参数。
phi-3.5 moe模型专为在各种推理任务中表现出色而设计，在代码、数学和多语言理解方面表现出强劲的性能，常常在特定基准测试中超越更大规模的模型。
它在stem（科学、技术、工程和数学）、人文学科和社会科学等多个学科的5-shot mmlu（massive multitask language understanding）测试中，表现优异，甚至超越了gpt-4o mini。
moe模型的独特架构使其在处理多语言复杂ai任务时保持高效。
phi-3.5 vision instruct：高级多模态推理
作为phi系列的最后一款模型，phi-3.5 vision instruct模型整合了文本和图像处理功能。
这一多模态模型特别适合于一般图像理解、光学字符识别、图表和表格理解以及视频摘要等任务。
与phi-3.5系列中的其他模型一样，vision instruct支持128k token的上下文长度，使其能够处理复杂的多帧视觉任务。
微软强调，该模型是通过合成数据和经过筛选的公开数据集训练的，重点在于高质量和富含推理的数据。
新phi三款模型的训练
phi-3.5 mini instruct模型在使用512个h100-80g gpu的情况下，经过10天的训练，处理了3.4万亿个tokens，而vision instruct模型则使用256个a100-80g gpu，经过6天的训练，处理了5000亿个tokens。
采用专家混合架构的phi-3.5 moe模型，使用512个h100-80g gpu，在23天内处理了4.9万亿个tokens。
mit许可下的开源
所有三款phi-3.5模型均在mit许可协议下发布，体现了微软对支持开源社区的承诺。
此许可允许开发者自由使用、修改、合并、发布、分发、再许可或出售软件的副本。
该许可还包括免责声明，即软件是“按原样”提供的，不附带任何形式的保证。微软及其他尊龙凯时注册的版权持有人不对因使用该软件而引发的任何索赔、损害或其他责任承担责任。
微软发布的phi-3.5系列代表了多语言和多模态ai开发的一个重要进展。
通过以开源许可的形式提供这些模型，微软使开发者能够将最先进的ai能力集成到他们的应用中，从而推动商业和研究领域的创新。
企业网d1net(www.d1net.com)：
国内主流的to b it门户，旗下运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个it行业公众号(微信搜索d1net即可关注)。
尊龙凯时注册的版权声明：本文为企业网d1net编译，转载需在文章开头注明出处为：企业网d1net，如果不注明出处，企业网d1net将保留追究其法律责任的权利。