们见证了人工智能的显著进步,同时也见证了成本的大幅低,我们致力于提高模型性能的同时继续降低成本。
方面表示
自年以来,模型每的成本下降了小,性价比成为企业的重要考量,小模型或将越来越受青睐。《华尔街日报》近日报道,企业正越来越多地部署中小型的模型,它们更青睐 英国华侨华人数据 规模较小、更具成本效益的技术,而不是在热潮早期掀起波澜的大型昂贵模型。对于一些最常见的用例来说,比如涉及文档分类等小范围、重复的任务,中小型模型更有意义。当前企业正在部署更多用例,它们也面临着管理这种昂贵技术的成本和回报的压力。营销服务公司集团正在使用谷歌的中型模型,其首席技术官斯蒂芬·普雷托留斯提到,一年前,企业被少数几款大型模型吸引。
当公司有限度地、试验性地使用它们的能力时,情况还好,但现在随着它们的规模扩大,大模型的成本可能很快就会失控。“企业倾向于构建小模型来完成特定任务。
山海引擎彭璐在
接受《时报》记者采访时曾表示,国内算力需求正从 自动记录事件 大规模模型训练转向推理需求,尤其是企业对于私有化部署的推理需求日益增长。随着开源模型能力的提升,企业发现通过微调开源模型即可满足特定任务需求,无须投入巨资训练超大规模模型。在今年年初召开的百度开发者大会上,李彦宏也表示,基于百度文心.,用户可以结合效果、响应速度及推理成本等多维度因素,灵活剪裁出适用于不同场景的小尺寸模型。
相较于直接使用开
源模型调整得到的模型,这些定制的小模型在同等尺寸 bw 列表 下展现出了更为显著的效果优势,其成本则更低廉。“在一些特定场景中,经过精调后的小模型,其使用效果甚至可以媲