北京互联互通-阿里云百炼平台全面升级,支持企业级RAG,首家托管百川等大模型
5月9日,北京互联互通:在北京阿里云AI智领者峰会上,阿里云CTO周靖人公布百炼大模型渠道最新进展。百炼渠道从模型开发、使用开发到算力底座全面晋级,更加易用、更加敞开,引入更多模型,还率先兼容LlamaIndex等开源框架,企业可自在替换才能组件来适配自身系统。针对当下企业最重视的RAG链路,百炼供给灵活敞开的企业级检索增强服务,5到10行代码即可建立RAG使用,让大模型具有“最强外挂”。
2023年10月,阿里云发布了百炼大模型渠道,开发者可通过“迁延拽”5分钟开发一款大模型使用,几小时“炼”出一个专属模型,把精力专心于使用立异。本次大会上,百炼晋级成为阿里云承载云+AI才能的重要渠道,供给一站式、全保管的大模型定制与使用服务。晋级后,百炼可以更好支撑地大型企业和成熟开发者的需求。
“当下企业使用大模型存在三种范式:一是对大模型开箱即用,二是对大模型进行微谐和持续练习,三是依据模型开发使用,其中最典型的需求是RAG,以企业数据对大模型进行知识增强。围绕这些需求,百炼打造了模型中心和使用中心,供给最丰富的模型和最易用的工具箱。”周靖人介绍。
对期望直接调用模型进行推理的企业,百炼集成了上百款大模型api,除了通义、Llama、ChatGLM等系列,还首家保管百川等系列三方模型,覆盖国内外主流厂商,联动魔搭开源社区,一起支撑企业上架通用或行业模型,给开发者供给足够多的模型挑选。一起,百炼依托阿里云AI基础设施,支撑千亿级模型的万级并发推理,充沛满足企业需求。
对需进一步练习模型的用户,百炼供给从数据管理、模型调优、评测到布置的全链路模型服务,用户可弹性按需调用算力,无需关心底层架构。练习过程可视化,还可主动评测模型质量,并与其他模型比照。
对期望打造RAG使用的企业,百炼支撑Assistant API开发模式,可在百炼上轻松创建知识库,并一键开启知识检索增强(RAG),通过Assistant API联合输出。一起,百炼支撑agent智能体开发,并能实现多智能体协作、对话记忆等高级功能。
阿里云百炼的一大重要优势,在于最大程度的敞开性和自在度。当下一些大模型使用渠道选用封闭链路,不支撑替换原子才能,导致企业开发使用时无法引入自研插件,和事务场景充沛融合。
百炼率先兼容并优化了LlamaIndex等开源架构,拥抱社区生态,支撑从本地或不同云端导入SQL、pdf、excel、ppt等各种类型数据源,还支撑依据需求自在替换精细的才能组件,让AI使用丝滑嵌入企业原有事务系统。
周靖人表明,接下来,百炼将持续做对开发者最友爱、最敞开的大模型渠道。阿里云欢迎更多大模型上架,百炼将进一步支撑三方模型的微调练习和云上专属布置,帮助大模型生态中的企业供给商业化服务。
据了解,阿里云百炼发布半年来,已服务一汽、微博、完美世界、朗新集团、央视网、蓝凌科技等众多企业。例如,一汽红旗在百炼上调用通义千问和大模型分析才能打造了专属BI智能体,管理人员可随时让大模型生成销售额图表,并分析相关状况。