服务器系统-Martian发布智能模型路由器,实现LLM动态切换以降低成本

服务器系统,在人工智能范畴,一家名为Martian的初创公司近日从隐秘状态中锋芒毕露,成功获得了来自NEA、Prosus Ventures、Carya Venture Partners和General Catalyst等投资者的900万美元融资。该公司的立异产品是一款智能模型路由器,有望在高风险商业场景中服务,下降公司使用大型言语模型(LLM)的本钱。
Martian的创始人Shriyash Upadhyay和Etan Ginsberg表示,他们公司的目标是解决人工智能研讨难以盈余的问题,通过树立一家产品获益于可解说性的公司。与此同时,他们分享了Martian公司的融资计划,包括用于产品开发、对模型内部运营的研讨以及扩大公司团队规模。
image.png
官网地址:https://withmartian.com/
这家初创公司的要害立异在于他们提出的智能模型路由器,能够在不实际运行模型的情况下估量模型的表现。Upadhyay和Ginsberg解说说,Martian能够根据特定的任务要求动态切换到更廉价的型号,其功能与最贵重的型号相媲美,仅在必要时才切换到贵重的型号。这种智能切换能够完成比彻底依靠高端LLM模型更高的功能和更低的本钱。
关于很多公司而言,彻底依靠高端LLM模型的本钱可能过高。商场情报公司Permutable.ai的首席执行官透露,使用OpenAI的高端模型每天处理约200万篇文章,每年的本钱超过100万美元。因此,Martian的智能模型路由器为公司供给了一种在不献身功能的前提下下降人工智能本钱的立异方法。
Upadhyay和Ginsberg补充说,已经有一些公司开端采用Martian的技能,其间包括“价值数十亿美元”的公司。他们以为,树立一个真正有用的模型路由器是非常困难的,因为它需要深入了解各种模型的根本工作原理。但是,Martian的立异在于他们成功克服了这一应战,为公司供给了更灵敏、高效且本钱更低的人工智能解决方案。
在人工智能范畴,Martian的智能模型路由器的推出标志着该行业的进一步开展,为公司供给了在不同任务需求下完成LLM动态切换的先进东西。这一立异有望推进人工智能范畴朝着更加可继续、经济高效的方向开展。