AI创业新倾向：“大年夜模型路由”

除了少数几家公司外，大部分人工智能初创公司常日分为两大阵营。

第一类利用单一的大措辞模型（LLM），例如OpenAI的GPT-4，为其运用供应动力。
这些初创公司常日都筹集了数百万美元的风险投资，它们每每会追求最顶级、性能最高的模型。

目前商用LLM数量正不断增加，仅在Hugging Face 上就有至少30万种可供选择。
随着开源模型的激增，越来越多的公司开始利用另一类模型“大模型路由”，即将更大略的查询路由到更便宜、功能稍弱的模型上，帮助公司降落本钱，同时还能规避OpenAI的费率限定。

例如，帮助公司剖析客户对话和员工绩效的初创公司 Pathlight 就利用了来自OpenAI、Anthropic 和 Meta Platforms 等供应商的十几个LLM。
Pathlight的联合创始人兼首席实行官Alex Kvamme指出，为了弄傍友户取消条约的缘故原由，Pathlight 可能会利用更善于繁芜推理任务的GPT-4，而大略的总结要求则可以由开源模型来处理。

Pathlight和许多其他初创公司都开拓了自己的系统，根据客户要求的性子决定利用哪种模型。
而事实证明，也有新的初创公司在为其他人工智能初创公司自动实行这一模型分配过程。

据媒体周二宣布，一位风险投资者指出，最近一周内就有四五家初创公司向他们投递了类似的产品。

个中一家名为Martian的模型路由初创公司评估了各种 LLM处理相同查询的准确性、本钱和速率，从而决定哪种LLM最适宜哪种类型的要求。
Martian 指出，它将包括 GPT-4 在内的各种LLM“转换”为更大略的模型架构，以便更好地进行评估。

Martian联合创始人Yash Upadhyay去年毕业于宾夕法尼亚大学，得到打算机科学学士学位，他不愿透露其公司有多少付费客户，但他说公司每天要处理100多万个模型路由要求。
他说，Martian的一些客户可能对本钱比较敏感，而另一些客户则把速率看得比什么都主要。

这一领域的其他初创公司，如位于Autumn8，则帮忙企业对人工智能模型进行更广泛的评估，而不是帮助将客户要求实时路由到不同的模型。
这家拥有 10名员工的初创公司已经从家族办公室Sage Hill Investors筹集到了200万美元的资金。

Khosla Ventures合资人Kanu Gulati对此表示，如果模型选择和路由对人工智能初创企业来说变得至关主要，亚马逊云科技等云做事供应商或像Hugging Face这样的模型中央很可能会供应这些做事。
但这些云供应商常日也会发卖自己的LLM，因此初创公司可能会认为他们不能保持中立。

剖析指出，模型选择和路由初创公司的迅速崛起表明，创业者对人工智能公司的感知需求做出反应的速率有多快。
虽然尚不清楚模型路由初创公司是否会成为风险投资支持的企业，但它们的涌现是该行业一个充满希望的旗子暗记。
这意味着企业在人工智能模型的本钱上正努力做到更严密、更有本钱意识。

本文来自华尔街见闻，欢迎下载APP查看更多