PriLLM: 为LLM服务实时定价的 Stackelberg Game 建模 【School of CS and Eng，Southeast University】

#NashEquilibrium #routing #ProfitCurve #KKT #MPEC

PriLLM是一个为LLM服务商设计的实时定价模型。作为一个经济模型，PriLLM有一个比较宏大的世界观，不但包含Nash Equilibrium的推演，更有对 profit curve 的智能简化功能。当服务商定好价格，用户根据自己的偏好决定购买量，模型把这个过程对比实际数据调整参数。根据新的市场态势（是个NE），服务商对友商进行排序，并虚拟所有尾部友商为一整体，用这个简化的市场模型快速给出价格。而后台会进一步对比简化前后的模型，打磨参数。从数学角度上讲，这个模型的很多部分都是NP-hard的MPEC问题。

这个模型的底层逻辑是一个Stackelberg routing game ： leader是服务商，先定下价格；follower是用户，把消费值分配给市场上多个服务商。很直观性的，用户会通过决定在不同APP上的消费fij来最小化自己的cost，包括的因素有p价格，d延迟，b品牌价值，还有Q也就是服务商当前订单量比上他的服务上限α。本文的每个“用户”实际上都是按照APP使用偏好集合出的群体，另外作者还简单证明了所有的 cost functions 集合在一起可以求出一个 Nash Equilibrium，把这个解叫做F*。而服务商在定价的时候，Qj=ifij/αj，然后他最大化他的盈利。把这个底层设定总结成公式就是：

PriLLM在计算用户端 Nash Equilibrium 时会和真实市场数据拟合。这一步就是最小化模型求出的F*和实际数据间的距离。而在求导NE时，作者们用了与 (1)&(2) 同解的 potential function ，包含带有用户偏好因素的ΦFixedF以及和拥塞有关的ΦCongestionF。这里的解F*符合 Karush-Kuhn-Tucker (KKT) conditions 。具体Φ的公式如下：

而在商家定价这个环节，作者们把友商信息简化出一个集成度更高的模型，定价时只用这个简化的模型；然后后台会进行一系列拟合去更新 profit curve 。这里用到了 deep aggregation network ；简略地给当前每个友商打个分，再把排到第K位和之后的友商放在一起看作是一整个友商。每个友商表示成一个矢量，并根据这些数据给出总和性与平均性的打分；而对于本商家s，则是估算他的 profit curve。根据模型参数算出不同价位的利润值预期，再把用整个模型和简化模型得到的两条 profit curves 进行拟合，以减小这个简化过程的失真性。

在试验数据中，PriLLM展现出了在数据量较少情况下的学习能力。而模型对b参数和Q参数的利用也明显提升了预测准确性。Profit curve 的简化功能提升了模型效率。在 K=1 时模型已经可以模拟出90%以上的利润，而当K>2时运算时间还是成倍增长；而作者也提到多市场参与者前提是他们下一步的一个方向。