隐私保护下的AI推理应用

威廉·霍巴特《格雷厄姆的孩子》1742

在先前的分享中，我们探讨了dphn.ai项目。

与该项目紧密相关，并且最近在Base生态中引起热议的还有另一个项目venice.ai，同样受到了市场的关注。

该项目在Base平台发布时，我也对其产生了关注，主要因为两个因素：

首先，各大媒体广泛报道了其团队的显赫背景；

其次，项目在发行时对Virtual生态的用户进行了大量空投。

但该项目最核心的部分：它究竟是做什么的，当时我并未有深刻印象。

更准确地说，以我当时对AI的理解，即使阅读了项目介绍，也难以完全理解其商业模式。

但随着这两年AI的迅猛发展，以及各种渠道对AI知识的普及，现在再看这个项目，对其商业模式就比较清晰了。

我们使用大模型通常需要两个步骤：

第一，是对大模型进行训练，使其具备“智能”。这一步是OpenAI、Anthropic等公司实验室的工作。这与普通用户无关，用户不会接触这一步。

第二，用户实际使用大模型时，直接与大模型交互，如提问、发送请求等。大模型接收我们的提问和请求后，会进行处理，给出答案，这个过程称为大模型的推理。

Venice的作用是作为中介，将我们的请求转发给大模型，让其帮助处理提问和请求，然后将大模型的回复转发给我们。

Venice就是推理中介。

有读者会问：

为何我们需要一个中介来转发请求，而不是直接发送请求给大模型？

正如我在前文中所写的那个让我非常不安的亲身经历：

当我和某个大模型交流过一段时间后，它竟然猜出了我从未直接告诉过它的其他信息。

为什么会这样？

因为大模型很可能根据我的登录信息、关联邮箱、各种问题的关联结构猜出我的隐私信息。

因此，只要我们直接与大模型交流，目前市面上所有大模型工具都可能存在这个隐私泄露的风险。

Venice要解决的就是这个问题：

我们把提问/请求先发给它，它用零知识证明的方法抹掉我们提问/请求中可能潜藏的个人信息，然后再把经过处理的提问/请求发给Venice。

这样大模型就无法把我们的提问/请求和个人信息关联从而窥探我们的个人隐私了。

此外，它还有另一个作用：

我们知道美国的两大模型对中国大陆用户是严格封禁的。但通过Venice，大陆用户可以绕过那个封禁。

这个项目近一年来的用户增长和收入增长都比较猛，所以近期引发了加密生态中不少人的关注。

据最新数据估算，它的年化收入（revenue）达到了4800万美元，纯利润（net profit）大概在600万~1300万美元之间。

它代币现在的全流通市值是11亿美元。

以上是它比较粗糙的财务信息。

该项目，我觉得有意思的地方主要有两点：

一是从项目创始人的各种发言中，可以感觉其对隐私安全的追求有一种近乎宗教般的虔诚信仰。

二是这个新兴的AI + Crypto项目竟然现在已经做到了4800万美元的年化收入，纯利润保守估计也有将近600万美元。这可是实打实的由真实用户需求催生的现金流收入。

但项目的问题也很明显：

一是项目的一个重要看点“零知识证明”技术的应用并没有特别高的门槛。我很怀疑如果它继续做大，必然会引发一众竞争对手的入侵。

在这种情况下它的护城河在哪里？

先发优势能够成为它的护城河吗？

二是这个项目使用加密资产的一个重要环节是让用户使用加密资产支付推理请求。这很好地保护了用户的隐私。但除此以外，还能不能把加密资产的使用范围扩大，进一步让隐私的特性更突出呢？

否则单凭这个特性很难构成长期的护城河和独有的特性。

三是我好奇如果这个工具被广泛地用来蒸馏，这个项目会不会有一天也被美国的几个大模型封禁？

如果那样的化，这个工具的性能和效果会大打折扣。

届时它的优势怎么维持？效果还能持续吗？

和昨天介绍的dphn一样，尽管我对Venice也有不少待解决的疑惑，但它们至少算是AI + Crypto这个赛道中已经凭借走得通的商业模式和真实用户的付费开辟了加密资产的真实用途和落地场景。

这是很值得继续观察的。