Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

设计与决策

感谢你看到这里!或许你现在已经迫不及待的想深入实现的细节了,不过,在那之前,让我们先说明一些高层的设计决策,以便您在阅读代码库时能更好的理解我们做出的一些选择。

目标用户与设备

SoulMem针对一般大众和消费级设备。我们希望每个人都能拥有属于自己的一只小小赛博生命,就住在自己常用的电脑里,不需要为之破费昂贵的硬件。

当然,出于算力限制,消费级设备大多难以部署大模型并拥有相对充裕的上下文,在需要使用大模型的场合我们会优先考虑api调用的支持。同样,我们也不希望用户花费太多在llm api调用上(这也会带来实时性问题),因此我们在进行开发时,通常极力避免调用llm。

自部署

你可能已经注意到现在市面上有很多有关数字生命,情感陪伴的项目,最深入人心的大概是各类猫娘。他们有些是以服务的形式提供给你,你需要注册一个账号,有些是运行在你的电脑上,你需要自行部署。SoulMem采用了自行部署的策略,主要是考虑到以下优点:

  • 数据隐私:赛博生命是陪伴型的,有大量的个人隐私数据会在交互过程中产生。
  • 地区政策无关:部分地区会对情感陪伴类的ai服务和应用加以监管和限制,甚至可能意外中断服务
  • 灵活性:所有的组件都可以按你的意愿任意的定制化。

当然,自部署对于一般大众而言引入了一些门槛,我们将采取编写一个GUI启动器来缓解这个问题。

组件化

正如上文所说,目前已经有相当数量的同类项目。每个项目都会有一些相当棒的部分,作为用户,我们通常希望将他们组合起来。而作为开发者,重复造不必要的轮子会引入额外的开发与维护成本。

因此,虽然SoulMem的核心团队致力于开发一个功能完整的赛博生命(本团队暂时称呼为Soul计划),我们选择将其拆成一个个可以被独立替换的组件。你可以将SoulMem接入到其他赛博生命中,也可以在后续替换SoulMem来接入我们的系统。


下面,让我们开始深入相关的技术细节吧。