ServiceTitan将微软和OpenAI的LLM列为风险因素

每份 IPO S-1 招股说明书中都有一节列出了各种风险因素，说明为什么股票可能不值得购买。 其中许多都是模板式的警告、对财务业绩的警示或战争和自然行为。 但有些警告对公司来说更为具体：本周一，云服务初创公司 ServiceTitan 向美国证券交易委员会（SEC）提交了公开 IPO 文件，我们可能正在见证一个新的模板警告的诞生：有助于业务增长的大型语言模型（LLM）也可能导致损害。

ServiceTitan 编列了长达 1150 字的风险因素，说明其对人工智能（特别是生成式人工智能）的使用可能会对其业务产生不利影响。 它警告说，LLM 的幻觉行为可能会产生"不准确"的信息，并从事"歧视性"行为；它的 LLM 可能会侵犯他人的版权或知识产权；使用 LLM 意味着将更多数据暴露在潜在的黑客攻击和伤害之下。 如果无法获得足够的数据，它可能无法继续提供人工智能产品或构建新产品。 此外，该公司还警告说，其员工或承包商可能会错误地将客户的私人数据与第三方系统共享，从而导致安全漏洞，或利用这些数据来训练他们的模型；

ServiceTitan 警告说，它对人工智能的使用有朝一日可能会触犯社会和道德问题。 或者说，未来的法规可能会让它付出代价。

ServiceTitan 还担心，它可能无法聘请到产品所需的人工智能专家，即使能聘请到，人才的价格也会很高。 ServiceTitan 警告说，它的人工智能产品依赖于它无法控制的第三方服务，并特别提到了微软和 OpenAI。 因此，如果这些服务不可用或出现问题，也是一种风险。

这些警告很有意思，因为 ServiceTitan 所处的行业正是 GenAI（特别是 LLM 驱动的人工智能代理）有望占据主导地位的行业。 ServiceTitan 为现场服务行业的企业（主要是小型企业，如建筑承包商、暖通空调专业人员、园艺师等）提供软件。 其软件具有营销、客户关系管理、客户支持和会计等功能。 (ServiceTitan拒绝进一步置评）。

目前，人工智能代理正在向销售、营销和客户关系管理等领域狂飙突进，客户关系管理市场之王、Salesforce 首席执行官马克-贝尼奥夫（Marc Benioff）表示，仅他的公司就可能在一年内拥有十亿人工智能代理在 Salesforce 的客户公司工作。

至少从 2023 年起，ServiceTitan 就开始提供人工智能驱动的服务，名为 Titan Intelligence。 10月份，它还推出了一套用于销售、客户服务和呼叫中心的人工智能代理。

但是，LLM被设计来研究文字、图像和数据，并创造他们自己的版本。 也就是说，它们被设计用来编造东西。 OpenAI 的科学家们正忙于向通用智能迈进--更好地模仿人类的推理能力--这意味着他们正在研究人工智能，希望它能更具创造力。

当然，随着越来越多的公司专门从事可靠性而非创造性至关重要的代理业务，用于商业用途的 LLM 可靠性问题应该会逐渐得到解决。 但值得注意的是，如今那些销售人工智能机器人的公司实际上是在用法律术语大声说"安静"： 在目前的早期阶段，人工智能的应用可能会带来和解决同样多的问题。