一项古老的技术可能有助于解决人工智能创建文本的最大问题——欺诈。

隐藏水印能否帮助检测AI编写的文本

AI(人工智能)编写的文本可能有用，但也很容易被不良行为者利用。例如，伪造的、错误归因的政治文本和学校作弊。检测计算机编写的文本很困难。即使是构建Dall-E 和 ChatGPT 的公司 OpenAI，也只能在 26% 的时间内识别 AI 编写的文本，这就是水印的用武之地。

“在我看来，AI 生成文本的最大危险是它可能被不法分子滥用或利用。水印有助于降低发生这种情况的风险，因为它可以更容易地追踪任何来源发短信并在必要时采取适当的行动，” AI 助理公司 GetGenie 的首席执行官Ataur Ra ​​hman 通过电子邮件告诉 Lifewire。

高水位线

与图像水印不同，图像水印设计得非常明显，并且会羞辱任何试图在未经许可的情况下使用图像的人，而 AI 文本水印使用编码到文本本身中的隐藏模式。这些不会被人类读者注意到，但可以被软件检测到。

它使用一种算法来改变人工智能做出的选择。像 ChatGPT 这样的机器人通过一次创建一个单词的文本来工作。水印器维护两个单词的列表，一个绿色列表和一个红色列表。每当聊天机器人选择下一个词时，它就更有可能从绿名单中选择一个。例如，如果下一个词是一种狗，它会选择绿名单品种而不是红名单品种。

要检测文本是否由 AI 生成，您只需通过计算绿色与红色单词数量的软件运行它。该技术对较长的文本更有效，理论上可以内置到网络浏览器扩展中，以自动突出显示 AI 生成的文本。

“虽然我喜欢给 AI 生成的文本加水印的想法，但我认为它可能很难实施。如果这个概念真正有效，水印必须适用于从网站到 word 文档的所有内容，” Ashton Frye，创始人人工智能文本工具公司TypeDroid通过电子邮件告诉 Lifewire。

这段文字是人工智能写的吗?

根据创建者的说法， 该工具非常有效，但这并不能使其万无一失。例如，如果您有权访问单词列表，则可以通过编程方式更改它们。如果你想手动调整它以避免被发现，就像使用人工智能在大学作业中作弊一样，那么你可以做到。尽管这可能需要和一开始写论文一样多的工作。与麻省理工学院技术评论的 Melissa Heikkilä 交谈时，参与该项目的合作研究人员之一汤姆戈德斯坦说，为了去除水印，你必须更改大约一半的单词。

真正的挑战是，要有效，所有 AI 文本生成器都必须实施此工具。即使他们都同意将其添加到他们的模型中，也总是有可能创建另一个不符合要求的 AI 文本生成器。

这在侵犯版权方面尤为重要，因为用户可能希望避免被发现。

“虽然书面和视觉内容被认为是‘生成的’，但事实是它完全是现有材料的‘衍生’。当涉及到人工智能创建的文本时，最有价值的材料是数据，”股票首席执行官TJ Leonard图片、音频和文本公司Storyblocks通过电子邮件告诉 Lifewire。

人工智能革命已经在进行中，似乎要在其最坏的方面进行统治已经为时已晚。未来的实施可能会受到更好的监管，但已经有开源图像生成模型在野外免费(且易于)使用，并且已经纳入手机应用程序。

对于用户来说，事情可能不会变得更混乱。我们无法判断它是 AI 编写的文本还是平淡无奇的文本。与此同时，我们将开始在我们已经使用的软件中看到 AI 文本工具，提供编写报告和自动化其他繁琐工作任务的功能。

与任何技术一样，它是一种可用于善恶的工具。但到目前为止，就人工智能而言，这种天平仍然严重偏向邪恶。