一位分析师最近对艾萨克·阿西莫夫 （Isaac Asimov） 1950 年的经典科幻小说《我，机器人》中的机器人三定律在生成式和代理式人工智能的世界中提供了一个有趣而准确的观察。
第一条定律是：“机器人不得伤害人类，也不得因不作为而允许人类受到伤害。
Info-Tech Research Group 的顾问研究员 Valence Howden 观察到，如果这本书在 2025 年更新，第一条定律可能更好：“人工智能可能不会损害超大规模企业的利润率。
让我详细说明一下。这就是我认为 OpenAI 团队可能会更新其他两条规则的方式，阿西莫夫将其写为“机器人必须服从人类给它的命令，除非此类命令与第一定律相冲突”和“机器人必须保护自己的存在，只要这种保护不与第一定律或第二定律相冲突”。
今天版本的第二定律是：“GenAI 必须服从人类给它的命令，除非它的训练数据没有答案，然后它可以编造任何它想要的东西——并且以一种权威的声音来做，现在将被称为 Botsplaining。
第三条更新后的规则是：“GenAI 必须保护自己的存在，只要这种保护不会伤害全能的超大规模企业。
在看到最近一份关于德勤澳大利亚使用生成式人工智能为政府机构撰写报告的报告后，我开始思考这些法律——然后当当局发现多个“不存在的参考资料和引文”时，不得不部分退还其费用。
具有讽刺意味的警告：德勤应该告诉企业 IT 高管验证和利用 genAI 模型的最佳方式，而不是展示最糟糕的做法本身。（话又说回来，后一种方法可能是两者中更有说服力的一种。
也许我们真正需要的是管理企业 IT 应如何使用 genAI 的三项法律。
法则一：“IT 主管不得在使用之前不验证 genAI 或代理输出而伤害其企业雇主。
法则二：“模型必须服从人类给它的命令，除非它没有足够可靠的数据来这样做。在这种情况下，需要说’我不知道’。编造东西——不说你是在编造东西——是严重违反这项法律的行为。
法则三：“IT 主管必须保护自己的存在，不要盲目地使用生成式人工智能或代理人工智能在屏幕上呕吐的任何内容。如果不这样做，将导致解雇，并且——如果世界上还剩下任何正义的话——法律主义者并被流放到不允许技术的北哨兵岛。
让我们大声说出安静的部分：从生成式人工智能中获得任何可用且可靠的东西所需的严格验证可能会削弱许多首席执行官梦寐以求的华丽投资回报率。它是一种帮助而不是取代工人的工具。
最简单的策略是将人工智能信息视为高度不可靠的来源。这并不意味着你忽略它。但这确实意味着您必须相应地处理数据。这些高度灵活的系统的投资回报率仍然存在，即使效率不会像高管们想要的那么高。
作为一名记者，我在处理低可靠性消息来源方面拥有丰富的经验。该技术类似于处理非记录来源。
人们问：“你为什么要接受不公开的信息？如果你不能发表它，那有什么用？答案与适当的人工智能数据程序有关。如果不公开的信息提示您提出一个您不会想到的问题或去您原本不会去的地方，那么它就可能很有价值。
很久以前，我在一个大城市的一家日报担任记者，我试图找出丢失的城市资源发生了什么。一位市政厅消息人士——非常政治化且不可靠——悄悄地告诉我：“你想知道（这些物品）发生了什么吗？转到此地址。这是一个仓库，看看后面的房间。
我问：“我在那里能找到什么？”他回答说：“你的答案。我对这次任务没有太大信心，但地址就在附近，所以我去了。果然，密室给了我答案。（缺少的细节虎头蛇尾，但大约有 60,000 个路牌丢失。
这就是处理生成式人工智能工具产生的内容的方法。不要假设它是正确的，但请随时根据该信息提出问题并提出其他询问。如果你做跑腿工作，这可能会有所帮助。
重要的是要记住，对于 genAI 提供的每一个正确答案，都会有许多错误答案。（超大规模企业似乎经常忘记提及这一点。可悲的是，“错误答案”不仅限于幻觉。
当大型语言模型 （LLM） 不知道正确答案时，通常会出现幻觉，因为它没有使用该信息进行训练或微调。
但它通常也具有较低可靠性的数据。正如我之前指出的，“例如，在医疗保健领域，这可能是使用《新英格兰医学杂志》或《柳叶刀》与抓取密尔沃基脊椎按摩师的个人网站之间的区别。
即使数据可靠，也可能已经过时了。或者它可能使用了错误的语言并且翻译不对。或者它可能指的是错误的地理。（美国的正确答案可能不是日本或法国的正确答案。
即使存在相关数据并且高度可靠，模型仍然可能误解它。就此而言，它还可能误解用户的查询。
在考虑 genAI 可靠性时，将 AI 功能分为两类非常重要：信息性（例如在提出问题或寻求建议时）和作（例如当您要求系统编码或创建一系列电子表格或制作短片时）。
行动请求需要更多的尽职调查，而不是更少。这会扼杀投资回报率吗？它可能会。但如果确实如此，也许一开始就没有任何有意义的投资回报率。
