南非通信部长Solly Malatsi近日撤回了该国国家AI政策草案，此举引发了可以理解的尴尬。一份倡导合理AI治理和人类监督的官方政策草案中竟然出现了虚构的学术参考文献，这不仅极具讽刺意味，而且造成了实际损害。不过，除了头条新闻和不可避免的评论之外，这一事件提供了比愤怒更有价值的东西——一个教训。

我有相当一部分时间在人工智能与知识产权的交叉领域工作。有一个主题反复出现，有时悄无声息，有时则一鸣惊人。声誉是脆弱的，需要数年才能建立。AI可以迅速损害它，而一旦信任被动摇，恢复可能需要相当长的时间。在某些职业或行业中，可能永远无法完全恢复。

我们已经看到律师因提交包含虚构判例法或不存在的权威来源的文件而受到纪律处分。法院对此作出了严厉反应。专业机构也采取了同样的做法。客户的反应往往更快，因为他们依赖于完整性和监督的假设。因此，正如这一事件所表明的，这种风险并非理论上的。它已经在实践中上演，对品牌的损害——无论是律师个人还是其律所，抑或是某个组织或政府（如本案所示）——都是实实在在的。

这就是为什么这一时刻很重要。那个本应围绕AI建立信任的工具和机构，如今却成了治理方面的反面教材。这不仅仅是起草错误或技术疏忽，更是一个提醒：AI治理至关重要，必须做好。从这个意义上说，这是一个宝贵的教训。

治理不是要禁止AI

最简单地说，治理意味着知道AI何时被使用、谁审核了输出结果，以及最终决策是如何做出的。

大多数组织现在都以某种形式使用AI，政府也不例外。这是明智的。AI非常擅长生成结构、总结大量信息以及充当讨论的"回音板"。AI正以无数种方式和行业被整合到工作成果中。在实践中，最佳结果通常来自协作。AI加速工作，人类运用判断。

我自己的工作准则相当简单。不要外包人类的思维。让AI按需完成繁重的工作。让人类在工作成形时提供判断。然后，在任何东西离开办公室之前，让人类核实每一条参考文献、每一个引用和每一个假设。最终检查是保护可信度的环节，也是许多组织仍然低估风险的环节。

正如AI政策草案所示，借助AI生成的文件可能看起来精致且权威，但仍可能包含严重错误。

功过分明

迅速决定撤回政策草案是正确的。这表明了对问题的认识以及在事态进一步扩大之前采取行动的意愿。在治理背景下，速度至关重要。一份有缺陷的文件在外流通的时间越长，重建信心就越困难。

许多组织在类似情况下犹豫不决。他们希望问题会淡化，或者错误不会被注意到。经验表明，这种策略很少奏效。相比之下，撤回表明了对流程和依赖该流程的公众的尊重。

因此，尽管这一局面显然令人尴尬，但这一回应值得肯定。它保护了政策流程的完整性，并为妥善解决问题创造了空间。

下一版草案比第一版更重要

南非仍然需要一份可信的国家AI政策，而对清晰度的需求只会增长。企业需要合规指导。监管者需要一致性。公民需要得到新技术正被负责任管理的保证。这才是下一版草案将被评判的真正背景。

下一版政策不需要完美，但必须可信。这种可信度将来自三个可见要素。

第一，政策应明确扎根于南非的现实。我们的法律框架、基础设施限制和经济优先事项与欧洲、美国或亚洲不同。借鉴其他司法管辖区的想法是明智的，但全盘照搬很少奏效。

第二，起草过程应体现明确的人类监督。这不需要冗长的委员会名单或复杂的结构。它只意味着责任是可见的，问责是清晰的。当人们知道谁在背后负责时，他们会更愿意信任一个体系。

第三，也许最重要的是，政策应体现核实。来源应被仔细核查。证据应可追溯。假设应在现实条件下进行检验。这些步骤可能看起来很常规，但它们是建立公众信任的基础。

对我们所有人的更广泛教训

很容易将这一事件视为一个政府问题。这是一个轻松的结论，在某些圈子里也很受欢迎。但这也会偏离重点。

每个组织现在都在试验AI。每个专业人士都面临着更快工作、交付更多成果的压力。每个团队都在学习——通常是实时地——如何将新工具整合到现有工作流程中。出错的风险无处不在，不仅存在于政府部门。

这里发生的事情只是以一种非常公开的方式将问题摆到了台面上。可见性是有价值的。它迫使人们进行本可能被推迟的对话。它鼓励组织更仔细地审视自己的控制和流程。

从这个意义上说，这一事件发挥了有益的作用。它表明当治理落后于技术时，可信度会多快受到考验。它也提醒我们，即使在一个日益被自动化塑造的世界中，核实仍然是人类的责任。

南非现在有机会在更坚实的基础上重建这一政策。如果下一版草案反映了审慎的监督、严格的核实以及对本地现实的清晰理解，那么这个令人不适的时刻将发挥了建设性的作用。

这将是一个值得的结果，而且其意义远远超出了政府的范畴。

来源：https://www.adams.africa/darren-olivier/ai-draft-policy-withdrawal-an-uncomfortable-moment-but-a-useful-one/

本文原文为英文，中文为机器翻译，仅供参考，如有问题或建议，欢迎随时与我们联系。