趋势与发展

马来西亚的人工智能：治理、应用与前行之路

人工智能（AI）正在变革马来西亚的各行各业，为效率提升、自动化发展和经济增长带来了前所未有的机遇。预计到 2030 年，人工智能将为马来西亚的生产能力贡献 1150 亿美元。马来西亚首相安瓦尔·易卜拉欣强调：“若想确保新兴经济体取得成功、保持竞争力并实现可持续发展，就必须实现质的飞跃，而人工智能就是答案。”这一承诺体现在马来西亚 2025 年预算中，该预算为人工智能研发拨款 6 亿马来西亚林吉特，为扩大人工智能相关教育拨款 5000 万马来西亚林吉特，凸显了政府推动人工智能驱动未来的战略决心。

马来西亚的人工智能治理

目前，马来西亚没有专门针对机器学习和人工智能使用的法律法规。

国家人工智能治理与伦理指南

马来西亚科学、技术与创新部（MOSTI）发布了《国家人工智能治理与伦理指南》（以下简称“人工智能指南”），这是一项不具有法律约束力的框架，旨在为该领域提供指导。

人工智能指南的主要目标是促进各行业负责任且符合伦理的人工智能开发与部署，并支持《马来西亚国家人工智能路线图 2021 - 2025》的实施。该指南主要针对以下三类主要利益相关者：

• 人工智能终端用户；

• 政府、机构、组织和机构的政策制定者；

• 开发者、设计师、技术提供商和供应商。

作为一套自愿且非强制性的推荐做法，人工智能指南提出了七项核心原则（以下简称“指南的七项原则”），具体如下：

• 公平性：人工智能应避免偏见，确保结果公平。

• 可靠性、安全性与可控性：人工智能必须按预期运行，并在必要时允许人工干预。

• 隐私与安全：人工智能系统必须保护个人数据，防止数据滥用。

• 包容性：人工智能的设计应惠及不同人群，避免歧视。

• 透明性：人工智能的决策过程应可解释且易于理解。

• 问责制：人工智能的开发者和使用者必须对人工智能系统的结果负责。

• 追求人类利益与幸福：人工智能应增强人类福祉，为社会做出积极贡献。

这些原则与全球最佳实践保持一致，例如经济合作与发展组织（OECD）的人工智能原则和新加坡的《人工智能治理示范框架》。尽管人工智能指南是一个重大进步，但马来西亚的人工智能法律框架仍处于早期阶段。

国家人工智能办公室的成立

为应对马来西亚人工智能治理尚处于起步阶段的现状，政府于 2024 年 12 月 12 日成立了国家人工智能办公室（NAIO），负责制定人工智能政策、治理和投资战略。NAIO 的举措包括：

• 《2026 - 2030 年人工智能技术行动计划》；

• 《人工智能应用监管框架》；

• 《人工智能伦理准则》；

• 《公共部门人工智能应用指南》，该指南已开始在政府机构中推广人工智能的应用，包括向 44.5 万名公务员推出谷歌工作空间的 Gemini 套件。

尽管 NAIO 的成立标志着进展，但马来西亚的人工智能监管框架仍较为分散。例如，人工智能指南强调透明性，但马来西亚的《个人数据保护法 2010》（以下简称“MY PDPA”）尚未对自动化决策（ADM）进行监管——随着人工智能应用的增加，这一领域正变得越来越重要。相比之下，欧盟的《通用数据保护条例》（EU GDPR）赋予个人针对基于自动化决策（包括画像）的决定提出异议的权利，为马来西亚未来的监管方式树立了标杆。

马来西亚人工智能的应用：机遇与挑战

商业与经济影响

人工智能正在重塑马来西亚的商业格局，提升中小型企业（SMEs）的生产力，并增强大型企业的效率。据马来西亚数字经济公司（MDEC）称，140 家人工智能解决方案提供商已创造了 10 亿马来西亚林吉特的收入，彰显了马来西亚作为区域数字经济领导者的潜力。

然而，该国面临严重的人工智能人才短缺问题。2024 年亚马逊网络服务公司（AWS）的报告显示，尽管 90% 的马来西亚雇主将人工智能技能列为优先事项，但 81% 的雇主在招聘人工智能人才方面遇到困难。世界银行估计，马来西亚目前仅有 3000 名人工智能专业人士，而到 2030 年，需求预计将达到 3 万人。

为解决这一问题，公共与私营部门正加强人工智能教育合作。例如，微软的“人工智能助力马来西亚未来”（“AIForMYFuture”）计划旨在通过在线模块和实际操作研讨会，到 2025 年培训 80 万名马来西亚人。通过“AIForMYFuture”计划，微软将与政府、行业、教育和民间社会等利益相关者合作，在社会各层面培养人工智能技能。

除了提升生产力和经济增长外，人工智能还在变革关键行业。从金融、医疗到农业和智慧城市，人工智能正在推动各领域的创新，提高效率。

农业

马来西亚正在利用人工智能推动农业现代化，推出了全球首个由人工智能驱动的棕榈油厂。该厂利用预测分析、自动化和实时数据监测来提高生产力，同时减少环境影响和对外国劳工的依赖。

马来西亚是全球第二大棕榈油生产国，在全国油厂中推广这一技术可使对外国劳工的依赖减少多达 35%。

此外，开创性的数字平台 Rakan Tani 利用人工智能驱动的订单匹配功能，帮助农民在种植周期早期就确定买家。这有助于农民根据预测产量获得有竞争力的价格，提高可预测性和财务稳定性。

医疗与健康

人工智能正在变革马来西亚的医疗保健行业，特别是在早期疾病检测方面。马来西亚肺癌网络（LCNM）与阿斯利康马来西亚公司合作，成功诊断并治疗了马来西亚首例通过人工智能检测出的肺癌病例。这一里程碑建立在人工智能辅助筛查日益广泛使用的基础上，与传统方法相比，人工智能辅助筛查在检测肺部异常方面具有更高的准确性，从而实现更早、更有效的治疗。

同样，卫生部推出了“DR. MATA”，这是一种人工智能驱动的诊断工具，用于检测糖尿病视网膜病变——这是糖尿病患者失明的主要原因。这表明医疗保健行业热衷于向主动和预防性模式转变，旨在培养更健康、更明智的人口。

人工智能还在数字化改造公共健康诊所的运营，推出了基于云的数字管理系统（CCMS），提高了医疗保健服务的效率和可及性。聊天机器人和虚拟助手等人工智能工具也被部署，以帮助减轻医疗保健工作者的工作负担——这是马来西亚公共医疗保健系统长期面临的一个挑战。

智慧城市与交通

人工智能是马来西亚智慧城市框架的关键驱动力，该框架是国家层面指导地方政府规划和开发智慧城市的指南。政府将智慧城市视为未来城市规划、开发和管理的方式，利用技术解决公共服务效率低下、环境污染和交通拥堵等挑战。

人工智能应用的一个关键领域是交通管理。在吉隆坡，全市范围的闭路电视网络使人工智能平台能够统计车辆数量、按类型分类并识别车牌。这允许进行实时交通分析，提供有关道路负荷、高峰时段和交通模式的信息。基于这些数据，当局能够优化交通流量、规划基础设施并做出数据驱动的决策，以实现更智能的城市交通。

人工智能还在变革交通管理，陆路交通局（JPJ）计划使用人工智能驱动的系统来检测和预防交通违法行为。这些系统旨在简化违规报告的处理流程，加快响应时间并提高道路安全。

金融服务

在金融服务领域，人工智能在金融服务提供商（FSPs）中得到了广泛应用，特别是在欺诈检测方面。金融服务提供商正在将人工智能和机器学习应用于信用承保、反洗钱和欺诈检测、电子客户身份识别（e-KYC）、客户分析、交易、客户参与和技术风险管理。

2024 年 8 月，马来西亚中央银行与 PayNet 和其他金融机构合作，推出了国家欺诈门户（NFP），利用人工智能通过预测分析打击金融欺诈。该系统使金融机构和国家欺诈应对中心（NSRC）能够迅速识别、追踪和冻结可疑交易。结果，追踪被盗资金的时间从两小时缩短到了仅 30 分钟。

人工智能与个人数据

随着人工智能在决策过程中的日益集成，数据隐私、透明性和问责制等重要问题也随之浮现。人工智能系统，特别是使用自动化决策（ADM）的系统，依赖于大量个人数据来生成见解、评估风险并做出实时决策。然而，人工智能模型的复杂性（通常被称为“黑箱”问题）使得解释人工智能驱动决策的过程变得困难——这对数据保护和消费者权利构成了重大挑战。

自动化决策的监管

马来西亚监管格局中的一个关键问题是，《个人数据保护法 2010》（MY PDPA）目前并未对自动化决策（ADM）进行监管。这与欧盟的《通用数据保护条例》（EU GDPR）形成对比，后者赋予个人明确的权利，使其不受仅基于自动化处理（包括画像）的决策的约束，除非满足某些条件。

在没有马来西亚法律框架中类似保障措施的情况下，当人工智能系统用于确定信用评分、保险承保和就业筛选等领域的决策时，个人可能缺乏清晰性和申诉途径。例如，在银行业，人工智能被广泛应用于信用风险评估，申请人的贷款资格可能由人工智能算法决定，而无需人工干预。由于缺乏关于可解释性和监督的明确监管要求，消费者可能难以挑战影响其财务状况的决策。

人工智能中的透明性原则

认识到这些差距，马来西亚在加强人工智能治理方面迈出了初步步伐。人工智能指南倡导人工智能系统的透明性，其中指南的七项原则之一就是透明性。这一透明性原则认为，决策过程中使用的人工智能系统的能力应可解释，包括技术过程和相关的人类决策。

这种透明性水平使利益相关者能够评估与人工智能相关的任何感知风险，并解决任何相关问题。人工智能指南概述了促进透明决策应遵循的五个关键要素：

• 全面披露决策过程中是否使用了人工智能系统；

• 人工智能系统的预期用途；

• 训练数据（描述训练中使用的数据、数据中存在的历史和社会偏见以及用于验证数据质量的程序）；

• 人工智能系统的维护和评估；

• 挑战人工智能系统所做决策的能力。

未来画像与决策指南的引入

除了自愿的人工智能指南外，马来西亚政府还在朝着制定更具体的法规努力。预计即将推出的《画像与决策指南》是依据《个人数据保护法 2010》（MY PDPA）将推出的七项指南之一。数字部长已承认该领域明确规则的迫切需求，表明《画像与决策指南》可能会纳入人工智能特定条款，包括对自动化决策（ADM）的监管。最近，七项预期指南中的两项已经发布，即《数据泄露通知指南》和《数据保护官指南》。

随着马来西亚继续扩大其人工智能生态系统，制定健全的法律和伦理框架对于确保负责任的人工智能部署至关重要。未来的改革可能需要考虑对人工智能驱动的自动化决策（ADM）设定更严格的义务、增强消费者权利保护以及对金融、医疗和政府服务等高影响力行业制定行业特定法规。

人工智能与知识产权

人工智能生成内容的快速发展引发了关于人工智能与知识产权（IP）法交叉领域的复杂问题。随着人工智能系统在生成文本、图像、音乐甚至发明方面的能力日益增强，传统的知识产权框架（建立在人类作者身份和所有权概念之上）正受到挑战。例如，在传统版权中，作品的创作者通常拥有所有权。然而，在人工智能中，所有权界限变得模糊，人们会质疑作者身份是否应归属于设计人工智能系统的人类程序员、向人工智能提供输入或提示的个人，或者人工智能实体是否可以主张自主生成内容的版权。

随着人工智能技术的进步，它引发了关于传统知识产权法是否适用于人工智能生成作品的紧迫问题。在全球讨论中，一个备受关注的核心话题是，使用受版权保护的材料来训练人工智能模型是否构成对原始版权的侵犯。或者，还存在人工智能模型是否应被授予基于其训练数据生成新内容的权利的问题。世界各地已针对人工智能开发者提起多起高知名度诉讼，指控其模型在未经许可的情况下使用受版权保护的材料进行训练，导致可能违反版权和合理使用原则。

人工智能与版权法

在马来西亚，《版权法 1987》并未明确涉及人工智能生成的作品，这引发了关于数字时代所有权、原创性和侵权问题的关键疑问。根据现行法律，《版权法》第 10 条规定，对于作者（或在联合所有权情况下，任何作者）在作品创作时为“合格人员”的作品，版权存在。

《版权法》将“合格人员”定义为：

• 就个人而言，指马来西亚公民或永久居民；

• 就法人团体而言，指在马来西亚成立并根据马来西亚法律构成或获得法人资格的法人团体。

尽管这一关于人工智能所有权的观念在马来西亚法院中尚未得到检验，但现行法律框架表明，人工智能创作的作品可能无法在马来西亚获得版权保护，因为创作者（即人工智能）不属于《版权法》中“合格人员”的定义范围。

关于版权的另一个关键考虑是，一旦用户对人工智能生成的内容进行编辑并充分转化，该内容是否可作为独立创作获得版权保护。根据《版权法》第 7 条规定，如果（a）已付出足够努力使其具有原创性特征，且（b）已将其转化为物质形式，则该作品可受到保护。这引发了一个问题，即人类对人工智能生成内容的修改（通过大量编辑、创造性输入或重新制作）是否可满足这些要求，并在马来西亚版权法下被视为原创作品。

人工智能与专利法

同样，在专利领域，关于人工智能系统是否应被视为发明者的全球讨论仍在继续。虽然一些人认为人工智能创作的发明应可获得专利，但大多数专利法（包括马来西亚的《专利法 1983》）要求发明者必须是自然人，这反映了专利制度旨在激励人类创造力和创新，而非机器生成发现的根本原则。这一立场得到了美国、欧盟和澳大利亚专利局决定的强化，在这些地区，人工智能生成的发明因只有自然人才能持有专利权而被拒绝专利保护。

除了作者身份和所有权问题外，人工智能还在知识产权执法方面带来了挑战。人工智能驱动的内容生成和深度伪造技术的兴起使得追踪和防止未经授权的复制、模仿和假冒变得更加困难。例如，人工智能现在可以复制艺术家的风格、创作模仿知名艺术家的音乐，或生成与人类创作作品无法区分的合成媒体，这引发了关于如何调整知识产权法以规范人工智能驱动的创造力和防止滥用的担忧。

监管考虑因素与未来方向

认识到这些新兴挑战，以下是马来西亚在审查其知识产权框架以应对人工智能日益增长的影响时可能考虑的关键因素：

• 人工智能生成的作品是否应归属于开发者、用户还是人工智能系统本身？

• 马来西亚应如何平衡创新与版权保护，特别是对于在公开可用数据上训练人工智能模型的公司？

• 引入标签要求，以区分人工智能生成的作品与人类生成的作品。

• 采用人工智能驱动的检测工具，以识别和防止未经授权的内容复制和假冒。

鉴于人工智能和知识产权挑战的全球性，马来西亚在制定政策回应时可能会参考国际先例和区域合作。未来对版权和专利法的修订对于确保知识产权保护在人工智能驱动的创新时代保持相关性至关重要。

人工智能与伦理

虽然人工智能正在推动各行业的技术进步，但它也带来了必须谨慎管理的复杂伦理挑战。关键问题包括人工智能决策中的偏见、透明性、问责制以及在人工智能系统以最小人工监督运行时可能产生的意外后果。

一个主要的伦理问题是算法偏见，即人工智能系统可能由于训练数据中的偏见而无意中产生不公平或歧视性的结果。例如，人工智能驱动的招聘工具已被发现对某些人群不利，而自动信用评分系统如果校准不当，可能会不公平地限制金融准入。如果没有严格的监督，这些偏见可能会加剧现有的不平等，特别是在金融、就业和执法等领域。

透明性是另一个关键问题，特别是对于依赖深度学习模型的人工智能系统而言，这些模型可能难以解释。“黑箱”性质引发了人们对可解释性的担忧，特别是在人工智能用于贷款审批、医疗诊断或执法监控等高风险决策时。当用户无法理解或挑战人工智能驱动的决策时，这会削弱信任和问责制。

另一个关键挑战是问责制和责任。当人工智能系统出错或造成损害时，应由谁承担责任——开发者、用户还是人工智能本身？建立明确的法律和伦理责任对于确保受影响个人的公平性和申诉途径至关重要。

为了解决这些担忧，指南的七项原则及其关于负责任使用人工智能以促进人类进步而不损害伦理、公平或问责制的总体主题，是尝试在部署人工智能时将业务、政府和开发者引向优先考虑透明性、包容性和伦理决策的方向。

随着马来西亚继续将人工智能集成到公共服务和企业决策中，企业和监管机构必须确保建立伦理保障措施。在人工智能创新与伦理责任之间取得恰当平衡，对于建立公众信任并确保人工智能为社会做出积极贡献至关重要。

结论

人工智能正在变革马来西亚的经济、行业和治理，推动医疗、金融和智慧城市等领域的创新。政府通过大量人工智能相关投资、人工智能指南和国家人工智能办公室的成立，展示了其在全国范围内发展人工智能应用的坚定承诺。尽管马来西亚在人工智能治理方面取得了进展，但仍迫切需要建立全面的监管框架，以减轻人工智能可能造成的任何潜在危害。展望未来，我们可以期待国家人工智能办公室关键举措的推出，包括《2026 - 2030 年人工智能技术计划》，该计划将在未来几年中发挥关键作用，引领马来西亚的人工智能发展轨迹。

原文：https://practiceguides.chambers.com/practice-guides/artificial-intelligence-2025/malaysia/trends-and-developments

本文原文为英文，中文为机器翻译，仅供参考，如有问题或建议，欢迎随时与我们联系。