麻省理工学院研究人员宣布人工智能风险库

麻省理工学院的研究人员和其他组织已经创建了人工智能风险库，这是一个由人工智能系统复合的记录风险的广泛数据库。这是因为该技术正在快速发展，这也是与使用人工智能系统的风险相关的情况。

该知识库旨在协助政府、研究、企业和行业等各机构的决策者评估与人工智能相关的新兴风险，尽管它具有变革能力。

该存储库有序地记录了人工智能风险

由于一些组织和研究人员已经认识到解决人工智能风险的重要性，因此记录和分类这些风险的努力在很大程度上是笨拙的，导致分类系统相互冲突。

麻省理工学院FutureTech即将到来的博士后和项目负责人Peter Slattery告诉VentureBeat：“我们希望对人工智能风险有一个全面的概述，作为一个清单。”。

“但当我们查看文献时，我们发现现有的风险分类就像拼图游戏的一块：单独有趣和有用，但不完整。”Slattery。

人工智能风险库通过融合来自43个现有分类法的信息来解决上述挑战，包括同行评审的文章、预印本、会议论文和报告。

通过严格的管理过程，建立了一个包含700多种独家风险的数据库。该存储库利用了一个双管齐下的维度分类系统。

首先，根据其原因对风险进行分类，同时考虑到责任实体（人类或人工智能）、意图（无意或国际）和时间（开发后或部署前）。

根据麻省理工学院的说法，这种潜在的分类有助于理解人工智能风险可能出现的情况和机制。

麻省理工学院的研究人员将人工智能风险分为七类

另一方面，风险分为七个不同的领域，包括错误信息和恶意行为者、滥用、歧视和毒性、隐私和安全。

人工智能风险库是一个有预谋的活数据库，是公开的，机构可以下载供其使用。

研究团队可以计划经常更新数据库，以了解新的风险、最新发现和不断变化的趋势。

人工智能风险库也旨在成为各行业企业的实用资源。对于开发人工智能系统的机构来说，该存储库是评估风险和减轻风险的宝贵清单。

麻省理工学院的研究人员表示：“使用人工智能的组织可能会受益于将人工智能风险数据库和分类法作为全面评估其风险暴露和管理的有用基础。”。

研究人员补充道：“分类法也可能有助于识别需要执行以减轻特定风险的特定行为。”。

例如，一个正在建立人工智能招聘系统的组织可以利用该存储库来记录与歧视和偏见相关的潜在风险。

因此，利用人工智能进行内容审核的公司可以利用“错误信息”领域来了解与人工智能生成的内容相关的潜在风险，并建立必要的安全网。

麻省理工学院的研究人员与昆士兰大学、生命未来研究所、鲁汶大学和人工智能初创公司Harmony Intelligence的同事合作，搜索学术数据库并检索与人工智能风险相关的文件。

研究人员还透露，人工智能风险库将为其他研究提供信息，因为他们发现了更多需要关注的差距。

麻省理工学院未来技术实验室负责人尼尔·汤普森说：“我们将使用这个存储库来识别组织在如何应对风险方面的潜在差距或不平衡。”。