ISACA:数字信任生态系统框架(DTEF)测试版应用程序，以确保人工智能环境

ISACA的案例研究.

来自:
数据伦理与创新中心 和 英国科学、创新和技术部
发表
2023年12月12日
用例:
大数据分析, 数据驱动的分析, 自然语言处理和生成, 图像识别和视频处理, 机器学习, 深度学习, 虚拟代理或人工会话接口, 机器人过程自动化和决策管理, 机器人和自动驾驶汽车/系统
部门:
农业、林业和渔业(SIC代码A节), 采矿及采石业(SIC规则第B部分), 制造(SIC代码C组), 能源 & 公用设施(SIC规范第D部分 & E), 建筑(SIC规范第F部分), 零售业(SIC代码第G组), 运输 & 存储(SIC代码H组), 住宿及食物服务(SIC规则第I节), 数字 & 通讯(SIC代码第J组), 金融及保险(SIC Code K组), 房地产(SIC代码第L组), 专业、科学 & 专业活动(SIC代码M组), 行政 & 支援服务(SIC守则第N组), 公共管理 & 抗辩(SIC规则第O节), 教育(SIC守则第P组), 医疗保健 & 社会工作(SIC守则第Q组), 艺术、娱乐 & 康乐活动(SIC代码R组)
原则:
安全、可靠、稳健, 适当的透明度和可解释性, 问责制和治理
主要功能:
R&D, 产品和服务开发, 制造业, 服务操作, 供应链管理, 人力资源, 市场营销, 客户服务, 风险管理, 战略与澳门赌场官方下载财务
人工智能保障技术:
数据保证, 合规性审计, 风险评估, 影响评估, 影响评估, 偏见的审计
保证技术方法:
程序上的, 教育

Background & 描述

ISACA的数字信任生态系统框架(DTEF)为澳门赌场官方下载提供了一个整体框架，在整个组织中应用系统思维-一个领域的变化可以对另一个领域产生影响的概念. 像这样, 该框架包括六个领域:文化, 出现, 人为因素, 直接和监控, 体系结构, 启用和支持.

该框架适用于开发人工智能战略或实施人工智能工具的中高层管理人员和从业者, 他们正在寻求在人工智能中建立信任和可信赖性的技术指导.

该框架不是规定性的或狭隘的, 包括详细的实践, 活动, 结果, 控制, 执行者可以用来实现和评估的kpi和KRIs. 另外, 它与市场上许多现有框架保持一致，因此已经采用了ISO 27001或NIST CSF等框架的澳门赌场官方下载, 是否已经完成了DTEF中列出的许多任务.

这样的用例已经建立在框架的测试版上. ISACA预计在2024年初发布DTEF的Alpha版本.

有关的跨界别规管原则

安全,安全 & 鲁棒性

本框架鼓励人工智能采用者在整个实施过程中考虑风险和缓解措施. 例如, 它建议组织应该考虑他们希望实现的目标, 可能发生误用的地方, 以及该如何训练模型才能安全可靠地执行任务. 它还处理人类交互和结果验证的元素，以建立保证.

以下相互依存的领域应该被集体考虑, 出现, 人为因素, 直接和监控, 体系结构, 启用和支持.

适当的透明度 & Explainability

DTEF指导组织通过与用户沟通，确保人工智能的引入是可以理解的，以便他们了解它正在执行的功能. 应该清楚地认识到流程和服务组合中的AI参与者的角色，以避免误解.

这在本质上类似于GDPR对个人数据的要求, 在哪些情况下，机构必须对如何使用这些数据保持透明，并向数据主体清楚解释. 遵循DTEF的人工智能相关实施应该对所有利益相关者采用类似的方法. 选择, 建立, 维持数字关系需要各方的信心和透明度.

最相关的领域:文化、人为因素、指导和监督、支持和支持.

问责制 & 治理

治理是贯穿整个框架的一个关键主题，特别是当人们经常认为AI, 就其本质而言, 很容易“失控”. 该框架激励组织考虑和审查人工智能生命周期中涉及的所有利益相关者，并确保适当的控制措施到位, 以及相关的监测和更广泛的GRC功能.

最相关的领域:紧急情况，人为因素，直接和监测.

我们为什么采用这种方法

该框架旨在并可用于为一系列新兴技术系统建立保障，尤其与人工智能相关, 哪些可能会应用于组织的技术或安全部门之外，因此会产生跨部门和业务单位的影响.

这在很大程度上与英国人工智能白皮书中提出的基于原则的人工智能安全方法相似, ISACA的框架反映了人工智能系统的流动性，并鼓励组织从广泛的不同角度审查提案. 该框架的广度意味着组织可以评估技术性的安全问题, 实用, 和伦理, 以及管理和审查他们使用人工智能的商业和财务案例. DTEF鼓励组织重新审视其应用过程中产生的指标和产出, 并使用兼容的成熟度评估框架不断地审查他们的保证.

使用该技术对组织的好处

DTEF使组织能够从战略角度看待潜在的人工智能部署. 它鼓励考虑使用和部署人工智能的目标文化(因此有可能阐明文化抑制剂)。. 此外, 它有助于解决人工智能参与者的预期边界, 控制输入变量并定义控制，这些控制将支持用户体验，并最终支持组织确定运行的资源需求, 控制和管理人工智能系统.

使用该框架使组织能够全面考虑人工智能使用的商业和财务案例. 然后, 组织可以决定将人工智能嵌入其服务价值链是否合适. 这种公开的战略方法更有可能暴露风险，否则这些风险可能不会被单独的战术或技术团队识别，并且增加了实现预期收益的可能性.

该方法的局限性

而DTEF提供了一个基本的起点, 为了从这种方法中获得最大的价值，组织需要调整他们的具体活动, 对其特定业务和行业的结果和控制. 这种方法鼓励组织拥有适当的技能, 不仅仅是技术上的, 但也有风险, 安全, 业务变更管理和项目管理技能.

ISACA数字信任生态系统框架测试版

理解全数字信任生态系统

ISACA的数字信任使命

进一步的人工智能保障信息

2023年12月12日出版
内容