负责任技术：重要考虑因素
合乎道德规范
随着技术越来越深地融入日常生活的方方面面，无论是有意伤害，还是无意伤害，都可能变得更加严重。例如，围绕生成式人工智能深远影响的争论持续不止，说明人们愈加重视技术解决方案的潜在后果（无论是虚假消息、碳排放过量还是排斥某些群体）。根据我们就消费者对生成式人工智能的需求所展开的研究，93% 的受访者表示，如果企业没有负责任和道德意识，就有可能产生有害影响。
企业必须准备让其技术实践接受更严格的审查，并思考其技术选择的道德影响（不仅是对最终用户的影响，也是对整个社会的影响）。
负责任技术可确保企业在研究技术方法时充分考虑所有利益相关者，并针对隐私、安全和可持续发展实施相应规范。
作为领导者，我们必须承认，我们往往难以准确预测技术选择的后果。技术的负面影响往往是无意为之，但其危害并不因此而减小。要践行负责任技术，我们就需要拓宽视野，利用新工具和新技术，助力企业完成负责任技术之旅，包括从安全软件到隐私第一设计。
负责任技术不仅仅要求要意识到我们的善意行为可能产生的结果，还要求我们全身心地投入到现在的工作中，不断重新审视我们正在保护的人员和事物，以及我们的保护方式，永不停止。
负责任技术不仅仅要求要意识到我们的善意行为可能产生的结果，还要求我们全身心地投入到现在的工作中，不断重新审视我们正在保护的人员和事物，以及我们的保护方式，永不停止。
预兆信号
- 定义负责任技术实践，提供相关教育的新资源， 如 Thoughtworks 和联合国携手编制的《负责任技术手册》 ，以及麻省理工学院（MIT）推出的《计算的社会和道德责任》课程（可通过 OpenCourseWare 平台获取）。
- 推出多项监管和政策举措，规定对技术采取更加深思熟虑的方法， 如美国《关于安全、可靠和可信地开发和使用人工智能的行政命令》 、印度的《2023 年数字个人数据保护法》 ，以及欧盟的《关于人工智能和相关影响评估的统一规定》 （简称《人工智能法案》）的提案。
- 以开发和推广可持续技术实践为重点的联盟应运而生。一个典型示例是绿色软件基金会，该组织针对低碳软件和方法研发了培训和代码，以计算技术相关排放量。
- 以负责任技术公司和解决方案为目标的投资基金应运而生， 如 Mozilla Ventures，该基金向从事隐私、数字权力下放和道德人工智能的早期初创公司提供 3500 万美元的资金支持。
- 推广负责任技术原则和资质的公司与日俱增，其中包括 IBM、普华永道（PwC）和 Salesforce 等巨头。
值得关注的趋势
战略性建议
采纳
-
去中心化身份（DiD）也称为身份自主权，是一种基于开放标准的身份架构，使用自主独立的数字 ID 和可验证的凭证来传输可信数据。虽然不依赖于区块链，但目前许多示例都是基于区块链以及其他形式的分布式账本技术和私钥 / 公钥加密技术进行部署，目的是保护在线交互的隐私和安全。
-
更精细的数据访问控制，如基于策略的访问控制（PBAC）或基于属性的访问控制（ABAC），在决定谁有权访问数据时，可以应用更多的情境元素。
分析
-
政府对人工智能的使用进行监管和指导，目的是确保负责任地使用人工智能系统并确保其后果，其中包括监测、合规性和良好实践。
-
将人工智能工具和技术与行为科学和管理科学相结合，目的是针对情景规划、运营研究等各种复杂问题，提高决策能力，扩大决策者的影响力。
-
基于人工智能的虚拟助手和非玩家角色，在元宇宙中再现人类交互。
-
通过设计用户界面和提示，帮助人们了解所做选择对环境的影响。例如，显示航班碳排放量的航空公司网站，或者显示驾驶特定路线的碳排放量的地图工具。
-
这种系统可对复杂分布式系统中的指标进行监控，并在发现问题时采取纠正措施，通常用于安全工作，但也越来越多地用于在停机状态后实现恢复和复原。
-
一套新兴技术，用于认证数据来源并管理整个企业的数据使用。 经证明，在跟踪和加强实现可持续发展目标的进展方面，该技术具有变革性意义。
预测
-
这是指针对（或使用）机器学习系统进行的攻击。攻击者可能会篡改训练数据，或者识别模型分类不佳的特定输入，从而故意制造出意外的结果。
-
能够识别、解释、处理、模拟和响应人类情感的系统和设备统称为“情感计算”。
-
使用光子的概率态，而不是二进制的 1 和 0 来运行算法。尽管量子计算已被证明可在特定问题领域中发挥作用，但它尚未扩展到广大应用领域。
-
一系列新工具和新技术，可支持将负责任技术纳入软件交付流程，主要侧重于积极吸纳代表性不足的观点；相关示例包括技术塔罗牌（Tarot Cards of Tech）、结果扫描（Consequence Scanning）和敏捷威胁建模（Agile Threat Modeling）。
-
一个封闭的经济体系，在这个体系中，原材料和产品不断被共享，从而尽可能减少其价值的损失。支持此理念的技术包括可重用服务、可追溯性、物联网和数据挖掘。
-
大多数服务条款（TOS）或最终用户许可协议（EULA）都包含难以理解的法律术语，没有法律背景的人很难理解。知情同意的目的是改变这种局面，使用简单易懂的条款，明确说明对客户数据的使用方式。
采纳
尚未形成趋势
分析
尚未形成趋势
预测
-
通用人工智能（AGI）具备完成一系列智能任务的广泛能力，经常与人类水平的智能相提并论。这与当今的“狭义”人工智能形成了鲜明对比，后者可能表现非常出色，但只能完成非常具体的任务。
-
一种数据架构形式，个人以去中心化方式控制自己的数据，允许采用按使用量计费的访问（例如 Solid POD）。
-
为应对技术或社会挑战而创建的密码学形式。例如，抗量子加密算法、使用专用硬件安全飞地（secure enclaves）的保密计算、同态加密（允许在数据加密的同时进行数据计算），以及节能密码学。
-
在量子计算引擎上调整和执行的机器学习算法，通常用于分析经典（非量子）数据。
机会
若在该视角上抢占先机，企业即可：
- 在技术导致的道德失范蔓延至公共领域时，防止在客户、人才和投资者当中的声誉受损。除了减轻危害，有效的负责任技术实践还能在吸引和留住客户及人才方面带来好处。例如，最近一项针对千禧一代和 Z 世代员工的调查发现，他们十分重视雇主在社区中的积极作用以及对客户数据的保护。
- 避免监管审查或制裁，例如苹果公司就面临监管审查或制裁，因为设定苹果信用卡（Apple Card）消费限额的算法存在明显偏差，引发苹果公司的人工智能使用实践遭到调查。
- 降低数据泄露或滥用的可能性。零售商塔吉特（Target）发生大规模客户数据失窃，最近 Meta 公司公然违反欧盟数据法规，这些案例都证明了这些事件所带来的惩罚性代价可能会持续数年。
- 创造积极的环保成果。利用 Thoughtworks 的开源云碳足迹（CCF）等工具，测量并降低计算和云使用的碳强度，为将技术融入企业的总体可持续发展战略和实现净零目标打开了大门。
我们的工作成果
与联合国携手编制《负责任技术手册》
根据《联合国秘书长的新技术战略》 ，联合国秘书处与 Thoughtworks 携手为提高新兴技术的包容性、透明度和减少偏见意识以及意外负面影响方面提供指导。与联合国工作人员进行了一系列访谈及研讨会之后，Thoughtworks 和联合国团队制定了一个框架和一套方法，目的是负责任地创建和管理技术系统和产品。
可行建议
需采取的行动（采纳）
- 将负责任技术实践作为一项跨职能要求。正如本视角的标题所述，道德方面的考虑对所有企业都至关重要。
- 结合相关技术和实践持续更新技术规划和流程，有助于列出所应用或开发的解决方案的更广泛影响。例如，让代表性不足的群体参与设计和测试，或模拟数据泄露，展示数据可能被滥用的情况，将这些技术融入每个流程。
- 针对人工智能的使用制定明确的准则和政策， 并确保这些准则和政策不仅传达给技术人员，也传达给企业的其他部门，因为这些部门中有更多人将在日常工作中尝试使用人工智能工具。
- 采用安全的软件交付实践， 例如将安全开发作为一项集体责任，编写简洁、透明和易于维护的代码，进行持续测试。
- 检查软件开发流程和工具，了解在哪些方面可以做出更具可持续性的决策。了解绿色软件工程技术的成本 /效益权衡。
- 做合格的消费者， 采取措施了解合作伙伴和供应商对负责任技术的立场，努力参与和支持企业致力于以合乎道德的方式使用技术。