Enable javascript in your browser for better experience. Need to know to enable it? Go here.

对于任何深入技术领域并热衷于探索技术潜力的人,他们很容易忘记这样一个事实:即使开发初衷完全出于善意,技术也依然可能导致意想不到的后果。有时候,技术专家自身很难预测这些结果,而对于绝大多数不够了解相关影响因素的人而言,技术仍然是一个密封的“黑匣子”。即使在那些受技术影响最大的人群中,大多数人不了解如何创造技术,无法影响技术开发的过程,对技术的影响也所知甚少。

 

负责任的技术产生于对这种根本性失衡的反思,旨在使设计和开发过程更透明、更包容。为了打开这个黑匣子,我们在公司内部培养更为多样化的员工队伍,通过与外部社会组织携手,并整合来自非开发人员的观点来建立包容文化。通过这样的途径,我们期望能够最大限度减少伤害并确保非技术人员能够充分利用技术满足自身需求和成长。

 

听见被忽视的声音也可以让人们重新认识到技术对文化、社会以及商业的影响——这一成果体现在诸如 MigracodeThoughtworks Arts 等正在实施的项目计划,以及与 Mozilla 基金会不断深入的合作。其中,Thoughtworks Arts 成为了解边缘化群体如何看待技术,如何与技术互动的生态系统和渠道。我们不仅为了改变自己,也为了促使整个行业思考技术暗含的影响力以及技术对我们的或好或坏的影响。我们鼓励客户思考技术驱动转型过程中会涉及的道德问题,以此来实现我们的目标。同时,我们与志同道合的技术专家一同编撰了 负责任技术手册,分享和推广经验证的有效实践经验。



在负责任的技术的主题中,我们致力于解决影响最恶劣的技术遗留问题:即虚假信息/误导信息的迅速传播。我们与致力于解决该问题的组织展开合作,合作伙伴包括 Full FactTattle,前者是一家通过组建志愿者网络打击网络不良信息传播的信息核查公益机构。在我们的支持下,Tattle 档案馆的检索效率得到优化,而档案馆的内容也均经过核查,方便研究人员和媒体机构使用。我们的负责任技术方案会沿着既定的目标持续发展,即在技术领域创造更公平的未来,探索如何推广负责任技术理念的运用,以创造更有责任心的社会。

"如今,所有的企业都以技术为核心,我们的目标不仅是要将负责任技术的理念融入到技术开发标准中,还要将其融入到企业战略和企业文化中。日益数字化的世界也要求企业自身成为负责任技术的践行者。"
 
Rebecca Parsons 博士
Thoughtworks 首席技术官

审视和解决技术影响因素问题

 

技术的创造离不开专业的知识和资源。这也意味着技术通常是由拥有权力、影响力和财富的人创造的,设计的目的也是为了满足这一类人的需求。但与此同时,技术显然也能够连接传统意义上被边缘化或被排除在外的群体,并为他们赋能,帮助他们更好地理解技术固有的影响力。

 

我们深入参与了几项具有创新性与反思性的赋能计划,确保技术能够促进平等,而非成为将权力集中在少数人手中的工具。实现这一目标的途径之一,便是让持有不同观点的群体和不同专业领域的人参与到开发和创新过程中。目前我们正在通过 Thoughtworks Arts 实现这一目标——Thoughtworks Arts 是一项为期十年的计划,旨在促进Thoughtworks员工与艺术家之间的合作,以研究新兴技术对社会的影响。

 

在过去一年里,我们与外部的合作产生了一系列积极意义,这些合作不但突出了全球气候问题紧迫性,探索了人工智能系统如何促成或阻碍我们在理解身份和语言方面的问题,并鼓励人们重新思考隐私和监控与自身的关系。我们期望持续推进此类合作,通过合作促进人们对于技术如何塑造未来社会和文化的理解,并引导突破性认知的产生。

 

(在Thoughtworks Arts) " 开发人员正在学习具有创造性的表达方式,但他们也同样在学习这些技术涉及的道德内涵,这是他们不一定能够从工作中学到的东西。"
 
Nouf Aljowaysir
Thoughtworks Arts 常驻艺术家

Nouf Aljowaysir 的 سلف 项目(萨拉菲,即祖先)探讨了殖民主义世界观是如何通过人类世代传承进入到当代人工智能数据集的话题。开发团队展示了计算机视觉系统如何将以沙漠为背景的中东人肖像画错误标记为可能包含军国主义的内容。Aljowaysir 的艺术作品利用图像分割人工智能技术擦除历史肖像画中刻板的“东方”人物形象,只留下环境作为背景,象征着宗族记忆被消除的集体记忆。

 

A series of middle eastern desert portraits showing the central characters blanked out
A series of middle eastern desert portraits showing the central characters blanked out

James Coupe 的工作研究了存档资料在编撰殖民主义世界观相关索引时发挥的作用。“大英帝国的鸟”聚焦于英国的一个鸟园,这个鸟园从历史角度展示了英国殖民地的鸟类,并根据相应的地缘政治地位对它们加以分组描述。开发团队与 James 合作创建了一个用于检查历史文献、提取鸟类描述信息的多层级人工智能系统。利用该系统,最终生成了一个由虚构鸟类组成的合成鸟园。该项目突出了殖民主义在技术如何产生意义方面所起的作用,并探索了机器学习系统将看似固定的文化霸权分解为新的结构和可能性的潜力。

 

three birds created using AI, the birds appear to be looking in two directions at once with additional beaks and eyes - two of the images are brown birds with one being bright red in color
three birds created using AI, the birds appear to be looking in two directions at once with additional beaks and eyes - two of the images are brown birds with one being bright red in color

发展中国家所使用的绝大多数技术都是发达国家开发的,且都是按照发达国家终端用户的背景、需求和规范规划和设计的。这便会导致偏差和负面的社会影响,这也是我们目前与 Cuadrante Sur 等组织合作力图解决的问题。我们正在制定一项集体数字权利计划,即 Conectadxs 项目——凭借 Conectadxs 项目,非正式工作人员和平台工作人员得以参与到面向发展中国家用户的应用程序的开发过程中。这一实践突出了共同设计和共同创造的必要性:它们对于确保创新成果服务于全球更广泛社会阶层有重要意义。

数据可以精准地展现权力是如何被分配和并被使用的。在澳大利亚,我们与研究人员和社会活动家展开合作,以揭示能源等行业背后的复杂关联,并提供关于这些行业如何运作,由谁决策的相关背景信息。


同样,我们与总部位于瑞士的“Women at the Table”组织共同建立了一个基于人工智能模型的工具,该工具可以通过数据分析,衡量公开国际事件的真实多样性数据的是否符合标准。组织者可以通过该模型了解重要国际论坛上的发言人、具有影响力的人和领导者有着怎样的身份构成。这些项目在复杂的数据集中找寻有意义的内容,为社会活动家、企业领导人和其他相关方提供研究支持,从而为今后的行动提供依据,提高对女性和其他代表性不足的群体的包容性,并思考参与度和影响力层面的包容性问题,而不是局限于代表性不足等单一的多元性问题。

A montage of pages from the inside of the Responsible Tech playbook A montage of pages from the inside of the Responsible Tech playbook

负责任技术的具体化

负责任的技术的概念已经得到许多组织和技术专家的支持,但如何将这种概念付诸实践仍存在难点。Thoughtworks 已在该领域进行了一段时间的实践,并在这一过程中不断学习。我们认识到,负责任的技术不应当是一种附加措施或事后补救措施,而是企业审视自己设计和开发战略的方法,是企业与客户及其他利益相关者互动的基础。只有真正建立以负责任的技术为导向的企业文化,才能最大程度减少数字产品的意外后果,并针对竞品做出明智的战略决策。

要实现负责任的技术文化,企业就需要一系列明确定义的原则和治理模式。为此,我们于 2021 年 8 月发布了负责任技术手册。该手册免费提供,收集和总结了一些由 Thoughtworks 和相关组织成功测试的主要工具、方法和框架,各企业可以利用该手册整体评估、预测技术项目的道德价值和风险,并减轻此类风险。

 

该手册并未将重点放在僵化的规则或行为准则上,而是强调互动与工作坊,这些形式有助于促进开放式对话,并在开发早期获得关于偏见和负面影响等重要问题的多方观点。我们将携手业内同行,不断完善和扩充手册内容,使其成为企业确保其数字化工作始终符合道德标准的综合性参考资料。

 

在坚定遵循这些原则的同时,我们也认识到这些原则所带来的问题的复杂性。我们认为每个企业都需要明确属于自己的发展道路,以及面对创新技术带来的道德、社会和环境影响问题的解决举措。因此,我们在进一步将负责任的技术相关原则和实践纳入公司内部技术解决方案的同时,也在设计专用的工具、框架和产品来帮助我们的客户应对这一复杂问题。

 

虽然我们并不指望变革在一夜之间发生,但我们致力于通过有针对性的倡议活动来反思我们习以为常的事物,并使负责任技术被纳入并成为技术标准的一部分。

 

这也包括为残障人士和受神经多样性困扰的人采取的无障碍措施,围绕数据隐私和安全以及环境影响问题采取的措施。通过帮助我们的客户理解、发现并拆分这些影响因素,将其纳入其技术计划和战略中,我们便能通过为每个客户创建商业案例,证明负责任的技术方案的价值。我们希望通过验证这些标准,创造更易用的工具和技术来推动负责任技术的变革。

 

探索更多章节

序章: 可持续、团结一致和卓越服务

第一章: 负责任的技术和创新

第二章: 不止多元

第三章: 包容与社会正义

第四章: 可持续性和气候行动

第五章: 作为人权的医疗保健

 

第六章:教育

第七章: 诚信经营

负责任的技术手册