数据伦理与数学家——数学共同体有关数据科学伦理的思考

坚持不炒作的数学与AI报道，投稿信箱zzllrr@gmail.com

数据伦理与数学家

《SIAM新闻》第59卷第08期｜2026年10月数学伦理专题

日期：2026‑10‑1

作者：梅森·A·波特（Mason A. Porter）

北欧理论物理研究所（Nordita）、瑞典皇家理工学院、斯德哥尔摩大学、乌普萨拉大学教授；斯德哥尔摩大学数学系复杂系统方向教授；美国圣菲研究所客座教授。

别说他虚伪，

不如说他没有政治立场。

“火箭一经升空，谁管它落向何方？

这不归我管！”沃纳·冯·布劳恩如是说。

——汤姆·莱勒Tom Lehrer《沃纳·冯·布劳恩》Wernher von Braun，1975年

我近期撰写了《复杂社会系统的数学与计算方法》书中一章，探讨面向数学与数学研究者的数据伦理问题。本文大量取材自该章节；而这一章节的内容，则源自我在2021年美国数学会（AMS）短期课程 https://jointmathematicsmeetings.org/meetings/national/jmm2021/2247_shortcourse ——《复杂社会系统的数学与计算方法》上所作报告 https://www.youtube.com/watch?v=_6NNEglFSWA 。和这篇文章一样，我的章节也是以讽刺作家、数学家汤姆·莱勒（Tom Lehrer）的上述歌词开篇。这段歌词尖锐地道出了我希望大家思考的问题。

数据伦理与数学共同体

数学、统计学与计算科学和人类社会深度交织。许多取得数学科学本科、研究生学位的学生会成为数据科学家，或是在工作中大量处理人类及其他敏感数据。

因此，数据伦理必须成为其职业生活的核心组成部分。作为数学教育工作者，我们有责任引导他们，让他们能够带着反思、智慧与谦卑，去应对相关伦理挑战。更广泛地讲，保持伦理层面的审慎思考十分重要。

数学教育与数学研究都并非发生在真空环境，但在数学科学的教学传统当中，很少讨论数据伦理以及其他伦理议题。我们选择教什么、选择不教什么，会直接影响学生运用所学知识的方式。

因此，数学科研人员（以及其他从业者）需要在整个职业生涯中认真思考、直面伦理问题。关于数据伦理以及其他数字伦理的更多资料可参阅文献[5][11]；我的书稿章节[7]中整理了大量其他参考资源。

我们必须把数据伦理纳入数学、统计、计算科学的核心课程体系。如今数学科研人员越来越多地在研究中使用社会、动物以及人类数据（包含具有潜在敏感性的个人数据）。

数学共同体必须审慎思考：什么情况下可以使用这类数据，什么情况下不该使用；同时需要建立系统化训练，帮助科研人员处理这类难题。

社会科学、医学等其他学科，对伦理问题的思考远比绝大多数数学家更加充分。数学界可以充分借鉴这些领域发展出来的实践规范。这些规范很多诞生于存在伦理缺陷的研究事件之后，伦理准则在人们吸取过往教训的过程中不断演进。

现在已经出现面向数学实践的伦理准则[10]以及配套教学材料[12]。另一份很有价值的参考是美国计算机协会（ACM）的《伦理与职业行为准则》https://www.acm.org/code-of-ethics [1]。

开设数据伦理相关课程

许多不同院系已经开设探讨数据伦理、数据社会影响的课程。科罗拉多大学博尔德分校的凯西·菲斯勒（Casey Fiesler）收集整理了大量这类课程的教学大纲。数据伦理和每一个人息息相关。我认为所有本科专业都应当开设数据伦理必修课。而对于未来将成为数据科学家、需要处理人类及敏感数据的学生而言，这类课程尤其关键。

加州大学洛杉矶分校（UCLA）的数据理论本科专业，所有学生必修一门课程：《数据带来的社会影响》（STATS 184） https://cfiesler.medium.com/tech-ethics-curricula-a-collection-of-syllabi-3eedfb76be18 。这门课由UCLA统计与数据科学系的马克·汉德科克（Mark Handcock）设计，从伦理视角覆盖隐私、算法偏见等诸多主题。UCLA课程目录对这门课描述如下：

探讨当下采集的数据对个体与社会带来的各类影响。数据采集的规模与类型快速扩张，以全新方式重塑商业与社会。研讨数据带来的经济、社会、伦理、法律、政治层面的影响，尤其是针对人类行为采集的数据。主题包含隐私与数据保护、知识产权与保密原则、样本选取与算法、平等与反歧视。

STATS 184近期授课采用文献[3][5]的书籍，搭配多篇研究论文作为教学素材。计算机、社会学等领域已经产出大量围绕数据伦理的研究。我的书稿章节[7]梳理了算法各类偏见、数据隐私与个性化、人工智能伦理准则等方向的研究与新闻报道。

研究可复现性、开放科学，以及隐私‑开放科学之间的张力

大家熟知的研究可复现性、开放科学议题，与数据伦理深度关联。有几个关键点值得思考：

开放数据与个人隐私之间会存在巨大矛盾。

论文配套的数据、代码等材料，可能会受到服务条款、保密协议约束。

如果无法把全部配套数据（算法、方法等）对外公开，你的研究能做到多大程度的可复现？存在程度更弱的复现概念：其他人在相似但不完全等同的条件下，是否可以观测到相近现象。

举例：社交媒体人类行为研究，部分现象在Facebook、TikTok上表现高度近似，也有部分现象仅存在于其中某一个平台。

你是否愿意和企业、政府机构开展合作研究？有些合作方你可以接受，另一些合作方或者他们的数据你不愿接触。如果你为这类机构工作、和他们合作，哪些内容允许公开发表或者线上发布？

科学研究的可复现至关重要；想要产出可复现、可靠的计算科学研究，现有实践亟待改进[4]。

学术著作中，必须把分析、实现、数据清洗的全部细节交代清楚，这既是科学层面，也是伦理层面的要求。同时应当公开源代码与数据。另外，需要细致阐述数据匿名化、清洗、采样、转换每一步操作。知识的共享与可复用，是科学与数学的内核。

因此，科研人员有职业义务以可用的形式公开研究成果，包含代码与数据。不给读者提供这些材料，相当于只发表定理陈述，却不附上证明，或是给出定理却禁止他人使用。发布开源易用的代码，既方便论文读者，也有利于方法、结果得到公允评价。

还需要完整标注全部数据来源，写明数据获取途径，说明他人如何获取（如果无法公开，也要说明障碍）。同时应当考虑作品后续可以使用的许可协议，例如各类知识共享（Creative Commons）许可。

但是现实中有不少难题会让上述美好理想难以落地，我们必须审慎处理。例如，出于隐私、保密协议，数据不能公开发布；即便法律允许发布，出于隐私考量，研究者也可以选择不公开部分数据。

发布合成模型输出结果，风险低于发布即便是经过处理的真实世界数据。处理这类伦理困境，可以借鉴差分隐私的思路，保护个体数据隐私。

另一现实矛盾：公开可用的代码、数据需要投入大量时间精力，但项目核心参与者（学生、青年科研人员）可能已经转向别的工作，最适合完成该工作的人已经不在。遇到这种情况应当如何处理？

同时要思考：什么样才算真正“匿名”的数据？是否存在完全匿名化？社会学家马修·萨尔加尼克（Matthew Salganik）在文献[9]举过这样一个场景：

假设我们拿到一份医疗记录数据集，包含姓名、家庭住址、邮编、出生日期、性别、族裔、就诊日期、诊断结果、医疗操作、开具药物。我们删掉所有人的姓名和家庭住址，完成所谓的“匿名化”。

但如果我们再拿到一份投票记录数据集，里面包含姓名、住址、党派、选民登记日期、邮编、出生日期、性别。两份数据集共享邮编、出生日期、性别字段。把两份数据集做关联匹配，就可以完成大量个体的去匿名化，还原出真实身份。

人工智能与大语言模型

大语言模型与其他生成式AI工具快速兴起，带来颠覆性影响，为科学、教育、创作流程带来大量全新伦理难题。训练AI绘画、AI文本所用数据集，带来显著的数据所有权、版权侵权方面的伦理隐患。

学术期刊、资助机构、高校教师与大学，都在匆忙制定、修订政策，规范投稿中大语言模型等文本生成工具的使用。例子可参阅SIAM《人工智能编辑政策》https://epubs.siam.org/artificial-intelligence ，以及数学及其应用联合会（COMAP）数学建模竞赛的AI政策 https://www.contest.comap.com/undergraduate/contests/mcm/flyer/Contest_AI_Policy.pdf 。这是一个全新的时代。

伦理培训与原则

研究者需要接受正式培训，学习如何合乎伦理地使用人类与敏感数据。机构协作培训项目（CITI Program） https://about.citiprogram.org 是广为选用的培训渠道，提供大量课程。

很多情况下，完成这类培训，才能够获得开展研究的许可。这份许可划定了伦理的底线。但是，即便一项研究在法律、职业规范层面完全合规，研究者也应当以更高标准自省，判断开展这项研究本身是不是正确的选择。无论你对自己的研究如何抉择，务必经过充分审慎思考。

学术机构、商业企业、政府部门的伦理流程存在显著差异。美国学术研究者开展涉及人类受试者的研究，需要通过机构审查委员会（IRB）审批；其他国家高校也有对应的流程。

企业则是研究完成之后，由内部出版审查委员会决定是否允许对外发布。也就是说，当我们看到企业发布的研究，只代表企业允许这份成果公开；企业内部基于我们的数据还做了哪些研究，没有对外公开，我们无从知晓。

马修·萨尔加尼克提出若干研究伦理核心原则[9，第6章]。处理人类数据的科学研究，显然要做到诚实公正；研究设计要合乎伦理；能够向外界解释你的各项决策。四项核心原则：

尊重人；

行善有益；

公平正义；

遵守法律与维护公共利益。

四项原则之间本身就会互相冲突，需要做好权衡。

萨尔加尼克强调：涉及人类数据的研究伦理是一套滑动标尺：一项研究如果越有可能侵犯个人隐私，就必须具备更大的造福人类的潜力。处理个人数据的研究，需要思考四件事：

①知情同意；

②理解并管控信息风险；

③隐私保护；

④面对不确定性进行决策。

做研究设计和开展工作时，要换位思考。研究伦理不是非黑即白，而是连续渐变的谱系。

同时要区分伦理与正义，在数据领域同样如此[3]。伦理以现有法律、社会规范为前提，探讨在这套框架下什么行为是道德恰当。正义则关注如何修改法律、调整社会规范，追求更加广泛的公平。伦理与正义，都是我们和数据打交道的核心议题。

结语

利用数字数据开展人类相关研究分析、开发技术、制定相关政策，力量强大，但也伴随巨大风险。相比于很多其他学科，数学界使用人类数据开展研究的历史更短。数学共同体需要借鉴其他学科成熟实践，保证自身学术实践合乎伦理。和社会科学、医学一样，数学与计算科学的课程体系，必须建立完善的伦理训练体系。

我鼓励大家广泛阅读、思考、探讨数学领域的数据伦理，尤其是面向社会系统、会对人类数据产生影响的研究。大家心中伦理标尺或许各有不同，对很多问题观点不一，但我们做学术研究、指导学生、课堂教学，都必须保持审慎与伦理自觉。

致谢

感谢马克·汉德科克（Mark Handcock）对我的书稿章节[7]提出宝贵意见，本文部分文字继承自该章节。本文部分论述改写自马修·萨尔加尼克（Matthew Salganik）的著作[9]。

原文参考文献

[1] 美国计算机协会.(2018).ACM伦理与职业行为准则. 检索于2023‑12‑26，https://ethics.acm.org 。

[2] Chiodo, M., &Müller, D. (2024). A field guide to ethics in mathematics.Notices Amer. Math. Soc., 71(7), 939‑947.

[3] Kitchin, R. (2014).The data revolution: Big data, open data, data infrastructures and their consequences. Thousand Oaks, CA: Sage Publishing.

[4] Kolda, T.G. (2025). Taming the chaos of computational experiments.SIAM News, 58(7), pp. 1, 4. https://www.siam.org/publications/siam-news/articles/taming‑the‑chaos‑of‑computational‑experiments 。

[5] Loukides, M., Mason, H., &Patil, D. (2018).Ethics and data science.Sebastopol, CA: O’Reilly Media.

[6] Nature Editorial Staff.(2021). The powers and perils of using digital data to understand human behaviour. Nature, 595,149‑150.

[7] Porter, M.A. (2025). A non‑expert’s introduction to data ethics for mathematicians. In H.Z. Brooks, M. Feng, M.A. Porter, &A. Volkening (Eds.),Mathematical and computational methods for complex social systems(pp. 65‑88).Proceedings of symposia in applied mathematics(Vol. 80). Providence, RI: American Mathematical Society.

[8] Rycroft‑Smith, L., Müller D., Chiodo, M., &Macey, D. (2024).A useful ethics framework for mathematics teachers(pp. 359‑394). In P. Ernest (Ed.),Ethics and mathematics education.Cham: Springer International Publishing.

[9] Salganik, M. (2017).Bit by bit: Social research in the digital age.Princeton, NJ: Princeton University Press.

[10] Tractenberg, R.E., Piercey, V., &Buell, C.A. (2024). Defining “ethical mathematical practice” through engagement with discipline‑adjacent practice standards and the mathematical community.Sci. Eng. Ethics, 30(3),15.

[11] Véliz, C. (Ed.). (2021).The Oxford handbook of digital ethics.Oxford: Oxford University Press.

[12] Walk, S.M., &Tractenberg, R.E. (2026). Helping students deal with ethical reasoning: The Proto‑Guidelines for Ethical Practice in Mathematics as a deck of cards.PRIMUS, 36(2), 169‑193.