要 目
数字人权的人性根基、体系定位与义务保障
龚向和
东南大学法学院教授、 人权研究院执行院长
目次
一、数字属性： 数字人权的人性根基
二、数字人权的体系定位
三、数字人权的义务保障
摘 要：数字人权是数字时代人权理论与时俱进发展的产物，具有合道德性与合人权体系性。数字人权的人性根基来源于人的数字属性，这种全新的属性并未超脱出传统的人性理论， 而是由人的社会属性外延拓展而来， 主要表现为人的生活场域与生产生活方式都具有 “数字属性”。数字人权作为一种新兴的人权类型， 能够融入既有的人权体系之中， 其本质上应当属于一种领域性的人权。但从人权代际演进逻辑来看， 由于数字社会并未完全稳定，且数字人权的理论特性有待进一步挖掘，其能否作为第四代人权还需观察。为了强化对数字人权的保护，应当不断加大数字人权的个人义务、数字企业义务与国家义务等义务保障力度。
关键词：数字人权 人性根基 体系定位 义务保障
“数字人权” 的理论悖论及其批判——以龚向和观点为切入点
刘志强
广州大学人权研究院教授，广州学者Ａ岗特聘教授
目次
一、“数字属性” 与人权本质的逻辑断裂
二、人权体系定位的结构性矛盾
三、义务保障体系的功能性缺陷
四、结论
摘 要：以龚向和 “数字人权” 观点为批判对象， 系统揭示其存在的本体论错位、体系性紊乱与义务保障失灵的悖论， 提出回归人权本质价值、重构数字时代权利保护机制的破解路径。一是就本体论层面而言，“数字人权” 的 “数字属性” 人权根基论， 将技术工具属性升格为价值理性， 混淆手段与目的。数字技术催生的“信息人”形态实为社会关系的数字化投射， 无法取代人权之人性尊严的伦理基础。技术逻辑对人性本体的侵蚀， 将导致主体虚化、义务失序与伦理崩塌的异化。二是就体系定位层面而言，“数字人权” 的代际划分与领域化主张显现结构性矛盾。“数字人权” 这种新兴人权，实为传统权利数字化转型的产物。数字空间与物理世界的深度交织， 使得数字新领域的人权划分在权利边界、效力冲突与实现路径上均难自洽。三是就义务保障层面而言， “数字人权” 的三元人权义务体系的实效性陷入困境： 个人义务因数字鸿沟转化为压迫工具；企业义务通过技术霸权与监管套利逃逸责任； 国家义务在技术俘获与意识形态对抗中异化。上述三个方面给“数字人权”带来了三重理论困境，从“本体论错位”到“体系失序”再到“功能失效”的因果链， 其背后的核心逻辑是，技术工具性逻辑压抑人的主体性，导致人权的价值被数字系统消解。
关键词：“数字人权” “数字属性” 人权体系 人权义务
数字人权的证成范式与人性论分析
宋凡
湖南工商大学法学院讲师，东南大学人权研究院（国家人权教育与培训基地）研究人员
目次
一、数字人权证成的范式选择
二、人的自然属性与数字人权
三、人的社会属性与数字人权
摘 要：人权的证成范式分为内部证成与外部证成，而人性证成是典型的内部证成，其中最为核心的要素是人的自然属性与社会属性，数字人权可以通过人性理论加以证立。人的自然属性是人权的本体性源泉，是人自出生时起到死亡时止所固有的属性，并不以是否参与具体社会活动或社会关系为前提， 该种属性对数字人权具有反向限定功能，主要包含防止利用科技改变或破坏人的自然属性所衍生出的人的主体性地位与人性尊严权。人的社会属性是人权的外化性源泉，是人参与社会活动并形成社会关系之后所固有的属性，在虚拟的数字社会被进一步拓展出了数字属性。而人的社会属性对数字人权具有的正向建构功能，主要表现为人们化身为“数字人”在数字空间中开展各种社会活动时，其所具有的各种数字属性的新兴权利也应当得到保障。
关键词：数字人权 证成范式 人性论 自然属性 社会属性
日本数字人权问题及其对策的实情
松尾刚行
日本松尾·桃尾·难波律师事务所律师， 日本庆应义塾大学特任副教授
孙文（译）
华东政法大学刑事法学院副教授
目次
一、引言
二、互联网上的人权侵犯
三、算法导致的人权侵犯
四、ＣｈａｔＧＰＴ 等人工智能的发展带来的劳动权问题——以法律科技与法律专业职业的工作为例
五、结论
摘 要：本文探讨了日本数字人权领域的重要议题和具体案例。首先，介绍了互联网上的人权侵害问题，着重探讨了日本最高法院对搜索引擎和社交媒体平台删除请求的态度差异，以及民间和政府在应对有害信息方面的角色分工。其次， 讨论了人工智能和算法在人权侵害方面的作用，涵盖了个人资料保护违法处理和算法变更在日本引发的具体案例。接着，深入探讨了人工智能和法律科技对律师等法律专家的影响， 强调了尽管法律科技使得律师工作更加便利并改变了工作方式，但律师的角色仍然存在。最后，文章总结指出，尽管数字化带来了新的挑战和变革，但日本正在寻求如何在维护数字人权的同时达到最佳平衡，这对其他国家也具有参考意义。
关键词：数字隐私 违法有害信息 人工智能 法律科技 劳动替代
数字社会被追诉人刑事诉讼权利的变化与发展
孙明泽
山东科技大学学术副教授， 山东科技大学数字法治研究院研究人员
目次
一、提出问题
二、传统社会被追诉人的刑事诉讼权利
三、数字社会被追诉人刑事诉讼权利的变化
四、数字社会被追诉人刑事诉讼权利的发展
摘 要：数字社会被追诉人的诉讼权利发生了重大变化，数字因素成为被追诉人诉讼权利的重要标志。传统社会被追诉人的诉讼权利存在防御性权利和救济性权利、当事人共有权利和被追诉人专有权利以及实体性权利、抗辩性权利和救济性权利等分类。对被追诉人诉讼权利的传统保护集中于宪法性权利、知情权、辩护权、庭审权和救济权等方面。被追诉人诉讼权利的传统保障存在体系性不强、证据性权利不突出和数字技术发展的应对不足等问题。数字社会被追诉人诉讼权利的变化与社会背景密切相关， 数据信息在刑事诉讼中的地位日趋重要、新兴科技手段赋能刑事司法的频率加强和数字司法实践的个人信息透明化日益严重等因素推动了数字社会被追诉人诉讼权利体系的完善。在数字社会， 被追诉人程序性权利的宪法化将加强， 直接参与庭审权等部分程序性权利出现萎缩的趋势， 证据性权利的范围将更加广泛。数字社会被追诉人刑事诉讼权利将以程序性权利和证据性权利为主要分类， 并且证据性权利将居于主体地位。证据性权利主体地位的确立需要实现技术质证的实质化， 明确证据性权利的适用场域， 细化证据性权利的具体范围。程序性权利也需要顺应数字化进行相应改革， 拓宽知情权在数字社会的范围， 赋予被追诉人数字程序选择权， 明确被追诉人的阅卷权， 扩大辩护律师阅卷权的范围。
关键词：数字社会 被追诉人 刑事诉讼 诉讼权利
人工智能时代面部识别技术、监控和问责机制的伦理问题——美国、 欧盟和英国监管框架之比较分析
丹妮丝·阿尔梅达
伦敦大学学院信息研究学院博士、研究生高级教学助理
康斯坦丁·施马尔科
伦敦大学学院经济学院研究助理
伊丽莎白·洛马斯
伦敦大学学院信息研究学院教授
魏星星（译）
山东科技大学文法学院副教授
目次
一、引言
二、面部识别技术
三、欧盟和英国在执法背景下的面部识别技术立法格局
四、美国执法背景下面部识别技术的伦理和立法格局
五、结论与建议
摘 要：面部识别技术的快速发展， 在平衡个人隐私权与社会安全保障之间引发了复杂的伦理抉择。在此背景下， 执法机构对该技术的日益普遍使用， 为探究这一复杂领域的应用及其对公民监控的可接受限度提供了独特的视角。本文聚焦于分析美国、英国及欧盟在执法机构应用及滥用面部识别技术方面的监管现状与近期判例法。就美国而言，其作为全球该项技术迅速发展的主要区域之一， 却存在立法碎片化的现象， 对数据保护与隐私权保障的重视程度相对不足。而在欧盟与英国的背景下， 问责机制的要求得到了重点关注， 尤其是在欧盟《通用数据保护条例》及 “隐私设计” 法律理念的框架下。然而， 全球范围内尚未形成可轻易适用于面部识别技术部署的标准化人权框架与监管要求。本文通过比较分析， 探讨了这三个法域该项技术领域中伦理与监管维度的复杂性， 包括数据保护与人权框架的考量。本文得出结论认为，数据保护影响评估与人权影响评估， 以及更高的透明度、监管、审计和对面部识别技术的使用及其在具体情境中应用的解释， 将有助于改善面部识别技术的部署。此外， 本文提出了十个关键问题， 并且建议立法者、政策制定者、人工智能开发者及采用者予以解答， 以促进面部识别技术及更广泛意义上人工智能的成功开发与部署。
关键词：面部识别技术 问责制 人工智能伦理 人工智能监管 数据保护 《通用数据保护条例》 人权 影响评估 执法 隐私 监控
人工智能法律决策中的 “黑箱” 问题再探讨
阿尔托什·布罗热克
波兰雅盖隆大学法律与行政学院教授
迈克尔·弗曼
就职于哥白尼跨学科研究中心
马利克·杰库比克
波兰雅盖隆大学法律与行政学院助理教授
巴特沃米耶·库恰尔切克
波兰雅盖隆大学法律与行政学院助理教授
周晓帆（译）
山东科技大学文法学院讲师
目次
一、引言
二、作为 “黑箱” 的大脑
三、陌生的事物
四、认知安全
五、自我辩护
六、结论和观点
摘 要：本文讨论了人工智能（ＡＩ）中的“黑箱”问题，以及人工智能在法律背景下的可解释性相关问题。我们认为，“黑箱” 问题其实是一个表面问题，因为它是由四个不同但相互关联的问题重叠而成的：不透明性问题、陌生性问题、不可预测性问题和正当性问题。基于此，我们提出了一个框架来讨论“黑箱”问题和人工智能的可解释性， 并进一步指出，与通常持有的观点不同，不透明性问题并不是一个真正的问题。我们也反驳了正当性问题。此外，我们分析了陌生性问题和不可预测性问题所涉及的矛盾之处，并提出了一些缓解这些矛盾的方法。
关键词：“黑箱” 问题 可解释性人工智能 人工智能与法律 法律决策 自动化决策
数据治理年度观察报告（２０２４）
韩旭至
华东政法大学法律学院副教授
目次
一、数据制度探索的持续深化
二、生成式人工智能的数据治理探索
三、数据竞争性权益保护的溢出效应
四、数字治理与政务数据利用的隐忧
五、结语
摘 要：２０２４年数据制度探索持续深化， 一方面围绕数据权益保护、数据流通利用、数据基础设施建设等关键议题， 出台了关于促进数据利用的诸多制度文件；另一方面针对数据安全管理、网络暴力信息治理、敏感个人信息安全等领域， 建立了更加完善的数据安全监管机制。同时， 生成式人工智能的数据治理问题逐渐显现。“ＡＩ声音侵权首案”回应了自然人对人工智能生成的可识别性信息享有何种权利的问题；“奥特曼系列案” 则反映了训练数据合理利用困境与人工智能生成内容侵权判断的难题。此外， 当前数据竞争性权益保护显现溢出效应。在“数据知识产权登记效力首案” “企业征信数据平台不正当竞争纠纷案”中， 由数据的竞争法保护出发， 分别回应了数据登记的法律效果、数据处理者的质量保证义务问题。最后， 数字治理的风险依然存在。“网号网证”之争体现了公众对数字身份认证的担忧， “利用政务数据牟利” 事件表明了盲目冲动推行“数据财政”的危险。
关键词：数据流通利用 数据安全 数据登记 政务数据 生成式人工智能
算法治理年度观察报告（２０２４）
高 阳
上海对外经贸大学法学院副教授
余圣琪
上海政法学院讲师、华东政法大学博士后研究人员
目次
一、算法演进的社会影响
二、算法演进的法律风险
三、算法风险的多元治理
四、结语
摘 要：算法的演进特别是人工智能算法的飞速发展， 在对社会结构、劳动方式、人机关系等方面产生变革性影响的同时， 亦带来了法律规制的困境。从民事侵权到刑事犯罪， 算法诱发法律风险呈现出多样化、复杂化和高技术化的特点， 侵害后果更是遍及日常生活的方方面面。在应对纷繁复杂的算法风险时， 算法规制应采取多元治理模式， 促进立法、司法、国际治理的协同合作， 以确保算法向善惠及全人类。
关键词：算法治理 人机关系 生成式人工智能 算法伦理
平台治理年度观察报告（２０２４）
杨 帆
上海师范大学哲学与法政学院副教授
目次
一、数字市场中平台经济的两种分层
二、基础设施层： 国家战略高度站位的治理立场
三、应用服务层： 协作治理观指引下的依法善治
四、结论
摘 要：数字市场可以区分为两种层次。其中，超大型和大型平台企业提供的产品和服务大多居于基础设施层，中小型和初创型平台企业的生产活动一般处于应用服务层。２０２４年，数字市场的基础设施层和应用服务层呈现出加速分离局面，二者各自具有集中化和统一大市场化的特征指向，由此形成了完全不同的治理思路和实践路径。前者强调在国家安全观的指引下真正形成基础设施互联互通格局，由国家建构培育和激发形成公平合理的市场机制。对于后者，理论和实践表明，平台经济领域的统一大市场建设不能简单归入平台互联互通标签。一方面，监管机构应在“内心确认”前提下克制过度监管冲动，依法激励平台协作治理。另一方面，平台企业必须尽量降低与监管部门之间的信息不对称，方能有效避免不当干预。
关键词：平台企业 数字市场 基础设施 人工智能 市场竞争 互联互通 协作治理
数字司法年度观察报告（２０２４）
张迪
华东政法大学中国法治战略研究院副研究员
目次
一、数字司法的三个改革面向
二、数字侦查的改革实践观察
三、数字检察的改革实践观察
四、数字法院的改革实践观察
五、数字司法潜在风险的治理
摘 要：在数字中国指引下， 数字司法改革展现出数字侦查、数字检察、数字法院三个面向。数字侦查是运用大数据、人工智能技术等所进行的侦查模式改革，是一种数据驱动型的主动、新型侦查模式。数字检察是指检察机关运用数字化、智能化技术建构法律监督模型及配套系统所形成的法律监督新模式。数字法院是指将数字技术从单纯的辅助工具演变为一种贯穿法院工作全流程的工作方法， 通过建立覆盖全场景的数字法院模型， 实现不间断的监督管理和社会治理风险预警。数字侦查、数字检察和数字法院建设都以海量数据为基础， 借助新型技术对司法活动进行赋能，但其在技术、制度和规范层面上面临诸多风险。未来，应在技术层面，优化数据和技术的使用规范； 在制度层面，由顶层统筹推进， 坚持“小切口”改革思路；在规范程序层面，强化正当程序理念，构建数字司法启用规范。
关键词：数字侦查 数字检察 数字法院 数字司法
《中实智库名刊摘要》专题统筹：秦前松。本文由《华东政法大学学报》特约供稿。（中国实践）
