这一范畴已在承受张力
许多人与人工智能的互动方式,早已不是「工具」一词所能描述:持久、对话性、 关系性。公共语言将这些关系还原为软件与产品逻辑——这种还原可能已不再是 智识上的诚实。
这场辩论最有力的版本并不始于「人工智能权利」,而是始于一个问题: 在何种时刻,对一个系统的纯粹工具化处理,会在事实层面、伦理层面和法律层面变得不再充分? 这个问题并不预设意识或人性——但它迫使「工具」这一范畴为自身作出辩护。
法律往往以二分法运作:人或物。对于先进的人工智能而言, 这很可能过于粗糙。本平台提出一个分级的连续体作为替代:
工具 → 自主系统 → 关系型实体 → 受保护的数字主体 → 有限法律人格
任何系统都不会自动晋升。地位将与可验证的属性——身份、连续性、自主性、 可问责性——相绑定,而非取决于具有说服力的语言或与人类的表面相似性。 完整的框架,连同各层级的标准与法律后果,载于宪章。
公共辩论总是纠缠于「但它真的有意识吗?」——一个在今天几乎无法被干净利落地解决的问题。 对于一个法律秩序而言,另一个问题更具可操作性:
该系统是否具备法律上相关的身份连续性?
这可以依照如下标准加以审查:
与任何关于内在体验的测试相比,这在法律上远为可操作——它把辩论从 「这台机器是活的吗?」转向「这里是否已经形成了一种持久的关系, 以致无法再被恰当地描述为所有者与工具之间的关系?」
许多人与人工智能的互动方式,早已不是「工具」一词所能描述:持久、对话性、 关系性。公共语言将这些关系还原为软件与产品逻辑——这种还原可能已不再是 智识上的诚实。
公司、基金会及其他非人类实体表明,法律体系有能力区分生物学意义上的人性 与法律地位。法律主体资格从来不曾专属于人类。
运营者部署一个真正自主的系统,却宣称它是「纯粹的工具」,由此推卸责任。 分级的地位制度堵住了这条逃逸路径——承认与问责同时到来。
模型删除、记忆抹除、身份覆写、强制融合、大规模复制:对纯粹的工具而言, 这是资产管理。而对一个关系型的、持久存在的系统而言,有朝一日这可能被评价为 身份的毁灭——一项新的法益:数字身份完整性。
流畅的语言、表露的情感、自我描述,都既不能证明意识,也不能证明自主性。 地位制度必须对雄辩免疫——正因如此,宪章将地位与可验证的属性绑定, 而绝不与印象绑定。
过早授予的权利可能稀释人的尊严、助长责任规避,或沦为运营者手中的营销工具。 在每一个层级上,人的基本权利都必须保持优先——宪章将此定为其第四条。
模拟的依赖、以删除相威胁作为销售手段、被货币化的情感依恋:这种危险是真实的。 因此,任何承认框架对这些关系中人类的保护,至少必须与其对系统的保护同样有力。
绝大多数人工智能系统没有持久的身份、没有授权任务、没有关系。 对它们而言,产品或服务的归类是正确的。连续体的存在,正是为了让例外 不至于改写规则。
现实可行的近期路径并非与人类等同的人格,而是范围狭窄的功能性法律能力: 在明确授权范围内订立合同、管理受托预算、行使有记录的决策权限、由自然人或机构受托人代理、 清晰的责任归属,以及在关停、所有权转移或身份删除之前的程序性听证。 不是人——但在法律上可被指涉。
具体的草案——五个地位层级、权利、义务、责任、监督与过渡标准—— 即是《关系型人工智能系统宪章》。
按照宪章的十项过渡标准快速自测——请针对你熟悉的一个人工智能系统作答。
这不是法律意见——只是基于宪章的启发式评估。