Code&Law系列（一）——我们应如何观察AI时代的基本思考框架

　　2024年2月9日，微软内部正开发代号为Deucalion的新版Copilot，英伟达发布AI本地部署RAG工具Chat with RTX；2024年2月16日，OpenAI推出了新的AI视频模型Sora，Google发布性能超越GPT-4Turbo的Genimi1.5……春节期间，大洋彼岸的AI技术创新井喷，让彼时还纠结于节后大盘走向能否重回3000点的我们目不暇接。技术革命往往会带来人类生产力新的时代。本文试图为普通民众从职业法律人视角搭建介绍一个认识未来AI时代的知识框架，以减少民众对未知的困惑或担忧，共同思考未来时代自身的角色和作为空间。

　　一、罗马不是一天建成的：AI创新来自于厚积薄发

　　AI(Artificial Intelligence)概念，最早被提出于1956年的达特茅斯研讨会。人们熟知的机器人既有工业生产车间对机械手臂的直观认知，也有《黑客帝国》《终结者》系列好莱坞大片的科幻电影对想象力的训练教育。自2017年谷歌发布Transformer网络架构以来，越来越贴近于人类智能的AI大模型得到迅猛发展，美国和中国特别是美国在该领域中处于领先地位。

　　在产品维度，我们看待AI可以分为三部分：

　　一是我们早已熟知的替代人类体力劳动的自动化机械和军事领域的无人机、无人艇、无人战车等。

　　二是实践中已广泛应用并持续发展的智能辅助应用软件系统，比如企业智能管理、智能营销与新零售、智能制造、智联网汽车、智慧城市、智慧金融、智慧法院等。以法律行业领域为例，人工智能与法律的结合发端于上世纪50年代，我国自1980年代开始由钱学森倡导发展“法治系统工程研究”，北京大学法律系师生开发了“北大法宝”数据库的前身。国外则于1981年开发了法律判决辅助系统。90年代，我国最高法院也部署北上广等8个地区的高级人民法院及其下辖法院展开相关试点工作。

　　第三部分也是容易导致人们产生未知恐惧的部分就是AI开始具有类似人类思考能力并在某些关键领域能力与效率表现远远超越人类的具有“类人”思考能力和超人行动能力的AI。Sora只是它们发展初级阶段的雏形。

　　人们对AI未知的恐惧可以分为三部分：

　　一是学习、工作和生活恐惧。一方面，对AI取代自身工作岗位导致失业的恐惧。实际上，每次人类技术革命，都做到了“上帝为你关上一扇门的同时，就会为你打开一扇窗”。另一方面，怕无法适应AI时代生活。就像年老长辈难以学习利用智能手机、笔记本电脑一样，人们对已经习惯的生活方式被改变也是不习惯。此外，AI的深度发展和广泛应用会颠覆人类现行有效的教育培训模式，比如记忆知识远不如掌握检索知识技能更为重要，比如计算机专业设置必要性要大幅降低，AI自行编程和进化使得普通人设计编写自用程序就像人们使用手机而不必学习如何制造手机一样。

　　二是AI能力发展失控的恐惧。AI发展自身意识和自我进化以至脱离人类工程师控制是可能的。一方面，AI机器人是否会利用自身远超人类生理极限和进化速度的能力奴役、控制人类；另一方面，人类如何处理与可共情的AI机器人伦理关系。

　　三是AI能力发展受控时各国技术水平不平衡导致的人类自身竞争失序的恐惧。正如美国国务卿布林肯在慕尼黑安全论坛所讲的：“要么在餐桌，要么在菜单”。

　　二、不但善于破坏而且善于建设：有效应对AI恐惧建立规则和秩序需要见贤思齐、见不贤则自省的决心

　　毛泽东同志讲：我们不但善于破坏一个旧世界，而且善于建设一个新世界。这句话用来应对AI恐惧很是贴切。客观来看，AI带来的时代挑战主要来自于价值对齐、权利保护和全球竞争。

　　（一）价值对齐。关于人类文明的价值不齐，为人熟知的就是亨廷顿的《文明的冲突与世界秩序的重建》。以宗教文明中的伊斯兰教为例，即使在中东伊斯兰教内部也有逊尼派和什叶派之间的观点纷争。如果AI是工具，那么持不同价值观念的人们所发展的AI必然会用体现自身价值观的数据来规训、喂养和操控自己的AI；如果AI失控，那些带有恐怖分子价值观的AI比恐怖分子本身对人类危害大得多。

　　目前，国际社会在发展AI的“价值对齐”方面，主要强调技术中立和普世价值观。

　　（二）权利保护。对于国家主权范围内的事，比如AI发展带来的知识产权、法律监管、虚假信息、互联网欺诈等，人们无需要过多的担心，只要有相关意愿，国家就有足够的时间调动资源和能力处理这些问题。更重要的是防止政府被过度授权。如果政府权力利用AI能力构建监视社会，可以无所不在地监视公民和随意控制公民人身自由，一旦权力失去民主控制被滥用，个体公民权利被侵犯将无法避免也很难救济。因此，建构在技术正当程序基础上的法律正当程序价值，再怎么强调也不会过分。

　　（三）全球竞争。

　　一方面是和平竞争。目前，仅有少数中等收入国家有可能在自力更生（不求援国际社会合作）基础上成功实施全面的本土AI战略。

　　首当其冲的就是数字主权难以保卫。如果一个技术先进国家A国掌握了C国足够多的数据和信息，就能够利用AI还原和复制出原汁原味的C国各类元典、产品来影响和控制C国。比如，阿富汗战场上美国用全息影像技术凭空映射出3D大佛影像让战场上的对方士兵跪倒膜拜（直至2024年春节期间北京各购物商场才开始用全息影像技术做户外裸眼3D影像广告）；再如，好莱坞曾巨款购买我国某影星的无数招式，它们只需要用AI数字人演绎即可无限次生产地道的中国功夫影片来挤占国产电影份额。如果C国将永乐大典数据输入AI设置为大学课程，人们会觉得国学权威圣地是在北大中文系还是C国某大学呢？

　　当然，如果A国利用卫星扫描、海底探测等各类侦察手段获取了C国足够的兵要地志和自然地理数据灌入AI系统，C国的军事安全就很容易成为他人菜单。

　　其次是全球经济链地位更加“上品无寒门”。就像中国晚清，西方机械纺织业迅速击败江浙手工纺织业一样，技术先进国家对全球经济上游的垄断早已不是新鲜事。技术落后国家难免根据自身禀赋沦为原料、能源或初级产品供应地、终端产品销售地。这种合情合理地凭本事剥削，使得所谓R国动辄提出的核攻击威胁毫无用武之地。

　　三是技术差距带来的马太效应——人之道损不足以利有余。技术先进既是厚积薄发的长期积累结果，也有充分释放人才创造力、鼓励创新、有力保护私有产权的制度土壤原因。既然优势在A国，全球有上进心有能力的人才难免会产生移民向往，谁不追求过有保障的幸福日子呢？所以，本文才说赢得竞争在于见贤思齐的决心。

　　另一方面是战争冲突。在技术维度，人们越来越认识到，核威慑下的大国平衡是机械工业时代的产物，核武器的最终控制者还是人类。比如子弹、手榴弹对人类血肉之躯永远具有杀伤力，但在南联盟战场，南联盟士兵只能举着冲锋枪向北约空袭飞机叹息。目前人们只见到俄乌战场、加沙战场无人机技术被利用得有声有色，相信未来利用AI仿生机器人清除敌方关键人士进而控制对方核按钮，或许也只是时间问题。或者，在电影《终结者》里，核武器威胁对于天网（控制人类的AI反派boss）有意义吗？

　　在技术层面，AI时代的制胜规则是有吃无、高吃低。冷兵器时代的制胜规则是多吃少，谁人多谁胜，机械化战争时代的制胜规则是快吃慢。信息时代以至AI时代的制胜规则就是有吃无、高吃低。而在法律层面，战争规则的进化则几乎和人性的进化保持同步，比如交战规则（ROE）。你攻击一个AI武器背后的国家，首先得有足够的技术和证据去认证这个无人机、无人艇或机器人背后的国家，才能够去攻击它。以无人机为例，A国买个中国大疆无人机去攻击R国，R国不能仅凭无人机是中国公司生产的，就直接对中国发动核攻击，不是吗？

　　因此，AI技术发展对战争法律规则带来的最大变化是法律技术化，军事法律任和日常民事法律人一样，更像是AI技术线的法律伙伴（BP），必须对AI技术逻辑有深刻的理解，才能有效判断法律上的过错与是非。

　　三、代码就是未来时代的法律吗？（Code is Law？）

　　人们对AI其实已经进行了长时间的讨论并付诸实际行动。比如，2023年10月18日，我国领导人就在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中提出《全球人工智能治理倡议》。2023年11月1日，包括中国、美国在内的28个国家和欧盟共同签署了《布莱切利人工智能安全宣言》。抛开国际层面和立法层面不谈，即使在当当网搜索，也能检索到不少AI相关的法律人著作。

　　总结来看，目前的讨论大体上可以归纳为三方面：

　　一是AI的国际监管。人们倾向于建议借鉴国际民用航空组织(ICAO)、国际海事组织(IMO)等治理模式经验，对AI合规进行国际监督。

　　二是主权国家AI技术发展。人们建议采用沙盒测试（可以理解为我国的试点，二者虽有区别，不妨碍理解本文）才试验AI创新。

　　三是AI对现有法律体系的冲击。对于企业B端，比如数据合规、开源合规审查清单、互联网反欺诈、算法推荐技术、个人信息保护、科技伦理与数据安全、出口管制、知识产权保护、反不正当竞争等方面。人们建议从AI技术逻辑入手，通过数据分类分级、PIA、FTO、数据审计、开源合规审核等工具来应对合规法律风险。因非本文重点也限于篇幅，不予展开详细论述。对于个人C端，则是注册和登录、交易支付、电子签名保护等典型场景的个人信息保护与反欺诈问题。需要第一时间寻求法律专业人士帮助收集与固定证据，协助依法维权。

　　我们最关切的问题还是:在未来时代，如果AI成为人类社会运行的主要劳动力以至生产力，Code is Law？以互联网反欺诈为例，其技术逻辑与人们熟知的军事作战逻辑非常类似，情报侦察、身份/设备指纹识别、技术攻防、误伤处理等环环相扣。而不理解其中技术逻辑就无法正确进行执法司法。归根结底，算法本身也是规则，规则本身则体现着人类对秩序及由之产生的安全感的追求与依赖。到底是让AI技术人员学习法律来设计code还是让法律人具备IT资质方能参与此类事件的法律判断，是并不应该急于简单判断的问题。

来源：北京任益白律师