分享
监管沙盒（sandbox）
输入“/”快速插入内容
监管沙盒
（sandbox）
2024年4月4日创建
人工智能法案中的规定
法案中相关规定的变化：朱悦，《
欧盟AI立法系列——AI监管沙盒相关规定选译（上）
》；《
欧盟AI立法系列——AI监管沙盒相关规定选译（下）
》
相关报告
•
EDPS的研究报告（2022年），
EPRS_Artificial intelligence act and regulatory sandboxes .pdf
◦
中文译文：
EPRS_Artificial intelligence act and regulatory sandboxes zhening 翻译.docx
•
有趣的一份报告，来自欧洲智库Digital Europe。在欧盟人工智能法即将生效之际，DE邀请了九个获奖的AI初创企业参与深度讨论，包括对AIA的理解、合规准备，对竞争和创新的影响等。标题所谓“沙盒” (sandboxing)实际是隐喻，报告方法论基于深度长期访谈，并无监管机关的参与，也没有直接的规范效果。但报告呈现的数据和问题还是值得思考和讨论。
Sandboxing AIA_DigitalEurope.pdf
•
EDPS发布新年第一份意见，就欧盟委员会11月起草的《互操作欧洲法案》提供数据保护相关建议，内容聚焦监管沙盒的适用性/必要性。
https://edps.europa.eu/system/files/2023-01/2022-1196_d0089_opinion_en.pdf
实践
《
欧盟《人工智能法案》中的监管沙盒
》
西班牙设立欧盟首个人工智能监管沙盒，
https://mp.weixin.qq.com/s/qRefhv3WjjY4xYcYbrYnXA
•
欧盟的新闻：
https://digital-strategy.ec.europa.eu/en/news/first-regulatory-sandbox-artificial-intelligence-presented
2018年，日本启动了这一制度，允许国内外的组织和公司在金融、医疗保健和交通等领域试验新技术，如区块链、人工智能和物联网。在欧洲，挪威和英国也推出了人工智能沙箱。
挪威建立了监管沙箱，作为其国家人工智能战略的一部分，为私营和上市公司提供个人数据保护的指导。英国也设立了监管沙箱，用于探索新技术，如语音生物识别和面部识别，以及相关的数据保护问题。
挪威监管沙盒：《
挪威DPA关于在Ruter参与AI监管沙盒的最终报告
》
韩国19年5月的时候总统说有必要放松限制性很强的监管环境，以促进创新，鼓励创造新的产业和新的就业机会。后来韩国国会通过了监管沙盒措施，旨在让企业免受某些监管规定的约束，使它们能够更快地在韩国采用和商业化新技术和商业模式。趋势是放松严格的监管，促进创新和数字经济的发展，但是不确定层级的具体位置；
当前，欧盟通过两种方法推进监管沙盒项目的试点。一是由西班牙、法国等成员国来试点，二是和挪威、瑞士等关系密切，同样正在试点的国家互通有无。进度不一。西班牙的监管沙盒还在筹划阶段，预期将于今年11月发布报告。法国的试点同样处在筹划阶段。在欧盟之外，挪威的Ruter试点项目形成了细致的报告。瑞士的创新沙盒还在进行当中，预计将于2024年发布报告。
尽管西班牙和法国的监管沙盒项目都处在筹划阶段，西班牙推进得更快一些。今年5月，西班牙开始对实施监管沙盒的皇家敕令征求意见。敕令颇为详尽。一方面，明确监管沙盒主要适用于生物识别、关键基础设施和教育培训等8个领域的高风险人工智能系统。通用人工智能和基础模型也属于适用范围。另一方面，敕令细化了《法案》各款对项目准入、文件提交、风险管理和准出条件的要求。在这些领域内的试点将很快开始。正逢西班牙担任欧盟理事会轮值主席国，对《法案》立法有重要影响。西班牙沙盒的进展也就特别重要。
法国的监管沙盒在2022年开始试点，目前有5家企业正在参与。教育行业是试点的重点领域。法国数据保护当局在监测、评估风险的同时，也会为参与企业提供一定的技术和人力支持。
其次简介挪威监管沙盒的Ruter项目报告和瑞士的创新沙盒。Ruter是一家公有企业，也是挪威主要的公共交通服务提供者。Ruter计划在其运营的应用中上线推荐出行方式的人工智能算法。为此，需要在监管沙盒中评估这一功能的风险，特别是个人数据保护的风险。项目最终生成的报告细致地评估了算法在研发和使用阶段产生的风险。研发阶段的风险主要是透明度不足，需要通过加强对算法逻辑的披露来补救。使用阶段的风险主要来自基于用户数据开展统计和训练算法，需要通过实施严格的假名化来补救。
瑞士的创新沙盒目前包括5家企业。和其他国家的项目类似，这些企业分别从事无人驾驶农机、无人机、机器翻译、作业纠错和停车调度等领域的研发。