要重视人工智能发展过程中的监管复杂性

谢新水撰文《人工智能发展：规划赋能、技术自主性叠加与监管复杂性审视》指出，政府规划赋能带来了人工智能技术自主性的叠加，也带来了隐含在其中的监管复杂性难题，因此，深刻分析政府规划赋能所引发监管复杂性难题，是人类和人工智能“类人”可持续发展不可回避的问题。1.技术自主性加速带来的监管复杂性。在政府规划赋能的过程中，人工智能的技术自主性会愈发加速，因此而形成的“技术失用症”也会越明显。一是因为政府规划的强制力。二是政府规划赋能促进技术自主性的叠加，因为人工智能规划包含指引、支持、协同、凝聚等功能。三是因为政府规划难以控制人工智能研发技术的分散性。2.“类人”自主性发展带来的监管复杂性。人工智能“类人”将在逐步发展的过程中变得强大，而人类将在享乐和诱惑的膨胀中走上毁灭之路。因此，通过监管人工智能来限制人对人工智能技术的欲望非常重要。3.社会结构和政治结构变化带来的监管复杂性。人工智能时代所形成的人和“类人”共处的新社会结构，特别是人和“类人”的共生问题，要求人工智能技术和伦理紧密结合，也将加大人工智能监管的复杂性。同样，人工智能发展的过程将带来政治结构的变化。由于人工智能技术的复杂性，普通公民对技术的影响会慢慢减少；而基于技术治理和技术赋能的需要，人工智能技术会迅速作用于国家结构和行政体制，技术精英群体能更好地掌握国家建构的方向。这可能造成国家和社会的分离。所以政治结构的变化对人工智能的监管是更大的挑战。  

摘自《浙江学刊》2020年第2期