清华大学苏世民书院院长薛澜:人工智能面临治理挑战
中国发展高层论坛2024年年会于3月24日在京召开。在人工智能发展与治理专题研讨会上,清华大学苏世民书院院长薛澜表示,人工智能的发展面临一系列风险需要防范。
从人工智能治理的角度来看,有以下五个挑战。
第一个挑战是步调不一致的问题。人工智能的技术发展非常快,但是治理体系的构建相对慢一些。
第二个挑战是信息不对称的问题。多次调研发现,政府和企业双方都有很多盲区。首先,企业不知道政府规制最关心的问题在哪儿;其次,对技术发展可能会带来什么风险,政府不清楚,很多企业也不清楚。
第三个挑战是从规制的角度来讲,在风险规制的过程中成本是不对称的。比如,人工智能如果被滥用或者误用的技术成本是相当低的,但是要去防范这种风险其实是非常困难的。防范风险的成本要远远高于它有可能造成危害的成本,所以风险治理的成本较高。
第四个挑战是在全球治理方面,做全球治理的人往往会提到机智复合体的问题,可能针对某一个问题,企业、组织、政府都很关心,都想采取一些措施去解决。专业组织、国际组织、基金会、企业等都对某个问题有一定的治理兴趣,甚至他们也有这方面的能力和条件。但是,所有这些组织之间没有从属关系,而是互相之间有重叠甚至有矛盾的机构,都对某个问题有相关的利益,希望来参与治理,使得全球治理体系的形成有很大的困难。
第五个挑战是在人工智能领域治理,一定要有美国和中国的合作,但是目前这种地缘政治也会带来相应的一些问题。
怎么去解决上述这些问题?薛澜提出以下五方面建议。
第一,要加强安全和技术。目前,在安全领域的研发是不够的,今后需要加强研究,尤其是需要加强国际合作。
第二,通过敏捷治理的方式解决治理方面的问题。
第三,鼓励企业的自我规制。外界的规制总是很难解决信息不对称的问题,应该提倡建立企业内部自我规制的一些机制。
第四,加强国际治理。在全球治理方面,联合国刚刚通过了一个协议,并召开了高级别专家的讨论。
第五,解决地缘政治的问题。在人工智能领域,中美双方一定要加强合作,这样才能真正解决人类面临的各种问题。