人工智能应在发展中深度治理

 

4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）向社会公开征求意见。《征求意见稿》提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。

 

 

 

 

随着ChatGPT火爆市场，大众对生成式人工智能技术的认知程度不断提升，众多投资涌入人工智能行业，一时间，ChatGPT以及相关产业站在了投资风口，人工智能的发展和应用正成为推动全球经济增长的重要力量。

 

然而，潜在发展与应用机遇的井喷也带来诸多风险隐患。例如，目前已经出现了人工智能模型及其服务侵犯用户个人隐私的案例、虚假信息被用于网络诈骗和网络犯罪、人工智能内容生成甚至会对危险行为的实施提供建议等……业内专家担忧，模型的不可解释性、算法和硬件的不可靠性、自主意识的不可控性，使得人工智能内容生成面临的风险更加不可控。

 

人类需要科学技术，科学技术是推动人类社会发展的强大动力。人工智能作为一种新兴的技术，有很大的潜力和应用前景，尤其是在医疗、交通、金融、教育等领域的应用，为我们带来更多的便利和改变。但同时，我们也需要研究和探索人工智能的安全性和可靠性，在发展人工智能内容生成技术的同时，对人工智能领域进行深度治理。

 

安全可信是人工智能治理的核心诉求。打造安全可信的人工智能，要求其技术和系统应具有强健的安全性能，避免因异常操作和恶意攻击而导致安全事故，而利用人工智能技术生成的内容也应当真实准确；同时，用于训练人工智能的数据是机构和个人的核心资产之一，要保护用户数据不被泄露，保护好用户隐私，及时处理工具漏洞；人工智能技术、产品的行为和建议应当是可解释的。