以下是关于“建立负责、安全、包容的人工智能标准”的多方面阐述:
一、建立的必要性
(一)应对虚假信息挑战
国际电信联盟的尾上诚藏指出,虚假信息是目前人工智能领域最为严峻的挑战,标准的制定有助于利用技术工具来验证多媒体内容的真实性和来源,这将便于检测深度伪造,并打造一个可信赖的信息环境。
(二)满足多样化行业需求
人工智能技术标准制定涉及伦理道德、数据安全、环境保护等多个方面。它影响社会和经济的几乎所有方面,确保标准满足多样化和不断扩展的行业需求成为当前标准制定过程中的重点与难点。
人工智能跨界赋能趋势明显,国际电信联盟标准正在支持从能源、交通到医疗保健、金融服务、农业和智慧城市等领域的数字化转型和人工智能应用,所以需要建立标准以适应不同行业的需求。
(三)弥合技术发展鸿沟
国际电信联盟的标准具有“协商一致”特点,有助于人工智能技术的全球推广和各方参与,能将新的创新生态系统推向全球,支持广泛参与人工智能创新,这有利于弥合发达国家与发展中国家在人工智能领域的技术鸿沟。
国际电信联盟为发展中国家的学术界、初创企业和中小企业以及各种规模的公司提供更低的会员标准,积极推动南方国家参与到人工智能标准制定的进程,不让任何一个人掉队。
二、建立的相关举措
(一)国际组织间的合作
在人工智能标准制定过程中,国际电信联盟与国际标准化组织、国际电工委员会等非联合国系统标准制定机构之间建立了紧密的合作关系。这三个国际组织创办了“国际人工智能标准峰会”,旨在确保全面的人工智能标准开发。
国际电信联盟还与国际标准化组织和国际电工委员会共同主导一个人工智能和多媒体真实性标准合作项目,以提供深度伪造检测的技术工具,并且合作开发一个人工智能标准数据库,以支持标准的统一制定和实施。
(二)借助多方支持
国际电信联盟通过“人工智能向善”倡议、多元化会员机制、联合国合作机构和标准机构以及目前已加入“人工智能向善”网络的36000多名专业人员的支持来积极推动不同行业之间联系的建立,为建立负责、安全、包容的人工智能标准助力。
三、面临的挑战
(一)存在多种风险
偏见和歧视风险:人工智能系统的训练和应用可能受到不平等和歧视性数据集的影响,导致其产生不公平的决策和结果,从而导致社会群体对立和社会矛盾激化,如面部识别技术中数据集缺乏多样性可能导致歧视性识别。
隐私和安全风险:人工智能技术处理大量的数据,如果未正确管理这些数据,可能会导致用户隐私的泄露和系统安全的受损,像在个人数据分析和预测中,若不保护用户数据隐私可能导致信息被滥用。
透明度和可解释性风险:人工智能技术可能难以解释其决策和行为的逻辑,这可能会导致人们对其信任度下降。
(二)达成全球共识不易
由于不同国家和地区在人工智能发展水平、文化、价值观等方面存在差异,要达成全球统一的负责、安全、包容的人工智能标准需要协调各方利益,这是一个复杂且漫长的过程。
不同行业对于人工智能标准的需求侧重点有所不同,如何在众多利益相关者之间达成共识,确保标准的包容性,也是建立标准过程中的挑战之一。