近年来，人工智能(AI)系统的受欢迎程度显著提高，尤其是在2023年，随着一种被称为“大型语言模型”(LLM)的特定类型系统的引入，人工智能(AI)系统将成为人们关注的焦点。这类系统的例子包括ChatGPT和Bard。
尽管人工智能技仍在发展中，但很明显，人工智能系统的使用将深刻改变我们的工作生活、私人生活，以及如何组织和管理我们的社会。这并不是因为算法确实比人类更聪明，而是因为它们在执行大量基本和高级任务时提供了经济稳定性和效率，这是大多数人类智能无法比拟的。
对人工智能使用的担忧
尽管公众辩论总体上倾向于关注使用人工智能技术的经济效益和缺点、在公共行政和司法系统中引入人工智能系统，以及也在私人行为者提供某些基本服务方面的使用——如果人工智能系统辅助甚至取代人类决策，如何确保人权和民主的持续保护以及对法治的尊重，这引发了人们的严重担忧。它们的使用还可能对民主进程产生重大影响，包括选举、集会和结社的权利以及持有意见和接受或传递信息的权利——总之，这是自由民主的根本。
因此，世界各国和政府间组织现在应该应对人工智能技术带来的挑战，并建立必要的法律框架，以促进急需的创新，但不能以牺牲人权和基本自由为代价。我们需要仔细考虑如何使用人工智能系统来改善社会运作方式、环境保护以及促进经济发展，而不是无意中创造一个由算法规则而不是法治统治的反乌托邦和不民主的世界。
监管人工智能技术的使用
欧洲委员会是欧洲大陆历史最悠久的政府间区域组织，拥有46个成员国，其欧洲人权法院或许是世界上最广为人知的机构。2019年，欧洲委员会开始了开创性的工作，探讨基于其自身以及在人权、民主和法治领域的其他相关国际法律标准，研究制定一项人工智能国际条约的可行性和必要性。这项重要的开创性工作在国际层面上的成果导致了2022年人工智能委员会(CAI)的成立。CAI的任务是制定一项关于人工智能技术的框架公约，该公约将从人权、民主和法治的角度出发，规定与人工智能系统的设计、开发、使用和退役有关的具有法律约束力的要求、原则、权利和义务。
全球方法
俗话说，“没有人是一座孤岛”，世界上没有一个地区能够完全独立。我们都是全球化经济的一部分，最终面临着同样的挑战和政策选择。人工智能技术无国界，与人工智能系统相关的人权和民主方面的有意义的国际标准制定显然不能仅限于世界的特定地区。因此，欧洲委员会部长委员会决定允许具有欧洲委员会价值观和目标的感兴趣的非欧洲国家参与谈判，并且全球越来越多的国家已经已加入或正在加入我们的努力。
同样，欧洲委员会让相关非国家行为体密切参与这些谈判也很重要。目前，CAI有61名民间社会和行业代表作为观察员，与各国以及其他国际组织和欧洲委员会相关机构和委员会的代表一起参与谈判。
保护人权和民主
在欧洲地区，欧盟(EU)在其27个成员国的人工智能系统监管中发挥着关键作用，因此，欧盟也代表这些成员国直接参与了欧洲委员会的谈判。欧盟的人工智能法案和欧洲委员会的框架公约生效后，将相互促进，为如何最好地利用两个欧洲组织的综合优势和能力提供了一个例子。
框架公约草案的重点是确保人工智能技术的使用，不会导致在保护人权、民主和民主进程的运作或尊重法治原则方面存在法律真空。根据前人工智能特设委员会(CAHAI)编制的可行性研究结果，其目的不是针对人工智能环境创造新的实质性人权，而是保证现有的人权尤其受国际法保护的人权和基本自由不容侵犯。这将通过要求各方迫使监管机构、开发商、提供商和其他人工智能参与者，从构想的那一刻起以及这些系统的整个生命周期考虑对人权、民主和法治的风险来实现。此外，鉴于人工智能技术的透明度和可解释性等具体挑战，应更新侵犯人权行为受害者可用的法律补救制度。
对民主的威胁
当涉及到人工智能技术对民主和民主进程的潜在威胁时，特别是这些系统被用来操纵或欺骗个人的能力，这将由条约解决。这包括使用所谓的“深度造假”、微观目标或更直接地干预言论自由、形成和持有意见、集会和结社自由以及接收或传递信息的权利。《框架公约》将载有具有法律约束力的义务，要求缔约国提供有效保护，防止这种做法。
“法治”是一个长期存在的法律哲学概念，其中包括政府和私人行为者在法律下承担责任的想法;法律应该明确和公开;法律的制定、管理和执行以一种方便、公平和有效的方式进行;保证每个人都能获得公正的争端解决。很明显，在设计和使用可能在敏感环境中使用的人工智能系统时，必须尊重构成公平、自由、守法社会的基本概念，例如(但不限于)起草法律、公共行政，尤其是通过法院进行司法行政。《框架公约》还将规定缔约方在这方面的具体义务。
平衡之举：基于风险的人工智能方法
框架公约草案，以及CAI的所有工作，对人工智能系统的设计、开发、使用和退役采取了一种基于风险的方法，在这样做的过程中，人的尊严和能动性得到了重视。重要的是，我们不能被人工智能技术提供的明显可能性冲昏头脑，而没有仔细考虑在各种环境中使用人工智能系统的潜在负面后果。因此，框架公约草案还要求各缔约方就如何使用人工智能技术提高认识并激发知情的公众辩论。
如上所述，人工智能和其他新兴数字技术给民主社会带来了许多根本性的问题和挑战。与此同时，这些技术也为我们提供了在科学、医学、保护和改善环境方面取得宝贵进步的机会，本文仅举几个关键领域。其还承诺促进全球经济，并最终为全人类创造更好的生活条件。但也一些有影响力的声音最近一直在呼吁暂停甚至禁止人工智能技术，因为其认为人工智能带来的危险超过了所带来的好处。尽管对人工智能提出的合理担忧需要认真对待，但我们必须承认，问题已经出现，我们无法有效地逆转科学和技术的发展，而这些发展使得先进而强大的人工智能系统得以创造。
因此，现实的方法必须是找到负责任地使用人工智能和其他数字技术的方法，并确保世界各地尽可能多的人能够从中受益，并受到保护，免受滥用此类技术的影响。
这是一项艰巨的任务，需要志同道合的国家共同努力，并需要民间社会、科技行业和学术界的支持才能取得成功。我们希望并雄心勃勃地希望，欧洲委员会正在与世界各国共同制定的《框架公约》，将为保护基本权利提供一些迫切需要的法律明确性和保障，并将成为当前和未来讨论如何制定平衡和持久的政策解决办法，以应对引入新的强大数字技术对人权和民主构成的挑战的焦点。
