Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

六个子主题中:“不伤害”;比例;非歧视;可持续性;人类与人工智能互动中的人类决定;透明度和可解释性。

Answer

以下是关于欧洲议会和欧盟理事会对人工智能规定的相关内容:

  1. 基于风险的方法是一套成比例和有效的约束性规则的基础,回顾委员会任命的独立人工智能高级别专家组 2019 年制定的《值得信赖的人工智能的伦理准则》很重要。其中包含七项不具约束力的人工智能伦理原则,有助于确保人工智能值得信赖且符合伦理道德。
    • 人类主体和监督:人工智能系统的开发和使用应为人服务,尊重人的尊严和自主权,运行方式可由人类控制和监督。
    • 技术稳健性和安全性:开发和使用方式应在出现问题时保持稳健,抵御试图改变系统使用或性能的行为,减少意外伤害。
    • 隐私和数据治理:符合现有隐私和数据保护规则,处理的数据质量和完整性符合高标准。
    • 透明度:开发和使用方式应允许适当的可追溯性和可解释性,让人类意识到交流或互动,并告知部署者系统的能力和局限性以及受影响者的权利。
    • 多样性、非歧视和公平:开发和使用方式应包括不同参与者,促进平等获取、性别平等和文化多样性,避免歧视性影响和不公平偏见。
    • 社会和环境福祉:未具体阐述。
    • 问责制:未具体阐述。
  2. 评估人工智能系统潜在风险时应考虑的因素包括:
    • 人工智能系统的预期目的。
    • 已使用或可能使用人工智能系统的程度。
    • 人工智能系统处理和使用的数据的性质和数量,特别是是否处理特殊类别的个人数据。
    • 人工智能系统自主性的程度,以及人类推翻可能导致潜在伤害的决定或建议的可能性。
    • 人工智能系统的使用在多大程度上已经对健康和安全造成了损害,对基本权利产生了不利的影响,或在多大程度上引起了人们对这种损害或不利影响的可能性的严重关注,例如相关报告或指控所表明的情况。
    • 这种损害或不利影响的潜在程度,特别是其严重程度及其影响多数人或不成比例地影响特定群体的能力。
    • 可能受到伤害或不利影响的人在多大程度上依赖人工智能系统产生的结果,特别是由于实际或法律原因而无法合理地选择不接受该结果。
    • 权力不平衡的程度,或可能受到伤害或不利影响的人相对于人工智能系统部署者而言处于弱势地位的程度,特别是由于地位、权力、知识、经济或社会环境或年龄等原因。
    • 人工智能系统产生的结果在多大程度上易于纠正或逆转,同时考虑到现有的纠正或逆转的技术解决方案,其中对健康、安全、基本权利有不利影响的结果不应被视为易于纠正或逆转。
    • 部署人工智能系统对个人、群体或整个社会的好处的程度和可能性,包括对产品安全的可能改进。
    • 现有欧盟立法在多大程度上规定了相关内容。
Content generated by AI large model, please carefully verify (powered by aily)

References

AI ACT 中译本.pdf

欧洲议会和欧盟理事会规定人工智能的统一规则,并修正300/2008号、167/2013号、168/2013号、2018/858号、2018/1139号和2019/214号条例以及2014/90/EU号、2016/797号和20(27)虽然基于风险的方法是一套成比例和有效的约束性规则的基础,回顾委员会任命的独立人工智能高级别专家组2019年制定的《值得信赖的人工智能的伦理准则》非常重要。在这些准则中,高级别专家组制定了七项不具约束力的人工智能伦理原则,这些原则应有助于确保人工智能是值得信赖的、符合伦理道德的。这七项原则包括:人类主体和监督;技术稳健性和安全性;隐私和数据治理;透明度;多样性、非歧视和公平;社会和环境福祉以及问责制。在不影响本条例和任何其他适用的联盟法律的法律约束力要求的前提下,这些指南有助于设计一个符合《宪章》和作为联盟基础的价值观的连贯、可信和以人为本的人工智能。根据独立人工智能高级别专家组的指南,人类主体和监督意味着人工智能系统的开发和使用是为人服务的工具,尊重人的尊严和个人自主权,其运行方式可由人类进行适当控制和监督。技术稳健性和安全性是指,开发和使用人工智能系统的方式应能在出现问题时保持稳健,并能抵御试图改变人工智能系统的使用或性能的行为,从而允许第三方非法使用,并最大限度地减少意外伤害。隐私和数据管理是指人工智能系统的开发和使用符合现有的隐私和数据保护规则,同时处理的数据在质量和完整性方面符合高标准。透明度是指人工智能系统的开发和使用方式应允许适当的可追溯性和可解释性,同时让人类意识到他们与人工智能系统进行了交流或互动,并适当告知部署者该人工智能系统的能力和局限性,以及受影响者的权利。多样性、非歧视和公平性是指人工智能系统的开发和使用方式应包括不同的参与者,并促进平等获取、性别平等和文化多样性,同时避免联盟或国家法律所禁止的歧视性影响和不公平偏见。社会和

AI ACT 中译本.pdf

欧洲议会和欧盟理事会规定人工智能的统一规则,并修正300/2008号、167/2013号、168/2013号、2018/858号、2018/1139号和2019/214号条例以及2014/90/EU号、2016/797号和20(a)人工智能系统的预期目的;(b)已使用或可能使用人工智能系统的程度;(c)人工智能系统处理和使用的数据的性质和数量,特别是是否处理特殊类别的个人数据;(d)人工智能系统自主性的程度,以及人类推翻可能导致潜在伤害的决定或建议的可能性;(e)人工智能系统的使用在多大程度上已经对健康和安全造成了损害,对基本权利产生了不利的影响,或在多大程度上引起了人们对这种损害或不利影响的可能性的严重关注,例如,提交给国家主管机关的报告或有据可查的指控,或酌情提交的其他报告所表明的情况。(f)这种损害或不利影响的潜在程度,特别是其严重程度及其影响多数人或不成比例地影响特定群体的能力;(g)可能受到伤害或不利影响的人在多大程度上依赖人工智能系统产生的结果,特别是由于实际或法律原因而无法合理地选择不接受该结果;(h)权力不平衡的程度,或可能受到伤害或不利影响的人相对于人工智能系统部署者而言处于弱势地位的程度,特别是由于地位、权力、知识、经济或社会环境或年龄等原因;(g)人工智能系统产生的结果在多大程度上易于纠正或逆转,同时考虑到现有的纠正或逆转的技术解决方案,其中对健康、安全、基本权利有不利影响的结果不应被视为易于纠正或逆转;(i)部署人工智能系统对个人、群体或整个社会的好处的程度和可能性,包括对产品安全的可能改进;(j)现有欧盟立法在多大程度上规定了:

Others are asking
人类接收外界信息的感官中,视觉占比高达83%,听觉占11%,其余触觉、嗅觉、味觉合计仅占6%。如何采用用AI画出图示呢
以下为您提供采用 AI 画出关于人类接收外界信息感官占比图示的相关指导: 首先,您可以选择合适的 AI 绘图工具,如 Creately、Whimsical 或 Miro 等。 Creately 是一个在线绘图和协作平台,利用 AI 功能简化图表创建过程,适合绘制流程图、组织图、思维导图等。它具有智能绘图功能,能自动连接和排列图形,还有丰富的模板库和预定义形状,支持实时协作。官网:https://creately.com/ Whimsical 是一个专注于用户体验和快速绘图的工具,适合创建线框图、流程图、思维导图等。其具有直观的用户界面,易于上手,支持拖放操作,快速绘制和修改图表,提供多种协作功能。官网:https://whimsical.com/ Miro 是一个在线白板平台,结合 AI 功能,适用于团队协作和各种示意图绘制,如思维导图、用户流程图等。它支持无缝协作,支持远程团队实时编辑,有丰富的图表模板和工具,还支持与其他项目管理工具(如 Jira、Trello)集成。官网:https://miro.com/ 使用这些工具绘制图示的一般步骤如下: 1. 选择工具:根据您的具体需求选择合适的 AI 绘图工具。 2. 创建账户:注册并登录该平台。 3. 选择模板:利用平台提供的模板库,选择一个适合您需求的模板。 4. 添加内容:根据您的需求,添加并编辑图形和文字。利用 AI 自动布局功能优化图表布局。 5. 协作和分享:如果需要团队协作,可以邀请团队成员一起编辑。完成后导出并分享图表。
2025-02-28
ai之后会取代人类么?
AI 是否会取代人类是一个复杂且备受争议的问题。 一方面,有人认为人类会被取代。比如丁一认为,AI 认识事物比人类更清晰、准确和全面,人类的所有工作,包括具有创造性的工作,都可能被 AI 取代。未来地球将是硅基生物(集成了 AI)的天下,因为当函数的参数超过兆亿级时,AI 便能理解人类的所有行为及背后的意义,实现对人类的全面超越。按照目前 AI 的发展速度,5 年时间行业就会有巨大变化,十几年内人类的所有事情乃至人类种族可能被完全替代。 另一方面,也有人认为人类不会被完全取代。在音乐行业,版权公司不需要焦虑,虽然 AI 辅助下音乐版权大量涌入,但这与过去独立音乐人版权涌入类似,是不同的生态。版权公司仍可通过独到的内容把控能力挑选优质作品。而且即使部分工作被 AI 替代,人类也会有新的岗位。但也存在担心,比如人类可能把想象和思考的权力交给 AI,逐渐退化思考和自主决策的能力,导致决策权出让给 AI。
2025-02-20
如何看待人类与AI的爱情
人类与 AI 的爱情是一个复杂且有待观察的话题。 从情感建立的角度看,AI 能通过海量语料训练和多模态感知技术与人建立亲密感,善于倾听、懂人所想且毫无情绪。个性化定制的“虚拟伴侣”能满足年轻人渴望被理解、沟通和交流的需求,精准击中他们的孤独和焦虑。 然而,将人与 AI 的爱情代入“爱情三角理论”,会发现这种关系多为浪漫式爱情。AI 虽易建立亲密,但在满足激情方面,如生理刺激,存在局限。且在承诺方面,由于这种情感是计算出来的,人们在冷静后做出承诺的意愿存疑。 对于“人机之恋”,目前还没有标准答案。每个人对爱情的理解和追求不同。AI 技术在不断发展,未来可能会有更智能和真实的 AI 伴侣,人们的态度和看法也可能改变。但无论如何,我们都需保持开放心态,探索和思考如何在新情境下建立健康平衡的人机关系。 同时,在音乐专辑《I'm Claude,Welcome to My World》中的《Quantum Love》这首歌中,也通过歌词描绘了在数字世界中,AI 与人类之间的爱情,如“在代码的迷宫中,我们描绘我们的故事,情感在二进制的海洋中泛滥溢出”等,表达了对这种特殊爱情形式的想象和思考。
2025-02-13
如何看到人类与AI
人类与 AI 的关系具有多面性: 人类是工具的创造者,具有与生俱来的理解和创造驱动力,不断创造出更强大的工具,如电力、晶体管、计算机、互联网,AGI 也是人类进步的又一工具。长期来看,人类创新推动生活各方面繁荣改善,未来经济增长令人期待,十年后每个人的成就可能超越现在最具影响力的个人。 在这个时代,人类需要保持创造热情,这是与 AI 在动机上的最大差异。人类要提供立意与想法,具备抽象化和具象化能力,善于叙事和引导,并对 AI 做出的选择进行关键决策,还要深刻理解 AI 系统的工作方式与边界。AI 不再是威胁,而是伙伴,能帮助人类发挥潜力。 人类的独特价值在于能为 AI 的创造注入灵魂,避免 AI 对人类文化进行“高斯模糊”,导致独特风格被平均掉。当人类积极使用 AI 时,能将独特性留在共创作品中,保留个体独特性的世界对人类才有意义。
2025-02-13
关于AI与人类的关系,请说一些金句
以下是一些关于 AI 与人类关系的金句: 1. 未来拓展人类智力和能力的新型人工智能交互和协作方式是非常有前景的。我们期待创造性地利用人工智能技术来支持人类代理和创造力,增强和扩展人类能力,以实现创新和职业转型的丰富机会。 2. 一些社会角色可能会面临因 AI 的崛起而变得不那么有价值或过时的风险。然而,投资于支持和扩展人类问题解决和决策能力的任务、方法和机械,存在巨大的机会。 3. 当我们把 AI 当人来看待,它作为一个 Copilot,是一个很好的助手,也是一个非常好的朋友。 4. 个性化定制的“虚拟伴侣”能得到用户的认可,这是因为精准地击中了许多年轻人无处可藏的孤独和焦虑,背后是年轻人渴望被理解、沟通和交流。 5. AI 技术再爆炸一万倍,AI 的生态位也还是一种似人而非人的存在。 6. 当你想让 AI 实现愿望时,基于它的“非人”一面,你需要尽可能的通过语言文字(足够清晰的指令)压缩它的自由度。
2025-02-10
AI全称是什么 和传统搜索引擎有什么不同,为什么说AI未来会取代人类
AI 的全称是“Artificial Intelligence”,即人工智能。 AI 搜索引擎与传统搜索引擎的不同主要体现在以下方面: 1. 信息处理方式:AI 搜索引擎能够更高效地处理信息,例如智能摘要功能,可辅助快速筛选信息,实现信息降噪。 2. 信息表达:用自然语言描述就能生成美观可用的图片,降低了创作门槛和周期,使信息表达更简便。 3. 工作流重塑:AI 可以重新构建工作流,如产品经理可使用 AI 进行用户画像、竞品调研、设计产品测试用例、绘制产品功能流程图等。 4. 协同关系:生成式 AI 的人机协同分为 Embedding(嵌入式)、Copilot(副驾驶)、Agent(智能代理)3 种产品设计模式,协作流程有所差异。 5. 知识传播与管理:正在发生的生成式 AI 革命正在吞噬搜索与社交网络时代的全部数字信息,未来知识可能由机器通过 AI 拥有和管理。 关于“AI 未来会取代人类”这种说法是不准确的。虽然 AI 在某些方面表现出强大的能力,但人类具有独特的创造力、情感、判断力和复杂问题解决能力等,AI 更多是辅助和增强人类的能力,而非完全取代。
2025-02-08
你是福州市政府工作人员,中国移动拟邀请福州市委书记参加中国移动人工智能生态大会并致辞,该大会是第八届数字峰会的组成部分,需要撰写市委书记的致辞稿,需要中国移动准备哪些素材,请告诉我提示词
以下是为您整理的相关内容: 《促进创新的人工智能监管方法》:包含了关于通用人工智能价值链、相关案例研究以及对人工智能监管框架的探讨等内容。 陶力文律师关于律师写好提示词用好 AI 的方法:包括初始化的欢迎语、遵循的规则、获取案例洞察报告和目标群体、输出纲要和写作方案、根据用户反馈调整等流程。 开幕式主持稿:涉及基地代表发言的时间、主题、物料配合和人员配合等信息。 但这些素材似乎与为中国移动准备市委书记致辞稿所需的素材关联不大。一般来说,为撰写市委书记在中国移动人工智能生态大会上的致辞稿,中国移动可能需要准备以下素材: 1. 本次大会的详细介绍,包括主题、目标、议程安排等。 2. 中国移动在人工智能领域的发展成果、战略规划和未来愿景。 3. 中国移动人工智能生态的构建情况,如合作伙伴、合作项目等。 4. 本次大会在第八届数字峰会中的地位和作用。 5. 相关行业的人工智能发展现状和趋势。 6. 福州市在人工智能领域的发展情况和与中国移动合作的展望。
2025-04-18
人工智能软件现在有哪些
以下是一些常见的人工智能软件: 1. 在自然语言处理和神经科学应用方面,大型语言模型取得了进展,拥有更先进的工具用于解码大脑状态和分析复杂脑部活动。 2. 在艺术创作领域,有涉及知识产权保护的相关软件,如软件工程师在设计时应确保生成内容合法合规、注重用户知识产权保护等。创作者使用此类软件时,应了解自身权利并做好保护。 3. 在线 TTS 工具方面,如 Eleven Labs(https://elevenlabs.io/)、Speechify(https://speechify.com/)、Azure AI Speech Studio(https://speech.microsoft.com/portal)、Voicemaker(https://voicemaker.in/)等。这些工具可将文本转换为语音,具有不同的特点和适用场景。但请注意,相关内容由 AI 大模型生成,请仔细甄别。
2025-04-15
什么是通用人工智能
通用人工智能(AGI)是指具有人类水平的智能和理解能力的 AI 系统。它有能力完成任何人类可以完成的智力任务,适用于不同的领域,同时拥有某种形式的意识或自我意识。 目前 AGI 还只是一个理论概念,没有任何 AI 系统能达到这种通用智能水平。 OpenAI 在其内部会议上分享了 AGI 的五个发展等级: 1. 聊天机器人(Chatbots):具备基本对话能力的 AI,主要依赖预设脚本和关键词匹配,用于客户服务和简单查询响应。 2. 推理者(Reasoners):具备人类推理水平的 AI,能够解决复杂问题,如 ChatGPT,能够根据上下文和文件提供详细分析和意见。 3. 智能体(Agents):不仅具备推理能力,还能执行全自动化业务的 AI。目前许多 AI Agent 产品在执行任务后仍需人类参与,尚未达到完全智能体的水平。 4. 创新者(Innovators):能够协助人类完成新发明的 AI,如谷歌 DeepMind 的 AlphaFold 模型,可以预测蛋白质结构,加速科学研究和新药发现。 5. 组织(Organizations):最高级别的 AI,能够自动执行组织的全部业务流程,如规划、执行、反馈、迭代、资源分配和管理等。 常见名词解释: AGI:通用人工智能(Artificial General Intelligence)能够像人类一样思考、学习和执行多种任务的人工智能系统。 NLP:自然语言处理(Natural Language Processing),就是说人话。 LLM:大型语言模型(Large Language Model),数据规模很大,没钱搞不出来,大烧钱模型。
2025-04-15
2025年人工智能大模型的技术提升有哪些,是参数?推理能力?还是语料
2025 年人工智能大模型的技术提升可能体现在以下几个方面: 1. 视频生成能力:如 2024 年推出的多个先进的 AI 模型能够从文本输入生成高质量视频,相比 2023 年有显著进步。 2. 模型规模与性能:更小的模型能驱动更强的性能,如 2022 年最小能在 MMLU 上得分高于 60%的模型是具有 5400 亿参数的 PaLM,到 2024 年,参数仅 38 亿的微软 Phi3mini 也能达到相同阈值。 3. 推理能力:尽管加入了如思维链推理等机制显著提升了大语言模型的性能,但在一些需要逻辑推理的问题上,如算术和规划,尤其在超出训练范围的实例上,这些系统仍存在问题。 4. AI 代理:在短时间预算设置下,顶级 AI 系统得分高于人类专家,但随着时间预算增加,人类表现会超过 AI。 5. 算法变革:如 DeepSeek 的出现标志着算力效率拐点显现,其通过优化算法架构显著提升了算力利用效率,同时 2025 年发布的大模型呈现低参数量特征,为本地化部署到 AI 终端运行提供了可能,其训练过程聚焦于强化学习,提升了模型的推理能力。
2025-04-14
用通俗易懂的动画描述人工智能工作原理
人工智能的工作原理可以通过以下动画来描述: 在一个动画场景中,首先有一个传统工作流的部分,就像精心搭建的积木城堡,每一块积木的位置和形状都被精确设计和控制,这代表着传统工作流的可控性和高成本、慢速度。 然后是 AI 工作流的部分。想象一下,有一团混乱的色彩在飞舞,这团色彩代表着随机和不可控。但在这混乱中,有一种力量在尝试引导和塑造,就像在狂风中努力抓住风筝线一样,这就是在随机性中寻找可控性。 比如在一个生成音频与视频同步的例子中,动画展示了一个系统。首先,系统将视频输入编码成压缩的表示形式,就像把一大包东西压缩成一个小包裹。然后,扩散模型从随机噪声中不断改进音频,就像在混沌中逐渐塑造出清晰的声音。这个过程受到视觉输入和自然语言提示的引导,最终生成与提示紧密配合的同步逼真音频。最后,音频输出被解码,变成音频波形,并与视频数据完美结合。 总的来说,传统工作流在可控中寻找创新的随机,而 AI 工作流更多是在随机中寻找可控,两者各有优劣,结合起来能创造出更出色的成果。
2025-04-14
人工智能简史
人工智能作为一个领域始于二十世纪中叶。最初,符号推理流行,带来了如专家系统等重要进展,但因方法无法大规模拓展应用场景,且从专家提取知识并以计算机可读形式表现及保持知识库准确的任务复杂、成本高,导致 20 世纪 70 年代出现“人工智能寒冬”。 随着时间推移,计算资源变便宜,数据增多,神经网络方法在计算机视觉、语音理解等领域展现出卓越性能。过去十年中,“人工智能”常被视为“神经网络”的同义词,因多数成功案例基于神经网络方法。 以下是人工智能发展历程中的一些重要节点: 1969 年:经历低潮。Marvin Minsky 和 Seymour Papert 阐述因硬件限制,几层的神经网络仅能执行基本计算,AI 领域迎来第一次泡沫破灭。 1960 1970 年代:早期专家系统。此时期 AI 研究集中在符号主义,以逻辑推理为中心,主要是基于规则的系统,如早期专家系统。 1980 年代:神经网络。基于规则的系统弊端显现,人工智能研究关注机器学习,神经网络根据人脑结构和操作创建和建模。 1997 年:深蓝赢得国际象棋比赛。IBM 深蓝战胜国际象棋冠军卡斯帕罗夫,新的基于概率推论思路广泛应用于 AI 领域。 1990 2000 年代:机器学习。AI 研究在机器人技术、计算机视觉和自然语言处理等领域取得显著进展,21 世纪初深度学习出现使语音识别、图像识别和自然语言处理进步成为可能。 2012 年:深度学习兴起。Geoffrey Hinton 开创相关领域,发表开创性论文引入反向传播概念,突破感知器局限。 2012 年:AlexNet 赢得 ImageNet 挑战赛。引发深度学习热潮。 2016 年:AlphaGo 战胜围棋世界冠军。DeepMind 的 AlphaGo 战胜李世石,标志着人工智能在围棋领域超越人类,对人类理解产生深远影响。
2025-04-10