以下是关于 AI 安全的相关内容:
马斯克认为 x.ai 的总体目标是建立一个好的 AGI,并努力理解宇宙。他认为构建最安全的 AI 的方法是制造最大程度好奇和寻求真理的 AI,追求真理并承认错误,尽量减小所认为的真理与实际真理之间的误差。他花了很多年思考 AI 安全性并担心其安全问题,一直呼吁对 AI 进行监管或监督,认为行业合作很重要,且任何情况下都应有规则。
宝玉日报在 3 月 4 日提到了 AI 开发的安全提醒,指出 AI 让网站和 App 开发变得简单,但安全问题不能忽视,如 API Key、核心数据、提示词等隐私信息不能暴露在客户端,否则易被获取,近期有应用直接在网页脚本中暴露 OpenAI 的 API Key 这种情况极其危险。
2024 人工智能报告中提到,英国创建了世界上第一个人工智能安全研究所,美国迅速跟进。世界首个人工智能安全研究所 AISA 有三个核心功能:在部署前对高级模型进行评估;建立国家能力并开展研究;协调国际合作伙伴。AISA 还发布了 Inspect 用于 LLM 安全评估的框架。英国宣布与美国等效机构签署谅解备忘录,双方同意共同开发测试,并计划在美国旧金山设立办事处。英国通过其高级研究与发明机构花费 5900 万英镑开发“守门员”系统,负责了解和减少关键领域中其他人工智能代理的风险,还计划设立“AI 安全研究实验室”。美国能源部一直在利用内部测试床评估人工智能对关键基础设施和能源安全带来的风险,随着攻击面扩大,开发人员加大了对“越狱”的研究。
2025-03-27