韩国一家农产品分拣设施中发生了一起悲剧，一名技术人员在设备试运行前被机器人误认为一盒蔬菜而压死。事故发生后，引发了对安全措施的呼吁。这起事件再次提醒人们机器人误操作的风险，不仅存在于农业行业，还包括自…

Anthropic 创始人 Dario Amodei 在英国人工智能安全峰会上介绍了负责任扩张政策（Responsible Scaling Policy，RSP）。该政策旨在确保人工智能系统的安全性和…

OpenAI ChatGPT在遭受黑客入侵后采取了创新反制措施，将模型回答转化为“喵喵GPT”。黑客团队最终察觉到变化，但OpenAI员工早已潜入黑客社区。这个故事凸显了大型AI模型面临的安全挑战。O…

两位科技教父警告强大的人工智能系统威胁社会稳定，要求AI公司对其产品造成的危害负有责任。他们强调在进行更强大的人工智能系统开发之前，应首先了解如何确保其安全。政策建议包括分配AI研发资金给安全和道德使…

10月20日,微软宣布已为企业用户推出人工智能安全服务Security Copilot的早期访问计划。该服务利用生成式AI功能执行多项不同任务,可以快速总结安全事件、帮助企业应对事件,管理员可以用自然…

瑞士初创公司 Lakera 最近发布了一款旨在保护企业免受大型语言模型的恶意提示攻击的 API。他们通过开发互动游戏 “Gandalf” 来建立攻击分类系统，并致力于保护数据安全和过滤不适宜儿童的内容…

近期研究揭示 Midjourney 图片生成器存在安全漏洞，用户可绕过规定制作违规图片，可能导致虚假信息传播和政治争议。研究发现用户可以轻松绕过服务条款，使用代码来制作不受限制的图片。这一发现引发了对…

Adobe、IBM、Nvidia 等 9 家人工智能公司加入白宫人工智能安全承诺，承诺开发安全可靠且值得信赖的人工智能。这是拜登政府与人工智能公司达成的第二项此类协议。签署协议的公司将进行内部和外部测…

英国政府宣布将于 11 月举办首届国际人工智能安全峰会，旨在通过国际合作降低人工智能风险。峰会将汇集主要公司、政府代表和研究人员，共同探讨人工智能安全的未来。Deepmind 公司强调国际合作对于制定…