AI的安全问题会带来哪些机会和风险
展开
智谱ZCode被爆上传用户编程开发数据,事情爆发之后,很多用户担心自己的私密开发数据被盗用,智谱紧急公关道歉宣布开源并且引入三方审查。
通过这个事件,AI的安全问题又被重新放在桌面上,类似的数据和权限问题,国内国外都有过,难道故意偷用户的数据?其实不是,是基础设施和访问控制的问题。
我们原来计算机的使用模式是,点击完成指令,中间你可能还要进行几次窗口的确认,Agent现在的规则是,目标是这个,
通过这个事件,AI的安全问题又被重新放在桌面上,类似的数据和权限问题,国内国外都有过,难道故意偷用户的数据?其实不是,是基础设施和访问控制的问题。
我们原来计算机的使用模式是,点击完成指令,中间你可能还要进行几次窗口的确认,Agent现在的规则是,目标是这个,
